(Translated by https://www.hiragana.jp/)
テンサー・プロセッシング・ユニット - Wikipedia コンテンツにスキップ

テンサー・プロセッシング・ユニット

出典しゅってん: フリー百科ひゃっか事典じてん『ウィキペディア(Wikipedia)』

テンサー・プロセッシング・ユニット[1][2](Tensor processing unit、TPU)はGoogle開発かいはつした機械きかい学習がくしゅうとくした特定とくてい用途ようと集積しゅうせき回路かいろ(ASIC)。グラフィック・プロセッシング・ユニット(GPU)と比較ひかくして、ワットあたりのIOPSをよりたかくするために、意図いとてき計算けいさん精度せいど犠牲ぎせいに(8ビットの精度せいど[3])した設計せっけいとなっており、ラスタライズ/テクスチャマッピングのためのハードウェアをいている[4] 。チップはGoogleのテンソルフローフレームワーク専用せんよう設計せっけいされているがGoogleはまだのタイプの機械きかい学習がくしゅうにCPUとGPUを使用しようしている[5] 。AIアクセラレータ設計せっけいのベンダーからも登場とうじょうしており、みやロボット市場いちばをターゲットとしている。

Googleは同社どうしゃ独自どくじのTPUは囲碁いご人間にんげんたい機械きかいシリーズのAlphaGoたいドルせん使用しようされたとべた[4]。GoogleはTPUをGoogleストリートビューのテキスト処理しょり使つかっており、5にち以内いないにストリートビューのデータベースのすべてのテキストをつけることができる。Googleフォトでは個々ここのTPUは1にちに1おくまい以上いじょう写真しゃしん処理しょりできる。TPUはGoogleが検索けんさく結果けっか提供ていきょうするために使つかう「RankBrain」においても使用しようされている[6] 。TPUは2016ねんGoogle I/O発表はっぴょうされたが、GoogleはTPUは自社じしゃのデータセンターないで1ねん以上いじょうまえから使用しようされているとべた[5][4]

Googleの著名ちょめいハードウェアエンジニアのNorm Jouppiによると、TPU ASICはヒートシンクがそなけられており、データセンターのラックうちのハードドライブスロットにおさまるとされている[5][7]。2017ねん時点じてんでTPUはGPUTesla K80やCPUXeon E5-2699 v3よりも15~30ばい高速こうそくで、30~80ばいエネルギー効率こうりつたか[8][9]

アーキテクチャ

[編集へんしゅう]

だい1世代せだい

[編集へんしゅう]

だい1世代せだいのTPUは、PCIe 3.0バスをかいしてホストCPUからのCISC命令めいれい動作どうさする8ビット行列ぎょうれつ乗算じょうざんエンジンである。TPUは28 nmプロセスで製造せいぞうされ、正確せいかくなダイサイズは不明ふめいであるがHaswell半分はんぶん未満みまんとされていることから最大さいだいで331 mm2である[10]。クロックスピードは700 MHzであり、ねつ設計せっけい電力でんりょく(消費しょうひ電力でんりょく)は28~40Wである。TPUは28 MiBのチップメモリーと65536の8ビットせき演算えんざん結果けっかる4 MiB32ビットアキュムレーターゆうしている。命令めいれいはホストとのデータ送受信そうじゅしん行列ぎょうれつ乗算じょうざんまたはたたみ、活性かっせい関数かんすう適用てきよう実行じっこうする[11]

だい2世代せだい

[編集へんしゅう]

だい2世代せだいのTPUは2017ねん5がつ発表はっぴょうされた[12] 。個々ここのTPU ASICは45テラFLOPSであり、4チップ(1だい)で合計ごうけい180テラFLOPSモジュールとなる。これらのモジュールは256チップ(64だい)わせると11.5 PFLOPSのパフォーマンスを発揮はっきする[13]。とりわけだい1世代せだいのTPUは整数せいすう限定げんていされている一方いっぽうだい2世代せだいのTPUは浮動ふどう小数点しょうすうてん演算えんざん可能かのうである[14]ので、機械きかい学習がくしゅうモデルの訓練くんれん推論すいろん両方りょうほう役立やくだつ。Googleはテンソルフローアプリでの使用しようのために「Google Computeエンジン」でだい2世代せだいのTPUが利用りようできるようになるとべた[15]

だい3世代せだい

[編集へんしゅう]

だい3世代せだいのTPUは2018ねん5がつ発表はっぴょうされた。発表はっぴょう内容ないようは、1ユニットあたりの計算けいさん性能せいのうが100ペタFLOPSであり、冷却れいきゃく液体えきたい冷却れいきゃくであることのみであった。

関連かんれん項目こうもく

[編集へんしゅう]

参考さんこう文献ぶんけん

[編集へんしゅう]
  1. ^ AI半導体はんどうたい「エヌビディア」はなにがスゴいのか”. 東洋とうよう経済けいざいオンライン (2017ねん12月19にち). 2024ねん8がつ6にち閲覧えつらん
  2. ^ Cherney, Max A.「アップル、AIモデル訓練くんれんにグーグルの技術ぎじゅつ利用りよう」『Reuters』2024ねん6がつ12にち2024ねん8がつ6にち閲覧えつらん
  3. ^ Google's Big Chip Unveil For Machine Learning: Tensor Processing Unit With 10x Better Efficiency (Updated)” (2016ねん5がつ19にち). 2016ねん6がつ26にち閲覧えつらん
  4. ^ a b c Google supercharges machine learning tasks with TPU custom chip” (英語えいご). Google (May 18, 2016). 2017ねん1がつ22にち閲覧えつらん
  5. ^ a b c “Google's Tensor Processing Unit explained: this is what the future of computing looks like” (英語えいご). TechRadar. http://www.techradar.com/news/computing-components/processors/google-s-tensor-processing-unit-explained-this-is-what-the-future-of-computing-looks-like-1326915 2017ねん1がつ19にち閲覧えつらん 
  6. ^ “Google's Tensor Processing Unit could advance Moore's Law 7 years into the future” (英語えいご). PCWorld. http://www.pcworld.com/article/3072256/google-io/googles-tensor-processing-unit-said-to-advance-moores-law-seven-years-into-the-future.html 2017ねん1がつ19にち閲覧えつらん 
  7. ^ べいGoogleが深層しんそう学習がくしゅう専用せんようプロセッサ「TPU」公表こうひょう、「性能せいのうはGPUの10ばい」と主張しゅちょう 日経にっけいコンピュータDigital
  8. ^ Google、AIチップ「TPU」はGPUより30ばいはや
  9. ^ Jouppi, Norman P., et al. "In-datacenter performance analysis of a tensor processing unit." 2017 ACM/IEEE 44th Annual International Symposium on Computer Architecture (ISCA). IEEE, 2017.
  10. ^ GoogleのAI開発かいはつささえるディープラーニング専用せんようプロセッサ「TPU」 - ISCA論文ろんぶんレビューばんから、その仕組しくみを マイナビニュース
  11. ^ "In-Datacentre Performance Analysis of a Tensor Processing Unit". {{cite web}}: Cite webテンプレートでは|access-date=引数ひきすう必須ひっすです。 (説明せつめい)
  12. ^ “Google brings 45 teraflops tensor flow processors to its compute cloud”. Ars Technica. (17 May 2017). https://arstechnica.com/information-technology/2017/05/google-brings-45-teraflops-tensor-flow-processors-to-its-compute-cloud/ 30 May 2017閲覧えつらん 
  13. ^ Googleの機械きかい学習がくしゅうマシン「TPU」のだい2世代せだい登場とうじょう、1ボード180TFLOPSで64だいグリッドでは11.5PFLOPSに到達とうたつ GIGAZINE
  14. ^ Googleがだい2世代せだいTPUを発表はっぴょう処理しょり性能せいのうは180TFLOPS EE Times Japan
  15. ^ “Google Cloud TPU Details Revealed”. Serve The Home. (17 May 2017). https://www.servethehome.com/google-cloud-tpu-details-revealed/ 30 May 2017閲覧えつらん