Google TPUはNVIDIAを代替するのか|AI運用コストで読む「次の増設」

Google TPUの進化を、チップの速さではなくAIの運用コストから読み解く。同じ品質・速度で仕事を終える費用、移行の手間、次の追加発注から、NVIDIAや供給網への影響を考える。

GoogleのAI半導体は、NVIDIAを置き換えるのだろうか。投資家がまず考えたいのは、すでに動いているGPUが一斉に取り外される未来ではない。AIの利用が増えたとき、次に必要になる計算能力を、顧客がどこへ注文するかという問題だ。

TPUはGoogleが設計するAI向けの専用プロセッサー。GPUと同じく、大量の計算を担う。今回の発表を「どちらのチップが速いか」だけで読むと、投資上の意味を見落としやすい。競争の舞台は、チップ単体から、AIサービスを無理なく安く動かす仕組み全体へ広がっている。

この記事のポイント

  • Googleは計算能力だけでなく、データ供給や開発環境も整え、TPUを試しやすくしている。
  • 判断の軸は、同じ品質・速さで仕事を終える総コスト。TPUの採用増加とNVIDIAの売上減少は、同じ意味ではない。

速い頭脳にも、データを運ぶ道が必要

Googleが11月9日に発表したTPU 8i Maxは、既存の8iチップを2つ組み合わせたシステムだ。同社によれば、計算能力とHBMの帯域は8iの2倍になる。HBMはチップの近くに置く高速メモリー、帯域は一度にデータを運べる量を指す。Google公式発表

たとえば、腕のよい料理人を増やしても、食材が厨房に届かなければ料理は増えない。AIも同じで、計算を速くするだけでなく、必要なデータを途切れず届ける必要がある。長い資料を読み、多くの利用者へ答える仕事では、この「運ぶ力」が重要になる。

ただし、計算能力が2倍でも、利用料金や電気代が半分になるわけではない。実際の処理量、稼働率、電力・冷却の条件までそろえて、初めて採算を比較できる。

計算用基板とサーバーメモリーを並べ、処理とデータ供給の関係を示すイメージ
計算性能だけでなく、データの供給と再利用も運用効率を左右する(概念イメージ)。

毎回読み直さない工夫が、AIの待ち時間を減らす

長い報告書についてAIに質問し、続けて「海外事業だけ詳しく」と頼む場面を考えよう。前に処理した内容を使い回せれば、最初から同じ計算をやり直す無駄を減らせる。そのための中間データがKVキャッシュだ。読み終えたページに付ける、作業用のしおりに近い。

GoogleのTPU Syncは、こうしたデータを高速メモリーとサーバー側のメモリーなどの間で移動・管理する仕組みだ。使っていない情報が高価な場所を占領し続けないようにし、必要なときに再利用する。TPU Syncの公式説明

Googleは、長い入力の再利用など特定条件で、回答が出始めるまでの時間を約90%短縮した試験結果を示している。これはTPU Syncを使わない場合との比較であり、NVIDIAより90%速いという意味でも、運用費が90%下がるという意味でもない。投資家に重要なのは大きな数字そのものより、こうした無駄の削減が顧客の継続利用につながるかだ。

比較するのは「安い答え」ではなく「使える答え」

比較試験にも読み方がある。SemiAnalysisが11月5日に公表した試験では、前世代のTPUv7(Ironwood)は、GLM-5.2というモデルを同じFP8設定で動かす条件で高い費用効率を示した。一方、NVIDIA側をFP4設定にすると優位が変わり、精度との交換条件も生じた。新しい8i Maxそのものの比較結果ではない。SemiAnalysis原文

FP8やFP4は、計算に使う数字をどれほど細かく表すかに関わる設定だ。荷物を軽くすれば運びやすくなるが、必要な情報まで落としてよいとは限らない。比較では、モデル、設定、応答速度、回答品質を確認したい。

翻訳なら修正の手間、コーディングなら実際に動くかどうかまで含めて見る。出力単価が安くても、やり直しや人の確認が増えれば、仕事全体では高くなる。「同じ予算で何文字出たか」より、「同じ品質の仕事をいくらで終えたか」が、顧客にとっての本当の物差しになる。

異なる計算機構成の評価をイメージした、ノートパソコンと測定器のある明るい検証作業台
比較すべきは単体の性能だけではなく、実際の業務で求める品質・速度・総コストだ(概念イメージ)。

乗り換えやすさも、価格の一部

サーバー代だけを見れば安くても、開発チームが移行に何カ月もかかれば得とは限らない。プログラムの修正、動作確認、監視、人材育成まで含む総費用で考える必要がある。

Googleは、AI開発で広く使われる道具であるPyTorchへの対応を強化している。またTPU 8txでは、処理中のデータも保護する仕組みとAMD EPYCを組み合わせる。開発のしやすさや情報保護は、金融機関などが導入候補に入れるための条件でもある。Google公式発表

それでも、対応していることと、個々のサービスを簡単に移せることは別だ。既存の運用手順や技術者の経験も資産になる。Googleの改善が実際に移行費を下げるか、NVIDIA側のソフトウェア改善が差を縮めるか。競争は一度の発表で終わらない。

勝負は、今ある設備より「次の注文」に表れやすい

Anthropicは、Claudeの学習とサービス提供にGoogle TPU、NVIDIA GPU、Amazon Trainiumを使い、仕事に合う構成を選ぶと説明している。4月にはGoogle・Broadcomとの計算能力の拡大契約を発表し、追加分は2027年からの稼働を見込んでいる。これは将来の供給予定であり、すべてがすでに稼働しているわけではない。Anthropic公式発表

この例が示すのは、顧客が必ずしも一社だけを選ばないということだ。既存GPUを動かしながら、増えた仕事の一部をTPUへ回す。そんな選択が積み重なれば、追加発注や価格交渉に変化が出る。

SECTORON INSIGHT

SECTORONでは、今回の焦点を「NVIDIAの全面代替」ではなく、「顧客が次の増設で比較できる選択肢が増えること」と捉える。TPUが一部の仕事で総費用を下げれば、Googleへの追加発注や顧客の交渉力につながり得る。一方、AI全体の利用が十分に増えれば、TPUとGPUの需要が同時に伸びる余地もある。シェアと売上を分けて見る必要がある。

判断を変える条件:商用環境での継続採用、移行費を含む費用差、追加契約と利益率。試験の好成績だけでは、収益への転換を確認できない。

関連セクター・銘柄への影響


関連セクター:AI半導体・クラウド。メモリー・接続・電力関連への波及は条件付きで見る。

Alphabet(NASDAQ:GOOGL)

関係と影響:直接の当事者。TPUの外部利用が増えれば、Google Cloudの差別化につながり得る。

確認したい条件:ただし値下げや設備投資も必要になるため、顧客数だけでなく、稼働率とクラウド全体の収益性を確認したい。今回の発表からTPU単独の利益寄与は判断できない。

NVIDIA(NASDAQ:NVDA)

関係と影響:競争を受ける側。追加需要の一部がTPUへ向かえば、発注先の選択や価格交渉に影響する可能性がある。

確認したい条件:ただし、それを直ちにGPU売上の減少と結び付けるのは早い。需要全体の伸び、継続受注、利益率を合わせて読む必要がある。

Broadcom(NASDAQ:AVGO)

関係と影響:構成を支える企業。BroadcomはAnthropicが発表したGoogleとのTPU供給拡大の当事者。

確認したい条件:接点は具体的だが、今回の資料だけで同社の売上増加額や利益率を計算することはできない。供給予定が実際の出荷・売上に変わるかが確認点になる。

AMD(NASDAQ:AMD)

関係と影響:構成を支える企業。AMDは8txのホストCPUに関わる。

確認したい条件:接点は具体的だが、今回の資料だけで同社の売上増加額や利益率を計算することはできない。供給予定が実際の出荷・売上に変わるかが確認点になる。

メモリー・接続・電力関連|条件付きの波及
計算設備が増えれば、それを支える部品や電力にも需要が及び得る。ただし、処理効率の改善、装置ごとの部品構成、採用先で恩恵は変わる。「TPUが伸びるから関連企業すべてが上がる」とは考えず、各社の採用・受注の裏付けを待ちたい。

次に確認すること

  • 顧客が試験導入から継続契約・増設へ進むか。
  • 実際の仕事で、品質と速度を保ったまま移行費込みの総コストが下がるか。
  • 供給計画が稼働し、売上だけでなく利益につながるか。

チップの勝者を急いで一社に決める必要はない。AIを使う企業が、次の仕事を誰に任せ、その理由をどう説明するか。そこを追うほうが、派手な性能比較よりも投資判断に役立つ。

製品構成の詳細は、GoogleのTPU 4システム化を扱った過去記事も参照。

ⓘ 本内容は情報提供を目的としたものであり、特定の金融商品の売買を推奨するものではありません。

著作権・引用について

本記事の著作権および引用・転載に関する取り扱いについては、利用規約をご確認ください。