Oracle CloudがGoogle TPUを提供、Google以外のハイパースケーラーとしては初となる

OracleとGoogleは10月27日、ラスベガスで開催されたOracle AI Worldで、GoogleのTensor Processing Unit（TPU）がOracle Cloud Infrastructure（OCI）を通じて利用可能になることを発表し、Google TPUがGoogle社外のハイパースケールクラウドプラットフォーム上で提供されるのは初めてとなる。 OCI は、TPU を大規模に導入するための電力、冷却、およびデータセンター ネットワーキングを提供し、2027 暦年から利用可能になり、複数年にわたって提供されます。

第 8 世代 TPU はトレーニングと推論を分割

Google の第 8 世代 TPU には、2 つの専用アーキテクチャがあります。1 つはトレーニング用の TPU 8t で、前世代に比べてポッドあたりのコンピューティング パフォーマンスが 3 倍近く向上し、フロンティア モデルの開発サイクルが数か月から数週間短縮されると同社は述べています。もう 1 つは推論用の TPU 8i で、多くの専門エージェントの反復作業向けに設計されています。両社によると、TPUは、高密度モデルや専門家混合モデルを含む大規模モデルのトレーニングとポストトレーニング、推論のための生成推論、エージェント的アプリケーションやロングコンテキストアプリケーションをサポートできるという。

オラクルの賭け: 1 つのクラウド内に複数のアーキテクチャを構築する

Oracle Cloud InfrastructureのプレジデントであるMahesh Thiagarajan氏は、AIワークロードが異なればコンピューティングニーズも異なり、Google TPUをOCIに導入することで顧客は1つのクラウドで複数の主要なAIコンピューティングアーキテクチャにアクセスできるようになると述べた。 Googleのシニアバイスプレジデント兼AIおよびインフラストラクチャ担当チーフテクノロジストのアミン・ヴァハダット氏は、次世代AIには多様なコンピューティングが必要であり、TPUによってより多くの組織がテクノロジーにアクセスできるようになると述べた。

これとは別に同日、ロイター通信は、オラクルがNVIDIAとの契約を最新のVera Rubin AIサーバーで数ギガワット規模に拡大する一方、一部のNvidiaネットワークチップを省略して自社製のAcceleronネットワークチップを採用し、CerebrasとSambaNovaの推論チップを提供する計画であると報じた。オラクルはこれらの取引の価値を明らかにしておらず、TPU の OCI 価格も発表されていません。実際の利点は、展開の詳細とワークロードのベンチマークによって異なります。