N環球 N GLOBE
美國・科技

谷歌推出 TPU 8tx 與 8i Max 一年四款 AI 晶片直指英偉達

· N GLOBE

谷歌雲端今日宣布推出兩款第八代 TPU 系統 TPU 8tx 與 TPU 8i Max,分別針對機密運算與超長上下文人工智能應用;今年內谷歌已推出四款 TPU 系統,是十多年來自研晶片以來首次;分析預測 TPU 相關銷售將由今年約 120 億美元增至 2028 年逾 1,350 億美元。

谷歌雲端今日(11 月 9 日)宣布推出兩款第八代張量處理器(TPU)系統——TPU 8tx 與 TPU 8i Max,分別針對機密運算與超長上下文人工智能應用。兩款新品令谷歌今年內推出的 TPU 系統增至四款,是公司十多年來自研晶片以來,首次在一年內推出這麼多 TPU 系統,進一步挑戰英偉達在 AI 加速器市場的主導地位。(圖片:谷歌 TPU 資料中心資料圖片,圖片來源:Google Research。)

8tx 主打機密運算 配 AMD 處理器

TPU 8tx 沿用今年 4 月推出的訓練晶片 TPU 8t 的同一晶片,重新封裝為專門處理安全及機密推理、兼顧小規模訓練的系統,並搭配第五代 AMD EPYC 處理器作為主機。系統設有晶片級加密,可在運算過程中保護數據與模型權重,面向政府機構及受監管行業客戶。谷歌表示,8tx 採用 Boardfly 網絡技術,延遲較 TPU 8t 低最多一半,性能損失接近零。

8i Max 雙晶片封裝 攻超長上下文

TPU 8i Max 則把兩顆低延遲推理晶片 TPU 8i 封裝在同一個封裝內,令運算密度、靜態隨機存取記憶體及高頻寬記憶體容量與頻寬均較單顆 8i 倍增,專門處理多小時音頻、大型代碼庫及長視頻等需要超長上下文窗口的 AI 應用,適用場景包括藥物研發、數學與編程。單顆 TPU 8i 配備 288GB 高頻寬記憶體及 384MB 片上靜態記憶體。

一年四款 專業化成主線

谷歌今年 4 月在 Google Cloud Next 大會上先後推出用於大規模訓練的 TPU 8t 與用於即時推理的 TPU 8i,兩者較上一代訓練性能最高提升 2.7 倍,每美元推理性能最高提升 80%。谷歌晶片業務負責人阿明·瓦赫達特表示,新品並非全新晶片設計,而是按客戶需求重新配置的版本,未來方向是專業化;谷歌雲端人工智能與運算基建副總裁馬克·洛邁耶亦表示,將繼續擴充專用晶片種類,以應對日益多樣的 AI 工作負載。

客戶近百家 分析料銷售三年漲十倍

谷歌透露,目前已有近 100 家客戶使用其 TPU 技術,包括甲骨文、Anthropic 與 OpenAI;報道指 TPU 成本較英偉達 GPU 低約三成。彭博行業研究預測,TPU 相關銷售(包括軟硬件)將由今年約 120 億美元,增至 2028 年逾 1,350 億美元。兩款新系統預計明年開始出貨。谷歌同時面對供應短缺與數據中心反對聲音等制約。

💬 留言

暫時還沒有留言,來搶沙發!