谷歌推出 TPU 8tx 与 8i Max 一年四款 AI 晶片直指英伟达

谷歌云端今日宣布推出两款第八代 TPU 系统 TPU 8tx 与 TPU 8i Max,分别针对机密运算与超长上下文人工智能应用;今年内谷歌已推出四款 TPU 系统,是十多年来自研晶片以来首次;分析预测 TPU 相关销售将由今年约 120 亿美元增至 2028 年逾 1,350 亿美元。
谷歌云端今日(11 月 9 日)宣布推出两款第八代张量处理器(TPU)系统——TPU 8tx 与 TPU 8i Max,分别针对机密运算与超长上下文人工智能应用。两款新品令谷歌今年内推出的 TPU 系统增至四款,是公司十多年来自研晶片以来,首次在一年内推出这么多 TPU 系统,进一步挑战英伟达在 AI 加速器市场的主导地位。(图片:谷歌 TPU 资料中心资料图片,图片来源:Google Research。)
8tx 主打机密运算 配 AMD 处理器
TPU 8tx 沿用今年 4 月推出的训练晶片 TPU 8t 的同一晶片,重新封装为专门处理安全及机密推理、兼顾小规模训练的系统,并搭配第五代 AMD EPYC 处理器作为主机。系统设有晶片级加密,可在运算过程中保护数据与模型权重,面向政府机构及受监管行业客户。谷歌表示,8tx 采用 Boardfly 网络技术,延迟较 TPU 8t 低最多一半,性能损失接近零。
8i Max 双晶片封装 攻超长上下文
TPU 8i Max 则把两颗低延迟推理晶片 TPU 8i 封装在同一个封装内,令运算密度、静态随机存取记忆体及高频宽记忆体容量与频宽均较单颗 8i 倍增,专门处理多小时音频、大型代码库及长视频等需要超长上下文窗口的 AI 应用,适用场景包括药物研发、数学与编程。单颗 TPU 8i 配备 288GB 高频宽记忆体及 384MB 片上静态记忆体。
一年四款 专业化成主线
谷歌今年 4 月在 Google Cloud Next 大会上先后推出用于大规模训练的 TPU 8t 与用于即时推理的 TPU 8i,两者较上一代训练性能最高提升 2.7 倍,每美元推理性能最高提升 80%。谷歌晶片业务负责人阿明·瓦赫达特表示,新品并非全新晶片设计,而是按客户需求重新配置的版本,未来方向是专业化;谷歌云端人工智能与运算基建副总裁马克·洛迈耶亦表示,将继续扩充专用晶片种类,以应对日益多样的 AI 工作负载。
客户近百家 分析料销售三年涨十倍
谷歌透露,目前已有近 100 家客户使用其 TPU 技术,包括甲骨文、Anthropic 与 OpenAI;报道指 TPU 成本较英伟达 GPU 低约三成。彭博行业研究预测,TPU 相关销售(包括软硬件)将由今年约 120 亿美元,增至 2028 年逾 1,350 亿美元。两款新系统预计明年开始出货。谷歌同时面对供应短缺与数据中心反对声音等制约。
N環球 
💬 留言
暂时还没有留言,来抢沙发!