Cerebras 晶圆级 AI 推论将登上甲骨文云端,预计 2027 年上线

Cerebras 与甲骨文宣布,计划把晶圆级引擎的高速 AI 推论带到甲骨文云端基础设施,供 AI 实验室、企业与开发者使用,预计 2027 年内上线。
Cerebras Systems 与甲骨文(Oracle)10 月 27 日宣布,计划把 Cerebras 的高速 AI 推论服务带到甲骨文云端基础设施(OCI),供 AI 实验室、企业与开发者使用,预计 2027 年内上线。双方在拉斯维加斯发布的新闻稿称,这项合作建立在甲骨文现有基础设施与 AI 推论能力之上,包括 OCI Enterprise AI 的专用 AI 丛集。
推论速度为何越来越关键
随著 AI 应用承担越来越多步骤的工作,每多一次模型呼叫就多一次延迟:代理式工作流程需要反复推理、检查结果、再采取行动,推论一慢,整个流程就被拖慢。Cerebras 共同创办人兼执行长 Andrew Feldman 说,人们希望 AI 能快速完成有价值的工作,代理的每一步都需要推论,无论是推理、检查自己的工作还是采取行动,推论越快,AI 不用让人等待就能做更多事。
晶圆级引擎的设计
Cerebras 的 Wafer-Scale Engine 把运算与记忆体整合在单一晶圆级处理器上,减少资料搬移与晶片间通讯,从而支援长推理序列与多步骤代理工作流程的快速 token 生成。新闻稿称,这种设计的目标是缩短生成每一个 token 所需的时间,而 token 正是模型产出的文字单位。
甲骨文的说法与上线时间
甲骨文云端基础设施总裁 Mahesh Thiagarajan 表示,随著代理承担更复杂的工作,客户需要与每种应用的效能需求相匹配的算力,引进 Cerebras 推论将为其运算产品组合再添一个超高速且具确定性的选项。双方表示,Cerebras 推论服务计划于 2027 年内在 OCI 上线;新闻稿同时附带前瞻性声明,提醒产品功能、上线时间与定价都可能变动,双方也未公布部署规模与具体定价。
N環球 
💬 留言
暂时还没有留言,来抢沙发!