Cerebras 晶圓級 AI 推論將登上甲骨文雲端,預計 2027 年上線

Cerebras 與甲骨文宣布,計劃把晶圓級引擎的高速 AI 推論帶到甲骨文雲端基礎設施,供 AI 實驗室、企業與開發者使用,預計 2027 年內上線。
Cerebras Systems 與甲骨文(Oracle)10 月 27 日宣布,計劃把 Cerebras 的高速 AI 推論服務帶到甲骨文雲端基礎設施(OCI),供 AI 實驗室、企業與開發者使用,預計 2027 年內上線。雙方在拉斯維加斯發布的新聞稿稱,這項合作建立在甲骨文現有基礎設施與 AI 推論能力之上,包括 OCI Enterprise AI 的專用 AI 叢集。
推論速度為何越來越關鍵
隨著 AI 應用承擔越來越多步驟的工作,每多一次模型呼叫就多一次延遲:代理式工作流程需要反覆推理、檢查結果、再採取行動,推論一慢,整個流程就被拖慢。Cerebras 共同創辦人兼執行長 Andrew Feldman 說,人們希望 AI 能快速完成有價值的工作,代理的每一步都需要推論,無論是推理、檢查自己的工作還是採取行動,推論越快,AI 不用讓人等待就能做更多事。
晶圓級引擎的設計
Cerebras 的 Wafer-Scale Engine 把運算與記憶體整合在單一晶圓級處理器上,減少資料搬移與晶片間通訊,從而支援長推理序列與多步驟代理工作流程的快速 token 生成。新聞稿稱,這種設計的目標是縮短生成每一個 token 所需的時間,而 token 正是模型產出的文字單位。
甲骨文的說法與上線時間
甲骨文雲端基礎設施總裁 Mahesh Thiagarajan 表示,隨著代理承擔更複雜的工作,客戶需要與每種應用的效能需求相匹配的算力,引進 Cerebras 推論將為其運算產品組合再添一個超高速且具確定性的選項。雙方表示,Cerebras 推論服務計劃於 2027 年內在 OCI 上線;新聞稿同時附帶前瞻性聲明,提醒產品功能、上線時間與定價都可能變動,雙方也未公布部署規模與具體定價。
N環球 
💬 留言
暫時還沒有留言,來搶沙發!