Cerebras のウェーハスケール AI 推論が 2027 年に Oracle Cloud に導入される予定

CerebrasとOracleは、Cerebrasの高速推論をAIラボ、企業、開発者向けのOracle Cloud Infrastructureに導入し、2027暦年に提供開始する計画を発表しました。
Cerebras SystemsとOracleは10月27日、インタラクティブでインテリジェントなアプリケーションを構築するAIラボ、企業、開発者向けに、Oracle Cloud Infrastructure (OCI)上でCerebrasの高速推論を利用可能にし、2027暦年に利用可能にする予定であると発表した。ラスベガスから発表されたこの発表は、OCI Enterprise AIの専用AIクラスターを含む、Oracleの既存のインフラストラクチャとAI推論機能を基盤としている。
推論速度が今さらに重要になっている理由
AI アプリケーションがより複雑なマルチステップの作業に取り組むにつれて、推論速度がユーザー エクスペリエンスにとって重要になります。追加のモデル呼び出しごとにレイテンシが追加され、複数のステップにわたって推論、結果の確認、および動作を行うエージェント ワークフローが遅くなる可能性があります。 Cerebras の共同創設者兼 CEO である Andrew Feldman 氏は、「人々は価値のある仕事を迅速に実行できる AI を望んでいます」と述べています。 「エージェントが行うすべてのステップには、推論、作業の確認、アクションの実行など、推論が必要です。推論が速くなればなるほど、AI はユーザーを待たせることなくより多くの作業を実行できるようになります。」
ウェハスケール設計
高速 AI 推論用に設計された Cerebras ウェーハスケール エンジンは、単一のウェーハスケール プロセッサ上にコンピューティングとメモリを統合します。この設計では、データの移動とチップ間通信を削減することで、長い推論シーケンスと複数ステップのエージェント ワークフローでの迅速なトークン生成がサポートされます。トークンはモデルが生成するテキストの一部です。
オラクルの見解とタイムライン
「AI推論には選択が求められます」とOracle Cloud Infrastructure社長のMahesh Thiagarajan氏は述べています。 「エージェントがより複雑な作業を引き受けるにつれて、顧客は各アプリケーションのパフォーマンスのニーズに一致するコンピューティングを要求します。Cerebrasの推論をOracle Cloud Infrastructureに導入することで、当社の広範なコンピューティング・ポートフォリオに超高速で決定的なオプションが新たに追加されます。」両社は、OCI に関する Cerebras 推論は 2027 暦年に利用可能になる予定であると述べた。このリリースには、機能、タイミング、価格が変更される可能性があることを記載した将来の見通しに関する免責事項が記載されており、導入規模や価格については言及されていません。
N環球 
💬 Comments
No comments yet. Be the first!