Ang cerebras wafer-scale AI inference ay darating sa Oracle Cloud sa 2027

Inanunsyo ng Cerebras Systems at Oracle noong Oktubre 27 na plano nilang gawing available ang Cerebras fast inference sa Oracle Cloud Infrastructure (OCI) para sa mga AI lab, enterprise at developer na bumubuo ng mga interactive, intelligent na application, na may availability na nakaplano sa taong kalendaryo 2027. Ang anunsyo, na inilabas mula sa Las Vegas, ay binuo sa Oracleference capabilities na imprastraktura at AIlucated na AIluities sa Oracleference sa mga umiiral na imprastraktura ng Enterprise at AICI. AI.

Bakit mas mahalaga ngayon ang bilis ng hinuha

Habang ang mga AI application ay nagsasagawa ng mas kumplikado, maraming hakbang na trabaho, ang bilis ng hinuha ay nagiging kritikal sa karanasan ng user: ang bawat karagdagang tawag sa modelo ay nagdaragdag ng latency, na maaaring makapagpabagal sa mga ahenteng daloy ng trabaho na dahilan, suriin ang mga resulta at kumilos sa maraming hakbang. "Gusto ng mga tao ang AI na makakagawa ng mahalagang gawain nang mabilis," sabi ni Andrew Feldman, co-founder at CEO ng Cerebras. "Ang bawat hakbang na gagawin ng isang ahente ay nangangailangan ng hinuha, ito man ay pangangatwiran, pagsuri sa trabaho nito, o paggawa ng aksyon. Kung mas mabilis ang hinuha, mas maraming gawain ang magagawa ng AI nang hindi hinintay ang mga user."

Ang wafer-scale na disenyo

Dinisenyo para sa high-speed AI inference, isinasama ng Cerebras Wafer-Scale Engine ang compute at memory sa isang processor na wafer-scale. Sa pamamagitan ng pagbabawas ng paggalaw ng data at inter-chip na komunikasyon, sinusuportahan ng disenyo ang mabilis na pagbuo ng token para sa mahabang pagkakasunud-sunod ng pangangatwiran at mga multi-step na ahenteng daloy ng trabaho, kung saan ang mga token ay ang mga piraso ng text na ginagawa ng isang modelo.

Ang view ng Oracle at ang timeline

"Ang AI inference ay nangangailangan ng pagpili," sabi ni Mahesh Thiagarajan, presidente ng Oracle Cloud Infrastructure. "Habang ang mga ahente ay nagsasagawa ng mas kumplikadong trabaho, ang mga customer ay humihiling ng pag-compute na tumutugma sa mga pangangailangan sa pagganap ng bawat application. Ang pagdadala ng hinuha ng Cerebras sa Oracle Cloud Infrastructure ay magdaragdag ng isa pang ultrafast at deterministic na opsyon sa aming malawak na compute portfolio." Sinabi ng mga kumpanya na ang inference ng Cerebras sa OCI ay binalak na maging available sa taong kalendaryo 2027; ang release ay may disclaimer na nakikita sa hinaharap na nagsasaad na ang mga feature, timing at pagpepresyo ay maaaring magbago, at hindi nito pinangalanan ang deployment scale o pagpepresyo.