A inferência de IA em escala de wafer da Cerebras chegará ao Oracle Cloud em 2027

A Cerebras Systems e a Oracle anunciaram em 27 de outubro que planejam disponibilizar a inferência rápida da Cerebras no Oracle Cloud Infrastructure (OCI) para laboratórios de IA, empresas e desenvolvedores que criam aplicativos interativos e inteligentes, com disponibilidade planejada para o ano civil de 2027. O anúncio, emitido em Las Vegas, baseia-se na infraestrutura existente da Oracle e nos recursos de inferência de IA, incluindo clusters de IA dedicados no OCI Enterprise AI.

Por que a velocidade de inferência é mais importante agora

À medida que os aplicativos de IA assumem um trabalho mais complexo e com várias etapas, a velocidade de inferência se torna crítica para a experiência do usuário: cada chamada de modelo adicional adiciona latência, o que pode retardar os fluxos de trabalho de agentes que raciocinam, verificam resultados e agem em várias etapas. “As pessoas querem uma IA que possa realizar um trabalho valioso rapidamente”, disse Andrew Feldman, cofundador e CEO da Cerebras. "Cada passo que um agente dá requer inferência, seja raciocinando, verificando seu trabalho ou agindo. Quanto mais rápida a inferência, mais trabalho a IA pode realizar sem fazer os usuários esperarem."

O design em escala de wafer

Projetado para inferência de IA de alta velocidade, o Cerebras Wafer-Scale Engine integra computação e memória em um único processador em escala wafer. Ao reduzir a movimentação de dados e a comunicação entre chips, o design suporta a geração rápida de tokens para longas sequências de raciocínio e fluxos de trabalho de agente de várias etapas, onde os tokens são os pedaços de texto que um modelo produz.

A visão da Oracle e a linha do tempo

“A inferência de IA exige escolha”, disse Mahesh Thiagarajan, presidente da Oracle Cloud Infrastructure. "À medida que os agentes assumem trabalhos mais complexos, os clientes exigem uma computação que corresponda às necessidades de desempenho de cada aplicação. Trazer a inferência da Cerebras para a Oracle Cloud Infrastructure adicionará outra opção ultrarrápida e determinística ao nosso amplo portfólio de computação." As empresas disseram que a inferência da Cerebras sobre OCI está planejada para estar disponível no ano civil de 2027; o lançamento traz uma isenção de responsabilidade prospectiva, observando que os recursos, o prazo e os preços podem mudar, e não menciona a escala de implantação ou o preço.