La inferencia de IA a escala de oblea de Cerebras llegará a Oracle Cloud en 2027

Cerebras Systems y Oracle anunciaron el 27 de octubre que planean hacer que la inferencia rápida de Cerebras esté disponible en Oracle Cloud Infrastructure (OCI) para laboratorios de IA, empresas y desarrolladores que creen aplicaciones interactivas e inteligentes, con disponibilidad prevista para el año calendario 2027. El anuncio, emitido desde Las Vegas, se basa en la infraestructura existente de Oracle y las capacidades de inferencia de IA, incluidos los clústeres de IA dedicados en OCI Enterprise AI.

Por qué la velocidad de inferencia es más importante ahora

A medida que las aplicaciones de IA asumen un trabajo más complejo y de varios pasos, la velocidad de inferencia se vuelve crítica para la experiencia del usuario: cada llamada de modelo adicional agrega latencia, lo que puede ralentizar los flujos de trabajo agentes que razonan, verifican resultados y actúan en múltiples pasos. "La gente quiere una IA que pueda realizar un trabajo valioso rápidamente", afirmó Andrew Feldman, cofundador y director ejecutivo de Cerebras. "Cada paso que da un agente requiere inferencia, ya sea razonar, comprobar su trabajo o tomar medidas. Cuanto más rápida sea la inferencia, más trabajo puede hacer la IA sin hacer esperar a los usuarios".

El diseño a escala de oblea

Diseñado para la inferencia de IA de alta velocidad, Cerebras Wafer-Scale Engine integra computación y memoria en un único procesador a escala de oblea. Al reducir el movimiento de datos y la comunicación entre chips, el diseño admite la generación rápida de tokens para largas secuencias de razonamiento y flujos de trabajo agentes de varios pasos, donde los tokens son los fragmentos de texto que produce un modelo.

La visión de Oracle y la línea de tiempo

"La inferencia de la IA exige opciones", afirmó Mahesh Thiagarajan, presidente de Oracle Cloud Infrastructure. "A medida que los agentes asumen trabajos más complejos, los clientes exigen computación que coincida con las necesidades de rendimiento de cada aplicación. Llevar la inferencia de Cerebras a Oracle Cloud Infrastructure agregará otra opción ultrarrápida y determinista a nuestra amplia cartera de computación". Las empresas dijeron que está previsto que la inferencia de Cerebras sobre OCI esté disponible en el año calendario 2027; el comunicado incluye un descargo de responsabilidad prospectivo que señala que las características, el tiempo y los precios pueden cambiar, y no menciona la escala de implementación ni los precios.