Oracle Cloud ofrecerá TPU de Google, el primer hiperescalador fuera de Google en hacerlo

Oracle y Google anunciaron el 27 de octubre en Oracle AI World en Las Vegas que las Unidades de procesamiento tensorial (TPU) de Google estarán disponibles a través de Oracle Cloud Infrastructure (OCI), la primera vez que las TPU de Google se ofrecerán en una plataforma de nube de hiperescala fuera de Google. OCI proporcionará energía, refrigeración y redes de centros de datos para implementar las TPU a escala, con disponibilidad a partir del año calendario 2027 y aumentando a lo largo de un período de varios años.

Las TPU de octava generación dividen el entrenamiento y la inferencia

La TPU de octava generación de Google viene en dos arquitecturas especialmente diseñadas: TPU 8t para capacitación, que según las compañías ofrece casi 3 veces el rendimiento de cómputo por módulo en comparación con la generación anterior y reduce los ciclos de desarrollo de modelos de frontera de meses a semanas, y TPU 8i para inferencia, diseñado para el trabajo iterativo de muchos agentes especializados. Las empresas dicen que las TPU pueden respaldar la capacitación y posentrenamiento de modelos grandes, incluidos modelos densos y de combinación de expertos, así como la inferencia de producción para aplicaciones de razonamiento, agentes y de contexto largo.

La apuesta de Oracle: varias arquitecturas en una nube

Mahesh Thiagarajan, presidente de Oracle Cloud Infrastructure, dijo que diferentes cargas de trabajo de IA tienen diferentes necesidades informáticas, y llevar las TPU de Google a OCI brinda a los clientes acceso a múltiples arquitecturas informáticas de IA líderes en una nube. Amin Vahdat, vicepresidente senior y tecnólogo jefe de IA e infraestructura de Google, dijo que la próxima generación de IA requerirá una gama diversa de computación y que las TPU brindan a más organizaciones acceso a la tecnología.

Por otra parte, el mismo día, Reuters informó que Oracle también está ampliando su acuerdo con Nvidia a una escala de varios gigavatios con los servidores Vera Rubin AI más nuevos, al tiempo que se salta algunos chips de red de Nvidia en favor de sus chips de red internos Acceleron y planea ofrecer chips de inferencia de Cerebras y SambaNova. Oracle no reveló el valor de esos acuerdos y no se anunció el precio de OCI para las TPU; Los beneficios en el mundo real dependerán de los detalles de la implementación y de los puntos de referencia de la carga de trabajo.