Oracle Cloud oferecerá Google TPUs, o primeiro hyperscaler fora do Google a fazer isso

Oracle e Google anunciaram em 27 de outubro no Oracle AI World em Las Vegas que as Tensor Processing Units (TPUs) do Google estarão disponíveis através da Oracle Cloud Infrastructure (OCI), a primeira vez que as Google TPUs serão oferecidas em uma plataforma de nuvem de hiperescala fora do Google. A OCI fornecerá energia, refrigeração e rede de data center para implantar as TPUs em escala, com disponibilidade a partir do ano civil de 2027 e aumentando ao longo de um período de vários anos.

TPUs de oitava geração dividem treinamento e inferência

A TPU de oitava geração do Google vem em duas arquiteturas específicas: TPU 8t para treinamento, que as empresas dizem oferecer quase 3x o desempenho computacional por pod em relação à geração anterior e reduz os ciclos de desenvolvimento de modelos de fronteira de meses para semanas, e TPU 8i para inferência, projetada para o trabalho iterativo de muitos agentes especializados. As empresas afirmam que as TPUs podem suportar treinamento e pós-treinamento de grandes modelos, incluindo modelos densos e mistos de especialistas, bem como inferência de produção para aplicações de raciocínio, agentes e de contexto longo.

A aposta da Oracle: diversas arquiteturas em uma só nuvem

Mahesh Thiagarajan, presidente da Oracle Cloud Infrastructure, disse que diferentes cargas de trabalho de IA têm diferentes necessidades de computação, e trazer as TPUs do Google para a OCI dá aos clientes acesso a várias arquiteturas de computação de IA líderes em uma nuvem. Amin Vahdat, vice-presidente sênior e tecnólogo-chefe de IA e infraestrutura do Google, disse que a próxima geração de IA exigirá uma gama diversificada de computação e que as TPUs darão a mais organizações acesso à tecnologia.

Separadamente, no mesmo dia, a Reuters informou que a Oracle também está expandindo seu acordo com a Nvidia para uma escala de vários gigawatts com os mais novos servidores Vera Rubin AI, enquanto ignora alguns chips de rede da Nvidia em favor de seus chips de rede Acceleron internos e planeja oferecer chips de inferência da Cerebras e SambaNova. A Oracle não divulgou o valor desses negócios e os preços da OCI para TPUs não foram anunciados; os benefícios no mundo real dependerão dos detalhes da implantação e dos benchmarks de carga de trabalho.