Oracle Cloud предложит Google TPU, первый гиперскейлер за пределами Google, который сделает это

27 октября на выставке Oracle AI World в Лас-Вегасе Oracle и Google объявили, что тензорные процессоры Google (TPU) будут доступны через Oracle Cloud Infrastructure (OCI). Впервые TPU Google будут предлагаться на гипермасштабируемой облачной платформе за пределами Google. OCI обеспечит питание, охлаждение и сеть центров обработки данных для масштабного развертывания TPU, доступность которых начнется в 2027 календарном году и будет увеличиваться в течение нескольких лет.

TPU восьмого поколения разделяют обучение и вывод

TPU восьмого поколения Google поставляется в двух специально созданных архитектурах: TPU 8t для обучения, который, по словам компаний, обеспечивает почти в три раза большую вычислительную производительность на модуль по сравнению с предыдущим поколением и сокращает циклы разработки передовых моделей с месяцев до недель, и TPU 8i для вывода, предназначенный для итеративной работы многих специализированных агентов. Компании заявляют, что TPU могут поддерживать обучение и постобучение больших моделей, включая плотные модели и модели со смешанным участием экспертов, а также продукционный вывод для рассуждений, агентных и долгоконтекстных приложений.

Ставка Oracle: несколько архитектур в одном облаке

Махеш Тиагараджан, президент Oracle Cloud Infrastructure, сказал, что разные рабочие нагрузки ИИ имеют разные вычислительные потребности, а подключение TPU Google к OCI дает клиентам доступ к нескольким ведущим вычислительным архитектурам ИИ в одном облаке. Амин Вахдат, старший вице-президент и главный технолог Google по искусственному интеллекту и инфраструктуре, сказал, что следующее поколение искусственного интеллекта потребует разнообразного спектра вычислений и что TPU предоставят большему количеству организаций доступ к этой технологии.

Отдельно в тот же день агентство Reuters сообщило, что Oracle также расширяет свое соглашение с Nvidia до масштаба в несколько гигаватт с новейшими серверами искусственного интеллекта Vera Rubin, отказываясь при этом от некоторых сетевых чипов Nvidia в пользу собственных сетевых чипов Acceleron и планирует предложить чипы вывода от Cerebras и SambaNova. Oracle не раскрыла стоимость этих сделок, а цены OCI на TPU не были объявлены; Реальные преимущества будут зависеть от деталей развертывания и контрольных показателей рабочей нагрузки.