Oracle Cloud запропонує Google TPU, перший гіпермасштабувальник за межами Google, який це зробить

Oracle і Google оголосили 27 жовтня на Oracle AI World у Лас-Вегасі, що модулі обробки тензорів Google (TPU) будуть доступні через Oracle Cloud Infrastructure (OCI). Це вперше буде запропоновано Google TPU на гіпермасштабованій хмарній платформі за межами Google. OCI забезпечить живлення, охолодження та мережу центрів обробки даних для масштабного розгортання TPU, доступність яких почнеться в 2027 календарному році та буде зростати протягом багаторічного періоду.

TPU восьмого покоління поділяють навчання та висновки

TPU восьмого покоління від Google доступний у двох спеціально розроблених архітектурах: TPU 8t для навчання, який, за словами компаній, забезпечує майже втричі більшу продуктивність обчислень на модуль порівняно з попереднім поколінням і скорочує цикли розробки передової моделі з місяців до тижнів, і TPU 8i для висновків, розроблений для ітеративної роботи багатьох спеціалізованих агентів. Компанії кажуть, що TPU можуть підтримувати навчання великої моделі та постнавчання, включаючи щільні моделі та моделі суміші експертів, а також виробничі висновки для логічних, агентних і довгоконтекстних додатків.

Ставка Oracle: кілька архітектур в одній хмарі

Махеш Тіагараджан, президент Oracle Cloud Infrastructure, сказав, що різні робочі навантаження штучного інтелекту мають різні потреби в обчисленнях, і перенесення Google TPU в OCI дає клієнтам доступ до кількох провідних обчислювальних архітектур штучного інтелекту в одній хмарі. Амін Вахдат, старший віце-президент і головний технолог Google із штучного інтелекту та інфраструктури, сказав, що наступне покоління штучного інтелекту вимагатиме різноманітних обчислень, а TPU нададуть більшій кількості організацій доступ до технології.

Окремо в той же день агентство Reuters повідомило, що Oracle також розширює свою угоду з Nvidia до мультигігаватного масштабу за допомогою новітніх серверів Vera Rubin AI, пропускаючи деякі мережеві чіпи Nvidia на користь своїх власних мережевих чіпів Acceleron і плануючи запропонувати чіпи висновків від Cerebras і SambaNova. Oracle не розкриває вартість цих угод, а ціни OCI для TPU не повідомляються; реальні переваги залежатимуть від деталей розгортання та контрольних показників робочого навантаження.