Oracle Cloud cung cấp Google TPU, công cụ siêu quy mô đầu tiên bên ngoài Google làm như vậy

Oracle và Google đã công bố vào ngày 27 tháng 10 tại Oracle AI World ở Las Vegas rằng Bộ xử lý Tensor (TPU) của Google sẽ có sẵn thông qua Cơ sở hạ tầng đám mây của Oracle (OCI), lần đầu tiên Google TPU sẽ được cung cấp trên nền tảng đám mây siêu quy mô bên ngoài Google. OCI sẽ cung cấp năng lượng, hệ thống làm mát và kết nối mạng trung tâm dữ liệu để triển khai TPU trên quy mô lớn, bắt đầu có mặt từ năm dương lịch 2027 và tăng dần trong khoảng thời gian nhiều năm.

TPU thế hệ thứ tám phân chia đào tạo và suy luận

TPU thế hệ thứ tám của Google có hai kiến trúc được xây dựng có mục đích: TPU 8t dành cho đào tạo, mà các công ty cho biết mang lại hiệu suất tính toán trên mỗi nhóm gần gấp 3 lần so với thế hệ trước và cắt giảm chu kỳ phát triển mô hình biên giới từ hàng tháng xuống hàng tuần, và TPU 8i dành cho suy luận, được thiết kế cho công việc lặp đi lặp lại của nhiều tác nhân chuyên môn. Các công ty cho biết TPU có thể hỗ trợ đào tạo mô hình lớn và đào tạo sau, bao gồm các mô hình dày đặc và hỗn hợp các chuyên gia, cũng như suy luận sản xuất cho các ứng dụng lý luận, tác nhân và ngữ cảnh dài.

Đặt cược của Oracle: một số kiến trúc trong một đám mây

Mahesh Thiagarajan, chủ tịch Cơ sở hạ tầng đám mây của Oracle, cho biết các khối lượng công việc AI khác nhau có nhu cầu điện toán khác nhau và việc đưa Google TPU vào OCI sẽ mang lại cho khách hàng quyền truy cập vào nhiều kiến trúc điện toán AI hàng đầu trên một đám mây. Amin Vahdat, phó chủ tịch cấp cao kiêm kỹ thuật viên trưởng về AI và cơ sở hạ tầng của Google, cho biết thế hệ AI tiếp theo sẽ yêu cầu phạm vi tính toán đa dạng và TPU giúp nhiều tổ chức tiếp cận công nghệ hơn.

Riêng trong cùng ngày, Reuters đưa tin Oracle cũng đang mở rộng thỏa thuận với Nvidia lên quy mô nhiều gigawatt với các máy chủ Vera Rubin AI mới nhất, đồng thời bỏ qua một số chip mạng Nvidia để chuyển sang sử dụng chip mạng Acceleron nội bộ của mình và dự định cung cấp chip suy luận từ Cerebras và SambaNova. Oracle không tiết lộ giá trị của những thương vụ đó và giá OCI cho TPU cũng không được công bố; Lợi ích trong thế giới thực sẽ phụ thuộc vào chi tiết triển khai và điểm chuẩn khối lượng công việc.