Suy luận AI quy mô wafer của Cerebras sẽ có mặt trên Đám mây Oracle vào năm 2027

Cerebras Systems và Oracle đã công bố vào ngày 27 tháng 10 rằng họ có kế hoạch cung cấp suy luận nhanh Cerebras trên Cơ sở hạ tầng đám mây của Oracle (OCI) cho các phòng thí nghiệm AI, các doanh nghiệp và nhà phát triển đang xây dựng các ứng dụng tương tác, thông minh, với kế hoạch sẵn sàng vào năm 2027. Thông báo được đưa ra từ Las Vegas, được xây dựng trên cơ sở hạ tầng hiện có của Oracle và khả năng suy luận AI, bao gồm các Cụm AI chuyên dụng trong OCI Enterprise AI.

Tại sao tốc độ suy luận lại quan trọng hơn bây giờ

Khi các ứng dụng AI đảm nhận công việc phức tạp, gồm nhiều bước hơn, tốc độ suy luận trở nên quan trọng đối với trải nghiệm người dùng: mỗi lệnh gọi mô hình bổ sung sẽ tăng thêm độ trễ, điều này có thể làm chậm các quy trình làm việc tổng hợp có nhiệm vụ lý luận, kiểm tra kết quả và hành động qua nhiều bước. Andrew Feldman, đồng sáng lập và CEO của Cerebras cho biết: “Mọi người muốn AI có thể thực hiện những công việc có giá trị một cách nhanh chóng. "Mỗi bước mà tác nhân thực hiện đều yêu cầu suy luận, cho dù đó là lý luận, kiểm tra công việc hay thực hiện hành động. Suy luận càng nhanh thì AI càng có thể làm được nhiều việc hơn mà không khiến người dùng phải chờ đợi."

Thiết kế quy mô wafer

Được thiết kế để suy luận AI tốc độ cao, Cerebras Wafer-Scale Engine tích hợp tính toán và bộ nhớ trên một bộ xử lý quy mô wafer duy nhất. Bằng cách giảm chuyển động dữ liệu và giao tiếp giữa các chip, thiết kế hỗ trợ tạo mã thông báo nhanh chóng cho các chuỗi lý luận dài và quy trình làm việc tác nhân gồm nhiều bước, trong đó mã thông báo là các đoạn văn bản mà mô hình tạo ra.

Quan điểm của Oracle và dòng thời gian

Mahesh Thiagarajan, chủ tịch Cơ sở hạ tầng đám mây của Oracle cho biết: “Suy luận AI đòi hỏi sự lựa chọn”. "Khi các đại lý đảm nhận công việc phức tạp hơn, khách hàng sẽ yêu cầu điện toán phù hợp với nhu cầu hiệu suất của từng ứng dụng. Việc đưa khả năng suy luận của Cerebras vào Cơ sở hạ tầng đám mây của Oracle sẽ bổ sung thêm một tùy chọn cực nhanh và mang tính quyết định khác vào danh mục điện toán rộng rãi của chúng tôi." Các công ty cho biết suy luận của Cerebra về OCI dự kiến ​​sẽ có vào năm dương lịch 2027; bản phát hành có tuyên bố từ chối trách nhiệm hướng tới tương lai, lưu ý rằng các tính năng, thời gian và giá cả có thể thay đổi và không nêu tên quy mô triển khai hoặc giá cả.