Những gã khổng lồ về chip chuyển hướng sang CIIE khi chi tiêu suy luận AI lần đầu tiên vượt qua việc đào tạo

Hội chợ triển lãm nhập khẩu quốc tế Trung Quốc (CIIE) lần thứ 9 đã khai mạc tại Thượng Hải vào ngày 5 tháng 11 và hội trường công nghệ và thiết bị của hội chợ này đã trở thành phong vũ biểu cho ngành bán dẫn toàn cầu. Qualcomm, Samsung, Intel, AMD, SK Hynix, Synopsys và các nhà cung cấp khác đều đặt việc triển khai AI trong thế giới thực vào trung tâm gian hàng của họ - một dấu hiệu cho thấy trọng tâm của điện toán đang chuyển từ đào tạo dựa trên đám mây sang suy luận và biên của thiết bị.

Suy luận vượt qua huấn luyện lần đầu tiên

Một dự báo của Gartner đưa ra vào tháng 8 cho thấy chi tiêu trên toàn thế giới cho cơ sở hạ tầng dưới dạng dịch vụ được tối ưu hóa bằng AI sẽ đạt 42,3 tỷ USD vào năm 2026, tăng 96% so với cùng kỳ năm ngoái. Trong tổng số đó, 23,3 tỷ USD sẽ dành cho suy luận và 19 tỷ USD dành cho đào tạo - năm đầu tiên suy luận đã vượt qua đào tạo. Suy luận sẽ chiếm 55% chi tiêu IaaS được tối ưu hóa cho AI vào năm 2026, tăng lên 59% vào năm 2027. Gartner cho rằng sự thay đổi là do các doanh nghiệp chuyển từ phát triển mô hình sang triển khai ở quy mô sản xuất, trong đó các mô hình theo miền cụ thể, được tinh chỉnh chạy liên tục bên trong các hệ thống hướng tới khách hàng.

Qualcomm đặt cược vào thiết bị: nguyên mẫu 6G và các mẫu trên thiết bị

Qualcomm lần đầu tiên đã công khai trình diễn nguyên mẫu thiết bị đầu cuối 6G tuân theo định nghĩa 3GPP mới nhất và cho biết họ đang tiến hành thử nghiệm 6G chung và xác minh khả năng tương tác với các đối tác Trung Quốc bao gồm China Mobile và ZTE, với quá trình thương mại hóa dự kiến dần dần trong hai năm tới. Về mặt thiết bị, Qualcomm đã hợp tác với StepFun, Infris AI và Longsys để chạy mô hình hỗn hợp chuyên gia gồm 30 tỷ tham số hoàn toàn trên điện thoại thông minh, mở rộng AI trên thiết bị sang các ứng dụng tác nhân phức tạp hơn. Các sản phẩm đại lý được hỗ trợ bởi nền tảng Snapdragon, chẳng hạn như Honor Robot Phone và Nubia NaviX Ultra, đã thu hút rất đông khách tham quan dùng thử.

AMD thúc đẩy các máy chủ đại lý địa phương; Intel cho biết máy tính phải tiến gần hơn đến các kịch bản

AMD định vị “máy chủ tác nhân” như một phương tiện cụ thể để triển khai AI. Máy chủ dựa trên nền tảng Ryzen AI Max+ PRO 495, được trang bị bộ nhớ hợp nhất 192GB, có thể chạy cục bộ các mô hình lớn và hỗ trợ hoạt động song song của nhiều tác nhân, cung cấp cho các nhà phát triển, công ty một người và doanh nghiệp nhỏ một tùy chọn triển khai không cần lên đám mây. Nhân viên Booth cho biết một thiết bị đấu thầu thông minh sẽ nén việc xử lý tài liệu đấu thầu từ “ba người, bảy ngày” thành “một người, nửa ngày”, trong khi chủ nhà trợ lý pháp lý xử lý việc xem xét và soạn thảo hợp đồng, đồng thời triển khai tại địa phương để bảo vệ thông tin nhạy cảm.

Wang Zhicong, Chủ tịch Intel Trung Quốc, cho biết trong một cuộc phỏng vấn trong hội chợ rằng nhiều máy tính AI sẽ được triển khai ở khía cạnh suy luận và biên trong 5 năm tới, bởi vì “điện toán cần phải gần hơn với dữ liệu, gần với các kịch bản hơn và gần hơn với người dùng”. Ông nói, hai năm trước, ngành nói nhiều nhất về hiệu suất và đào tạo mô hình lớn; ngày nay người ta tập trung nhiều hơn vào các tác nhân, “thực ra là về suy luận”. Intel đã giới thiệu ma trận điện toán toàn bộ dựa trên quy trình 18A của mình và ra mắt giải pháp điện toán lưu trữ năng lượng xanh và máy tất cả trong một bằng mã thông báo.

Những gã khổng lồ về bộ nhớ tăng gấp đôi khi tình trạng thiếu hụt vẫn tiếp diễn

Khi các mô hình lớn tiếp tục mở rộng quy mô, chúng đòi hỏi nhiều dung lượng bộ nhớ, băng thông và hiệu quả sử dụng năng lượng hơn. Samsung hiển thị LPDDR6, LPDDR5X-PIM và UFS 5.0, cùng với các phiên bản khác; SK Hynix đã mang đến 256GB DDR5 RDIMM, 128GB DDR5 MRDIMM, 192GB SOCAMM2 và các ổ SSD doanh nghiệp bao gồm PS1101 E3.S và PSF010 E1.S.

LPDDR5X-PIM của Samsung là bộ nhớ LPDDR đầu tiên trong ngành có công nghệ xử lý trong bộ nhớ. Nó tích hợp một đơn vị tính toán trong mỗi ngân hàng trong số 16 ngân hàng DRAM, cho phép hoàn thành một số tính toán AI bên trong bộ nhớ và giảm chuyển động dữ liệu lặp lại giữa bộ xử lý và bộ nhớ; Samsung cho biết nó mang lại băng thông hiệu quả gấp 8 lần LPDDR5X hiện có. DRAM LPDDR6 công suất thấp thế hệ tiếp theo cung cấp băng thông truyền cao hơn tới 45% so với thế hệ trước, lên tới 125GB/giây và hiệu suất năng lượng tốt hơn khoảng 21% so với LPDDR5X. Nhân viên gian hàng SK Hynix cho biết tình trạng thiếu bộ nhớ hiện nay không có gì thay đổi và các nhà sản xuất lớn đều đang mở rộng công suất; Khi nào thì sự cân bằng cung cầu sẽ được cải thiện vẫn còn phải chờ sau khi công suất tăng vào năm 2028.

Năng lực tính toán thông minh của Trung Quốc sẽ tăng gần 90% trong năm nay

Báo cáo của International Data Corporation (IDC) và Inspur dự báo năng lực điện toán thông minh của Trung Quốc sẽ đạt 2.576,5 EFLOPS vào năm 2026, tăng 87,9% so với cùng kỳ năm ngoái và 10.524,3 EFLOPS vào năm 2030; thị trường điện toán AI dự kiến ​​sẽ đạt 51,5 tỷ USD, tăng 37% so với cùng kỳ năm ngoái. Báo cáo cũng dự đoán rằng đến năm 2030, 50% nhiệm vụ suy luận AI của doanh nghiệp sẽ di chuyển từ đám mây sang các nút biên hoặc thiết bị đầu cuối.

Một kịch bản điển hình cho việc suy luận và tạo ra nội dung là kịch ngắn. Dữ liệu công khai cho thấy từ tháng 1 đến tháng 5 năm 2026, thị trường phim truyền hình và truyện tranh AI đã vượt quá 22 tỷ nhân dân tệ (khoảng 3,3 tỷ USD) và sản lượng phim truyền hình ngắn AI trong nước dự kiến sẽ tăng từ 60.000 vào năm 2025 lên một triệu vào năm 2026. Wang cho biết Intel trước đây đã trình diễn với các đối tác tại hội nghị thượng đỉnh Tô Châu một loạt giải pháp phim ngắn chỉ bằng một cú nhấp chuột, “để miễn là bạn có ý tưởng và kịch bản cơ bản, bạn có thể sản xuất một vở kịch ngắn chỉ bằng một cú nhấp chuột.”

Khía cạnh cạnh tranh đang thay đổi

Đối với các nhà sản xuất chip, vòng thay đổi này có nghĩa là khía cạnh cạnh tranh đang chuyển từ sức mạnh tính toán đỉnh cao sang hiệu quả năng lượng, tính linh hoạt trong triển khai và hợp tác hệ sinh thái. Đào tạo trên nền tảng đám mây vẫn là một chiến trường phải thắng, nhưng không gian gia tăng đang ngày càng xuất hiện ở các nút biên, PC AI, máy chủ đại lý và các kịch bản trên xe — bất kỳ ai có thể chạy suy luận với chi phí thấp hơn và hiệu quả năng lượng cao hơn gần người dùng hơn sẽ có nhiều khả năng giành chiến thắng trong giai đoạn tiếp theo của đơn hàng trong ngành. Sự thiếu hụt bộ nhớ và tốc độ mở rộng công suất làm tăng thêm sự không chắc chắn về phía cung cho chu kỳ tăng trưởng này.