Inception ra mắt Mercury 3, LLM phổ biến nhanh nhất từ trước đến nay, với bối cảnh 1 triệu mã thông báo và hơn 1.000 mã thông báo mỗi giây

Báo cáo đầy đủ

Inception đã công bố Mercury 3 trong một thông cáo báo chí vào ngày 19 tháng 10. Mô hình này tạo ra 1.068 mã thông báo mỗi giây trên GPU NVIDIA, giữ nó ở trên mức 1.000 mã thông báo mỗi giây mà dòng Mercury đã được biết đến.

Cửa sổ ngữ cảnh tăng lên một triệu mã thông báo, gần gấp bốn lần con số 260.000 của Mercury 2.5. Inception cho biết Mercury 3 có tổng kích thước gấp hơn 40 lần so với Mercury 1 về tổng các thông số, với trí thông minh trên một loạt các điểm chuẩn tiêu chuẩn gần gấp ba lần từ Mercury 1 (mini) đến Mercury 3. Đây là những so sánh của chính công ty; đánh giá độc lập vẫn chưa được công bố.

Giá tiêu chuẩn là 0,20 USD trên một triệu mã thông báo đầu vào và 0,70 USD trên một triệu mã thông báo đầu ra, với mức giá khởi điểm là 0,10 USD và 0,35 USD. Mã thông báo đầu vào được lưu trong bộ nhớ đệm được liệt kê ở mức 0,02 USD trên một triệu (0,01 USD theo khuyến mãi).

Mercury 3 có sẵn thông qua Inception API, OpenRouter, Baseten và Vercel, đồng thời hỗ trợ định dạng API OpenAI. Công ty cho biết những khách hàng ban đầu đã sử dụng nó cho các đại lý sử dụng trình duyệt, giáo dục tương tác, đại lý tìm kiếm thời gian thực và hỗ trợ khách hàng.

Người đồng sáng lập Stefano Ermon cho biết câu hỏi được nghe nhiều nhất kể từ Mercury 1 là liệu sự khuếch tán có thể mở rộng quy mô hay không. Câu trả lời của Mercury 3: các giới hạn đối với các mô hình khuếch tán mở rộng là tính toán và dữ liệu, không phải là rào cản thuật toán cơ bản. Ông nói thêm rằng việc đào tạo mô hình tiếp theo đã bắt đầu.

Đây là bản phát hành thứ tư của Inception kể từ Mercury 1 vào tháng 6 năm 2025: Mercury 2 giới thiệu lý luận cho các mô hình khuếch tán, Mercury 2.5 bổ sung lý luận có thể điều chỉnh và một cửa sổ ngữ cảnh lớn hơn, còn Mercury 3 mang đến bước nhảy vọt lớn nhất về trí thông minh so với bất kỳ bản phát hành Mercury nào.