Inception запускает Mercury 3, самую быструю LLM-программу распространения, с контекстом в 1 млн токенов и более 1000 токенов в секунду.

Полный отчет

Inception анонсировала Mercury 3 в пресс-релизе от 19 октября. Модель генерирует 1068 токенов в секунду на графических процессорах NVIDIA, что превышает планку в 1000 токенов в секунду, которой известна линейка Mercury.

Контекстное окно вырастает до миллиона токенов, что почти в четыре раза больше, чем в Mercury 2.5 (260 000). Inception утверждает, что Mercury 3 более чем в 40 раз превышает Mercury 1 по общим параметрам, а интеллект по ряду стандартных тестов примерно утроился от Mercury 1 (мини) до Mercury 3. Это собственные сравнения компании; независимые оценки еще не опубликованы.

Стандартная цена составляет 0,20 доллара США за миллион входных токенов и 0,70 доллара США за миллион выходных токенов, при этом цена запуска составляет 0,10 доллара США и 0,35 доллара США. Кэшированные входные токены указаны по цене 0,02 доллара США за миллион (0,01 доллара США по акции).

Mercury 3 доступен через Inception API, OpenRouter, Baseten и Vercel и поддерживает формат OpenAI API. По словам компании, первые клиенты уже используют его для агентов, использующих браузер, интерактивного обучения, поисковых агентов в реальном времени и поддержки клиентов.

Соучредитель Стефано Эрмон сказал, что после «Меркурия-1» чаще всего слышен вопрос о том, может ли диффузия масштабироваться. Ответ Mercury 3: ограничения масштабирования диффузионных моделей связаны с вычислениями и данными, а не с фундаментальными алгоритмическими барьерами. Он добавил, что подготовка следующей модели уже началась.

Это четвертый выпуск Inception после Mercury 1 в июне 2025 года: Mercury 2 представил рассуждения в диффузионных моделях, Mercury 2.5 добавил настраиваемые рассуждения и увеличенное контекстное окно, а Mercury 3 обеспечивает самый большой скачок в интеллекте среди всех выпусков Mercury.