Inception запускає Mercury 3, свою найшвидшу дифузію LLM з контекстом 1 млн токенів і понад 1000 токенів на секунду

Повний звіт

Inception анонсувала Mercury 3 у прес-релізі 19 жовтня. Ця модель генерує 1068 токенів за секунду на графічних процесорах NVIDIA, утримуючи її вище планки в 1000 токенів за секунду, якою була відома лінія Mercury.

Контекстне вікно збільшується до одного мільйона токенів, що майже вчетверо перевищує 260 000 у Mercury 2.5. Inception каже, що розмір Mercury 3 більш ніж у 40 разів перевищує розмір Mercury 1 за загальними параметрами, а інтелект у діапазоні стандартних тестів приблизно потроюється від Mercury 1 (mini) до Mercury 3. Це власні порівняння компанії; незалежні оцінки ще не опубліковані.

Стандартна ціна становить 0,20 дол. США за мільйон вхідних токенів і 0,70 дол. США за мільйон вихідних токенів, а початкова ціна становить 0,10 і 0,35 дол. Кешовані вхідні токени коштують 0,02 дол. США за мільйон (0,01 дол. США відповідно до акції).

Mercury 3 доступний через Inception API, OpenRouter, Baseten і Vercel і підтримує формат OpenAI API. Ранні клієнти вже використовують його для агентів використання браузера, інтерактивного навчання, пошукових агентів у реальному часі та підтримки клієнтів, кажуть у компанії.

Співзасновник Стефано Ермон сказав, що питання, яке найчастіше чують після Mercury 1, полягає в тому, чи може дифузія масштабуватися. Відповідь Mercury 3: обмеження моделей масштабування дифузії – це обчислення та дані, а не фундаментальні алгоритмічні бар’єри. Він додав, що підготовка наступної моделі вже почалася.

Це четвертий випуск Inception після випуску Mercury 1 у червні 2025 року: Mercury 2 представив міркування до дифузійних моделей, Mercury 2.5 додав регульоване міркування та ширше контекстне вікно, а Mercury 3 забезпечує найбільший стрибок інтелекту серед усіх випусків Mercury.