Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Обычные языковые модели генерируют текст последовательно, по одному токену за раз. Диффузионные создают и уточняют сразу несколько токенов параллельно — отсюда более быстрые ответы и меньшие задержки. Раньше разработчикам приходилось выбирать между возможностями модели и скоростью, но Inception утверждает, что Mercury 3 снимает это противоречие: качество на уровне или выше моделей OpenAI и Anthropic при скорости свыше 1000 токенов в секунду.
Это четвёртая модель компании с июня 2025 года. Mercury 2 добавила рассуждения, Mercury 2.5 — регулируемое рассуждение и контекст на 260 тысяч токенов, а Mercury 3 увеличила его до 1 млн. «Mercury 3 более чем в 40 раз крупнее, значительно способнее и по-прежнему работает на скорости свыше 1000 токенов в секунду», — приводит слова соучредителя Inception Стефано Эрмона источник. При этом, компания уже начала обучение следующей модели.
Ставка на приложения, где задержка влияет на удобство: интерактивное обучение, синхронный перевод, помощники в написании текстов и программные агенты. В агентных системах задержки на каждом шаге накапливаются, и быстрый вывод сокращает общее время. Образовательная компания RevisionDojo сообщила, что Mercury 3 уменьшила среднее время ответа для обратной связи студентам примерно до одной секунды.