Написать в блог
Блоги
This_is_the_way

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

После долгого периода без улучшений модель резко начинала лучше решать сложные задачи на пространственное мышление. Учёные предложили не увеличивать размер нейросети, а давать ей больше времени на «размышление».
реклама

Учёные из Университета Иннополис сделали интересное открытие: небольшие нейросети могут внезапно «прорываться» в решении сложных задач, если им дать больше времени на обработку. Вместо того чтобы наращивать количество параметров (в современных моделях их триллионы), исследователи предложили заставлять компактную модель несколько раз перерабатывать одну и ту же информацию. Каждый новый проход уточняет решение, а модель запоминает промежуточные результаты — что-то вроде «хода мыслей».


Изображение: Flux

В этом подходе исследователи обнаружили эффект, который назвали «внезапным обучением». Заместитель директора Института анализа данных и ИИ Университета Иннополис Рустам Лукманов пояснил, что модель сначала долго почти не улучшала показатели, а потом демонстрировала резкий скачок. Момент такого перехода зависит от сложности задачи и глубины рекурсии — это позволяет настраивать модель под конкретные требования.

реклама

Метод проверили не только на абстрактных логических задачах, но и на пространственном мышлении — например, на сборке пазлов. Оказалось, что рекурсивный подход работает и там.

Самый важный вывод: глубину «мышления» нейросети можно увеличивать не за счёт роста модели, а за счёт времени, которое она тратит на рассуждение. При этом размер модели может оставаться очень скромным — в эксперименте он составлял менее миллиона параметров (для сравнения: современные языковые модели содержат триллионы). Это открывает путь к созданию эффективного ИИ для устройств с ограниченной вычислительной мощностью. Исследование опубликовано на ведущей мировой конференции по искусственному интеллекту ICLR 2026.

Источник: tass.ru
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости