Компания Anthropic представила детальный отчёт о работе своего искусственного интеллекта (ИИ), всё активнее участвующего в создании новых ИИ-систем. По данным исследователей, нейросети перешли от простой помощи программистам к выполнению значительной части инженерной работы, ускоряя разработку до фантастических темпов.
Источник изображения: ChatGPT
Ключевой вывод отчёта следующий: ИИ начинает ускорять собственное развитие. Если тренд сохранится, в перспективе может возникнуть система, способная на самостоятельное проектирование и создание улучшенных версии самой себя. Это называется рекурсивное самоулучшение (recursive self-improvement).
В Anthropic признают, что до полной автономии ещё далеко, и данный сценарий может не произойти в реальности. Однако компания опасается, что многие государства и компании могут оказаться не готовы к подобному сценарию.
По внутренней статистике, в наши дни инженеры Anthropic пишут за квартал в 8 раз больше кода, чем за аналогичный период в 2021–2025 годах. При этом с мая 2026 года свыше 80% кода, попадающего в основную базу компании, написано Claude. Ранее этот показатель составлял лишь несколько процентов.
Возросшие возможности ИИ показали и независимые тесты. В марте 2024 года Claude Opus 3 решал задачи, на которые человеку необходимо всего 4 минуты. Спустя год Claude Sonnet 3.7 выполнял задания эквивалентные 1,5 часам работы человека. Ещё через год Claude Opus 4.6 справлялся с задачами, требующими до 12 часов работы человеческого мозга.
Исследователи заявляют, что за последние годы ИИ вплотную приблизился к максимальным результатам во многих профессиональных бенчмарках. Имелись ввиду SWE-bench, считающийся основным тестом навыков программирования и CORE-Bench, оценивающий способность воспроизводить научные исследования.
Новые модели Claude уже умеют самостоятельно получать задачу, писать код, запускать его, тестировать и вносить правки без постоянного человеческого контроля. Иногда система успешно справляется даже с плохо формализованными проблемами без чёткого описания решения.
Качество кода, генерируемого ИИ, стремительно приближается к человеческому. Если в конце 2025 года код Claude заметно уступал результату работы опытных программистов, то сейчас различия почти исчезли. Уже в ближайшее время код сгенерированный ИИ может превзойти человеческий.
Аналогичная тенденция наблюдается и в исследовательской работе. Claude уже показывает высокую эффективность в детально расписанных экспериментах и научилась самостоятельно выбирать нужный вектор исследований, который в итоге сможет привести к поставленному результату. Люди пока лучше ориентируются в стратегическом выборе: определении наиболее важных проблем, оценке доверия к результатам и выявлении тупиковых идей.
В отчёте рассматриваются три сценария:
- Развитие ИИ замедляется из-за технологических ограничений.
- Модели продолжают резко повышать продуктивность людей, но остаются зависимы от человеческого руководства.
- Системы достигают полноценного рекурсивного самоулучшения и начинают самостоятельно создавать своих преемников, что может привести к стремительному ускорению технического и научного прогресса.
Авторы подчёркивают, что третий вариант наиболее рискованный с точки зрения безопасности. Если ИИ продолжит создавать всё более мощные версии себя, человечеству придётся решать проблему контроля таких систем гораздо раньше, чем ранее предполагалось экспертами.
Поэтому Anthropic выступает за создание международных механизмов координации, позволяющих при необходимости замедлить или временно остановить разработку самых передовых моделей. Такие меры имеют смысл только при наличии надёжных способов проверки соблюдения ограничений всеми ключевыми игроками.
Ещё больше интересных статей читайте в блоге «Подводные камни техномира» (ссылка кликабельна).
