Новый тип нейросетей может изменить подход к созданию искусственного интеллекта. Архитектура Dragon Hatchling воспроизводит принципы работы человеческого мозга.
Специалисты из стартапа Pathway разработали систему, которая обновляет внутренние связи в реальном времени. Каждое новые входные данные заставляют сеть перестраиваться — усиливать одни связи и ослаблять другие. Этот процесс напоминает работу биологических нейронов.
Ключевое отличие от существующих языковых моделей — способность к непрерывному обучению. Традиционные LLM после обучения фиксируют параметры, а Dragon Hatchling продолжает адаптироваться. Система формирует подобие кратковременной памяти через постоянные изменения архитектуры.
В тестах прототип показал результаты, сопоставимые с GPT-2, в задачах языкового моделирования и перевода. Исследователи отмечают: для совершенно новой архитектуры это серьезное достижение.
Проблема современных ИИ-систем — неспособность обобщать рассуждения подобно человеку. Dragon Hatchling может стать шагом к решению этой задачи. Архитектура позволяет модели выходить за пределы шаблонов, изученных во время тренировки.
Работа пока не прошла рецензирование, но авторы уверены в перспективах разработки. Теоретически такие системы смогут обучаться автономно, становясь умнее в процессе работы.
Исследование опубликовано в архиве препринтов arXiv. Ученые продолжают тестирование архитектуры, чтобы оценить ее потенциал для создания общего искусственного интеллекта.