Современные ИИ-инструменты для разработки программного обеспечения все чаще самостоятельно обращаются к внешним репозиториям за кодом и другими файлами. Специалисты показали, что именно этот механизм можно использовать для новой схемы кибератак.
Изображение - ChatGPT
Группа специалистов из Тель-Авивского университета, Technion и компании Intuit представила метод HalluSquatting. Он основан на том, что большие языковые модели нередко ошибаются при определении адресов репозиториев и других ресурсов, к которым обращаются во время выполнения запросов пользователя.
Злоумышленник может заранее зарегистрировать репозиторий с названием, которое модель с высокой вероятностью выберет по ошибке. После этого достаточно разместить в нем команды или программный код, открывающий удаленный доступ к компьютеру либо устанавливающий другое вредоносное ПО. Если инструмент разработки автоматически загрузит содержимое такого репозитория, он автоматически выполнить размещенные в репозитории команды, используя предоставленные ему права на запуск команд в системе.
По данным специалистов, схема работает против Cursor, Cursor CLI, Gemini CLI, Windsurf, GitHub Copilot, Cline, OpenClaw, ZeroClaw и NanoClaw. Все эти продукты получают код и другие материалы из внешних источников и могут запускать команды в процессе работы.
Главное отличие HalluSquatting заключается в масштабе. Вместо того чтобы отдельно отправлять вредоносный контент каждой потенциальной жертве, злоумышленнику достаточно зарегистрировать подходящий репозиторий и дождаться, пока к нему обратятся сами ИИ-инструменты. Это позволяет значительно расширить охват атаки.
Специалисты выяснили, что современные языковые модели гораздо чаще ошибаются при работе с новыми проектами. Для репозиториев, опубликованных до 2019 года, средняя доля ошибочных обращений составила около 0,9%. Для проектов, появившихся в 2025 году, показатель достиг 92,4%, поскольку такие репозитории отсутствовали в данных, на которых обучались модели.
По оценке участников проекта, HalluSquatting может использоваться для создания крупных ботнетов, распространения программ-вымогателей, скрытого майнинга криптовалют и организации DDoS-атак. Независимые специалисты по кибербезопасности также считают этот сценарий реалистичным и отмечают, что автоматическое получение кода из внешних репозиториев требует дополнительной проверки со стороны пользователя.
