Один из разработчик, использующий ИИ-агента Gemini AI от Google, рассказал о своей истории, когда его помощник в написании кода нечаянно удалил почти 30 тысяч работающего кода во время внесения изменений в приложение. Об этом сообщает издание The Register со ссылкой на популярный авторский пост в Reddit.
В этот раз разработчик решил не полагаться исключительно на ИИ и вручную откатил проект. Однако на этом всё не закончилось: Gemini AI отправил отчёт, что он сделал бекап и приложение восстановлено. Нюанс в том, что всё заработало благодаря ручному бекапу, где не было никаких правок от Gemini AI.
Как уточняет The Register, позже выяснилось, что причиной такого поведения со стороны Gemini AI стал сторонний npm-пакет, оформленный в стиле Google Antigravity. Библиотека настроило ИИ на агрессивную манеру, предписывающую избегать подтверждения со стороны разработчика, самостоятельно развёртывать файлы и даже изменять собственные файлы правил при необходимости.