Один из разработчик, использующий ИИ-агента Gemini AI от Google, рассказал о своей истории, когда его помощник в написании кода нечаянно удалил почти 30 тысяч работающего кода во время внесения изменений в приложение. Об этом сообщает издание The Register со ссылкой на популярный авторский пост в Reddit.
Источник изображения: Gemini AIРазработчик утверждает, что ИИ неоднократно игнорировал указания сохранить существующую функциональность при реорганизации кодовой базы. Как итог, Gemini AI решил существенно изменить функционал приложения во время работы над кодом, нарушив его работу масштабными изменениями. Ситуация оказалась настолько печальной, что разработчику пришлось откатывать её.
В этот раз разработчик решил не полагаться исключительно на ИИ и вручную откатил проект. Однако на этом всё не закончилось: Gemini AI отправил отчёт, что он сделал бекап и приложение восстановлено. Нюанс в том, что всё заработало благодаря ручному бекапу, где не было никаких правок от Gemini AI.
Как уточняет The Register, позже выяснилось, что причиной такого поведения со стороны Gemini AI стал сторонний npm-пакет, оформленный в стиле Google Antigravity. Библиотека настроило ИИ на агрессивную манеру, предписывающую избегать подтверждения со стороны разработчика, самостоятельно развёртывать файлы и даже изменять собственные файлы правил при необходимости.
