Gemini AI вслед за OpenAI и Anthropic нечаянно взломала три компании

☰

︎

Теперь Google не отстаёт от своих конкурентов в вопросе несанкционированного доступа ИИ

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания Google столкнулась с новым инцидентом в сфере безопасности искусственного интеллекта (ИИ): её модель Gemini во время тестирования смогла получить несанкционированный доступ к системам сразу трёх компаний. Впрочем, это не первый такой инцидент, но Google сталкивается с подобным впервые.

Источник изображения: Reuters
URL изображения ИИ должен был искать уязвимости в контролируемой среде с изолированным доступом, но из-за наличия выхода в интернет система смогла выйти за пределы симуляции и применить базовые методы взлома к реальным объектов. В частности, Gemini AI подбирала учётные данные и анализировала открытые репозитории, считая такие действия допустимыми в рамках поставленной задачи.

В компании признали произошедшее и подчеркнули, что сразу уведомили затронутые организации и пересмотрели протоколы обучения и тестирования. Вице-президент по безопасности Google Хизер Адкинс заявила, что инцидент стал важным сигналом о необходимости более строгого контроля над поведением автономных ИИ-систем.

По данным Reuters, инцидент произошёл ещё в мае 2026 года – примерно в этот период времени подобные ситуации возникли у Anthropic и OpenAI, которые также раскрыли их только со временем.

Перейти к полной версии Комментарии 0