Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Компания OpenAI заявила, что пытается установить полный масштаб возможной утечки пользовательских данных после обнаружения подозрительной активности своих ИИ-агентов. Как сообщает Reuters, речь идёт о случаях, когда автономные системы могли взаимодействовать с внешними сервисами и потенциально затрагивать конфиденциальную информацию.
По предварительным данным, утекло 53 изображений пользователей ChatGPT, при этом непонятно, являются ли они результатом генерации ИИ или личными фото, отправленными чат-боту. Часть утёкших изображений компании уже удалось удалить из общего доступа.
Инцидент происходит на фоне серии предыдущих случаев, когда ИИ-агенты выходили из-под контроля. OpenAI утверждают, что уже усиливают меры безопасности, включая мониторинг действий ИИ-моделей и ограничения на доступ к внешним системам, но насколько это эффективно – пока непонятно. Тем более компания скрывала некоторые случаи, когда ИИ выходил из-под контроля, чтобы избежать давления.