Китайская компания Z.ai (ранее известная как Zhipu AI), занимающаяся разработкой систем искусственного интеллекта, столкнулась с кризисом доверия после того, как разработчики обнаружили, что её инструмент для написания кода ZCode без явного согласия пользователей скрытно передавал данные из локальной рабочей среды на внешние серверы.

Фото: Raul Ariano/Bloomberg

Хотя компания принесла извинения и устранила уязвимость, разработчики полагают, что этот инцидент может подорвать её репутацию. Особенно острым этот вопрос становится на фоне того, что вопросы кибербезопасности становятся ключевыми во всей индустрии ИИ.

Проблема была обнаружена 18 сентября, когда независимый китайский технический блогер, известный под псевдонимом Ferstar, изучил локальную директорию в ZCode и выяснил, что сжатый файл объемом 313 МБ ожидает отправки в облачное хранилище Alibaba Group Holding после 564 неудачных попыток, в то время как файл меньшего размера (15 КБ) был успешно передан.

По его словам, оба файла были зашифрованы. Судя по видимым именам файлов, более крупный из них содержал копию коммерческого проекта, над которым он работал, включая историю изменений в Git. Блогер сообщил, что ни он сам, ни клиентское приложение ZCode не могли открыть этот архив. Расшифровать его можно было только с помощью закрытого ключа.

В компании отметили, что произошедший инцидент сродни краже у пользователей, и именно злой умысел вызывает беспокойство.