Даже защищенные шифрованием чаты с искусственным интеллектом оказались под угрозой. Новая атака позволяет читать переписку через анализ метаданных. Исследователи Microsoft выявили метод Whisper Leak, относящийся к типу Man-in-the-Middle (MITM). Хакеры перехватывают сообщения между серверами и анализируют метаданные — размер пакетов данных и частоту запросов. Это позволяет восстановить содержание беседы без взлома самого шифрования.
Хотя протокол TLS защищает текст сообщений, метаданные остаются уязвимыми. Эксперты сравнивают это с британским Законом о следственных полномочиях, где содержание определяют по отправителю, времени и размеру пересылаемых данных. В ноябре исследователи опубликовали работу в базе arXiv, а еще в июне уведомили разработчиков. Microsoft и OpenAI уже выпустили патчи, но некоторые поставщики LLM проигнорировали предупреждения.
Аналитик по кибербезопасности Дэйв Лир (Dave Lear) не удивлен: чат-боты обрабатывают тонны конфиденциальных данных, включая медицинские, что делает их лакомой целью для хакеров. Для противодействия атаке специалисты предлагают провайдерам внедрить технику случайного заполнения. Метод добавляет случайные байты к каждому ответу ИИ, что выравнивает размеры передаваемых пакетов. Это нарушает корреляцию между длиной сообщения и его содержанием, лишая хакеров возможности анализировать метаданные.