Модель искусственного интеллекта DeepSeek, запущенная около двух недель назад, удивила мир искусственного интеллекта своими способностями к рассуждениям, сравнимыми с таковыми у лидеров индустрии, таких как OpenAI. Модель также можно использовать в собственных приложениях для смартфонов, и одноименное приложение быстро заняло первое место в категории «Бесплатные приложения» в Apple App Store. Однако расследование, проведенное компанией NowSecure, специализирующейся на мобильной безопасности, выявило серьезные проблемы, которые могут поставить под угрозу данные и личность пользователей.
Согласно отчету NowSecure, приложение отправляет конфиденциальные данные по незашифрованным каналам, что делает их уязвимыми для перехвата или манипуляций со стороны злоумышленников. Хотя Apple настоятельно рекомендует использовать App Transport Security (ATS) для защиты данных, передаваемых приложениями, в DeepSeek эта защита полностью отключена. В незашифрованном виде передается такая информация, как версия операционной системы пользователя, версия SDK, использованного для создания приложения, язык, установленный в приложении, и идентификатор организации (если смартфон входит в корпоративный пул устройств).
Однако наиболее любопытным является тот факт, что эти данные отправляются на серверы, контролируемые ByteDance, той же китайской компанией, которая владеет TikTok, что вызывает дополнительные опасения по поводу возможности их сопоставления с другой информацией для отслеживания пользователей.
Еще одна серьезная проблема связана с использованием шифрования 3DES (Triple DES), которое считается устаревшим и небезопасным с 2016 года. Симметричные ключи, необходимые для такого шифрования, жестко закодированы в приложении и одинаковы для всех пользователей iOS, что уже более десяти лет считается крайне рискованной практикой. Кроме того, в политике конфиденциальности DeepSeek прямо указано, что собранные данные хранятся на серверах, расположенных в Китайской Народной Республике, и при определенных обстоятельствах могут быть переданы государственным органам или третьим лицам.
Однако уязвимости не ограничиваются техническим аспектом. Отдельное исследование, проведенное Cisco и Пенсильванским университетом, показало, что модель симуляции рассуждений R1, используемая DeepSeek, в 100% случаев не справляется с вредоносными подсказками, предназначенными для создания токсичного контента. Буквально вчера появилась информация о том, что компания Qualys, занимающаяся вопросами безопасности, обнаружила высокий процент успеха в тестах на джейлбрейк против модели DeepSeek, сумев обойти контрмеры, которые должны были предотвратить ее безрассудное и опасное использование.
В целом, эксперты по компьютерной безопасности сходятся во мнении, что DeepSeek (как сама модель, так и приложения, позволяющие ее использовать) рискованна с нескольких точек зрения: приложения не могут (или не хотят) обеспечить базовую защиту безопасности пользовательских данных, а сама модель слишком склонна к злоупотреблениям.
