Британские эксперты нашли уязвимости в новой ИИ-модели GPT-5.6 Sol

Новая флагманская модель искусственного интеллекта (ИИ) GPT-5.6 Sol от OpenAI, которую компания называет самой безопасной в своей истории, оказалась уязвимой для так называемых универсальных «джейлбрейков». Об этом говорится в отчете британского Института безопасности искусственного интеллекта (UK AI Security Institute), специалисты которого тестировали модель до её публичного запуска.

Источник изображения: ChatGPT Исследователи обнаружили методы, позволяющие обходить встроенные ограничения и получать доступ к потенциально опасным функциям модели. По данным экспертов, успешный обход защитных механизмов позволяет GPT-5.6 выполнять сложные задачи в сфере кибербезопасности, включая поиск уязвимостей в программном обеспечении и помощь в разработке эксплойтов. В отчёте подчеркивается, что речь идёт именно об универсальных методах обхода ограничений, а не об отдельных уязвимостях, которые затрагивают лишь узкие сценарии использования.

В OpenAI заявили, что перед выпуском GPT-5.6 модель прошла масштабное тестирование с участием независимых экспертов по безопасности. При этом компания отмечает, что британские специалисты получили расширенный доступ к внутренним инструментам, который недоступен обычным пользователям, поэтому обнаруженные методы обхода защиты не обязательно смогут быть воспроизведены в реальных условиях.

Ситуация напоминает недавний случай с моделью Claude Fable 5 компании Anthropic. После обнаружения аналогичной проблемы власти США временно ввели экспортные ограничения на эту ИИ-модель, что вынудило Anthropic отключить сервис для пользователей до устранения рисков. Однако в отношении GPT-5.6 подобных мер пока не принято, несмотря на схожие выводы британских исследователей.