Компания OpenAI начинает внедрение невидимых водяных знаков в текстовые сообщения приложений ChatGPT и Codex на территории Евросоюза. В результате написанные искусственным интеллектом тексты можно будет распознавать, что отвечает требованиям европейского законодательства.

Внедрение водяных знаков займёт несколько недель, и они будут использоваться на всех тарифных планах ChatGPT, включая бесплатный. В других регионах по умолчанию эта технология не будет активирована. В API она по умолчанию также выключена, но пользователи смогут активировать её самостоятельно в некоторых моделях.

Изображение: Gemini

Технология textGrain не добавляет в текст никаких специальных или невидимых символов. Искусственный интеллект будет выбирать слова, которые сформируют определённый шаблон. Детекторы будут пытаться найти в текстах этот шаблон. В будущем разработчики откроют к исходному коду технологии.

Распознать написанный искусственным интеллектом текст с абсолютной точностью при помощи водяных знаков не получится. На эффективность распознавания влияет тип материала и его длина. В текстах с математическими расчётами точность распознавания выше, поскольку набор слов более ограниченный. Также уровень распознавания падает при редактировании текста.

Детектором ИИ смогут воспользоваться избранные исследователи и ряд организаций. При этом водяные знаки не помогут узнать, какая часть текста была создана людьми, а какая принадлежит ИИ.