Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Компания OpenAI начинает внедрение невидимых водяных знаков в текстовые сообщения приложений ChatGPT и Codex на территории Евросоюза. В результате написанные искусственным интеллектом тексты можно будет распознавать, что отвечает требованиям европейского законодательства.
Внедрение водяных знаков займёт несколько недель, и они будут использоваться на всех тарифных планах ChatGPT, включая бесплатный. В других регионах по умолчанию эта технология не будет активирована. В API она по умолчанию также выключена, но пользователи смогут активировать её самостоятельно в некоторых моделях.
Технология textGrain не добавляет в текст никаких специальных или невидимых символов. Искусственный интеллект будет выбирать слова, которые сформируют определённый шаблон. Детекторы будут пытаться найти в текстах этот шаблон. В будущем разработчики откроют к исходному коду технологии.
Распознать написанный искусственным интеллектом текст с абсолютной точностью при помощи водяных знаков не получится. На эффективность распознавания влияет тип материала и его длина. В текстах с математическими расчётами точность распознавания выше, поскольку набор слов более ограниченный. Также уровень распознавания падает при редактировании текста.
Детектором ИИ смогут воспользоваться избранные исследователи и ряд организаций. При этом водяные знаки не помогут узнать, какая часть текста была создана людьми, а какая принадлежит ИИ.