У OpenAI есть инструмент для обнаружения водяных знаков на текстах, созданных ИИ

OpenAI работает над инструментом для обнаружения контента, созданного искусственным интеллектом, чтобы минимизировать неверное использование данных, особенно в образовательных и рабочих средах. Однако компания не выпускает этот инструмент, несмотря на растущие опасения. Оно также обсуждает потенциальные влияния и результаты этого инструмента.
ChatGPT, созданный OpenAI, изменяет игру в области искусственного интеллекта и изменил способы создания и использования контента. Но вместе с улучшениями приходят и новые угрозы. Студенты могут использовать инструмент для списывания, а создатели контента могут претендовать на оригинальность работы, которая фактически была создана с помощью ChatGPT.

OpenAI объявила о новом расширенном голосовом режиме для пользователей ChatGPT Plus, но все еще взвешивает выпуск инструмента для обнаружения полностью зависимых пользователей ChatGPT при создании контента. В обновлении блога OpenAI упоминается, что метод обнаружения водяных знаков эффективен при локализованной фальсификации, но менее точен при глобальной, что может побудить злоумышленников и оттолкнуть носителей языка от использования инструмента.

Представитель OpenAI заявил, что компания действует с осторожностью из-за сложностей и возможного влияния этого инструмента на более широкую экосистему. Кроме того, OpenAI может потерять возможных пользователей ChatGPT из-за водяного знака, поэтому они аккуратно взвешивают решение о его выпуске.

OpenAI также изучает альтернативный подход, основанный на текстовых метаданных с криптографической подписью, чтобы гарантировать отсутствие ошибочных срабатываний. Однако эффективность и влияние этого подхода пока остаются неясными.