Китай опубликовал новый свод правил и рекомендаций, которые регулируют использование искусственного интеллекта на территории страны.  Пока данные нормы носят исключительно рекомендательный характер. Речь идет о популярных чат-ботах с ИИ, таких как ChatGPT, произведениях искусства, созданных с помощью искусственного интеллекта, многочисленных методах использования AI в здравоохранении и всех формах искусственного интеллекта в целом.

AI concept with a flag of China. Journal Interesting Engineering.  Igor Kutyaev/iStock.

Администрация киберпространства Китая (Cyberspace Administration of China - CAC) выпустила целый пакет рекомендаций, которым необходимо следовать при создании искусственного интеллекта. CAC является регулятором и цензором интернета в Китае. Агентство выпустило руководство по "глубокому синтезу". Регулирующие меры вступят в силу с 10 января 2023 года.

Условия, касающиеся ИИ, или "глубокого синтеза"

В своем заявлении CAC называет "глубоким синтезом" технологию, которая генерирует текст, изображения, произведения искусства, закадровый голос или видеоролики о жизни людей. "Технология глубокого синтеза относится к использованию глубокого обучения, виртуальной реальности и других алгоритмов генеративного синтеза для создания текста, изображений, аудио, видео, виртуальных сцен и другой сетевой информации", - говорится на сайте агентства в интерпретации Google Voice. Свод правил является превентивной мерой, чтобы убедиться в отсутствии этических аспектов или нарушения авторских прав - постоянной проблемы во всем мире, которую часто упоминают, когда создатели используют системы искусственного интеллекта.

"Несмотря на то, что в последние годы технология глубокого синтеза стремительно развивается, отвечая потребностям пользователей и улучшая их опыт, некоторые злоумышленники используют ее для производства, копирования, публикации, распространения незаконной и недобросовестной информации", - говорится в заявлении CAC. Агентство заявило, что документ был опубликован для "предотвращения и устранения рисков безопасности, а также для содействия здоровому развитию услуг глубокого синтеза и повышения уровня регулятивных возможностей".

CAC и его нормативные акты

CAC отвечает за реализацию государственной политики в области развития интернета в Китае. Многие из положений, изложенных в документе, являются факторами, которые поднимаются во всем мире, вызывая беспокойство, поскольку ИИ начинает приобретать все большую популярность и становиться мейнстримом. Среди наиболее часто задаваемых вопросов - кто будет получать вознаграждение за искусство, созданное ИИ, или как ИИ может быть беспристрастным, когда ему предоставляются наборы данных, предоставленные людьми?

Согласно правилам, лица, использующие ИИ для создания произведений, должны помечать контент как созданный ИИ. В документе говорится, что авторы должны добавлять идентификаторы к своим работам, если при их создании использовалась какая-либо форма искусственного интеллекта. Такие идентификаторы или метки должны быть включены и использоваться для любых сгенерированных ИИ произведений, лиц, голосов, а также каких-либо изменений, внесенных с помощью ИИ.

 "Если операторы услуг предоставляют перечисленные ниже сервисы глубокого синтеза, которые могут вызвать путаницу или неправильную идентификацию среди общественности, они должны сделать видимые метки в соответствующих местах и областях информационного контента, созданного или отредактированного, а также напоминать общественности о ситуации с глубоким синтезом", - говорится на сайте CAC.

При использовании технологий искусственного интеллекта физические лица должны будут пройти соответствующую регистрацию

Кроме того, агентство намерено обязать пользователей регистрироваться, если они используют ИИ, что позволит исключить использование анонимности для ИИ-контента внутри страны. Люди, которые хотят создавать работы с использованием ИИ, должны будут зарегистрироваться и подтвердить свою личность с помощью номера телефона, документов или другой формы аутентификации.

Пользователи должны будут предоставить " информацию для проверки подлинности реальной личности". Контент, созданный с помощью ИИ, не может быть создан под псевдонимом или вымышленным именем. "Поставщики услуг глубокого синтеза должны на законных основаниях проводить аутентификацию реальной идентификационной информации для пользователей услуг глубокого синтеза", - заявило агентство.

 CAC также сообщило о необходимости проверки алгоритмов, используемых в системах искусственного интеллекта, а также о запрете на распространение негативной информации с использованием возможностей искусственного интеллекта. "Поставщики услуг глубокого синтеза и службы технической поддержки должны ужесточить контроль над техническим управлением, периодически анализируя, оценивая и проверяя механизмы генерации синтетических алгоритмов".

Наборы данных должны будут проходить проверку перед использованием в качестве исходного материала для ИИ. Также будет проводиться проверка полученного результата. В соответствии с документом CAC, такие оценки будут проводиться либо технически, либо вручную.

Источники и ссылки: Journal Interesting Engineering, Cyberspace Administration of China

1. (http://www.cac.gov.cn/2022-12/11/c_1672221949318230.htm)
2. (http://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm)
3. (https://interestingengineering.com/culture/china-will-regulate-ai-generated-content-with-a-new-set-of-regulations)