В четверг законодатели Европейского парламента сделали важный первый шаг к общеевропейскому регулированию ChatGPT и других систем искусственного интеллекта, которые Брюссель надеется быстро внедрить.
Парламентские комитеты по гражданским свободам и защите прав потребителей подавляющим большинством голосов проголосовали за текст позиции, призывающий ограничить использование ИИ в Европе, но при этом способствовать инновациям в этом секторе. Текст должен быть представлен парламенту в полном составе в следующем месяце для принятия до начала переговоров со странами-членами ЕС по окончательному закону.
Законодатели назвали историческим голосование в четверг и надеялись, что оно приведет к «первым в мире правилам искусственного интеллекта».
Их текст повторяет основные черты предложения Европейской комиссии, сделанного два года назад, но предлагает добавить запреты на биометрическое наблюдение, распознавание эмоций др.
Он направлен на то, чтобы отнести системы генеративного искусственного интеллекта, такие как ChatGPT и Midjourney, к категории, требующей специальных мер прозрачности, таких как уведомления пользователей о том, что работа была выполнена машиной, а не человеком.
В тексте парламента также содержатся дополнительные критерии относительно того, что представляет собой область применения искусственного интеллекта с «высоким риском», что может сузить сферу применения этого определения.
Предложенный комиссией список охватывает ИИ в критической инфраструктуре, образовании, людских ресурсах, общественном порядке и управлении миграцией. Но депутаты Европарламента хотят, чтобы был соблюден дополнительный порог, требующий, чтобы угрозы безопасности, здоровью или основным правам также считались действующими.
CCIA, европейская отраслевая лоббистская группа, представляющая крупные технологические компании, заявила, что, хотя «парламент внес некоторые полезные улучшения в текст», он «отказывается от структуры, основанной на риске» предложения Европейской комиссии.
«Лучший способ для ЕС вдохновить другие юрисдикции — обеспечить, чтобы новое регулирование способствовало, а не препятствовало развитию полезных приложений ИИ», — сказал Бонифаций де Шампри, менеджер по политике CCIA в Европе.
Тем не менее Европейская организация потребителей одобрила включение в текст парламента «усиленной защиты потребителей» по сравнению с текстом комиссии.
«Хотя ИИ может улучшить нашу жизнь во многих отношениях, существуют вполне обоснованные опасения, что системы ИИ могут также нанести вред потребителям. Люди должны быть должным образом защищены от рисков, связанных с этими новыми технологиями», — сказала Урсула Пахл, заместитель директора организации.
В то время как работа ЕС над законодательством продолжается уже некоторое время, потенциал — и потенциальные опасности — искусственного интеллекта проникли в общественное сознание только в последние несколько месяцев, с тех пор как был выпущен ChatGPT в конце прошлого года.
ИИ для создания изображений, такие как Midjourney и DALL-E, с тех пор вызвали ажиотаж в Интернете, генерируя, например, Ван Гога или папу Римского в модном пуховике, в то время как музыкальные сайты с искусственным интеллектом впечатлили своей способностью генерировать пение, похожее на человеческое.
«Достаточно включать телевизор последние два-три месяца почти каждый день, чтобы увидеть, насколько важным становится этот документ для граждан», — сказал один из ведущих депутатов Европарламента Драго Тудораче.
Политики в Европе и других регионах мира все больше обеспокоены тем, как технология может быть использована для фальсификации, обмана людей и влияния на общественное мнение и выборы. Это побудило Илона Маска и некоторых исследователей призвать к введению моратория до тех пор, пока правовые рамки не наверстают упущенное.
В предложении комиссии компании ИИ должны будут поддерживать человеческий контроль над своими алгоритмами, предоставлять техническую документацию и иметь систему управления рисками для приложений с «высоким риском». Каждое государство-член ЕС будет иметь надзорный орган, который будет следить за соблюдением правил.
Депутаты Европарламента также хотят, чтобы компании, занимающиеся искусственным интеллектом, установили защиту от нелегального контента и работ, защищенных авторским правом, которые могут использоваться для обучения их алгоритмов. Они также хотят предотвратить использование фотографий, размещенных в Интернете, для обучения алгоритмов, если не получено разрешение заинтересованных лиц.