Nightshade является инструментом, который не дает генераторам искусственного искусства воровать чужой контент, доступный для публичного просмотра. Он стал общедоступным 18 января после нескольких месяцев разработки и экспертной оценки. С тех пор выяснилось, что художники, фотографы и другие творческие личности, выкладывающие свои изображения в интернете, стремятся защитить свои работы от генеративного ИИ. Команда разработчиков, создавшая Nightshade, сообщила, что всего за пять дней после релиза инструмент скачали четверть миллиона раз.

"Я ожидал... очень высокого интереса", - отметил Бен Чжао, руководитель проекта Nightshade и профессор компьютерных наук Университета Чикаго, в интервью VentureBeat. "Но я все равно недооценил масштабы интереса... Реакция просто выше всех наших ожиданий. Судя по отзывам в социальных сетях, загрузки поступают со всех уголков мира".

В настоящее время любые изображения или фотографии, размещенные в интернете, попадают в обучающий набор данных генеративного искусственного интеллекта, даже если они охраняются авторским правом. Единственный эффективный способ не допустить использования вашего контента – обработать изображения при помощи приложения для отравления данных. Именно это и делает Nightshade. После того, как вы загружаете изображение в Nightshade, инструмент изменяет данные, встроенными в это изображение, что делает его непригодным для обучения ИИ-модели. Для человеческого глаза большинство «затененных» изображений выглядят так же, как до обработки Nightshade. Лишь на работах без выраженной текстуры могут проявиться несколько странных пикселей, если художник не воспользовался режимом «низкой интенсивности».

Таблица, показывающая изображения до затенения и после затенения, как их видит искусственный интеллект. Изображения после затенения отличаются по содержанию от изображений до затенения; в одном из примеров изображение собаки превращается в изображение кошки.Nightshade манипулирует изображениями художников так, что они кажутся искусственному интеллекту чем-то совершенно другим.

Затенение изображения не позволяет сборщикам данных, обслуживающим ИИ-модели, правильно интерпретировать содержимое изображения. На своем веб-сайте создатели Nightshade приводят пример коровы в зеленом поле, которая для искусственного интеллекта выглядит как кожаный кошелек, лежащий на траве. Образ собаки становится образом кошки и так далее. Даже если затененное изображение было обрезано, сжато или визуально изменено с помощью такого приложения, как Photoshop, инструменты генеративного искусственного интеллекта, такие как DALL-E и Stable Diffusion, не смогут определить, что содержалось в исходном изображении.

Важно отметить, что некоторым художникам одного Nightshade может быть недостаточно, чтобы уберечь их работы от загребущих рук искусственного интеллекта. Nightshade меняет лишь видимое содержание изображения, а чтобы ИИ не смог имитировать стиль автора, нужен еще один инструмент. Этим инструментом стал Glaze – «старший брат» Nightshade от той же команды Чикагского университета. Он работает аналогично: манипулирует данными изображения, почти не меняя внешний вид. Но вместо замены содержания изображения, Glaze меняет визуальный стиль. Например, портрет, нарисованный углем, может восприниматься искусственным интеллектом как современная абстракция, копирующая стиль Джексона Поллока. Таким образом, использование инструментов Nightshade и Glaze в большей степени гарантирует, что работа художника останется бесполезной для сборщиков данных ИИ. 

Как отмечает один из разработчиков Nightshade, их цель – не испортить нейросети, а повысить цену обучения на данных с авторским правом и даже без него, чтобы разработчикам искусственного интеллекта пришлось покупать изображения напрямую у авторов.

И Nightshade, и Glaze доступны для бесплатного скачивания на сайте разработчиков. Инструменты также доступны для скачивания в посте на сайте X, который команда опубликовала после того, как ажиотаж вокруг Nightshade перегрузил университетскую сеть. В ближайшие месяцы команда планирует создать инструмент, который будет сочетать в себе функции Nightshade и Glaze, что упростит их одновременное использование.