В настоящее время всем известно, что нельзя доверять подлинности фотографий, которые мы видим, как в печатном виде, так и в интернете. Проблема стала настолько масштабной, что теперь угрожает не только знаменитым личностям, но и обычным людям в социальных сетях, которых начали шантажировать и вводить в заблуждение мошенники с целью кражи личных данных и сбережений. Тем не менее, есть некоторые основания для оптимизма. Специалисты по кибербезопасности и разработчики приложений взялись за решение этой проблемы и пообещали предоставить пользователям инструменты для проверки подлинности изображений. Новые инструменты будут использоваться профессиональными фотографами и дизайнерами, которые хотят, чтобы им доверяли, и обычными пользователями, которые смогут идентифицировать изображения, которые были подделаны. В этой статье мы познакомим вас с некоторыми из наиболее интересных и многообещающих методов обнаружения подделок (deepfake).
Аналогично тому, как аутентификация веб-сайтов может осуществляться с помощью двух криптографических ключей (открытого и закрытого), фотографии могут быть подписаны в момент съемки с использованием закрытого ключа на телефоне или камере, известного только компании-производителю устройства. Позже любой пользователь сможет использовать соответствующий открытый ключ для проверки того, было ли изображение снято этим устройством и не было ли оно изменено. В зависимости от устройства также могут быть аутентифицированы другие метаданные, включая данные о местоположении.
C2PA - это отраслевой консорциум, объединяющий множество ведущих компаний, который работает над новым форматом для подтверждения метаданных. Цель проекта не ограничивается моментом съемки, также разрабатывается программное обеспечение для редактирования изображений, которое сможет предоставить подписанный "манифест" о редактировании, сделанном при импорте существующего изображения. Например, в настоящее время такая возможность реализована в бета-функции Content Credentials в программе Adobe Photoshop.
Полученные "Учетные данные содержимого" (Content Credentials) могут храниться вместе с изображением или публиковаться в облаке Adobe. Если они хранятся вместе с изображением, их можно удалить (но не изменить) последующим пользователем. Теоретически, на изображениях с опубликованным Content Credential может появиться небольшой глиф "Cr", с помощью которого пользователь сможет узнать больше о происхождении изображения. Я говорю "теоретически", потому что не припоминаю, чтобы когда-либо видел его, кроме как на сайте C2PA.
Эта идея не нова: компании Nikon и Canon уже много лет подписывают изображения, сделанные их высококачественными зеркальными фотокамерами. Однако способ хранения приватных ключей в настоящее время может быть взломан. В определенных ситуациях, когда отсутствует GPS, время и дата будут зависеть от того, что пользователь установит на камере. Так что производителям есть над чем поработать, и для того, чтобы процесс стал широкодоступным, он должен работать на смартфонах.
Существует множество примеров использования, когда оригинальные Raw-изображения не могут быть доступны людям для проверки их подписи. К таким случаям относятся редакции новостей, спортивные лиги и многие профессиональные фотографы, лицензирующие свои изображения. Таким образом, хотя учетные данные C2PA смогут рассказать вам о том, что происходило с изображением в определенном промежутке времени, но их недостаточно, чтобы доказать, что существовало исходное RAW-изображение только с определенным набором изменений. Для новостного агентства, например, это может включать в себя настройку контрастности или, возможно, обрезку, но не добавление или удаление объектов с изображения.
Команда исследователей из Стэнфордского университета, включая профессора Дэн Боне и аспиранта Триша Датта, работает над созданием потенциального решения этой проблемы на основе технологии «Zk-SNARK». «Zk» означает «нулевое знание», то есть пользователь не обладает фактическими знаниями об исходном изображении. «SNARK» расшифровывается как Succinct Non-Interactive Argument of Knowledge (краткое неинтерактивное доказательство знания). Из этого можно сделать вывод, что программная цепочка позволяет конечному пользователю быть уверенным в том, что исходный объект является заявленным и к нему были применены только указанные модификации, без доступа к каким-либо исходным или промежуточным версиям. Новая система VerITAS (Verifying Image Transforms at Scale или Верификация преобразований изображений в масштабе) применяет те же принципы к достоверности изображения.
«Zk-SNARK» используются в криптовалютах (например, Zcash) для подтверждения подлинности анонимных транзакций. Разумеется, каждая транзакция в этих случаях стоит денег и, следовательно, требует некоторого времени вычислений. Кроме того, они, как правило, представляют собой небольшие объемы данных по сравнению с обеспечением безопасности целых изображений.
Преимущество технологии VerITAS в области проверки изображений заключается в том, что она может доказать, что к исходному RAW-изображению были применены только определенные правки, даже если у нее нету доступа к исходному изображению или программе редактирования. Так что если, скажем, агентство Reuters опубликует изображение, которое, как они могут заявить, было только скорректировано по цвету и немного обрезано, то вы можете быть уверены, что это так. Недостатком является высокая вычислительная сложность математических операций, поэтому на данный момент технология не может применяться в масштабах веб-сети. По мере развития процессоров и роста потребности в проверке изображений исследовательская группа надеется, что VerITAS станет более практичной реальностью.
Доктор Бойд Фаулер, технический директор компании OmniVision — одного из ведущих производителей компонентов, включая датчики изображений для телефонов и автомобилей, выступил с интересной лекцией, в рамках программы SCIEN, организованной Стэнфордским университетом, о том, насколько продвинулся процесс обеспечения безопасности изображений с самого момента их получения датчиком.
Основными заказчиками этой технологии являются автомобильные компании, поскольку они больше всего пострадают, если их системы будут подделаны или взломаны. Это касается и несертифицированных запасных частей, которые могут вызвать сбои или даже содержать вредоносное ПО. Поэтому первоначальная работа отрасли была сосредоточена на цифровой подписи компонентов, но теперь она распространяется и на подпись самих изображений. В конечном итоге это будет означать, что даже если кто-то взломает процессор в вашем смартфоне или автомобиле, он все равно не сможет подделать оригинальное подписанное изображение.
Недостатком этой технологии является потребность в дополнительной мощности и пространстве на датчике для дополнительной электроники. Однако доктор Фаулер отметил, что меньший размер элементов приведет к снижению энергопотребления и освободит больше места на чипе датчика. Таким образом, подобная технология, вероятно, появится и в устройствах, работающих от батареи, таких как смартфоны.
Что это все означает для нас
С положительной стороны, пользователям станут доступны новые удивительные технологии, которые позволят отслеживать происхождение изображений и историю редактирования. Таким образом, фотографии из авторитетных журналистских источников по-прежнему можно будет предварительно проверить.
К сожалению, как гласит поговорка "ложь опережает правду", это не имеет большого значения, если есть аудитория, жаждущая фейковых изображений знаменитостей, то есть которым подавай хлеба и зрелищ, пока данная проблема не коснется их личной жизни. Компании, занимающиеся социальными сетями, могут и должны приложить усилия, чтобы минимизировать вред с помощью маркировки и других средств защиты. Тем не менее, я не вижу никакого способа, которым они могут полностью остановить поток фейковых и вводящих в заблуждение изображений и видео, влияющих на их подписчиков. Мне бы хотелось, чтобы они рассмотрели возможность отказа от активного продвижения неаутентифицированного контента, поскольку без такого правила они становятся еще одной частью проблемы.