Научные сотрудники Санкт-Петербургского Федерального исследовательского центра Российской академии наук создали авторский метод, определяющий на автоматическом уровне дипфейки. Для этого представленный алгоритм находит в фото или видео действия, благодаря которым становится ясно, что картинка была отредактирована искусственно. Именно обнаруживая элемент масштабирования (апскейлинг), российская нейросеть за авторством СПб ФИЦ РАН, с высоким процентом достоверности указывает, что предъявляемые видео относятся или не относятся к классу дипфейков. Как заявил ведущий сотрудник ВУЗа Дмитрий Левшун, прошедшая на основе выявления технологии апскейлинга сеть, без проблем «разбирает» изображения и видеопоток, подтверждая или опровергая присутствие недостоверной визуальной информации.
В объяснении от Левшуна следует, что все актуальные смартфоны тем или иным способом задействуют в своем функционировании нейросети, улучшающие фотографии, но если дело касается генерации дипфейков, то изображение изменяется слишком явно, в чём и заключается разница между работой ИИ в модуле камеры телефона или в злонамеренном искажении фото или видео. Таким образом отечественная нейросеть находит признаки апскейлинга, предполагающего, что перед наблюдателем «недействительная информация».
Не дипфейк, но работа ИИ видна налицо. Источник изображения: РБК
Левшун рассказал, что теперь с качественно созданными дипфейками, необходимыми в политических или мошеннических целях, будет легче бороться, так как весомую часть по их выявлению возьмет на себя инструмент, способный действовать самостоятельно и быстро без участия человека.
На текущий момент финальный штрих в программе разоблачения дипфейков не завершен, так как будет сконструирована база, позволяющая ИИ расширить инструментарий выявления дипфейков.
По итогу работы финальная версия приложения будет в очень скоростном режиме разоблачать искусственно созданные изображения и видеоконтент по многим признакам (а не по одному, как сейчас), тем самым сохраняя репутацию и финансы обычного человека и корпоративных клиентов от подкованных в сфере ИТ мошенников.
