Системы автоматической модерации все чаще влияют на распространение контента. Иногда это приводит к спорным ситуациям даже для крупных компаний. На платформе YouTube удалили видео с трейлером DLSS 5, включая официальный ролик NVIDIA. Жалобы отправил итальянский телеканал, который ранее использовал те же кадры в своей трансляции.

Источник изображения: Nvidia

После подачи уведомлений искусственный интеллект-модератор YouTube зафиксировал совпадение контента и начал массовое удаление. Под блокировку попали не только сторонние авторы, но и исходное видео разработчика технологии. По данным создателя контента NikTek, телеканал направил жалобы на все ролики с этим фрагментом. В результате алгоритмы платформы применили одинаковые меры без дополнительной проверки контекста.

Источник изображения: @NikTek

YouTube заявляет, что использует ИИ для поиска нарушений и последующей проверки. При этом авторы контента регулярно указывают на ошибки таких систем. В ушедшем году платформа заблокировала более 12 миллионов каналов, и значительная часть решений связана с автоматической модерацией. Удаление затронуло и других авторов, которые публиковали реакционные ролики и видео с использованием того же трейлера, посвященного DLSS 5.