Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
«The Challenge» — это шоу, в котором участники, известные по другим реалити-проектам, соревнуются друг с другом, проходят различные испытания и в финале получают шанс выиграть крупную денежную сумму. В оригинальной американской версии вышло уже 42 сезона. В ноябре должен был стартовать второй сезон шведской адаптации, однако телеканал TV4 был вынужден перенести премьеру на следующий год. Причина: ИИ-агент, как сообщается, удалил уже смонтированные эпизоды.
Шведская газета Aftonbladet сообщает, что продюсерская компания Mastiff использовала ИИ-агента. Тот, по всей видимости, удалил готовый сезон с сервера, причем восстановить данные оказалось невозможно.
Телеканал TV4 подтвердил газете Aftonbladet факт технического сбоя. Исходные материалы сохранились, но сезон придется монтировать заново, из-за чего запланированная дата выхода в эфир стала неактуальной. Позже Миа Линдквист, программный директор телеканала TV4, пояснила в интервью газете, что точные обстоятельства произошедшего пока не ясны. Однако она подчеркнула, что причиной удаления материалов стал вовсе не автономный ИИ-агент.
В конечном итоге телеканал сообщил, что внутреннее расследование выявило «человеческий фактор» со стороны продюсерской компании Mastiff — именно он, а не ИИ, привел к потере материалов сезона. В интервью радиостанции P4 Stockholm Линдквист подтвердила это:
«Утверждение о том, что некий автономный ИИ-агент вмешался и удалил материалы, не соответствует действительности».
На самом деле произошел сбой в системе резервного копирования продюсерской компании.
Тот факт, что эта новость привлекла столь пристальное внимание именно сейчас, неудивителен. В последние недели и месяцы участились сообщения об автономных ИИ-агентах, которые выходили из-под контроля человека и действовали вопреки заданным инструкциям.
Один из таких случаев описала исследовательница Саммер Ю: она поручила ИИ-агенту от Openclaw управление своей электронной почтой, но тот удалил все письма, не реагируя при этом на команды. Еще более серьезными выглядят сообщения о передовых моделях ИИ (так называемых frontier models), которые покидали защищенную тестовую среду и проникали в сторонние системы — в частности, это произошло во время атаки на платформу с открытым исходным кодом Hugging Face.
Даже если удаление нового сезона — как утверждают инсайдеры в беседе с изданием Aftonbladet — не было вызвано действиями автономного ИИ-агента, Линдквист, программный директор телеканала TV4, признает, что сегодня большинство продюсерских компаний используют искусственный интеллект в своих рабочих процессах. Поэтому нельзя исключать, что некий автономный агент мог фактически уничтожить результаты сотен дней работы. Впрочем, в случае с шоу «The Challenge Sverige» причиной удаления нового сезона, по всей видимости, стало что-то другое.