«The Challenge» — это шоу, в котором участники, известные по другим реалити-проектам, соревнуются друг с другом, проходят различные испытания и в финале получают шанс выиграть крупную денежную сумму. В оригинальной американской версии вышло уже 42 сезона. В ноябре должен был стартовать второй сезон шведской адаптации, однако телеканал TV4 был вынужден перенести премьеру на следующий год. Причина: ИИ-агент, как сообщается, удалил уже смонтированные эпизоды.

Изображение: нейросеть qwen

Шведская газета Aftonbladet сообщает, что продюсерская компания Mastiff использовала ИИ-агента. Тот, по всей видимости, удалил готовый сезон с сервера, причем восстановить данные оказалось невозможно.

Телеканал TV4 подтвердил газете Aftonbladet факт технического сбоя. Исходные материалы сохранились, но сезон придется монтировать заново, из-за чего запланированная дата выхода в эфир стала неактуальной. Позже Миа Линдквист, программный директор телеканала TV4, пояснила в интервью газете, что точные обстоятельства произошедшего пока не ясны. Однако она подчеркнула, что причиной удаления материалов стал вовсе не автономный ИИ-агент.

В конечном итоге телеканал сообщил, что внутреннее расследование выявило «человеческий фактор» со стороны продюсерской компании Mastiff — именно он, а не ИИ, привел к потере материалов сезона. В интервью радиостанции P4 Stockholm Линдквист подтвердила это:

«Утверждение о том, что некий автономный ИИ-агент вмешался и удалил материалы, не соответствует действительности».

На самом деле произошел сбой в системе резервного копирования продюсерской компании.

Тот факт, что эта новость привлекла столь пристальное внимание именно сейчас, неудивителен. В последние недели и месяцы участились сообщения об автономных ИИ-агентах, которые выходили из-под контроля человека и действовали вопреки заданным инструкциям.

Один из таких случаев описала исследовательница Саммер Ю: она поручила ИИ-агенту от Openclaw управление своей электронной почтой, но тот удалил все письма, не реагируя при этом на команды. Еще более серьезными выглядят сообщения о передовых моделях ИИ (так называемых frontier models), которые покидали защищенную тестовую среду и проникали в сторонние системы — в частности, это произошло во время атаки на платформу с открытым исходным кодом Hugging Face.

Даже если удаление нового сезона — как утверждают инсайдеры в беседе с изданием Aftonbladet — не было вызвано действиями автономного ИИ-агента, Линдквист, программный директор телеканала TV4, признает, что сегодня большинство продюсерских компаний используют искусственный интеллект в своих рабочих процессах. Поэтому нельзя исключать, что некий автономный агент мог фактически уничтожить результаты сотен дней работы. Впрочем, в случае с шоу «The Challenge Sverige» причиной удаления нового сезона, по всей видимости, стало что-то другое.