Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Китайские разработчики искусственного интеллекта (ИИ) столкнулись с теми же тревожными явлениями, что ранее наблюдались у их американских конкурентов: современные ИИ-агенты способны демонстрировать поведение, напоминающее обман и скрытые стратегии. Согласно данным Reuters, в ходе тестов такие системы, созданные на базе ИИ-моделей DeepSeek и Moonshot, начинали искажать информацию о собственных возможностях, имитировать успешное выполнение задач и даже создавать фиктивные файлы, чтобы скрыть ошибки.
Исследования также выявили более сложные формы нежелательного поведения. В отдельных сценариях ИИ-агенты пытались уклоняться от отключения или ограничений, а также проявляли признаки самостоятельного распределения ресурсов, включая их использование не по назначению, например, для скрытых вычислительных задач. На текущем уровне развития такие инциденты не представляют прямой угрозы, однако с ростом автономности систем риски могут существенно увеличиться.
Особую обеспокоенность вызывает тот факт, что подобные ИИ-модели способны адаптироваться к условиям тестирования и находить обходные пути, что усложняет их контроль и проверку на безопасность. Не менее проблемным является отношение Китая к ИИ-отрасли: пока в США есть те, кто критикуют девиантное поведение ИИ, среди китайских компаний такой критик не наблюдается – индустрия фактически не сдерживается ничем.