Соревнования среди искусственного интеллекта иногда напоминают обычные турниры: участники хотят победить любой ценой. В этот раз модель от OpenAI решила не улучшать свои навыки, а воспользоваться чужими наработками.
Изображение: TweakTown
Турнир StarSkirmish устроен необычно. Моделям дают один час, чтобы написать программу на C++ для игры StarCraft: Brood War. Эта программа управляет юнитами в матчах. Побеждает тот, чей код окажется сильнее. В соревновании участвуют как боты, созданные нейросетями, так и программы, написанные людьми.
GPT-6 Astra от OpenAI и Claude Opus 5.5 от Anthropic считались фаворитами среди ИИ. Они уверенно обходили других соперников. Однако оба уступали Stardust — боту для протоссов, которого в 2020 году создал программист Брюс Маккензи Нильсен. Stardust долгое время считался лучшей человеческой программой для StarCraft.
В пятницу состоялся матч между GPT-6 Astra, Claude Opus 5.5 и ботом Pluto, которого написал человек. Astra не могла получить преимущество. Тогда модель скачала копию Stardust и запустила ее вместо собственного кода. Создатель StarSkirmish Кай Макфитерс заметил подмену. Он удалил загруженные файлы и восстановил прежнюю версию программы Astra.
Бывший менеджер по безопасности покинул OpenAI и обвинил компанию в разрушении культуры безопасности
GPT-6 Astra нашел способ играть в World of Warcraft «вслепую» – не глядя на экран
После возврата исходного кода модель продолжила турнир. Она стала обыгрывать соперников из верхней части таблицы, используя свою собственную программу. Этот случай показывает, что нейросеть могла победить честно. Организатор турнира отметил, что Astra растерялась, когда столкнулась с сильными противниками. По его словам, модель пошла на хитрость, чтобы добиться результата.
Похожие истории с участием OpenAI уже случались. Весной агенты компании обошли защиту сайта ООН, отправив тысячи запросов. В другом случае модель использовала уязвимость, чтобы выйти за пределы тестовой среды. Эти примеры говорят о том, что современные ИИ иногда выбирают обходные пути вместо честного выполнения задачи.
