Сотрудник Anthropic, занимавшийся предварительным обучением ИИ-моделей, уволился и публично предупредил о смертельной опасности, которую несет гонка технологических корпораций. Его заявление поддержал коллега, оценивший вероятность катастрофы от ИИ в ближайшие десять лет более чем в 10%.

Изображение: WCCFTech

Джейкоб Коксон, проработавший три года в OpenAI и Anthropic, написал в соцсети X, что ни OpenAI, ни Anthropic не действуют ответственно. Он заявил, что обе компании мчатся к созданию самоулучшающегося суперинтеллекта и играют с жизнями людей. По словам Коксона, топ-менеджеры и старшие специалисты на публике смягчают формулировки, но в частных беседах выражают те же опасения.

Коксон призвал коллег открыто высказываться и предложил ввести временный запрет на улучшение возможностей ИИ-моделей. Он считает, что только так можно сдвинуть ситуацию в сторону международной координации и контроля безопасности. «Я не чувствую, что мы на пути к предотвращению глобальной гонки», — написал он.

Заявление Коксона поддержал ведущий специалист Anthropic по согласованию систем Эван Хабингер. В своtм сообщении он признал, что компания пока не имеет плана по согласованию суперинтеллекта и не находится на пути к решению этой проблемы. «Джейкоб прав — мы действительно искренне верим, что ИИ может уничтожить всех людей! Я лично считаю, что вероятность этого превышает 10% в ближайшее десятилетие», — написал Хабингер.