Anthropic призывает приостановить развитие ИИ, предупреждая о последствиях потери контроля

☰

︎

Компания хоть и является лидером в ИИ-направлении, но изначально придерживалась принципа контроля

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания Anthropic, закрепившая за собой статус крупнейшего разработчика искусственного интеллекта (ИИ), призывает другие ИИ-лаборатории рассмотреть возможность скоординированной приостановки разработки ИИ. Руководство компании предупреждает, что стремительный прогресс в этой технологии вскоре может позволить системам ИИ совершенствоваться быстрее, чем общество сможет справиться с рисками.

Источник изображения: Reuters
URL изображения По их мнению, если ИИ-системы способны самостоятельно создавать себе преемников, то способы обеспечения их безопасности, мониторинга и формирования их поведения приобретают гораздо большее значение. При этом они отмечают, что самосовершенствование ИИ неизбежно, но необходимо взять паузу, чтобы притормозить этот сценарий.

Опасение Anthropic, создавшей ИИ-модель Mythos, которая напугала сотни компаний по всему миру, обусловлены тем, что её продукты уже самостоятельно выполняют свыше 80% задач по написанию кода. Однако компания не готова отдать лидерство в этом направлении собственноручно, в одностороннем порядке приостановив развитие ИИ, поэтому призывает к аналогичным мерам других гигантов.

Anthropic создавалась экс-сотрудниками OpenAI, которые сочли, что стартап теряет контроль над ИИ. Впоследствии бывшие инженеры OpenAI обогнали ИИ-модели GPT по темпам развития.

Перейти к полной версии Комментарии 0