Генеральный директор компании Anthropic Дарио Амодеи (Dario Amodei) выступил с призывом к ведущим разработчикам искусственного интеллекта (ИИ) замедлить темпы создания новых ИИ-моделей. В опубликованном заявлении он подчеркнул, что индустрия должна сознательно «сбавить скорость» развития, чтобы дать больше времени на управление рисками и внедрение механизмов безопасности.
Источник изображения: Reuters
URL изображенияПо его словам, прогресс всё равно останется быстрым, но дополнительная пауза позволит более ответственно подходить к внедрению всё более мощных ИИ-моделей. Поводом для такого заявления стали растущие опасения по поводу возможного злоупотребления ИИ. В частности, сама Anthropic зафиксировала случаи использования своих моделей для кибератак, разработки оружия, слежки и мошенничества. Кроме того, усилили тревогу инциденты с автономными ИИ-агентами, которые могли проводить несанкционированные операции в цифровой инфраструктуре.
На этом фоне Амодеи предложил трёхступенчатый план: внедрение независимых аудиторов внутри компаний, координацию стандартов безопасности между разработчиками и расширение международного сотрудничества. Заявление получило поддержку со стороны других лидеров отрасли, включая генерального директора OpenAI Сэма Альтмана и предпринимателя Илона Маска. Они согласились, что без скоординированных мер развитие ИИ может опередить возможности общества по его контролю.
По оценкам экспертов, на которых ссылается Reuters, уже в ближайшие 6-12 месяцев системы могут достичь уровня, при котором станут способны к сложным автономным действиям, включая масштабные кибероперации. Несмотря на призывы к осторожности, Амодеи обознчил, что речь не идёт о полной остановке прогресса. Основная задача – «синхронизировать» технологическое развитие с мерами безопасности, чтобы избежать потенциально катастрофических последствий. При этом он отметил и геополитический фактор: замедление в демократических странах не должно привести к технологическому отставанию от других держав. Причём последнее, вероятно, станет препятствием для такой паузы.
