Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Генеральный директор компании Anthropic Дарио Амодеи (Dario Amodei) выступил с призывом к ведущим разработчикам искусственного интеллекта (ИИ) замедлить темпы создания новых ИИ-моделей. В опубликованном заявлении он подчеркнул, что индустрия должна сознательно «сбавить скорость» развития, чтобы дать больше времени на управление рисками и внедрение механизмов безопасности.
На этом фоне Амодеи предложил трёхступенчатый план: внедрение независимых аудиторов внутри компаний, координацию стандартов безопасности между разработчиками и расширение международного сотрудничества. Заявление получило поддержку со стороны других лидеров отрасли, включая генерального директора OpenAI Сэма Альтмана и предпринимателя Илона Маска. Они согласились, что без скоординированных мер развитие ИИ может опередить возможности общества по его контролю.
По оценкам экспертов, на которых ссылается Reuters, уже в ближайшие 6-12 месяцев системы могут достичь уровня, при котором станут способны к сложным автономным действиям, включая масштабные кибероперации. Несмотря на призывы к осторожности, Амодеи обознчил, что речь не идёт о полной остановке прогресса. Основная задача – «синхронизировать» технологическое развитие с мерами безопасности, чтобы избежать потенциально катастрофических последствий. При этом он отметил и геополитический фактор: замедление в демократических странах не должно привести к технологическому отставанию от других держав. Причём последнее, вероятно, станет препятствием для такой паузы.