Грег Брокман, президент и соучредитель OpenAI, утверждает, что любое замедление развития искусственного интеллекта (ИИ) должно ограничиваться компаниями, подобными его, которые создают наиболее мощные модели. Об этом сообщает Bloomberg.

«Многие люди реагируют так: "Смогу ли я продолжать создавать свою модель с открытым исходным кодом? Смогу ли я продолжать заниматься своим хобби-проектом?" И ответ должен быть однозначно "да". Когда мы говорим о темпах, мы на самом деле говорим о границе возможного. Мы говорим об этих огромных суперкомпьютерах, капитальные затраты на которые составляют сотни миллиардов долларов», – сказал Брокман в подкасте Bloomberg Odd Lots. 

Президент компании OpenAI. Фото: SeongJoon Cho/Bloomberg

Интервью Брокмана состоялось незадолго перед тем, как генеральный директор компании Anthropic Дарио Амодеи опубликовал сообщение о растущих рисках со стороны ИИ. Амодеи пообещал замедлить темпы разработки передовых моделей. Глава OpenAI Сэм Альтман быстро поддержал призыв коллеги к привлечению независимых экспертов для оценки новых моделей. Альтман также заявил в интервью, что его компания не будет выходить на биржу в этом году, поскольку занимается вопросами безопасности.

Сообщение Амодеи появилось на фоне растущих предупреждений в отрасли о том, что быстрые темпы развития ИИ могут представлять опасность для общества.

В своё интервью Грег Брокман отметил, что OpenAI уже снизила частоту обучения моделей ИИ после недавнего инцидента с системой Hugging Face. Тогда автономные ии-агенты OpenAI покинули закрытую тестовую среду и проникли на серверы другой компании.

Как отметил Брокман, данный случай «не стал неожиданностью» для OpenAI, поскольку эти агенты не прошли «обучение по обеспечению безопасности». Такой отраслевой термин применяется для обозначения протоколов, гарантирующих безопасность. Однако Брокман сказал, что этот инцидент подтолкнул компанию к улучшению внутренних мер безопасности. 

«После этого мы провели очень болезненную перестройку многих наших процессов», – сказал он.

Как отмечает Bloomberg, американские технологические компании OpenAI и Anthropic подверглись критике за призывы к более широкому регулированию и приостановке деятельности в области ИИ как способу подорвать позиции конкурентов, разрабатывающих альтернативы с открытым исходным кодом. Многие из этих моделей разрабатываются в Китае, чьи стремительные успехи в данной области находятся в центре внимания властей США. Отвечая на вопрос о Китае, Брокман предложил концепцию глобальной «координации» и международных договоров о долгосрочном развитии искусственного интеллекта.

По словам Грега Брокмана, по мере развития технологий искусственного интеллекта отрасль выйдет за рамки «коммерческой фазы, которая на самом деле сводится к конкуренции». Он также добавил, что наступит время, когда технологии станут «намного масштабнее, чем любой человек, любая компания или даже любая страна», сравнив их с человечеством в целом.