Американская технологическая компания OpenAI приостанавливает выпуск новой версии своей модели Astra, пока разрабатывает более надежные меры защиты для создания искусственного интеллекта, отмечая повышенные риски после серии недавних инцидентов с несанкционированным взломом систем ИИ. Об этом сообщает Bloomberg.

Фото: SeongJoon Cho/Bloomberg

Согласно заявлению Саачи Джайна, руководителя отдела систем безопасности OpenAI, разрабатываемая модель GPT-6.1 Astra не так хороша, как хотелось бы компании, когда дело доходит до «соблюдения ограничений и разрешений, а также до того, как она сообщает пользователю о выполненной работе».

Bloomberg отмечает, что решение компании OpenAI отражает усиливающуюся дискуссию о необходимости замедлить развитие ИИ при одновременной оценке опасностей, связанных с этой технологией. Приостановка работ над моделью Astra является одним из наиболее конкретных действий, предпринятых после серии инцидентов, когда модели компании получали доступ к сторонним веб-сайтам без разрешения. Ранее OpenAI подробно изложила то, что она называет «кейсами безопасности для обучения ИИ», направленными на документирование рисков, связанных с новыми моделями.

Согласно заявлению компании-разработчика, это набор передовых практик, которые она намерена систематизировать в единый свод правил. Меры предосторожности должны включать в себя право высшего руководства накладывать вето на некоторые виды деятельности.

«Конечно, мы хотим убедиться в безопасности нашей модели независимо от того, разрабатывается ли она внутри компании или поставляется пользователям. Но когда мы поставляем её пользователям, мы предъявляем чрезвычайно высокие требования к безопасности и соответствию стандартам», – отметил Саачи Джайн.

На прошлой неделе OpenAI приостановила обучение своих наиболее мощных моделей после того, как другая модель ИИ получила доступ к интернету, хотя по это было невозможно. Тогда же компания-разработчик заявила, что решила не возобновлять обучение и этой модели, которая, получила доступ к интернету, а затем обратилась к внешнему чат-боту. Согласно сообщению OpenAI, модель Astra, выпуск которой был отменён, отличалась от той, что была описана на прошлой неделе.

Bloomberg отмечает, что ранее американская деловая газета The Wall Street Journal также сообщала о приостановке выпуска модели GPT-6.1 Astra.