Американская технологическая компания Anthropic сотрудничает с Accenture, консалтинговой компанией в области управления и технологий, для проверки безопасности своих передовых моделей искусственного интеллекта (ИИ) путём внедрения экспертов-оценщиков из этой консалтинговой фирмы непосредственно в свою операционную деятельность. Об этом сообщает Bloomberg.

Фото: Gabby Jones/Bloomberg

В сообщении Anthropic в блоге указано, что специалисты Accenture проведут проверку новейших моделей лаборатории ИИ на соответствие требованиям безопасности, а также оценят, соответствуют ли разработанные технологии целям человека. Эксперты сторонней компании получат уровень внутреннего доступа, аналогичный тому, что имеется у сотрудников Anthropic.

Как сообщила Anthropic, обе компании, Anthropic и Accenture, которые уже сотрудничают и планируют инвестировать не менее одного миллиарда долларов в развитие потенциала в этой области.

Ранее Дарио Амодеи, генеральный директор Anthropic, в своём сообщении затронул растущие опасения по поводу рисков безопасности передовых моделей ИИ. Он также призвал к замедлению темпов разработки технологии и заявил, что он внедрит новые меры безопасности в компании, такие как привлечение сторонних экспертов для оценки новых продуктов.

Согласно информации компании Accenture, её специалисты, работающие по системе встроенного оценивания, будут внимательно отслеживать эволюцию моделей ИИ в процессе обучения и наблюдать за процессом принятия решений в ходе разработки Anthropic своей технологии.

«С этой точки зрения, специалисты по оценке, работающие непосредственно в компании, могут оценить, как она функционирует, убедиться в соблюдении ею обязательств в области безопасности и выявить «слепые зоны». Они также могут сообщать об инцидентах и предоставлять общественности более полную информацию о преимуществах и рисках», – заявили в Anthropic.

Согласно данным Bloomberg, в прошлом году Accenture и Anthropic заключили многолетнее партнёрское соглашение с целью внедрения ИИ в компаниях. Была сформирована группа из 30 000 человек для обучения работе с Claude, чтобы они могли помогать масштабировать системы на основе ИИ для клиентов. А в марте этого года Accenture анонсировала Cyber.AI – решение в области безопасности, работающее на основе модели ИИ Claude от Anthropic.

Агентство отмечает, что партнёрство с Accenture может стать причиной определённого скептицизма, учитывая тесные связи Accenture с крупными стартапами в области ИИ. Ранее консалтинговый гигант прогнозировал, что в следующем году объём его работы с ключевыми партнерами в сфере ИИ, такими как Anthropic, OpenAI и Palantir, увеличится более чем в два раза.

В последние несколько дней главы многих технологических компаний в сфере ИИ, включая Дарио Амодеи и генерального директора OpenAI Сэма Альтмана, призывали замедлить темпы развития технологии, чтобы справиться с её все более непредсказуемыми рисками. При этом мнения руководителей относительно того, как именно следует поступать, расходятся. В частности, Амодеи предложил компаниям привлечь независимых экспертов для контроля за разработками.