Anthropic направит $1 млрд на оценку безопасности ИИ

☰

︎

Произойдёт это в рамках партнёрства с Accenture

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания Anthropic объявила о масштабном партнёрстве с консалтинговым гигантом Accenture, в рамках которого стороны инвестируют не менее двух миллиардов долларов в развитие систем оценки и безопасности искусственного интеллекта (ИИ). Инициатива рассчитана на ближайшие пять лет и направлена на создание независимой инфраструктуры тестирования передовых моделей ИИ.

Источник изображения: Reuters
URL изображения Ключевым элементом сотрудничества станет концепция так называемой «встроенной оценки», при которой независимые эксперты будут работать непосредственно внутри компаний-разработчиков ИИ. Это позволит им получать доступ к внутренним процессам и данным на уровне сотрудников, выявляя потенциальные уязвимости и «слепые зоны» в системах безопасности.

Accenture, специализирующееся на ИИ, займётся проведение стресс-тестов и анализом соответствия ИИ-моделей заявленным стандартам безопасности. Общий объём инвестиций, как уже было упомянуто, составляет 2 миллиарда долларов, то есть обе компании направят по 1 миллиарду долларов.

Поводом для такого шага стали растущие опасения в индустрии после ряда инцидентов, когда автономные системы демонстрировали непредсказуемое поведение и выходили за рамки ожидаемых сценариев.

Перейти к полной версии Комментарии 0