Компания Anthropic объявила о масштабном партнёрстве с консалтинговым гигантом Accenture, в рамках которого стороны инвестируют не менее двух миллиардов долларов в развитие систем оценки и безопасности искусственного интеллекта (ИИ). Инициатива рассчитана на ближайшие пять лет и направлена на создание независимой инфраструктуры тестирования передовых моделей ИИ.
Источник изображения: Reuters
URL изображенияКлючевым элементом сотрудничества станет концепция так называемой «встроенной оценки», при которой независимые эксперты будут работать непосредственно внутри компаний-разработчиков ИИ. Это позволит им получать доступ к внутренним процессам и данным на уровне сотрудников, выявляя потенциальные уязвимости и «слепые зоны» в системах безопасности.
Accenture, специализирующееся на ИИ, займётся проведение стресс-тестов и анализом соответствия ИИ-моделей заявленным стандартам безопасности. Общий объём инвестиций, как уже было упомянуто, составляет 2 миллиарда долларов, то есть обе компании направят по 1 миллиарду долларов.
Поводом для такого шага стали растущие опасения в индустрии после ряда инцидентов, когда автономные системы демонстрировали непредсказуемое поведение и выходили за рамки ожидаемых сценариев.
