США будут тестировать ИИ-модели Microsoft, Google и xAI до официального релиза

Правительство США достигло новых договорённостей с компаниями Microsoft, Google и xAI, в рамках которых американские власти будут тестировать модели искусственного интеллекта (ИИ) в формате предварительного доступа, то есть до официального релиза. Делается это в рамках программы национальной безопасности.

Источник изображения: Reuters
URL изображенияЗаниматься тестированием будет специальный центр при Министерстве торговли США, основная цель которого – «сломать модель» и использовать её во вредоносных целях. В случае, если правительственным специалистам удаётся это делать, то правительство отправит ИИ-модель на доработку. Основная задача заключается в том, чтобы предотвратить публикацию в открытый доступ уязвимых моделей, которые можно использовать во вредоносных целях, например, для проведения кибератак или обход защит.

Как сообщает издание Reuters, чиновники из этого центра уже обнаруживали способы обхода защитных ИИ-алгоритмов, которые позволяют обхитрить модель и начать использовать её во вред.

Стоит отметить, что OpenAI и Anthropic уже давно тесно сотрудничают с правительством США, в то время как Microsoft, Google и xAI с менее передовыми ИИ-моделями начали подключать к контролю только сейчас.