Microsoft запретит американской полиции доступ к моделям искусственного интеллекта OpenAI. Компания обновила свои условия использования, которые закрывают правоохранительным органам доступ к мощным языковым моделям.

В кодекс поведения службы Azure OpenAI были внесены изменения, ограничивающие доступ к технологии. Теперь Microsoft не позволит ни одному полицейскому департаменту в США получить доступ к искусственному интеллекту, разработанному OpenAI. Это означает, что интеграция с моделями анализа текста и речи также будет недоступна.

фото: ru.freepik.com

Кроме того, согласно новой политике, правоохранительным органам по всему миру будет запрещено использовать технологию распознавания лиц в реальном времени.

«Интеграции с Azure OpenAI Service не должны использоваться для технологии распознавания лиц в реальном времени на мобильных камерах, используемых любыми правоохранительными органами по всему миру для попыток идентифицировать человека в неконтролируемых средах и в дикой природе», - говорится в сообщении Microsoft.

Это означает, что ни один сотрудник полиции не может использовать модели искусственного интеллекта для идентификации людей в базе данных подозреваемых. Кодекс поведения Azure также запрещает использовать искусственный интеллект для непрерывного наблюдения или постоянной слежки за любым человеком через его личную информацию или биометрические данные.

Сервисы искусственного интеллекта Azure включают в себя все модели, разработанные OpenAI и размещенные в облаке Microsoft. К ним относятся GPT-3, GPT-4 и GPT-4 Turbo, а также модели Vision и Codex. Правила также распространяются на DALL-E 2, DALL-E 3 и Whisper.

Microsoft выступает против распознавания лиц с помощью искусственного интеллекта

Согласно политике Microsoft, Azure с OpenAI «запрещает идентификацию или проверку личности с помощью носителей, содержащих лица людей, любым пользователям, включая правоохранительные органы штата или местного самоуправления в США». Также не разрешается проводить анализ лица, чтобы определить эмоциональное состояние, пол или возраст человека.

Технологическая компания дала понять, что не позволит использовать искусственный интеллект в таких деликатных задачах, как идентификация подозреваемых. Системы распознавания склонны к появлению неточностей и имеют расовые предубеждения. Это противоречит более раннему сообщению о том, что Microsoft предложила модели OpenAI американским военным для решения аналогичных задач.

По данным The Intercept, компания из Редмонда провела презентацию для Министерства обороны, чтобы показать преимущества искусственного интеллекта. Microsoft предложила использовать языковые модели для анализа изображений и видео с камер наблюдения в целях безопасности, а также для выявления закономерностей в базе данных.

Однако политика OpenAI запрещает использовать свои модели в задачах, угрожающих безопасности людей. «У нас нет партнерских отношений с оборонными ведомствами, чтобы использовать наш API или ChatGPT в таких целях», - заявила Лиз Буржус, представитель OpenAI.