Власти штата Флорида требуют через суд запретить OpenAI разрабатывать новые ИИ-модели

Власти штата Флорида обратились в суд с требованием временно запретить компании OpenAI создавать новые модели искусственного интеллекта (ИИ). Как сообщает Reuters, ходатайство подано в рамках уже существующего иска, в котором компанию обвиняют в нанесении вреда детям через её продукты, включая ChatGPT.

Источник изображения: Reuters
URL изображения Инициатором выступил генеральный прокурор штата Джеймс Утмайер. В своём заявлении он утверждает, что OpenAI не способна самостоятельно контролировать риски своих технологий и должна быть ограничена до тех пор, пока не появится внешний надзор и более жёсткие меры безопасности. Иск также включает дополнительные требования: ограничить доступ несовершеннолетних к ChatGPT и запретить системе использовать человекоподобное поведение, например, говорить от первого лица или имитировать эмоции, что, по мнению властей, может вводить пользователей в заблуждение и усиливать зависимость от ИИ.

Прокуратура Флориды уверждает, что чат-бот мог давать опасные советы. В ответ OpenAI заявила, что уже усиливает меры безопасности и приостановила обучение наиболее продвинутых ИИ-моделей до внедрения дополнительных защит. Компания также выразила готовность сотрудничать с регуляторами для выработки общих стандартов безопасности ИИ.