Генеральный прокурор штата Флорида Джеймс Утмайер подал первый иск подобного рода против компании OpenAI и её генерального директора Сэма Альтмана. Иск занимает 83 страницы, и в нём говорится, что компания при внедрении чат-бота ChatGPT игнорировала предупреждения о возможности причинения вреда детям и другим уязвимым категориям пользователей.
Проблема заключается в том, что подобные ChatGPT чат-боты выдают ответы на вопросы в человеческом стиле, подстраиваясь под манеру общения пользователя. Это может превратить приложение в компаньона детей и находящихся в кризисной ситуации людей, но механизмы защиты и родительский контроль здесь отсутствуют.
Представители штата Флориды говорят, что реальные случаи ущерба уже существуют. Отчасти иск основан на расследовании массовой стрельбы в университете штата Флорида в 2025 году. Предположительно, стрелок перед нападением пользовался ChatGPT.
В отличие от классических поисковых систем, большие языковые модели в ответ на одинаковые запросы каждый раз могут выдавать меняющиеся результаты в зависимости от формулировок. Это может затруднить внедрение механизмов защиты. Регулирующие органы должны принять решение относительно того, защищает ли подобная непредсказуемость результатов запросов разработчиков чат-ботов от ответственности или должна заставить их активнее внедрять более жёсткие меры защиты.