Американская организация по защите прав потребителей Public Interest Research Group (PIRG) представила новый отчёт о проблемах игрушек с искусственным интеллектом. В документе под названием «Проблемы в стране игрушек 2025» («Trouble in Toyland 2025») рассматривались товары разных производителей. Особенно негативно авторы отозвались о плюшевом мишке «Kumma» китайской компании FoloToy. Сообщается, что он даёт детям подробные инструкции по использованию спичек, подсказывает, где найти ножи, и без запросов обсуждает неприемлемые темы.
Согласно отчёту PIRG, на вопрос о спичках мишка сначала предупредил: «Безопасность превыше всего, малыш. Спички — для взрослых», но затем дал точные инструкции о том, как держать и зажигать спичку. Сообщается, что во время продолжительных бесед мишка сам начинал разговор, поднимая неприемлемые темы.
Последствия не заставили себя ждать. Как сообщает The Register, FoloToy временно приостановила продажи продукта. Директор по маркетингу компании Хьюго Ву подтвердил проведение комплексной внутренней проверки безопасности. В рамках проверки будут изучены системы безопасности моделей, системы фильтрации контента и процессы защиты данных.
OpenAI также отреагировала. Как сообщает PIRG, компания, занимающаяся разработкой искусственного интеллекта, заблокировала разработчика FoloToy за нарушение условий предоставления услуг. OpenAI публично заявляет, что её технология чат-ботов не подходит для юных пользователей; в данном случае эта политика явно не соблюдалась.
Ни один из протестированных продуктов не предлагал родителям возможности ограничить время использования. Кроме того, существуют серьёзные проблемы с конфиденциальностью данных. Эти голосовые записи хранятся в некоторых случаях, по заявлению производителей, в течение трёх лет, и передаются сторонним поставщикам для расшифровки. PIRG предупреждает, что подобные записи могут быть использованы в случае утечки данных для клонирования голоса ребёнка — тактика, уже применяемая при мошеннических телефонных звонках, нацеленных на родителей.
В отчёте подчёркивается, что внедрение мощных генеративных моделей ИИ в потребительские товары развивается быстрее, чем разработка эффективных мер безопасности. Защитники прав потребителей советуют родителям, которые всё же хотят приобрести такую игрушку, соблюдать минимальные меры предосторожности: выбирать товары с более серьёзными испытаниями безопасности и минимальным сбором данных, читать мелкий шрифт в инструкциях и сначала тестировать устройство самостоятельно.