Google планирует выпустить чат-бота на основе ИИ, ориентированного на юных пользователей

Google планирует сделать своего ИИ-чат-бота Gemini AI доступным для детей младше 13 лет. Как сообщает New York Times, на следующей неделе доступ будет открыт для семей, использующих Google Family Link (семейная служба родительского контроля, которая позволяет родителям настраивать параметры для устройств своих детей). Таким образом, Google расширяет пользовательскую базу Gemini и еще больше разжигает споры о фейковых новостях, дезинформации и защите детей.

Разработчики чат-ботов все больше ориентируются на молодую аудиторию. В таких приложениях, как Whatsapp и TikTok, молодые люди уже имеют возможность общаться с ботами на базе искусственного интеллекта. Официально эти социальные сети разрешены только лицам старше 13 лет, но на практике ими пользуются и более молодые пользователи. Теперь Google хочет пойти еще дальше и официально сделать Gemini доступным для детей младше 13 лет.

Это должно стать возможным со следующей недели через сервис Google Family Link. Эта служба позволяет родителям контролировать цифровую активность своих детей, например, разрешая или блокируя загрузку определенных приложений или устанавливая максимальное время использования гаджета. Говоря о защите детей, представитель Google сообщил New York Times, что Gemini включает дополнительные меры защиты для юных пользователей и что эти взаимодействия не используются для обучения моделей ИИ.

Открытие доступа молодежи к чат-ботам на основе искусственного интеллекта происходит в то время, когда потребление медиа молодыми людьми уже подвергается всё более критическому анализу. Согласно недавнему отчету Комиссии по защите прав несовершеннолетних в СМИ (KJM), количество жалоб на проблемный контент на таких платформах, как YouTube и TikTok, значительно возросло. Часто это касается политически экстремистского, дискриминационного или антидемократического контента. Чат-боты, многие из которых обучаются с использованием именно таких общедоступных данных, могут еще больше усилить эти проблемные тенденции.

Особенно это касается молодых пользователей, которым сложно контролировать, как используются системы ИИ и какой контент генерируется. Крупные технологические компании неоднократно подвергались критике за неадекватные механизмы фильтрации. 

Эксперты также указывают на опасность так называемых галлюцинаций в системах искусственного интеллекта — ложных или придуманных ответов, которые часто представляются с большой достоверностью. Кроме того, использование чат-ботов на основе искусственного интеллекта может негативно повлиять на развитие эмпатии и социальных навыков у детей. Например, ЮНЕСКО предостерегает от нерегулируемого использования генеративного ИИ в образовании. В своем отчете организация призывает к соблюдению этических норм, всеобъемлющим правилам защиты данных.