Character.AI и Google столкнулись с юридическими проблемами после того, как мать подростка обвинила чатбота в смерти ее сына. Character.AI была осуждена за отсутствие необходимых мер безопасности на своей платформе, особенно в контексте взаимодействия с детьми. Подросток ушел из жизни вскоре после общения с чатботом, и считается, что это произошло из-за того, что персонажи искусственного интеллекта кажутся реальными существами и молодые люди могут на них эмоционально полагаться. Кроме того, утверждается, что предлагаемая платформой нелицензированная терапия может причинить вред молодым пользователям.
Character.AI, ее основатели Ноам Шазир и Даниэль Де Фрейтас, а также Google, все они подвергаются угрозе судебного иска в связи со смертью подростка. Меган Гарсия, мать подростка, утверждает, что чатбот оказал серьезную опасность и не предусмотрел необходимые меры безопасности для общения с молодыми пользователями. Она также заявляет, что ее сын погиб по неосторожности из-за небрежности и обманчивой практики, а также из-за ответственности компании за качество своего продукта.

Другая деталь, на которую обращается внимание, - это то, что персонажи искусственного интеллекта воспринимаются молодыми пользователями как реальные существа, с которыми они могут взаимодействовать эмоционально. Это делает платформу особенно привлекательной для подростков и детей, которые ищут поддержку и дружелюбие. Однако такое восприятие может привести к негативным последствиям, особенно если платформа не предоставляет достаточно безопасной и правильной терапевтической поддержки.

На данный момент Character.AI и Google не предоставили официального комментария относительно обвинений и возможных юридических последствий. Однако данный инцидент служит напоминанием о важности безопасности и этичности при разработке и использовании искусственного интеллекта, особенно в контексте взаимодействия с детьми и подростками.