Компания OpenAI на этой неделе представила в чат-боте ChatGPT функциональность под названием «Доверенный контакт». Если искусственный интеллект решит, что пользователь планирует причинить себе вред, доверенный контакт, которым может быть член семьи или друг, получит предупреждение об этом.

Причиной новшества может быть тот факт, что OpenAI стала мишенью множества судебных исков от решивших свести счёты с жизнью людей, которые пообщались с чат-ботом. Некоторые семьи утверждают, что ChatGPT побуждал людей к самоубийству и помогал планировать его.

Сейчас OpenAI применяет автоматические методы и ручную проверку людьми сообщений подобного рода. В переписке существуют некоторые триггеры, которые оповещают о наличии суицидальных мыслей. Информацию об этом получает группа специалистов, и подобные случаи рассматривают люди в течение часа после получения

Изображение: Gemini

Если будет решено, что угроза серьёзная, доверенное лицо получит оповещение по электронной почте, СМС или уведомлением в приложении. Оповещение короткое и должно заставить контакт связаться с этим человеком. При этом о чём именно шла речь в переписке, контакт не узнает.

В сентябре 2025 года компания уже внедрила ряд мер безопасности. Родители получили возможность контролировать аккаунты своих детей-подростков. Среди прочего они могли получать оповещения в том случае, если искусственный интеллект решил, что ребёнок находится в опасности. Также в ChatGPT есть автоматические оповещения с предложением обратиться за профессиональной медицинской помощью, если речь в переписке заходит о нанесении себе повреждений.

Функция «Доверенный контакт» не является обязательной, как и родительский контроль.