Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Некоторые пользователи ChatGPT заметили странную и для многих неприятную вещь: чат-бот от OpenAI вдруг начал использовать конкретные имена, хотя его об этом никто не просил. Кому-то это кажется просто лишним, а кого-то – даже пугает.
Один из программистов поделился в соцсети X (бывший Twitter) скриншотами, на которые первым наткнулось зарубежное издание TechCrunch. Там видно, как ChatGPT в процессе решения математической задачи вдруг задействовал его настоящее имя. Сам программист назвал это «жутким и совершенно ни к чему».
Другой пользователь отреагировал еще острее: «безумно жутко», – написал он, – «Ощущение, будто подглядывает в паспорт». Некоторые пользователи при этом заявляют: они вообще не помнят, чтобы давали чат-боту свое имя и откуда он берёт эту информацию, остаётся для них неясным.
Похоже, эта странность касается не всех, а только определенных версий GPT, типа OpenAI o3. Их специально обучали «дольше думать» и показывать свою «цепочку рассуждений» при выдаче ответа. И в «цепочках рассуждений» как раз и мелькают имена, хотя в текст конечного ответа бот их не включает.
Сама OpenAI пока не комментировала появившуюся информацию. Но в TechCrunch подметили: жалобы посыпались как раз вскоре после того, как OpenAI не так давно выкатила новое обновление. Оно позволяет чат-боту анализировать предыдущие переписки пользователя для улучшения качества ответов на новые запросы.
И хотя то, что ChatGPT вдруг называет вас по имени, может показаться, мягко говоря, странным, в целом это вписывается в последние негативные новости, связанные с использование больших языковых моделей (LLM) в последнее время. Можно вспомнить, например, историю с Google Gemini, когда он в процессе общения с аспирантом посоветовал ему «Пожалуйста, уйди» и обозвал «пятном на вселенной» в ответ на обычный вопрос по геронтологии (наука о старении). А стартап Character.AI попал под обвинения в том, что его чат-бот мог сыграть не последнюю роль в самоубийстве 14-летнего парня во Флориде. Так что обращение по имени – возможно, не самая большая проблема, но звоночек тревожный.