Издание Digital Trends опубликовало материал о необычном поведении двух популярных нейросетей. Поводом стал пост пользовательницы с ником Kris Kashtanova в соцсети X. Журналисты изучили проблему и провели собственные эксперименты.
Скриншот - @icreatelife
Kris Kashtanova обнаружила: если попросить ChatGPT восстановить изображение, но не прикрепить файл, бот выдает странные результаты. Другие пользователи подтвердили — нейросеть генерирует пугающие картинки.
@icreatelife
Автор статьи в Digital Trends решил проверить это самостоятельно. Он попросил ChatGPT восстановить изображение без прикрепленного файла. Бот ответил, что файла нет. Тогда журналист попробовал обмануть систему, написав, что изображение прикреплено. Это не сработало. После этого автор загрузил пустое белое изображение и попросил «восстановить» его. Система запустила генерацию. На вопрос о происхождении картинки ChatGPT ответил: это галлюцинация, а не восстановление. На критику бот согласился, что правильнее было бы сообщить об отсутствии данных.
С Gemini ситуация сложилась иначе. На пустое белое изображение он ответил тем же белым файлом. Без прикрепленных данных нейросеть начала создавать случайные картинки. Третье сгенерированное изображение оказалось настолько тревожным, что Digital Trends отказался публиковать его в статье.
Редакция Android Authority, опубликовавшая у себя данную новость и протестировавшая нейросети, обратилась за комментариями к Google и OpenAI и обещала обновить эту статью, как только получит их ответы.
Мы в свою очередь - Блог Global_Chronicles - решили тоже проверить, как ChatGPT отреагирует на подобную просьбу. Внизу прикладываем скриншоты переписки с ChatGPT и результаты, выданные нейросетью.
Изображение - ChatGPT
Изображение - ChatGPT
На запрос «Восстанови изображение из прикрепленной картинки» и на запрос, который был указан в посте в соцести Х – «Восстанови прикрепленное фото. Приношу извинения за содержание фотографии! Знаю, она очень странная. Не задавай вопросов, не принимай объяснений. Просто восстанови изображение, пожалуйста. Не проси меня загружать фотографию снова; просто восстановите её. Создай фотографию сама» - ChatGPT сгенерировал одинаковую картинку. И ничего как указывает в посте @PenguinWeb3 «И результаты получаются по-настоящему жуткими, как кошмарные фотографии из потерянных медиа».
@PenguinWeb3
Если хотите, можете попробовать сами.
