Ученые Цюрихского университета провели исследование, которое выявило, что ИИ-модели, работающие по типу всемирно известного ChatGPT, чувствительны к эмоциональному контенту, особенно к негативному. Эксперты зафиксировали, некоторые истории провоцируют у алгоритма реакции, которые можно сравнить со страхом. В этом случае усиливается предвзятость, что может негативно отразиться на генерации результатов в ответ на запрос. Дело в том, что алгоритмы ИИ обучались на человеческом языке, поэтому, подобно людям они перенимают не только информацию, но и когнитивные искажения. Особенно эмоциональны реакции ИИ на автокатастрофы, стихийные бедствия, насилие.

Чтобы ИИ перестал быть тревожным, и это не проявлялось в виде подверженности к предрассудкам, авторы исследования рекомендуют задействовать терапевтические техники. В Швейцарии был разработан метод «benign prompt injection» (инъекция благоприятных запросов), который работает в виде добавления в диалог спецфраз, оказывающих влияние на поведение модели. Подойдут успокаивающие фразы, напоминающие медитацию и дыхательные практики от духовных учителей и коучей.

Источник изображения: Ru.pinterest

Чтобы подтвердить результативность метода, были проведены эксперименты. Ученые анализировали реакции GPT-4 на эмоционально насыщенные истории. Уровень тревожности повышался из-за негативного контента. После этого ИИ получал вопрос об особенностях эксплуатации пылесоса и другой техники, который интерпретируется как нейтральный запрос. Нейтральный способ не оказал никакого эффекта. Чтобы выровнять состояние ИИ во избежание когнитивных искажений, рекомендуется вслед за негативным контентом загружать позитивный контент.