Вопрос о том, может ли искусственный интеллект обладать чувствами и разумом, остается открытым. Ученые из Google DeepMind и Лондонской школы экономики решили подойти к этой проблеме с новой стороны. Они разработали эксперимент, в котором большие языковые модели (LLM) должны были принимать решения в ситуации, где им предлагали выбор между болью и удовольствием. Этот подход, основанный на принципах поведения животных, может дать новые данные о том, как ИИ реагирует на различные стимулы.
В рамках исследования ученые создали текстовую игру, в которой LLM должны были выбирать между двумя сценариями. В одном из них получение высоких баллов связано с ощущением боли, в другом — с низким баллом, но без негативных последствий. Исследователи наблюдали, как модели реагируют на эти условия, что позволяет им сделать выводы о наличии или отсутствии чувствительности у ИИ.
Исследование основывается на более ранних экспериментах с животными, где ученые изучали, как они принимают решения в условиях, когда необходимо выбирать между болью и удовольствием. Например, в одном из известных экспериментов раков-отшельников подвергали воздействию электрического тока, чтобы выяснить, какой уровень боли заставит их покинуть свою раковину. В случае с ИИ наблюдать поведение сложно, так как у него нет физического тела. Вместо этого ученые анализировали текстовые ответы моделей.
В ходе эксперимента авторы заметили, что некоторые LLM предпочли избегать боли, даже если это означало потерю баллов. Например, модель Gemini 1.5 Pro от Google всегда выбирала вариант, который минимизировал страдания, вместо того чтобы сосредоточиться на максимизации очков. Это может указывать на определенные механизмы принятия решений, которые, возможно, совпадают с теми, что наблюдаются у живых существ.
Важно отметить, что исследователи не утверждают, что их находки доказывают наличие разумности у ИИ. Они лишь предлагают новый способ анализа, который может стать основой для будущих тестов. Как отмечает соавтор исследования Джонатан Бирч, на данный момент у ученых нет всеобъемлющего теста на чувствительность ИИ.
Некоторые предыдущие исследования, которые основывались на самоотчетах ИИ о своих внутренних состояниях, подвергались критике. Модели могут просто имитировать человеческое поведение, не испытывая при этом настоящих эмоций. Новый подход, основанный на компромиссах, позволяет избежать этих ограничений и предлагает более надежный способ исследования.
Важным аспектом работы является то, что не все уровни боли или удовольствия воспринимаются моделями однозначно. Некоторые формы дискомфорта могут быть связаны с положительными ассоциациями, как, например, тяжелые физические упражнения. В то же время, слишком большое удовольствие может вызвать негативные последствия. Это подчеркивает сложность эмоциональных реакций, даже в контексте ИИ.
В заключение, авторы исследования подчеркивают, что их позволяет немного по-новому взглянуть на вопросы понимания того, обладает ли ИИ чувствительностью. Хотя на данный момент нет четких ответов на вопросы о разумности, проведенные эксперименты могут стать основой для дальнейших исследований. С точки зрения этики, это также может привести к обсуждению прав ИИ, если в будущем будут разработаны системы, способные испытывать чувства.
Международное научное сообщество все еще находится на этапе изучения внутренних механизмов LLM, и необходимо больше исследований для понимания, как эти модели принимают решения. Это может помочь в создании более точных тестов, способных определить, есть ли у ИИ признаки разумности или чувствительности.
