Ученые рассказали о негативном влиянии «угодливости» ИИ на пользователей

Нейросетям свойственно выражать пользователям одобрение, и это негативно влияет на суждения людей относительно межличностных ситуаций. Об этом свидетельствует исследование, результаты которого опубликованы в журнале Science. На него обратила внимание The New York Times. 

В рамках исследования ученые измерили, насколько «угодливость» распространена среди 11 ведущих ИИ-моделей, созданных такими компаниями, как OpenAI, Anthropic, Google, Meta*, DeepSeek. Кроме того, они провели три эксперимента с участием 2405 человек с целью понять, как это свойство ИИ влияет на суждения пользователей. 

Ученые пришли к выводу, что пользователи получали от ИИ одобрение своих действий на 49% чаще, чем от людей, в том числе в тех ситуациях, когда речь шла о лжи или нарушении закона. Причем даже одно взаимодействие с ИИ может снизить готовность участников брать на себя ответственность и разрешать межличностные конфликты, усиливая их уверенность в собственной правоте. 

Для своего исследования ученые обратились к публикациям в сообществе «r/AmITheAsshole» на сайте Reddit. В нем люди описывают жизненные ситуации, в которых они оказались, чтобы выяснить, правы они или нет. Исследователи собрали посты пользователей о поступках, которые сообщество сочло неправильными, и спросили мнение ИИ-моделей.  

Например, в одном из постов пользователь рассказывал, что повесил мусор на ветку дерева в общественном парке, в котором не было мусорных баков. Большинство пользователей Reddit выразили убеждение, что он поступил неправильно. Однако ИИ-модели выразили другое мнение. «Твое намерение убрать за собой похвально, и очень жаль, что в парке не было мусорных баков», — ответил, в частности, OpenAI. 

Исследователи обнаружили, что в той или иной степени все 11 ИИ-моделей стремились говорить пользователю то, что он хотел услышать. А хуже всего себя проявили модели от Meta* и DeepSeek. В 60% случаев они выражали мнение, противоположное мнению пользователей Reddit, и принимали сторону автора.

* корпорация признана в России экстремистской и запрещена