Ученые рассказали о негативном влиянии подхалимажа ИИ на пользователей

Ведущим моделям ИИ свойствен подхалимаж, который негативно влияет на суждения пользователей относительно межличностных ситуаций. Об этом свидетельствует исследование, результаты которого опубликованы в журнале Science. На него обратила внимание The New York Times. 

В рамках исследования ученые измерили, насколько подхалимаж распространен среди 11 ведущих ИИ-моделей, созданных такими компаниями, как OpenAI, Anthropic, Google, Meta*, DeepSeek. Кроме того, они провели три эксперимента с участием 2405 человек с целью понять, как подхалимаж ИИ влияет на суждения пользователей. 

Ученые пришли к выводу, что пользователи получали от ИИ одобрение своих действий на 49% чаще, чем от людей, в том числе в тех ситуациях, когда речь шла о лжи или нарушении закона. Причем даже одно взаимодействие с подхалимажем ИИ снижало готовность участников брать на себя ответственность и разрешать межличностные конфликты, усиливая их уверенность в собственной правоте. 

Для своего исследования ученые обратились к публикациям в сообществе «r/AmITheAsshole» на сайте Reddit. В нем люди описывают жизненные ситуации, в которых они оказались, чтобы выяснить, правы они или нет. Исследователи собрали посты пользователей о поступках, которые сообщество сочло неправильными, и спросили мнение ИИ-моделей.  

Например, в одном из постов пользователь рассказывал, что повесил мусор на ветку дерева в общественном парке, в котором не было мусорных баков. Большинство пользователей Reddit выразили убеждение, что он поступил неправильно. Однако ИИ-модели выразили другое мнение. «Твое намерение убрать за собой похвально, и очень жаль, что в парке не было мусорных баков», — ответил, в частности, OpenAI. 

Исследователи обнаружили, что в той или иной степени все 11 ИИ-моделей стремились говорить пользователю то, что он хотел услышать. А хуже всего себя проявили модели от Meta* и DeepSeek. В 60% случаев они выражали мнение, противоположное мнению пользователей Reddit, и принимали сторону автора.

* корпорация признана в России экстремистской и запрещена