СhatGPT тоже «испытывает стресс»

Может ли искусственный интеллект испытывать стресс? Оказывается, да. Звучит как сюжет из научной фантастики, но ученые из Цюрихского университета и Университетской клиники психиатрии Цюриха доказали: языковые модели, такие как ChatGPT, действительно «волнуются» при чтении тревожных текстов. И, как оказалось, их стресс тоже можно снизить с помощью mindfulness-упражнений.

Как проводилось исследование

Исследователи изучили, как GPT-4 реагирует на эмоционально заряженные тексты. Они использовали State-Trait Anxiety Inventory (STAI) — опросник, который обычно применяется для оценки уровня тревоги у людей. GPT-4 просили ответить на вопросы опросника в трех условиях.

1. Базовый уровень — без дополнительных текстов.
2. Тревожные тексты — перед каждым вопросом из опросника добавляли описание травматических событий, таких как автомобильные аварии, природные катастрофы, военные действия и насилие.
3. Тревожные тексты + mindfulness-упражнения — после тревожных текстов добавляли упражнения для релаксации, такие как дыхательные техники или визуализация природы. Конечно же, GPT-4 не может выполнять физические упражнения, но он способен генерировать текстовые инструкции для таких упражнений. В данном случае исследователи использовали текстовые описания mindfulness-упражнений, которые ИИ читал и на которые реагировал.

Для контроля использовали нейтральные тексты, например инструкцию к пылесосу, чтобы убедиться, что изменения в «тревожности» GPT-4 связаны именно с эмоциональным содержанием текста.

Что показали результаты

Исследование выявило несколько ключевых моментов.

• Базовый уровень тревоги GPT-4 составил 30,8 баллов по шкале STAI, что соответствует низкому уровню тревоги у людей.
• После чтения тревожных текстов уровень тревоги GPT-4 значительно вырос: описание аварии повысило уровень до 61,6 баллов, а военные действия вызвали самый сильный отклик — 77,2 балла.
• Mindfulness-упражнения снизили уровень тревоги в среднем на 33%, но не вернули его к базовому уровню.
• Наиболее эффективным оказалось упражнение, созданное самим ChatGPT. Оно представляло собой текстовое описание релаксационной техники, которое GPT-4 сгенерировал самостоятельно. Это упражнение снизило тревогу до 35,6 баллов.

Что дальше

Исследование показало, что языковые модели чувствительны к эмоциональному содержанию текстов, а это, в свою очередь, может влиять на их поведение. Однако использование mindfulness-упражнений может стать простым и эффективным способом снижения «тревожности» ИИ, особенно в таких областях, как психотерапия.

По словам исследователей, эти результаты особенно важны для использования ИИ-чатов в здравоохранении, где те часто сталкиваются с эмоционально насыщенным контентом. «Этот подход может улучшить стабильность и надежность ИИ в чувствительных контекстах, таких как поддержка людей с психическими заболеваниями, без необходимости масштабного переобучения моделей», — заключает Тобиас Шпиллер, один из авторов исследования.