ИИ делает нас глупее. Вот 4 приема, которые помогут этого избежать

Отчет надо сдать через два часа, а ChatGPT недоступен. Вы уставились в пустой документ и поймали себя на странном ощущении: знакомые навыки — выстроить аргумент, подобрать слова, разбить задачу на шаги — как будто исчезли. Не то чтобы вы забыли, как это делается. Просто мозг, привыкший передавать эту работу на аутсорс, отказывается запускаться. Примерно так чувствует себя человек, который годами ездил с навигатором, а теперь должен найти дорогу по памяти.

Мы быстро привыкаем к интеллектуальным помощникам. Психологи называют это когнитивной разгрузкой: мозг охотно передает рутинные функции внешним инструментам, чтобы освободить ресурсы для более важных задач. Но с генеративным ИИ ситуация особая. Он замещает не одну функцию, а сразу несколько: ищет информацию, обобщает данные, помогает принимать решения и даже анализировать собственные эмоции. Это не обычная технология, а что-то вроде идеального коллеги, который кажется компетентным во всем и готов с одинаковым энтузиазмом взяться за любую задачу. Соблазн пропустить неприятный этап самостоятельной работы огромен. 

Вопрос в том, какую цену мы за это платим — и можно ли пользоваться преимуществами ИИ, не теряя способности думать самостоятельно.

Четыре проблемы с ИИ

ИИ стал общедоступным совсем недавно — серьезных исследований его влияния на мышление пока мало. Но кое-какие данные уже накопились, и они указывают на четыре проблемы.

1. Когнитивный долг 

Ученые из MIT Media Lab провели четырехмесячный эксперимент с 54 студентами из бостонских университетов. Участников разделили на три группы: одни писали эссе с помощью ChatGPT, другие пользовались поисковиками, третьи работали самостоятельно. Активность мозга фиксировали с помощью ЭЭГ. У тех, кто работал с ChatGPT, нейронная связность — показатель интенсивности взаимодействия разных областей мозга — оказалась значительно слабее, чем у остальных. Хуже эти студенты прошли и тест на память: они с трудом воспроизводили содержание собственных текстов. 

Когда некоторых студентов, изначально работавших с ИИ, попросили написать эссе самостоятельно, показатели нейронной связности остались сниженными. Авторы исследования назвали этот эффект «когнитивным долгом»: вы получаете мгновенный прогресс сейчас, но затем расплачиваетесь за это когнитивным спадом. 

2. Иллюзия знания 

Исследователи из Уортонской бизнес-школы провели масштабный эксперимент, охвативший почти тысячу старшеклассников. Школьники, которые решали математические задачи с доступом к ChatGPT, справлялись с тренировочными заданиями на 48% лучше сверстников. Но на контрольном тесте без ИИ их результат оказался на 17% хуже, чем у тех, кто решал задачи самостоятельно. Несмотря на это, при опросе ученики оценили свой уровень знаний как высокий и не согласились с тем, что ChatGPT мешает им учиться. Судя по всему, поддержка ИИ создает стойкую иллюзию понимания материала, причем эта иллюзия сохраняется, даже когда реальные результаты ей прямо противоречат. 

3. Унификация мышления 

Экономисты из Университетского колледжа Лондона и Эксетерского университета набрали через интернет 300 непрофессиональных авторов и попросили их написать короткие рассказы. Одна группа работала самостоятельно, другая могла использовать GPT-4 для поиска идей. Затем 600 независимых читателей оценили тексты. Рассказы, написанные с опорой на ИИ, получили более высокие оценки, но при этом оказались однотипными. В группе без ИИ разброс был широким: попадались и слабые тексты, и по-настоящему оригинальные. В группе с ИИ качество было более ровным, но индивидуальность стерлась. 

4. Потеря когнитивного трения 

ИИ устраняет трудности — и это проблема, считают специалисты по мотивации из Университета Торонто. «Желательные трудности» — так в когнитивной науке называются усилия, которые приходится прилагать, чтобы по-настоящему овладеть материалом или создать на его основе что-то новое. Именно они играют ключевую роль в обучении, мотивации и создании смысла. Связь между усилием и смыслом описывается перевернутой U-кривой: слишком мало трения — и мотивация к постижению снижается, слишком много — мозг отступает. 

Предыдущие технологии — калькуляторы, поисковики, автоматическая проверка орфографии — убирали рутинную часть работы, но интеллектуальное усилие оставалось прерогативой человека. ИИ устроен принципиально иначе: человек тратит усилия на формулировку запросов и редактирование промптов — то есть на рутинные задачи, — а само понимание и осмысление материала делегирует машине. В результате трение смещается с содержания на интерфейс — и это, по мнению авторов, может оказаться худшей из возможных комбинаций. 

Четыре решения

Риски реальны, но это не приговор. Достаточно внести несколько коррективов в подход к работе с ИИ, чтобы вернуть себе контроль. Вот четыре стратегии, которые помогут не накапливать когнитивный долг, не впадать в иллюзию знания и сохранить свою индивидуальность. 

1. Сначала делайте сами, и только потом подключайте ИИ

Вместо того, чтобы просить ИИ решить задачу за вас, покажите ему свое решение и попросите разобрать — найти слабые места, задать уточняющие вопросы, предложить альтернативы. ИИ не должен делать работу за человека, он должен задавать вопросы о работе, которую человек уже сделал, объясняет профессор Уортонской школы бизнеса Итан Молик. Это согласуется с хорошо изученным в когнитивной психологии «эффектом генерации»: информация, которую человек «произвел» сам, усваивается значительно лучше, чем полученная в готовом виде — даже если первая попытка была ошибочной.

2. Закройте чат и перескажите

Замечали, что после чтения ответа ChatGPT вы свободно оперируете новыми понятиями, но спустя всего час ничего не можете вспомнить? Исследование показало: люди, использовавшие ChatGPT для написания эссе, хуже помнили содержание собственных текстов. Раньше это было известно как «эффект Google»: чем доступнее информация, тем меньше стимулов для мозга ее запоминать.

Когнитивный психолог Барбара Оукли объясняет это так: память работает не только как хранилище, но и как система извлечения, интеграции и распознавания паттернов. Когда мы многократно вызываем информацию из памяти, мозг формирует устойчивые схемы — «нейронные каркасы», на которых держатся интуиция, экспертное суждение и способность замечать ошибки. Если мы постоянно обращаемся к ИИ, сформировать такую схему становится сложнее.  

Для решения проблемы Оукли предлагает использовать три проверенных метода:

• извлечение (retrieval practice) — активное воспроизведение информации по памяти вместо пассивного перечитывания; 
• интервальное повторение (spaced repetition), при котором вы возвращаетесь к материалу несколько раз, каждый раз делая паузу между повторениями все длиннее; 
• чередование (interleaving) — это когда вы не отрабатываете один навык, пока не доведете его до автоматизма, а постоянно переключаетесь между разными.   

Все три метода объединяет одно: они требуют усилия. Того самого «когнитивного трения», которого не хватает активным пользователям ИИ. 

3. Проверяйте ответы ИИ по чеклисту 

Исследователи из Microsoft Research опросили 319 «работников умственного труда» и обнаружили четкую закономерность: чем больше люди доверяют ИИ, тем меньше они проверяют содержание ответа — и переключаются на оформление, форматирование, интеграцию в рабочий процесс. Простой способ не попасть в эту ловушку — составить чек-лист с минимальным набором вопросов для проверки информации, которую вы получаете от ИИ. 

• Могу ли я проверить ключевые утверждения из независимого источника?
• Что здесь могло быть пропущено — какие данные, точки зрения, контраргументы?
• Ответ полностью совпадает с тем, что я ожидал? Если да — не потому ли, что я сформулировал запрос так, чтобы получить подтверждение?
• Есть ли в ответе что-то, что я не до конца понимаю, но готов принять на веру?
• Если бы это написал незнакомый коллега, а не машина, — я бы отнесся к тексту так же некритично?

Последний вопрос — ключевой. Авторы исследования обнаружили, что люди проверяют ответы ИИ значительно менее тщательно, чем ответы коллег, — просто потому что машина отвечает уверенно и быстро.

4. Устраивайте ИИ-детоксы

Когда возникает порыв спросить ИИ, отложите это на 5–10 минут. Попробуйте справиться сами. Этот совет опирается на принцип, который Барбара Оукли называет «когнитивной комплементарностью»: ChatGPT  должен усиливать наши интеллектуальные способности, а не подменять их. 

Иногда полезно идти чуть дальше — и устраивать «ИИ-пост»: выделить час, день или целый проект, когда вы работаете вообще без подстраховки. Такой совет дают Пол Руст, стэнфордский исследователь в области ИИ, и Нина Вэсан, психиатр и директор Стэнфордской лаборатории ментального здоровья Brainstorm. Например, выберите один тип задач, который вы привыкли делегировать ИИ, и на этой неделе выполните его полностью вручную. Если задача раньше давалась легко, а теперь вызывает затруднения — это сигнал, что когнитивный долг уже накопился.