Даниэль Канеман «Думай медленно… Решай быстро»: механизмы наших ошибок

Труд Даниэля Канемана «Думай медленно… Решай быстро» — из тех, о которых все как минимум где-то слышали; он не случайно оказался на первой строке в рейтинге самых упоминаемых книг на HackerNews. Это книга о том, как мы ошибаемся, о системности наших ошибок, заложенной в самой природе мышления. Несмотря на то, что исследование находится на пересечении двух научных областей – психологии и экономики – написано оно доступно и увлекательно, с многочисленными простыми примерами, которые помогают наложить теорию на повседневную жизнь. В этой статье мы хотели бы представить обзор первой части книги, где рассказывается о принципах мыслительного процесса и предпосылках когнитивных искажений

Система 1 и Система 2

В своем исследовании Канеман опирается на концепцию, изначально представленную Кейтом Становичем и Ричардом Уэстом. Она предполагает, что в сознании человека происходит два типа мыслительных процессов, которые отличаются как характером протекания, так и назначением. Им соответствуют два режима мышления, обозначаемых во многих научных трудах как Система 1 и Система 2. Первая из них называется также интуитивной, вторая – медленной. Основные отличительные признаки, по которым можно противопоставить две системы, приведены в таблице.

Как правило, думая о себе как о личности, мы идентифицируемся именно с Системой 2 – тем сознательным, разумным «я», у которого есть определенные убеждения, которое принимает осмысленные решения. С нашей точки зрения, это главное действующее лицо в нашей внутренней жизни. Автор ставит подобную точку зрения под сомнение. Безусловно, обе системы необходимы и незаменимы в процессе мышления, но той роли, которую играет Система 1 в наших суждениях и решениях, мало кто отдает должное. Мы преувеличиваем собственную рациональность и поэтому не замечаем, как порождаемые Системой 1 впечатления и чувства влияют на наше поведение и нередко отправляют нас по ложному следу.

Распределение обязанностей

Обычно совместная работа Системы 1 и Системы 2 организуются следующим образом: Система 1 непрерывно, быстро и незаметно для человека обрабатывает поступающую из внешнего мира информацию, составляя общую картину происходящего. Если в этой картине возникает что-то неожиданное (например, замок, который вы обычно открываете на автомате, задает) или поступает запрос на операцию, с которой Система 1 не справится (например, вам нужно перемножить двузначные числа), она подает сигнал Системе 2, и та подключается к решению задачи.

При этом распределение обязанностей между системами происходит по принципу минимальных усилий: иными словами, Система 1 никогда не станет активировать ресурсозатратную Систему 2 без острой необходимости. С одной стороны, это эффективная модель – если обращаться к Системе 2 по любому поводу, то она, во-первых, будет работать вхолостую, а во-вторых, не сумеет дать моментального отклика, которого требуют повседневные задачи (здесь можно вспомнить шутку о сороконожке, которая разучилась ходить, когда попыталась делать шаги осознанным усилием). С другой стороны, это принцип порождает для нас много проблем.

Чтобы понять суть этих проблем, нужно подробнее рассмотреть, что входит в ведомство Системы 1 и Системы 2. Для каждого человека эти два набора будут иметь свой индивидуальный состав. Ряд операций строго закреплен за конкретной системой для всех: так, мы оцениваем удаленность объекта или жуем под руководством Системы 1, а берем логарифмы под руководством Системы 2. Некоторые действия могут переходить из одной категории в другую. Когда ребенок учится читать, это требует от него предельной концентрации и значительных когнитивных усилий. У большинства же взрослых людей навык чтения развит до автоматизма: если мы увидим перед собой печатный текст, то помимо собственной воли воспримем его смысл.

Сложнее всего дело обстоит с теми типами задач, в которых можно выбирать, подключать ли Систему 2 или обойтись средствами Системы 2. Как правило, они связаны с формированием оценок и суждений. Допустим, если мы приходим в магазин выбирать холодильник, то можем изучить характеристики и подобрать оптимальное их соотношение (это работа для Системы 2), а можем просто купить тот, который нам понравился с первого взгляда (для этого достаточно Системы 1). Если нас спрашивают: «Что вы думаете об Испании?», мы можем обобщить факты, которыми располагаем, и вывести ответ из них (Система 2) или ответить в соответствии с теми смутными, положительными или отрицательными образами, которые возникли в сознании как реакция на слово «Испания» (Система 1).

Соответственно, загвоздка состоит в следующем: Система 1, в целом, справляется с формированием суждений. Система 2 проводит их верификацию при помощи сложных мыслительных операций. Но как определить, нужна ли в каждом конкретном случае подобная верификация?

Исследования показывают, что люди склонны отвечать на этот вопрос по-разному. Хорошо иллюстрирует дилемму обращения к Системе 2 эксперимент, в котором студентам университетов предлагали решить известную задачу:

Мячик и бейсбольная бита вместе стоят 1 доллар и 10 центов.
Бита стоит на доллар дороже мячика.
Сколько стоит мячик?

Попадется ли участник в ловушку неверного, но интуитивно напрашивающегося ответа (10 центов), зависит от того, задержится ли он над заданием, чтобы напрячь Систему 2 и провести несложную верификацию. Результаты показали, что даже в университетах Лиги Плюща правильный ответ давали меньше половины участников, а в учебных заведениях попроще ошибку допускали до 80% студентов. Это наводит на мысль о том, что основной массе людей свойственно скорее оказывать своей Системе 1 излишнее доверие, чем наоборот.

Это подводит нас к исходному тезису: очень многие наши мнения и решения основываются не на рациональном осмыслении, а на чистой интуиции. Само по себе, это не катастрофа. Однако важно уметь распознавать ситуации, в которых привычка полагаться на Систему 1 может породить ошибочные суждения и вовремя подключать Систему 2, если ставки высоки. Для этого будет полезно осветить некоторые ключевые особенности Системы 1 и выявить, в чем состоят ее слабые места и ограничения.

Слабые стороны Системы 1

Поспешные выводы

Основная задача Системы 1 – оперативно выстроить для нас как можно более полную модель окружающего мира, поэтому она естественным образом стремится к всеохватности. Она не может себе позволить ответов «не знаю» и «непонятно» и не пренебрегает никаким источниками информации. Система 1 не оценивает количество сведений, которые ей удалось собрать, как достаточное или недостаточное, не вникает в их происхождение – она просто работает с тем, что есть, чтобы получить какой-то результат.

В этом каждый из нас может убедиться сам, проведя простой мысленный эксперимент: нужно просто подумать о любой сложной, узкоспециальной теме или проблеме. Независимо от того, насколько мы в ней несведущи, мозг обязательно выдаст какой-то отклик: эмоциональные реакции, смутные образы и утверждения. На свете нет такого предмета или явления, о котором мы не наскребем хоть кого-нибудь мнения.

Разумеется, нетрудно догадаться, что качество суждений подобного рода будет невысоким. Одна из уловок, к которым прибегает Система 1, чтобы не дать поставить себя в тупик, называется подстановкой. Если на исходный (целевой) вопрос быстро не находится удовлетворительного ответа, Система 1 подыскивает более легкий родственный (эвристический) вопрос, отвечает на него и считает свою задачу выполненной. Это чистая игра в угадайку – итоговый ответ может оказаться как более-менее верным, так и абсолютно абсурдным.

Мы не осознаем эту подмену: если Система 2 активно не включится в процесс и пропустит ответ на честном слове, нам не придет в голову, что он неуместен. Более того, сохраняющееся ощущение когнитивной легкости может даже помешать нам осознать, что вопрос, вообще говоря, был сложным.

Ложная каузальность

Модель мира в нашем сознании имеет наибольшую ценность, когда она целостна и когерентна – иначе говоря, когда между ее элементами легко прослеживаются связи, когда отдельные элементы складываются в историю. В особенности Система 1 приспособлена к выявлению причинно-следственных связей между событиями. Она не только легко и точно распознает реальную каузальность, но и нередко добавляет ее туда, где ничего подобного в действительности нет.

Для примера возьмем такой короткий текст:

Родители Фреда явились с опозданием. Вот-вот должны были приехать из службы доставки. Фред рассердился.

По сути, мы видим здесь перечисление нескольких отдельных событий, которые могут не иметь друг к другу никакого отношения. Однако средний читатель, скорее всего, выстроит в сознании связное изложение, в котором опоздание является причиной раздражения, а доставка либо вписывается, либо не вписывается в сопутствующие обстоятельства. При отборе элементов, между которыми устанавливается связь, мы опираемся на предшествующий опыт и ассоциативные сети: так, мы знаем, что люди часто бывают недовольны опозданиями, поэтому задержавшиеся родители оказываются более явным кандидатом на причинность, чем доставка.

Основная опасность каузативного мышления состоит в том, что оно в силу в своей когнитивной легкости часто подменяет другие разновидности, более подходящие к той или иной ситуации. Особенно страдает от него статистическое мышление, которое работает с количественными свойствами категорий – то есть тем, что априори находится за пределами возможности Системы 1.

Эмоциональная когерентность

Другое свойство, которое Система 1 старается сообщить нашим представлениям о мире – непротиворечивость и стройность. Как мы помним, этот режим мышления не умеет управляться с неоднозначностью, поэтому нередко использует самый простой выход из ситуации, то есть просто избавляется от нее, стараясь приводить все последующие впечатления в соответствие с самым первым.

В психологии это когнитивное искажение получило название эффекта ореола – этим термином описывается наша склонность сразу формировать мнение о человеке, воспринимать всё, что он делает, в соответствующем свете и приписывать ему черты, которые кажутся нам сообразными. Сам автор столкнулся с ним в своей преподавательской деятельности, при проверке студенческих работ. В какой-то момент он осознал, что, хотя в теории все задания должны в одинаковой мере влиять на оценку, на деле очень многое зависит от самого первого. Если студент выполнял его правильно, то автоматически записывался Системой 1 в категорию «хорошо подготовленных»: все дальнейшие ошибки казались негрубыми или случайными, а спорные моменты чаще решались в его пользу. Если же кто-то плохо справлялся с первым заданием, то остальные промахи как бы служили подтверждением недостаточности его знаний. Таким образом, две одинаковые по качеству работы могли получить разные оценки.

Важным обстоятельством здесь является еще и то, что в борьбе с чрезмерной эмоциональной когерентностью Система 2 нам не помощник – или, вернее сказать, помощник в значительно меньшей степени. Обычно она выступает в роли пассивного наблюдателя и критика по запросу, однако когда речь идет об эмоциональном отклике, Система 2 превращается в защитника. Она идет на поводу у Системы 1, отбирая те факты и доводы, которые согласуются с существующими убеждениями, а не ставят их под сомнения. В общем, мы очень и очень не любим менять сложившееся отношение к чему бы то ни было.

Значит ли это, что выхода нет? Есть, но он косвенный. Самое эффективное средство против эффекта ореола – устранение корреляции ошибок, то есть сбор информации из многочисленных независимых источников. Усредненное мнение о личности, предмете или явлении обычно оказывается значительно ближе к объективной истине, чем наша первая оценка. Соответственно, если Система 2 займется анализом и привлечением дополнительных сведений, то это поможет избавиться и от фактологических, и от эмоциональных искажений

Эффект предшествования

В нашем мозгу хранится огромный объем самой разнородной информации – образов, знаний, воспоминаний, убеждений и так далее. Большинство из них в каждый конкретный момент времени находится в пассивном резерве, однако какая-то часть активируется в процессе взаимодействия с окружающей действительностью. Мы сталкиваемся с чем-то, что вызывает в сознании определенную идею, которая через механизм ассоциативной памяти пробуждает другие, имеющие с ней какую-то связь. Этот сеть активированных идей составляет своего ближайший контекст для нашей внутренней жизни – и именно к ней в первую очередь обращается Система 1 в своей работе.

Это значит, что на все наши решения и умозаключения в некоторой степени влияет то, что мы воспринимали и испытывали непосредственно до этого. Посмотрим на эти две картинки:

Вряд ли у кого-то возникнут затруднения с восприятием того, что здесь написано, и вряд ли кто-то с первого раза заметит, что средние символы на обеих картинках одинаковы и могут быть прочитаны двояко. Глядя на первую картинку, мы активируем сеть «буквы», глядя на вторую – сеть «цифры», и, исходя из контекста, молниеносно решаем, как именно интерпретировать центральный символ.

Эффект предшествования, или прайминга, срабатывает во всех сферах жизни и это открывает огромные возможности для манипуляции через подачу нужных стимулов. Так, один из неожиданных эффектов прайминга обнаружился при исследовании результатов выборов: в некоторых округах люди намного чаще поддерживали образовательные инициативы по той простой причине, что выборы проводились в зданиях школ. Корреляция с этим параметром оказалась даже выше, чем с процентом родителей среди избирателей. Подобная ситуация сложилась случайно, но нечто подобное вполне можно было бы подстроить и умышленно.
Впрочем, слишком драматизировать не стоит: эффект прайминга устойчив, но не сокрушительно силен. Он способен скорее подтолкнуть к одному из вариантов при выборе, чем полностью настроить человека на иной лад. Тем не менее, он может существенно повлиять на исход, когда речь идет о больших числах (опять же, на выборах).

Говоря о предшествовании, стоит упомянуть и другую, схожую особенность нашей психику: тягу к знакомому. Мы подсознательно склонны отдавать предпочтение и оказывать доверие тому, с чем уже встречались в прошлом. Отчасти это вызвано чисто биологическим механизмом: знакомое представляет меньше риска, чем новые стимулы. Отчасти сказывается наше стремление к когнитивной легкости – чувство узнавания часто принимается за интуитивное ощущение истинности. Так или иначе, факт остается фактом: если мы слышали какое-то утверждение раньше, то непроизвольно оценим его как более правильное, чем совершенно новое.

*
Мы ознакомились с принципами работы Системой 1 и Системы 2, и разобрались в особенностях и слабых сторонах первой. В следующий раз мы подробнее остановимся на конкретных ошибках, которые возникают в цепочке рассуждений из-за недоработок Системы 1 и пронаблюдаем, как она входит в конфликт с логикой и статистикой.

Читайте так же:

  • Poetry — прекрасная альтернатива pip (шпаргалка)Poetry — прекрасная альтернатива pip (шпаргалка) Poetry - это инструмент для управления зависимостями в Python проектах (аналог встроенного pip). Идея реализации данного инструмента пришла его создателю в связи с тем, что различные способы менеджмента пакетов (requirements.txt, setup.cfg, MANIFEST.ini и другие) показались создателю […]
  • Запуск бизнеса для начинающего предпринимателя Описание Цель 3-х месячной программы Русской Школы Управления: полноценно подготовить предпринимателя к самостоятельному открытию нового бизнеса. Занятия проходят в онлайн формате один раз в неделю. Между занятиями участники выполняют задания в рамках подготовки запуска своего бизнеса. […]
  • Как мы лажали, открывая очередное юрлицо — на этот раз в СШАКак мы лажали, открывая очередное юрлицо — на этот раз в США Я тут открывал юрлицо в США и сделал всё по инструкции «как не облажаться», но облажался. Уже в новых местах, не предусмотренных инструкцией. Главная инструкция вот тут, она написана не юристом, но сами юристы подтверждают, что получилась хорошая и на неё же ссылаются, когда нужно быстро […]
  • Чек-лист по работе с издателями для инди-разработчикаЧек-лист по работе с издателями для инди-разработчика Я работаю в сфере локализации игр, и среди наших клиентов много инди-разработчиков. Нередко они обращаются к нам с вопросом, к какому издателю лучше обратиться (потому что издателей среди наших клиентов тоже много). В этой статье мы с коллегами собрали рекомендации, которые помогут […]