которых нам больше помогает сознательное размышление, и другие, где лучше работают мгновенные решения.

Психологи, работающие в рамках теорий двойственного процесса, разделяют процессы работы мозга на процессы «Системы 1» (быстрое, неявное, ассоциативное, автоматическое познание) и «Системы 2» (медленное, явное, интеллектуальное, контролируемое познание).5 Согласно стереотипу, рационалисты полностью полагаются на Систему 2, игнорируя свои чувства и импульсы. Но если выйти за рамки этого стереотипа, то тот, кто действительно ведет себя рационально — то есть на самом деле достигает своих целей и минимизирует вред от когнитивных искажений, — будет активно опираться на привычки и интуицию Системы 1 там, где они надежны.

К сожалению, сама по себе Система 1 — отвратительный советчик в вопросе «когда мне стоит доверять Системе 1?». Наша нетренированная интуиция не подсказывает нам, в какой момент нужно перестать на нее полагаться. Быть предвзятым и быть объективным ощущаются совершенно одинаково.6

С другой стороны, как отмечает поведенческий экономист Дэн Ариели, мы предсказуемо иррациональны. Мы ошибаемся одними и теми же способами, снова и снова, систематически.

Если мы не можем почуять нутром, когда поддаемся когнитивному искажению, мы всё ещё можем обратиться к наукам о разуме.

Многоликая предвзятость

Чтобы решать задачи, наш мозг в ходе эволюции научился использовать когнитивные эвристики — простые правила принятия решений, которые часто, но не всегда дают правильный результат. Когнитивные искажения возникают тогда, когда «срезание углов» с помощью этих эвристик приводит к систематическим и вполне определенным ошибкам.

Эвристика репрезентативности, например, — это наша склонность оценивать явления по тому, насколько типичными для различных категорий они нам кажутся. Это может приводить к таким искажениям, как ошибка конъюнкции. Тверски и Канеман обнаружили, что испытуемые считали менее вероятным, что сильный теннисист просто «проиграет первый сет», чем что он «проиграет первый сет, но выиграет матч».7 Отыгрыш кажется более типичным для сильного игрока, поэтому мы переоцениваем вероятность этого сложного, но кажущегося логичным сценария по сравнению с вероятностью строго более простого исхода.

Эвристика репрезентативности также может приводить к игнорированию базового уровня, когда мы основываем свои суждения на том, насколько интуитивно «нормальным» выглядит сочетание признаков, пренебрегая тем, насколько часто каждый из них встречается в популяции в целом.8 Что более вероятно: Стив — застенчивый библиотекарь или застенчивый продавец? Большинство людей отвечают на подобные вопросы, размышляя о том, соответствует ли качество «застенчивый» их стереотипам об этих профессиях. Они не принимают во внимание, насколько продавцов больше, чем библиотекарей — в Соединенных Штатах, например, в семьдесят пять раз.9

Другие примеры когнитивных искажений включают игнорирование продолжительности (оценку опыта без учета того, как долго он длился), ошибку невозвратных затрат (ощущение обязательств перед тем, во что вы уже вложили ресурсы в прошлом, когда следовало бы просто зафиксировать убытки и двигаться дальше) и предвзятость подтверждения (склонность придавать больший вес свидетельствам, которые подтверждают то, во что мы уже верим).10,11

Однако одного лишь знания об искажении редко бывает достаточно, чтобы защититься от него. В исследовании слепоты к искажениям испытуемые предполагали, что если бы они узнали, что картина принадлежит перу известного художника, им было бы труднее беспристрастно оценить её качество. И действительно, испытуемые, которым назвали автора картины и попросили оценить её качество, продемонстрировали именно то искажение, которое сами же и предсказали (по сравнению с контрольной группой). Однако, когда их спросили об этом впоследствии, те же самые испытуемые утверждали, что их оценки картин были абсолютно объективными и свободными от предвзятости — и так во всех группах!12,13

Нам особенно не хочется считать свои взгляды менее точными, чем взгляды других людей. Даже когда мы правильно замечаем чужие когнитивные искажения, у нас возникает особое слепое пятно предвзятости, когда дело касается наших собственных недостатков.14 При самоанализе мы не обнаруживаем никаких мыслей, которые «ощущались бы как предвзятые», и потому делаем вывод, что мы просто более объективны, чем все остальные.15

Изучение искажений на самом деле может сделать вас еще более уязвимыми к самоуверенности и предвзятости подтверждения, поскольку вы начнете видеть влияние когнитивных искажений повсюду — у всех, кроме себя. И слепое пятно предвзятости, в отличие от многих других искажений, особенно выражено у людей, которые отличаются выдающимся умом, вдумчивостью и широтой взглядов.16,17

И это повод для беспокойства.

И все же... кажется, мы способны на большее. Известно, что мы можем снизить влияние игнорирования базового уровня, если будем думать о вероятностях как о частоте объектов или событий. Мы можем свести к минимуму игнорирование продолжительности, если будем уделять ей больше внимания и представлять её наглядно.18 Люди в разной степени подвержены различным искажениям, а значит, должен существовать целый ряд пока неизвестных способов влиять на то, насколько мы предвзяты.

Однако если мы хотим совершенствоваться, нам недостаточно просто корпеть над списками когнитивных искажений. Подход к преодолению предвзятости в книге «Рациональность: от ИИ до зомби» заключается в том, чтобы передать систематическое понимание того, почему работают правильные рассуждения и в чем мозг не справляется с ними. В той мере, в какой этот том справляется со своей задачей, его подход можно сравнить с подходом, описанным у Серфаса, который отмечает, что «годы опыта работы в финансовой сфере» никак не повлияли на подверженность людей ошибке невозвратных затрат, тогда как «количество прослушанных курсов по бухгалтерскому учету» помогло.

Как следствие, может возникнуть необходимость разграничивать опыт и экспертность, где под экспертностью понимается «разработка схематического принципа, который включает в себя концептуальное понимание проблемы» и, в свою очередь, позволяет лицу, принимающему решения, распознавать конкретные искажения. Однако использование экспертности в качестве защитной меры требует большего, чем просто знакомство с ситуативным контекстом или статус эксперта в конкретной области. Оно требует полного понимания внутренней логики соответствующего искажения, умения замечать его в конкретной обстановке, а также наличия под рукой подходящих инструментов для противодействия ему.19

Цель этой книги — заложить основу для создания рациональной «экспертности». Это означает глубокое понимание структуры очень общей проблемы: человеческой предвзятости, самообмана и тысячи путей, которыми искушенный разум может сам себя перехитрить.

Несколько слов об этом тексте

Книга «Рациональность: от ИИ до зомби» начиналась как серия эссе Элиезера Юдковского, опубликованных в период с 2006 по 2009 год в экономическом блоге Overcoming Bias и его дочернем сообществе Less Wrong. Последний год я работал вместе с Юдковским в Научно-исследовательском институте машинного интеллекта (MIRI) — некоммерческой организации, которую он основал в 2000 году для изучения теоретических требований к созданию