Знание о искажениях может вредить людям.

Eliezer Yudkowsky, “Knowing About Biases Can Hurt People”, public translation into Russian from English More about this translation.

Translate into another language.

Как-то раз я пытался рассказать моей маме о задаче калибровки эксперта. Я сказал: "Когда эксперт говорит, что он уверен в событии на 99%, оно действительно происходит только в 70% случаев." Повисла тишина, я внезапно осознал, что говорил с мамой и поспешно добавил: "Конечно, ты должна быть уверена, что пользуешься этим знанием беспристрастно, в том числе против себя, а не только против того, с чем ты не согласна."

А моя мама ответила:"Ты шутишь? Это великолепно! Я буду использовать это постоянно!"

Мотивированный скептицизм Тейбера и Лоджа в оценке политических убеждений описывает подтверждение шести гипотез:

Эффект предшествующего отношения. Испытуемые, имевшие изначальную точку зрения на проблему — даже когда их поощряли в том, чтобы они были объективными — находили поддерживающие аргументы более охотно, чем опровергающие.

Систематическая ошибка опровержения. Испытуемые тратили больше времени и умственных усилий на то, чтобы отклонить опровергающие аргументы в сравнении с поддерживающими аргументами.

Систематическая ошибка подтверждения. Испытуемые, свободные выбирать источники информации, скорее искали подтверждающие, чем опровергающие источники.

Поляризация отношения. Предъявление субъектам очевидно уравновешенного набора аргументов за и против приводило к увеличению изначальной поляризации их мнений.

Эффект силы мнения. Испытуемые, имеющие более ярко выраженное мнение, были более подвержены вышеназванным склонностям к ошибке.

Эффект усложнения.
Более искушенные в политике испытуемые, по причине обладания более тяжелым вооружением для опровержения противных фактов и доводов, были более подвержены вышеприведенным систематическим ошибкам.

Если вы иррациональны с самого начала, то большой объем сведений может повредить вам. Для истинного байесианца информация никогда не будет иметь отрицательной ожидаемой полезности. Но люди не совершенные байесовские агенты; если мы не осторожны, мы можем навредить сами себе.

Я видел людей, у которых знания только усиливали их искажения. Они имели существенно больше вооружения, с которым могли возражать любому аргументу, который им не нравился. И эта проблема - слишком большой объем вооружения - один из тех основных путей, которыми люди с большими умственными возможностями заканчивают тем, что становятся глупыми, тем, что у Становича называется дисрациональностью, склонностью действовать нерационально даже при наличии такой возможности.

Вы можете вообразить людей, подходящих под такое описание, верно? Люди с высоким g-фактором, которые становятся менее эффективны, поскольку они слишком увлеклись мудрствованиями и софистикой? Вы думаете что поможете им, сделаете их более эффективными в качестве рационалистов, если просто расскажете о списке стандартных искажений?

Я помню кое-кого, кто узнал о проблеме калибровки/сверхуверенности. Вскоре после этого он говорил:"Ну, вы не можете верить экспертам; как показывают эксперименты, они часто ошибаются. Так что, когда я предсказываю будущее, я предпочитаю полагаться на исторически подтвержденный ход вещей-" и так далее, в глубину целой экстраполяции, сложной, полной ошибок и весьма сомнительной. Так или иначе, когда нужно было верить своим предпочтительным заключениям, все эти искажения и софизмы казались менее значимыми - то есть сознание их легко обходило - нежели когда они требовались для опровергания кого-то стороннего.

Я рассказал ему о систематической ошибке опровержения, и вот, в следующий раз, когда я сказал что-то, что ему не понравилось, он обвинил меня в том, что я увлекаюсь софистикой. Он не попытался указать на какие-либо определенные аргументы и слабые места - он просто печально покачал головой и сказал что я, по-видимому, использую свой интеллект, чтобы победить себя. Он приобрел еще один Полностью Универсальный Контраргумент.

Даже само понятие "софистика" может быть опасным, если оно приходит вам на ум, когда вы встречаете кажущегося умным человека, который говорит то, что вам не нравится.

Я стремлюсь учиться на своих ошибках. Последний раз когда я говорил об эвристике и искажениях, я начал с введения в общую концепцию путем проблемы совпадающих событий и репрезентативной эвристики. И лишь потом я перешел к систематической ошибке подтверждения, систематической ошибке опровержения, эффекту усложнения, мотивированному скептицизму и другим эффектам изначальной позиции. Я потратил следующие полчаса концетрируясь на этой теме, заново рассматривая со всех различных точек зрения, с каких только мог.

Я хотел чтобы моя аудитория заинтересовалась. Ну, простого описания софизма и репрезентативности подошло бы. Но предположим, что они бы заинтересовались. Что тогда? Литература по искажениям в основном является когнитивной психологией ради когнитивной психологии. Я должен был дать аудитории свои мрачные предостережения за одну лекцию, или иначе возможно, они бы вообще их не услышали.

Не имеет значения, делаю ли я это на бумаге или устно, теперь я стараюсь никогда не упоминать о калибровке и сверхуверенности до тех пор, пока не расскажу о систематической ошибке опровержения, мотивированном скептицизме, софистике и дисрациональности в ментальной гибкости. Прежде всего - не навреди!

Original (English): Knowing About Biases Can Hurt People

Translation: © Remlin, Тимофей Зуев .

translatedby.com crowd

Like this translation? Share it or bookmark!