Систематические ошибки в рассуждениях при оценке глобальных рисков Михаил Крыжановский
Трансгуманизм Изучает тенденции науки и технологий Просчитывает риски и пути развития человечества Направляет исследования и общественный прогресс
Глобальные риски Большой адронный коллайдер Искусственный интеллект Биотехнологии Нанотехнологии Ядерное оружие Супервулканы Черные дыры Астероиды Матрица SETI …
Когнитивные искажения систематические ошибки в мышлении или шаблонные отклонения в суждениях, которые происходят в определенных ситуациях.
Принятие решений Эффект повального увлечения Слепое пятно в отношении когнитивных искажений Профессиональная деформация Уклон в сторону поиска информации Недооценка бездействия Эффект вклада Иллюзия контроля Подчинение авторитету …
Вероятности и верования Каскад доступной информации («повторите нечто достаточно долго и это станет правдой») Отклонение в сторону позитивного исхода Эффект ожидания наблюдателя Приукрашивание прошлого Иллюзия корреляции Эффект телескопа Стереотипизация …
Социальные искажения Эффект эгоцентричности Эффект фальшивого консенсуса Фундаментальная ошибка атрибуции Самосбывающиеся пророчества Феномен справедливого мира Эффект первого впечатления Стадный инстинкт …
Ошибки памяти Благодетель Криптомнезия Эгоцентрическое искажение Ложная память (принятие неизвестного за известное) Кажущееся постоянство …
Доступность информации Что более вероятно: что слово начинается с буквы R ("rope"), или что его третья буква R ("park")? Аварии или болезни? Риск человеческого истребления может быть недооценен, поскольку, очевидно, человечество никогда не сталкивалось с этим событием.
Знание «задним числом» «Я так и знал, что так будет» Малоизвестные исторические события Взрыв Челленджера (1986 г.)
«Черные лебеди» Дефолт 1998 года В основном, виноваты ошибки, связанные с доступностью информации, а также знание «задним числом» «Черные лебеди» случаются
Логическое И Эксперимент с 2-хцветным кубиком КЗККК ЗКЗККК ЗККККК
Эффект подтверждения Задача 2-4-6
Якорение Сколько африканских стран входит в ООН? Только 12 штук в одни руки!
Обусловленность аффектом На что потратить деньги аэропорту? Спасти 150 жизней – 10,4 Спасти 98% от 150 жизней – 13,6 Даже предложение «спасти 85% от 150 жизней» имело большую поддержку, чем «спасение 150 жизней»
Пренебрежение масштабом 2000/20000/ птиц Спасти человек
Сверхуверенность Более 60% опрошенных социологов считают, что они принадлежат к 10 лучшим специалистам в мире Три четверти водителей уверены в том, что они водят машину лучше, чем среднестатистический водитель
Апатия прохожего Эксперимент с дымом из вентиляционной трубы Помощь нужно просить индивидуально
Если риск реален… …почему так мало людей пытаются с этим что-то сделать? Люди могут быть сверхуверены и сверхоптимистичны Они могут не помнить ни одного случая всеобщего истребления Они могут переоценивать предсказуемость прошлого, и за счёт этого недооценивать сюрпризы будущего Они могут быть отравлены кинофильмами, в которых мир, в конце концов, бывает спасён Они могут получить моральное удовлетворение гораздо проще, давая деньги на другие виды благотворительности …
Предупреждение Не становитесь профессиональным спорщиком В первую очередь необходимо следить за собой
Выводы Необходимость единого подхода к анализу глобальных рисков Мы не знаем того, чего именно мы не знаем Предложение вознаграждения не устраняет ошибку люди не становятся умнее, только потому, что речь идёт о выживании человечества Люди, которые и подумать не могут о том, чтобы навредить ребёнку, говорят по поводу рисков глобальных катастроф: «Возможно, человеческий вид вовсе не заслуживает выживания»
Литература Э.Юдковски. Систематические ошибки в рассуждениях, потенциально влияющие на оценку глобальных рисков. Baron, J. (2000). Thinking and deciding (3d. edition). «Выборы, ценности и рамки». Choices, Values, and Frames. (2000.) Edited by Daniel Kahneman and Amos Tversky. «Эвристика и систематические модели мышления». Heuristics and Biases. (2003.) Edited by Thomas Gilovich, Dale Griffin, and Daniel Kahneman.
Тренинг-центр Путь Апгрейда Российское Трансгуманистическое Движение Спасибо за внимание!