Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

Рациональность. От ИИ до зомби. Элиезер Юдковский. Элиезер Юдковский — научный сотрудник Научно-исследовательского института машинного интеллекта (MIRI).

Автор: Элиезер Юдковский

Опубликовано в 2015 году

Научно-исследовательский институт машинного интеллекта (MIRI)

Беркли 94704

Соединённые Штаты Америки

intelligence.org

Распространяется на условиях лицензии Creative Commons Attribution-NonCommercial-ShareAlike 3.0 Unported.

CC BY-NC-SA 3.0

ISBN-10: 1-939311-15-2

ISBN-13: 978-1-939311-15-3

(epub)

Научно-исследовательский институт машинного интеллекта (MIRI) выражает глубокую благодарность за щедрую поддержку всем, кто принимал участие в издании этой книги, а также жертвователям, поддерживающим работу MIRI в целом.

Обложка: Тим Вулли.

Оглавление. Предисловие. Когнитивные искажения: Введение. Книга I. Карта и территория.

A. Предсказуемо неправы

1. Что я имею в виду под «рациональностью»?

2. Ощущение рациональности

3. Зачем нужна истина? И...

4. ...И всё-таки, что такое когнитивное искажение?

5. Доступность

6. Обременяющие подробности

7. Ошибка планирования

8. Иллюзия прозрачности: почему вас никто не понимает

9. Ожидание коротких дистанций вывода

10. Линза, которая видит свои изъяны

B. Псевдоубеждения

11. Заставить убеждения платить за аренду (ожидаемым опытом)

12. Басня о науке и политике

13. Вера в веру

14. Байесовское дзюдо

15. Притворство мудростью

16. Претензия религии на неопровержимость

17. Декларирование веры и чирлидинг

18. Убеждение как одежда

19. Лампочки для аплодисментов

C. Замечая замешательство

20. Сфокусируйте свою неопределённость

21. Что такое свидетельство?

22. Научные свидетельства, юридические свидетельства, рациональные свидетельства

23. Сколько нужно свидетельств?

24. Высокомерие Эйнштейна

25. Бритва Оккама

26. Ваша сила как рационалиста

27. Отсутствие свидетельств есть свидетельство отсутствия

28. Сохранение ожидаемого свидетельства

29. Взгляд в прошлое обесценивает науку

D. Таинственные ответы

30. Фиктивные объяснения

31. Угадывание пароля учителя

32. Наука как одежда

33. Фиктивная причинность

34. Семантические знаки «стоп»

35. Таинственные ответы на таинственные вопросы

36. Бесполезность эмерджентности

37. Не говорите «сложность»

38. Положительное искажение: загляните во тьму

39. Закономерная неопределённость

40. Моя бурная и безрассудная юность

41. Неспособность учиться у истории

42. Сделать историю доступной

43. Объяснить/поклоняться/игнорировать?

44. «Наука» как гаситель любопытства

45. Действительно часть вас

Интерлюдия: Простая истина

Книга II. Как на самом деле изменить своё мнение

Рациональность: Введение

E. Слишком удобные оправдания

46. Правильное использование скромности

47. Третья альтернатива

48. Лотереи: пустая трата надежды

49. Новая улучшенная лотерея

50. Но шанс всё ещё есть, правда?

51. Заблуждение серого цвета

52. Абсолютный авторитет

53. Как убедить меня, что 2 + 2 = 3

54. Бесконечная уверенность

55. 0 и 1 — не вероятности

56. Ваша рациональность — моё дело

F. Политика и рациональность

57. Политика — убийца разума

58. Политические дебаты не должны казаться односторонними

59. Весы правосудия, блокнот рациональности

60. Фундаментальная ошибка атрибуции

61. Действительно ли ваши враги злы от природы?

62. Глупость наоборот — это не ум

63. Аргумент заслоняет авторитет

64. Прижмитесь к вопросу

65. Рациональность и английский язык

66. Человеческое зло и путаница в мыслях

G. Против рационализации

67. Знание об искажениях может навредить

68. Обновляйте свои убеждения постепенно

69. Один аргумент против целой армии

70. Итоговая строка

71. Какое свидетельство отфильтровало свидетельства?

72. Рационализация

73. Рациональный аргумент

74. Избегание реальных слабых мест своих убеждений

75. Мотивированная остановка и мотивированное продолжение

76. Фиктивное оправдание

77. Истинная ли это причина вашего отказа?

78. Переплетённые истины, заразная ложь

79. О лжи и взрывах Чёрных лебедей

80. Эпистемология Тёмной стороны

H. Против двоемыслия

81. Одномыслие

82. Двоемыслие (выбор в пользу предвзятости)

83. Нет, правда, я себя обманул

84. Вера в самообман

85. Парадокс Мура

86. Не верьте, что сможете обмануть себя

I. Свежий взгляд

87. Эффект привязки и корректировка

88. Прайминг и загрязнение

89. Верим ли мы всему, что нам говорят?

90. Кэшированные мысли

91. Коробка «вне коробки»

92. Первозданное видение

93. Страннее, чем история

94. Логическая ошибка обобщения по вымышленным свидетельствам

95. Добродетель узости

96. Как казаться (и быть) глубоким

97. Мы меняем своё мнение реже, чем нам кажется

98. Не спешите предлагать решения

99. Генетическая ошибка

J. Смертельные спирали

100. Эвристика аффекта

101. Оцениваемость (и дешёвые праздничные покупки)

102. Безграничные шкалы, огромные компенсации по суду и футуризм

103. Эффект ореола

104. Ошибка супергероя

105. Всего лишь мессии

106. Аффективные смертельные спирали

107. Сопротивляйтесь радостной смертельной спирали

108. Некритическая сверхкритичность

109. Испарительное охлаждение групповых убеждений

110. Когда никто не смеет призвать к сдержанности

111. Эксперимент «Разбойничья пещера»

112. Любое движение стремится стать культом

113. Хранители истины

114. Хранители генофонда

115. Хранители Айн Рэнд

116. Два культовых коана

117. Эксперимент Аша на конформность

118. О том, как выражать свои опасения

119. Одинокое несогласие

120. Сектантская борьба с сектами

K. Умение отпускать

121. Важность умения говорить «ой»

122. Предложение фрика

123. Просто оставьте надежду

124. Правильное использование сомнения

125. Вы способны взглянуть в лицо реальности

126. Медитация на любопытство

127. Никто не может освободить вас от законов рациональности

128. Оставьте путь к отступлению

129. Кризис веры

130. Ритуал

Книга III. Машина в призраке

Разумы: Введение

Интерлюдия: Сила интеллекта

L. Простая математика эволюции

131. Чуждый бог

132. Чудо эволюции