Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@gmail.com для удаления материала

<< Назад к книге

Книга "Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски", стр. 10


слов. Если да, то я скажу: стремитесь не к рациональности, а к фузальности.

У слова «рациональный» есть потенциальные ловушки, но существует множество непограничных случаев, когда оно отлично работает для передачи того, что я имею в виду. То же касается и слова «иррациональный». В таких случаях я не боюсь его использовать.

И всё же следует быть осторожным, чтобы не злоупотреблять этим словом. Никто не начислит вам очков за то, что вы просто громко его произносите. Если вы слишком много говорите о Пути, вы его не обретёте.

*

1. Примечание редактора: Хорошее введение в задачу Ньюкома см. у Холта.2 Более общие определения и объяснения многих терминов из этой книги можно найти на сайте wiki.lesswrong.com/wiki/RAZ_Glossary.

2. Джим Холт, «Thinking Inside the Boxes», Slate (2002), http://www.slate.com/articles/arts/egghead/2002/02/thinkinginside_the_boxes.html.

2. Чувствовать рационально.

Популярное мнение о «рациональности» гласит, что она противостоит любым эмоциям — будто вся наша грусть и вся наша радость автоматически нелогичны уже потому, что это чувства. И всё же, как ни странно, я не могу найти в теории вероятностей ни одной теоремы, которая доказывала бы, что я должен выглядеть ледяным и бесстрастным.

Так ортогональна ли рациональность чувствам? Нет; наши эмоции рождаются из наших моделей реальности. Если я поверю, что моего погибшего брата нашли живым, я обрадуюсь; если я проснусь и пойму, что это был сон, я расстроюсь. П. С. Ходжелл сказала: «То, что может быть разрушено истиной, должно быть разрушено». Моему счастью во сне противоречила истина. Моя грусть при пробуждении рациональна; нет такой истины, которая могла бы её разрушить.

Рациональность начинается с вопроса о том, «каков-мир-на-самом-деле», но затем вирусно распространяется на любые другие мысли, которые зависят от наших представлений об устройстве мира. Ваши убеждения о том, «каков-мир-на-самом-деле», могут касаться чего угодно, что, по вашему мнению, существует в реальности, любого объекта, который либо существует, либо нет, любого представителя класса «вещей, способных заставлять другие вещи происходить». Если вы верите, что в вашем шкафу живёт гоблин, который связывает шнурки ваших ботинок, то это убеждение о том, каков-мир-на-самом-деле. Ваши ботинки реальны — вы можете взять их в руки. Если в мире существует нечто, способное протянуть руку и связать ваши шнурки, оно тоже должно быть реальным, частью той огромной сети причин и следствий, которую мы называем «вселенной».

Злость на гоблина, связавшего ваши шнурки, включает в себя состояние ума, которое касается не только того, каков-мир-на-самом-деле. Представьте, что вы буддист, пациент после лоботомии или просто очень флегматичный человек, и завязанные шнурки не вызывают у вас гнева. Это не повлияло бы на ваши ожидания относительно мира — вы всё так же ожидали бы открыть шкаф и обнаружить там связанные шнурки. Ваши злость или спокойствие не должны влиять на ваши прогнозы, ведь происходящее в шкафу не зависит от вашего эмоционального состояния; хотя, возможно, чтобы мыслить настолько ясно, потребуется некоторое усилие.

Но чувство злости тесно переплетено с состоянием ума, которое действительно касается того, каков-мир-на-самом-деле; вы злитесь, потому что думаете, будто гоблин связал ваши шнурки. Критерий рациональности распространяется вирусно — от первоначального вопроса о том, связал ли гоблин ваши шнурки, на возникший в результате гнев.

Становясь более рациональными — приходя к более точным оценкам того, каков-мир-на-самом-деле, — мы можем ослабить чувства или усилить их. Иногда мы бежим от сильных чувств, отрицая факты, отпрянув от того взгляда на мир, который и вызвал эту сильную эмоцию. В таком случае, по мере того как вы будете осваивать навыки рациональности и приучать себя не отрицать факты, ваши чувства будут становиться сильнее.

В юности я никогда не был до конца уверен, было ли нормально испытывать сильные чувства — позволено ли это, правильно ли. Не думаю, что это замешательство возникало лишь из-за моего юношеского непонимания рациональности. Я наблюдал похожие трудности у людей, которые даже не стремятся быть рационалистами; когда они счастливы, они задаются вопросом, действительно ли им позволено быть счастливыми, а когда им грустно, они никогда не знают наверняка, стоит ли бежать от этой эмоции или нет. По меньшей мере со времён Сократа, а вероятно, и задолго до него, способ казаться культурным и утончённым заключался в том, чтобы никогда не показывать окружающим, что тебя что-то сильно волнует. Чувствовать — это неловко, в приличном обществе так просто не принято. Видели бы вы, какие странные взгляды я ловлю, когда люди понимают, насколько сильно меня волнует рациональность. Думаю, дело не в необычности темы, а в том, что они просто не привыкли видеть разумных взрослых, которых заметно волнует хоть что-то.

Но теперь я знаю, что в сильных чувствах нет ничего плохого. С тех пор как я принял правило «То, что может быть разрушено истиной, должно быть разрушено», я также осознал: «То, что истина питает, должно процветать». Когда случается что-то хорошее, я радуюсь, и в моей голове нет путаницы относительно того, рационально ли мне радоваться. Когда происходит что-то ужасное, я не бегу от своей грусти, пытаясь найти фальшивые утешения и мнимые светлые стороны. Я мысленно созерцаю прошлое и будущее человечества, десятки миллиардов смертей за нашу историю, страдания и страх, поиск ответов, дрожащие руки, тянущиеся вверх из потоков крови, то, кем мы можем стать однажды, когда превратим звёзды в наши города, всю эту тьму и весь этот свет — я знаю, что никогда не смогу по-настоящему это осмыслить, и у меня нет слов, чтобы это выразить. Вопреки всей моей философии мне по-прежнему неловко признаваться в сильных эмоциях, а вам, вероятно, неуютно о них слушать. Но теперь я знаю: чувствовать — рационально.

*

3. Почему истина? И...

В некоторых комментариях на Overcoming Bias затрагивался вопрос о том, почему мы должны стремиться к истине. (К счастью, немногие сомневались в том, что такое истина.) Наша определяющая мотивация настраивать свое мышление на рациональность — которая определяет, является ли данная настройка «хорошей» или «плохой» — проистекает из тех самых причин, по которым мы вообще захотели найти истину.

Написано: «Первая добродетель — любопытство». Любопытство — одна из причин искать истину, и, возможно, не единственная, но она обладает особой, восхитительной чистотой. Если вашим мотивом служит любопытство, вы будете расставлять приоритеты вопросов в зависимости от того, как сами эти вопросы щекочут

Читать книгу "Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски" - Элиезер Шломо Юдковски бесплатно


0
0
Оцени книгу:
0 0
Комментарии
Минимальная длина комментария - 7 знаков.


Knigi-Online.org » Разная литература » Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
Внимание