Парадокс Ньюкома и Путь выигрывания

Eliezer Yudkowsky, “Newcomb's Problem and Regret of Rationality”, public translation into Russian from English More about this translation.

See also 149 similar translations

Translate into another language.

Participants

Quilfe 3118 points
alekseykarnachev 174 points
ogmennesket 173 points
Join Translated.by to translate! If you already have a Translated.by account, please sign in.
If you do not want to register an account, you can sign in with OpenID.
Pages: previous Ctrl next
1 2 3 4 5 6 7 8

It is, I would say, a general principle of rationality - indeed, part of how I _define_ rationality - that you never end up envying someone else's mere _choices._ You might envy someone their genes, if Omega rewards genes, or if the genes give you a generally happier disposition. But Rachel, above, envies Irene her choice, and _only_ her choice, irrespective of what algorithm Irene used to make it. Rachel wishes _just_ that she had a disposition to choose differently.

И я должен сказать, что это всеобщий принцип рациональности (конечно, в том смысле, как я _определяю_ это понятие) — то, что вы никогда в конце концов не обнаружите себя завидующим чужому _выбору_ самому по себе. Вы можете позавидовать чьим-нибудь генам, если бы Омега награждал за гены или именно они создавали бы установки, благополучные для выигрыша. Однако Рэйчел в вышеприведенной цитате завидует выбору Ирен и _только_ выбору безотносительно от того, какой алгоритм та использовала, чтобы сделать его. Рэйчел стремится лишь к тому, чтобы настроить себя для принятия другого решения.

History of edits (Latest: Quilfe 4 years, 11 months ago) §

You shouldn't claim to be more rational than someone and simultaneously envy them their choice - _only_ their choice. Just _do_ the act you envy.

Невозможно заявлять, что вы более рациональны, чем кто-то другой, и в то же время завидовать тому, какой выбор сделал этот другой, если речь _только_ о выборе. Просто _сделайте_ то, чему завидуете.

History of edits (Latest: Quilfe 4 years, 11 months ago) §

I keep trying to say that rationality is the winning-Way, but causal decision theorists insist that taking both boxes is what _really_ wins, because you _can't possibly do better_ by leaving $1000 on the table... even though the single-boxers leave the experiment with more money. Be careful of this sort of argument, any time you find yourself defining the "winner" as someone other than the agent who is currently smiling from on top of a giant heap of utility.

Я всё пытаюсь сказать, что рациональность — это Путь выигрывания, но апологеты причинной теории принятия решений настаивают, что брать оба ящика и _значит на самом деле выиграть,_ потому что _невозможно поступить лучшим образом,_ оставив тысячу долларов... даже если те, кто берет один ящик, уходят с эксперимента с большей суммой. Остерегайтесь доводов такого рода каждый раз, когда вы замечаете за собой то, что определяете как "победителя" кого-то отличного от агента, с улыбкой взирающего с вершины гигантской пирамиды полезности.

History of edits (Latest: Quilfe 4 years, 11 months ago) §

Yes, there are various thought experiments in which some agents start out with an advantage - but if the task is to, say, decide whether to jump off a cliff, you want to be careful not to define cliff-refraining agents as having an unfair prior advantage over cliff-jumping agents, by virtue of their unfair refusal to jump off cliffs. At this point you have covertly redefined "winning" as conformance to a particular ritual of cognition. _Pay attention to the money!_

Да, во многих мысленных экспериментах агенты имеют фору с самого начала, но если, скажем, нужно решить, прыгать ли со скалы, то нужно остерегаться того, чтобы определить агентов, воздерживающихся от прыжка, как заранее обладающих несправедливым преимуществом, — что, якобы, они подло отказались прыгать. В этом месте вы незаметно переопределяете понятие "выигрывать", называя им следование определенному ритуалу мышления. _Следите за деньгами!_

History of edits (Latest: Quilfe 4 years, 11 months ago) §

Or here's another way of looking at it: Faced with Newcomb's Problem, would you want to look really hard for a reason to believe that it was perfectly reasonable and rational to take only box B; because, if such a line of argument existed, you would take only box B and find it full of money? Would you spend an extra hour thinking it through, if you were confident that, at the end of the hour, you would be able to convince yourself that box B was the rational choice? This too is a rather odd position to be in. Ordinarily, the work of rationality goes into figuring out which choice is the best - not finding a reason to believe that a particular choice is the best.

Другой способ взглянуть на проблему: столкнувшись с задачей Ньюкома, вы бы захотели приложить заметные усилия, чтобы понять разумное обоснование того, что брать только ящик Б рационально и осмысленно (ведь если аргумент такого рода существует, вам _следует_ взять только ящик Б, и вы найдете его полным денег)? Потратите ли вы несколько дополнительных часов, обдумывая эту проблему, если уверены, что в конце концов убедите себя, что брать только ящик Б — рациональный выбор? В этом положении достаточно странно находиться. Обычно работа рациональности заключается в том, чтобы разъяснить, какой выбор является наилучшим, а не отыскать обоснование к убеждению, что какое-либо конкретное решение оптимально.

History of edits (Latest: Quilfe 4 years, 11 months ago) §
Pages: previous Ctrl next
1 2 3 4 5 6 7 8