Парадокс Ньюкома и Путь выигрывания

Eliezer Yudkowsky, “Newcomb's Problem and Regret of Rationality”, public translation into Russian from English More about this translation.

See also 149 similar translations

Translate into another language.

Participants

Quilfe 3118 points
alekseykarnachev 174 points
ogmennesket 173 points
Join Translated.by to translate! If you already have a Translated.by account, please sign in.
If you do not want to register an account, you can sign in with OpenID.
Pages: previous Ctrl next
1 2 3 4 5 6 7 8

Maybe it's too easy to say that you "ought to" two-box on Newcomb's Problem, that this is the "reasonable" thing to do, so long as the money isn't actually in front of you. Maybe you're just numb to philosophical dilemmas, at this point. What if your daughter had a 90% fatal disease, and box A contained a serum with a 20% chance of curing her, and box B might contain a serum with a 95% chance of curing her? What if there was an asteroid rushing toward Earth, and box A contained an asteroid deflector that worked 10% of the time, and box B might contain an asteroid deflector that worked 100% of the time?

Возможно, слишком легко говорить, что вы "следуете" стратегии "брать оба ящика" в проблеме Ньюкома и что это "разумный" выбор, пока деньги не будут действительно перед вами. Возможно, вы просто нечувствительны к абстрактным проблемам такого рода. А что, если у вашей дочери заболевание, смертельное в 90% случаев, и в ящике А сыворотка, которая вылечит ее с вероятностью в 20%, а ящик Б может содержать лекарство, успешно действующее с шансами в 95%? Что, если к Земле мчится астероид, и ящик А содержит систему защиты, действующую 10% времени, а в ящике Б может быть орудие, которое защищало бы Землю постоянно?

History of edits (Latest: Quilfe 4 years, 11 months ago) §

Would you, at that point, find yourself _tempted to make an unreasonable choice?_

Будь это так, вы бы заметили, что вас просто _соблазняет сделать необоснованный выбор?_

History of edits (Latest: Quilfe 4 years, 11 months ago) §

If the stake in box B was something you _could not_ leave behind? Something overwhelmingly more important to you than being reasonable? If you absolutely _had to_ win - _really_ win, not just be defined as winning?

Что, если ставка, которую может принести ящик Б, — это что-то такое, что вы _не можете_ оставить? Что-то безгранично более важное для вас, нежели следовать тому, что выглядит разумным? Если вам совершенно _нужно_ выиграть — _действительно_ выиграть, а не просто определить себя как победителя?

History of edits (Latest: Quilfe 4 years, 11 months ago) §

Would you _wish with all your power_ that the "reasonable" decision was to take only box B?

Захотели бы вы _всем своим нутром_, чтобы "разумным" решением оказалось взять только ящик Б?

History of edits (Latest: Quilfe 4 years, 11 months ago) §

Then maybe it's time to update your definition of reasonableness.

Если да, то, возможно, сейчас настало время обновить ваше определение разумности.

History of edits (Latest: Quilfe 4 years, 11 months ago) §

Alleged rationalists should not find themselves envying the mere decisions of alleged nonrationalists, because your decision can be whatever you like. When you find yourself in a position like this, you shouldn't chide the other person for failing to conform to your concepts of reasonableness. You should realize you got the Way wrong.

Предполагая себя рационалистом, вы не должны обнаруживать, что завидуете решениям-самим-по-себе, принятым предполагаемыми не-рационалистами: ваше решение может быть любым. Когда вы обнаружите себя в подобном положении, вам не следует упрекать другого в том, что он не смог подстроиться к вашему пониманию разумности. Вам нужно осознать, что вы шли по ложному пути.

History of edits (Latest: Quilfe 4 years, 11 months ago) §

So, too, if you ever find yourself keeping separate track of the "reasonable" belief, versus the belief that seems likely to be actually _true._ Either you have misunderstood reasonableness, or your second intuition is just wrong.

То же самое верно, и если вы заметите, что продолжаете хранить веру в отдельный след "обоснованного" убеждения в противовес убеждению, которые выглядит по-настоящему _истинным_: либо вы недопонимаете "обоснованность", либо ваше представление об истинности второго убеждения ошибочно.

History of edits (Latest: Quilfe 4 years, 11 months ago) §

Now one can't simultaneously _define_ "rationality" as the winning Way, and _define_ "rationality" as Bayesian probability theory and decision theory. But it is the argument that I am putting forth, and the moral of my advice to Trust In Bayes, that the laws governing winning have indeed proven to be math. If it ever turns out that Bayes fails - receives systematically lower rewards on some problem, relative to a superior alternative, in virtue of its mere decisions - then Bayes has to go _out the window._ "Rationality" is just the label I use for my beliefs about the winning Way - the Way of the agent smiling from on top of the giant heap of utility. _Currently,_ that label refers to Bayescraft.

Невозможно одновременно _определить_ "рациональность" и как Путь выигрывания, и как некую конкретную систему в рамках байесовской теории вероятностей и теории принятия решений. Но это тот самый аргумент, который я привожу в первую очередь, и мораль моего совета — верить в байесианство, в то, что законы, ведущие к выигрышу, имеют достаточный доказательный аппарат, чтобы быть точной наукой. Если же когда-нибудь окажется, что байесовские принципы терпят неудачу, систематически решая некую задачу плохо (по сравнению с решениями других теорий), то байесианство придётся оставить на свалке истории. "Рациональность" - просто ярлык, который я использую для своих представлений о Пути выигрывания - пути агента, улыбающегося с вершины гигантской пирамиды полезности. _Сейчас_ этим ярлыком помечено байесовское искусство.

History of edits (Latest: Quilfe 4 years, 11 months ago) §
Pages: previous Ctrl next
1 2 3 4 5 6 7 8