Табличка «аплодисменты»

Eliezer Yudkowsky, “Applause Lights”, public translation into Russian from English More about this translation.

Translate into another language.

Participants

HoverHell 238 points
slam3085 203 points
Klok 149 points
And others...
Join Translated.by to translate! If you already have a Translated.by account, please sign in.
If you do not want to register an account, you can sign in with OpenID.
Pages: ← previous Ctrl next next untranslated
1 2

Applause Lights

Табличка «аплодисменты»

History of edits (Latest: bt_uytya 5 years, 9 months ago) §

At the Singularity Summit 2007, one of the speakers called for democratic, multinational development of AI. So I stepped up to the microphone and asked:

Один из выступавших на Саммите сингулярности в 2007 году призывал к демократичному многонациональному проекту по созданию искусственного интеллекта. Поэтому я вышел к микрофону и спросил:

History of edits (Latest: arue_0 3 years ago) §

Suppose that a group of democratic republics form a consortium to develop AI, and there's a lot of politicking during the process - some interest groups have unusually large influence, others get shafted - in other words, the result looks just like the products of modern democracies. Alternatively, suppose a group of rebel nerds develops an AI in their basement, and instructs the AI to poll everyone in the world - dropping cellphones to anyone who doesn't have them - and do whatever the majority says. Which of these do you think is more "democratic", and would you feel safe with either?

— Предположим, группа демократических республик сформировала консорциум по разработке ИИ, и в процессе происходит сплошное «политиканство» — некоторые лоббирования влияют довольно сильно, другие остаются в сторонке; другими словами, всё выглядит как очередной процесс современной демократии. Или, скажем, группа технарей-бунтарей разработала «на коленке» ИИ и обучила его опрашивать весь мир по телефону, раздавая мобильники тем, у кого их нет, и поступать так, как решит большинство. Как вы думаете, что из этого более «демократично» и даёт вам большее ощущение безопасности?

History of edits (Latest: Quilfe 3 years, 5 months ago) §

— Предложение про нердов надо как-то переписать - больно криво. slam3085

I wanted to find out whether he believed in the pragmatic adequacy of the democratic political process, or if he believed in the moral rightness of voting. But the speaker replied:

Я хотел выяснить, верил ли он в практическую адекватность демократического подхода, а также что он думает о моральной справедливости голосований. Но выступавший ответил:

History of edits (Latest: arue_0 3 years ago) §

— "прагматическая адекватность", хех gyve

The first scenario sounds like an editorial in Reason magazine, and the second sounds like a Hollywood movie plot.

— Первый сценарий выглядит, как колонка редактора в журнале Reason, а второй — как сценарий голливудского фильма.

History of edits (Latest: arue_0 3 years ago) §

Confused, I asked:

Растерявшись, я спросил:

History of edits (Latest: Klok 5 years, 8 months ago) §

Then what kind of democratic process did you have in mind?

— Так какой вариант организации демократического процесса Вы имели в виду?

History of edits (Latest: arue_0 3 years ago) §

The speaker replied:

Он сказал:

History of edits (Latest: Klok 5 years, 8 months ago) §

Something like the Human Genome Project - that was an internationally sponsored research project.

— Что-то вроде проекта «Геном человека» — исследовательскую программу с международным финансированием.

History of edits (Latest: arue_0 3 years ago) §

I asked:

Я спросил:

History of edits (Latest: slam3085 5 years, 8 months ago) §

How would different interest groups resolve their conflicts in a structure like the Human Genome Project?

— Как будут разрешаться конфликты интересов различных групп в такой организации?

History of edits (Latest: arue_0 3 years ago) §

And the speaker said:

И докладчик ответил:

History of edits (Latest: Klok 5 years, 8 months ago) §

I don't know.

— Не знаю.

History of edits (Latest: arue_0 3 years ago) §

This exchange puts me in mind of a quote (which I failed to Google found by Jeff Grey and Miguel) from some dictator or other, who was asked if he had any intentions to move his pet state toward democracy:

Этот диалог напомнил мне о цитате (которую мне не удалось нагуглить), фразе, сказанной одним диктатором другому, когда его спросили, хочет ли он направить своё марионеточное государство к демократии:

History of edits (Latest: arue_0 3 years ago) §

We believe we are already within a democratic system. Some factors are still missing, like the expression of the people's will.

— Мы верим, что у нас почти демократическая система. Не хватает всего лишь нескольких вещей, вроде выражения воли народа.

History of edits (Latest: arue_0 3 years ago) §

The substance of a democracy is the specific mechanism that resolves policy conflicts. If all groups had the same preferred policies, there would be no need for democracy - we would automatically cooperate. The resolution process can be a direct majority vote, or an elected legislature, or even a voter-sensitive behavior of an AI, but it has to be something. What does it mean to call for a "democratic" solution if you don't have a conflict-resolution mechanism in mind?

В основе демократии лежит конкретный механизм разрешения конфликтов интересов. Если бы все группы придерживались единой выбранной стратегии, не было бы нужды в демократии — мы бы всё равно эффективно сотрудничали. Процесс разрешения конфликтов может быть в виде прямого голосования, или выбранным законодательным органом, или даже с помощью ИИ, учитывающего пожелания избирателей, но всё же должно что-то быть. Что будет означать «демократичность» решения, если у Вы не представляете конкретного механизма разрешения конфликтов?

History of edits (Latest: HoverHell 5 years, 5 months ago) §

— Стратегия == модель поведения, не знаю, стоит ли подставлять эти два слова вместо одного slam3085

Pages: ← previous Ctrl next next untranslated
1 2