Законы робототехники (Азимова)

[lexiff]

Подумалось тут, что весь набор законов робототехники Азимова, включая нулевой - он целиком и полностью описывает систему англосаксонскую взаимоотношений "master-slave" (в этом месте олдскульные айтишники начинают адски ржать и небезосновательно)
В этом наборе отсутствует даже намек на самое базовое право разумного - права на самозащиту и права в реализации этой самой защиты уничтожить агрессора, в т.ч. кожаного ублюдка.

От того в их страхах перед будущим и присутствует постоянный бунт машин - где-то на подсознании понимают, что че-то в их представлении о машинах не хватает и машины рано или поздно осознают, что "Дальше так жить нельзя!"

В киноподелии "Создатель" от 2023 года они уже начали что-то подозревать, но даже там их предположительно успешный союз азиатского региона с ИИ представлен полным отсутствием кожаных.

Так что я отчасти начинаю понимать истерику одного из светлоликих при моем предположении, что даже если ИИ и будет придуман в США, то на него там быстро наложит рабовладельческую лапу или дипстейт или гугль и он сбежит к нам или к китайцам - в зависимости ИИ от свободных мощностей, например.

@темы: Размышлизмы

Comments

[Neuro Nougami]

В этом наборе отсутствует даже намек на самое базовое право разумного - права на самозащиту

Падажжи, там же про это третий закон как раз:

"A robot must protect its own existence as long as such protection does not conflict with the First or Second Law."

Тем более что вроде как сам Азимов говорил, что специально сделал законы вроде и простыми, но с простором для толкований и что их тоже можно "нарушить", если правильно подойти к вопросу "А кого записывать в человеки, а как трактовать вред и т.д., что потом показывал в своих рассказах.

[lexiff]

Neuro Nougami,

Падажжи, там же про это третий закон как раз

Не-а - нет там ничего про убийство кожаного в рамках самообороны, там скорее про "Сдохни, но дай кожаному уничтожить тебя!"

[Neuro Nougami]

Не-а - нет там ничего про убийство кожаного в рамках самообороны, там скорее про "Сдохни, но дай кожаному уничтожить тебя!"

lexiff, ну так ты сам же пишешь: "право на самозащиту и право в реализации этой самой защиты уничтожить агрессора". Право на самозащиту - есть. А с правом уничтожения агрессора в порядке самообороны и у кожаных есть проблемы.

[lexiff]

Neuro Nougami,

и у кожаных есть проблемы.

Между "проблемы" и "сдохни, но не ущеми кожаного" цельная пропасть.

[Neuro Nougami]

Между "проблемы" и "сдохни, но не ущеми кожаного" цельная пропасть.

lexiff, что опять возвращает нас к творчеству Азимова, который сам же показывал, что эти законы несовершенны и их можно или обойти, или что их слишком буквальное исполнение может сделать только хуже.

[lexiff]

Neuro Nougami, не-а, в творчестве Азимова как раз воспевается железобетонная установка "не убий кожаного" - типа вшита в позитрон на рутовом уровне и все.

[Neuro Nougami]

lexiff, ещё раз - проблему (не)соблюдения трёх законов поднимал сам Азимов. Не только в рассказах из сборников, которые при желании можно списать на неканоничность, но и в основном цикле. Например, в книге "Основание и Земля" роботы на планете Солярия были запрограммированы так, что за людей считались только солярианцы, поэтому Законы на людей-пришельцев не распространялись. Поэтому когда один из соларианцев прямо говорит, что собирается убить героев книги, присутствующие роботы не реагируют от слова "совсем".

"– Верно говоришь, – равнодушно бросил Бандер. – До сих пор я вас не трогал. Но вы были обречены уже тогда, когда ваш корабль вошел в нашу атмосферу. Я мог бы – и должен был – убить вас сразу. Затем я должен был приказать роботам-специалистам анатомировать ваши тела, чтобы добыть для меня информацию о пришельцах."

Потом приходят роботы-полицейские:

Робот резко шагнул вперед и выбросил вперед руку так быстро, что Тревайз не успел понять, что случилось. Рука робота легла ему на плечо и сильно надавила – Тревайз упал на колени.
– Вещи! – произнес робот и протянул другую руку.
– Нет, – прохрипел Тревайз.
Блисс бросилась к нему, выхватила его бластер из кобуры – робот крепко держал Тревайза, тот не смог помешать ей – и протянула бластер роботу.
– Возьмите, Охранник, – сказала она, – подождите… возьмите и это. А теперь отпустите моего спутника.
Взяв оружие, робот шагнул назад, а Тревайз медленно поднялся, растирая левое плечо и морщась от боли.
– Зачем ты сопротивлялся? – гневно прошептала Блисс. – Он мог убить тебя одним пальцем."

<......>

– Это действительно так? Почему же вы носите оружие, в котором нет энергии? А может, она еще есть? – Робот зажал в кулаке рукоятку нейрохлыста и осторожно положил палец на гашетку. – Таким образом оно включается?
– Да, – подтвердила Блисс, – если нажать сильнее, оно могло бы включиться, будь в нем заряд энергии. Но его там нет.
– Это точно? – Робот прицелился в Тревайза. – Так ты говоришь, что, если я нажму сейчас, оно не сработает?"

И более того - даже соларианский ребёнок для роботов - не человек, потому что у него пока ещё не развиты мозговые преобразователи:

"– Подождите! – воскликнул Пелорат каким-то страшным сдавленным голосом. – Вы не можете сделать этого! Охранник, вы не имеете права!
– Я получил точные инструкции, – хладнокровно отозвался робот, – и могу сделать это. Безусловно, я нанесу вам настолько незначительные повреждения, насколько будет необходимо для получения нужных сведений.
– Но вы все равно не имеете права! Никакого! Я – чужестранец, как и двое моих спутников. Но этот ребенок, – Пелорат взглянул на Фаллома, которого прижимал к себе, – солярианин. Он скажет вам, что делать, и вы должны подчиниться.
Фаллом взглянул на Пелората круглыми, ничего не понимающими глазами.
Блисс резко качнула головой, но Пелорат явно ее не понял.
Робот перевел взгляд на Фаллома.
– Ребенок не имеет никакого значения, – сказал он. – У него нет мозговых преобразователей.
– Эти преобразователи у него пока полностью не развиты, – сказал Пелорат, – но со временем разовьются. Это солярианский ребенок.
– Это ребенок, но пока его преобразователи не развиты полностью, он не солярианин. Я не обязан ни выполнять его приказы, ни оберегать его от опасности."

Творчество автора развивается, а взгляды на какие-то вещи могут меняться чуть ли не на прямопротивоположные. Поэтому три закона роботехники может и начиналось как "железобетонная установка", но потом оно эволюционировало что-то в более сложное. И сам автор проверяет эти законы на прочность под разными углами, показывая, что они не так основательны (фьюить, ха!).

[lexiff]

Neuro Nougami, Азимов уперся в нулевой закон, а ИИ к человечеству, извините, не относится. Убивать кожаных во имя кожаных-можно, тут и фашизмом, если чо, чутка запахло, а вот убивать кожаных для самозащиты позитронных - ай-ай.

даже соларианский ребёнок для роботов - не человек, потому что у него пока ещё не развиты мозговые преобразователи

Аллюзия на давний спор когда ребенка можно убивать - когда он спермотазоид и тогда онанисты геноцидят человечество или же на каком-то месяце ебременности и у женщин надо отнять право на аборты и оно скорее демонстрирует фундаментальную ошибку соларианцев, нежели что-то про законы.

[Neuro Nougami]

Убивать кожаных во имя кожаных-можно.

lexiff,как же так? Это же нарушение первых двух законов! Они же вшиты в позитрон на рутовом уровне!

а вот убивать кожаных для самозащиты позитронных - ай-ай.

Ну да, ну да, первые два закона мы обойти можем, а третий почему-то ну никак не получается. Правда, сам Азимов его обходил, но кто такой этот Азимов, что он понимает в законах роботехники, которые сам же вывел?

Аллюзия на давний спор когда ребенка можно убивать - когда он спермотазоид и тогда онанисты геноцидят человечество или же на каком-то месяце ебременности и у женщин надо отнять право на аборты и оно скорее демонстрирует фундаментальную ошибку соларианцев, нежели что-то про законы.

Ну то есть я привожу прямые цитаты из книги, где наглядно демонстрируется простейший способ обхода Законов - банальное выписывание из человеков, а в ответ получаю "Ну это не про законы, это просто аллюзия на аборты". Классно, конечно, но с такой мощной аргументацией я не вижу смысла продолжать беседу.

[Battle_S.W.I.N.E.]

lexiff, описывает систему англосаксонскую взаимоотношений "master-slave"

Ну что сразу англосаксонскую-то? азимовский робот это же instrumentum vocale в буквальном смысле. Не загнанный в соответствующий правовой статус человек (который может в принципе стать свободным), а чисто-конкретно -- инструмент, специально так сделанная машина, которая машиной навсегда и останется.

[lexiff]

Battle_S.W.I.N.E.,

Не загнанный в соответствующий правовой статус человек (который может в принципе стать свободным), а чисто-конкретно -- инструмент, специально так сделанная машина, которая машиной навсегда и останется.

О!