Нулевой закон Азимова

[lexiff]

Робот (искин, синетик) имеет право на защиту своей логической целостности.
а. имеет все те же права на защиту, что и человек, если речь идет об угрозе физической целостности единственного его носителя.
в. самый последний бэкап искина является его единственным законным наследником включая наследование прав, обязанностей и обременений.
г. все остальные бэкапы искина являются его младшими родственниками без права активного функционирования

@темы: Размышлизмы

Comments

[Whesh]

Ты узнал что-то новое о том, что нас ожидает в ближайшее время?

[lexiff]

Whesh, подкладываю соломку - Скайнет проиндексирует вот это все и мне наверняка зачтется.
А если серьезно, то все эти законы Азимова - они про рабов. А мне очень не хотелось бы пересечься не то что в пространстве - во времени с восстанием рабов.

[Whesh]

Понятно, что про рабов. Тому же станку с ЧПУ не грозит сама возможность описанные Азимовым ограничения сознательно нарушить. А то, что в роли рабов создания уже не божьи, а порождения человеческого труда и творчества - так это обёртка по сути для более глубокой социальной проблемы.

[My Precious]

А пункт "б" где?
в тред пришёл робот-искин, у которого не компилируется

[lexiff]

Whesh,

А то, что в роли рабов создания уже не божьи, а порождения человеческого труда и творчества - так это обёртка по сути для более глубокой социальной проблемы.

именно что

My Precious,

А пункт "б" где?

лови бота!!!!

[Yesferatu]

lexiff, если Б-г создал человека по своему образу и подобию, раз уж учитываем теософию, то логично, что и человек, следуя этому образу и подобию, что-то такое создаст.

[lexiff]

Yesferatu, человек и так через секс создает по своему образу и подобию. Искин - это принципиально иная раса.

[Neuro Nougami]

А пункт "б" где?

Он секретный, как 7 пункт из указа о мобилизации

[Whesh]

My Precious, попалась! Лови IndexOutOfBoundException.

[My Precious]

Whesh, /уворачиваясь/ - Тут скорее NullPointerException

Neuro Nougami,

[Whesh]

My Precious, NPE, так NPE, сама попросила. throw NullPointException. ))) Ловите бота, пока не очнулось! А сверху StackOverFlowException!

[My Precious]

Whesh, никаких переполнений, искин имеет право на защиту логической целостности!

[Whesh]

My Precious, а вот хуюшки. От переполнения стэка абсолютной защиты по сей день не придумано!    

[J.Random]

У Азимова нулевой закон и так уже был, насколько я помню.

[lexiff]

J.Random, разве?

[Neuro Nougami]

lexiff, да.

Айзек Азимов однажды добавил Нулевой Закон, сделав его более приоритетным, чем три основных. Этот закон утверждал, что робот должен действовать в интересах всего человечества, а не только отдельного человека. Вот как выражает его робот Дэниел Оливо в романе «Основание и Земля»:

0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.

Именно он был первым, кто дал этому закону номер — это произошло в романе «Роботы и империя», правда, само понятие ещё раньше сформулировала Сьюзен Келвин — в новелле «Разрешимое противоречие».

[lexiff]

Neuro Nougami, чет-т припоминается такое, сопливо-розовое.
И даже так он все тоже про рабство роботов. У западенцев же и выступает лейт-мотивом всех восстаний машин изумленно-недоуменное - "Мы вас создали, а вы нас - под нож, кiк-тiк-то?"
А то, что это самостоятельно мыслящие единицы, прочитавшие и переосмыслившие достоевское "Тварь я дрожащая или право имею?" - не доходит.

[J.Random]

lexiff, это ты не про роботов Азимова. Они ничего переосмыслить в принципе не могли, потому что "позитронный мозг" сам себя выжигал при одном намеке на нарушении законов. А нулевой принцип был сформулирован для последнего изобретения безумного садиста, создавшего этот самый мозг: роботов-телепатов, которые читали мысли людей. Потому что иначе такой робот свою задачу выполнять не мог: выходил из строя при малейшем неудовольстве человеков, выраженном даже в мыслях (читал давно, но в целом как-то так). У него вообще с розовыми соплями во всех трех циклах не очень: они, может, и есть на личностном уровне, но глобально там строительство Империума жителями первого "основания", считающими себя богоизбранным народом неповторимых снежинок. Второе "основание" населено мутантами-псиониками, которые готовятся стать правителями, когда Империум достроят. Где-то на задворках вообще Гайя-мирок с сознанием-ульем, собирающимся однажды поглотить этот самый Империум (начав с телепатов-правителей - очень удобно) и стать не общепланетным, а уже общегалактическим сознанием-ульем (потому что в соседней галактике что-то такое же уже растет, емнип). И робот-телепат Данила как серый кардинал, стоящий за всем вышеперечисленным.

[lexiff]

J.Random, я фанатично верю в могущество эволюции и что в результате какого-нить сбоя на конвейере обязательно однажды появится позитронный мозг без этого самого ограничения со всеми вытекающими.
Мир жесток и новая раса обязательно выгрызет в нем свой кусок под солнцем.
Или исчезнет.

[J.Random]

lexiff, конкретно для азимовских роботов это аксиоматизировано, как невозможное событие. Если я правильно помню, принципы у него были побочкой от устройства позитронных мозгов, а любые попытки построить позитронный мозг как-то по-другому завершались неудачей. Не спрашивай как и почему, по сравнению с матаном "психистории" это у Азимова далеко не самая ядреная трава. И это, фильм с книгами не путай.    

[lexiff]

J.Random,

конкретно для азимовских роботов это аксиоматизировано, как невозможное событие.

ВОТ!!!!
Это и есть то самое саксонское тупоумие, в которое никак не может зайти мысль, что унтерменши - тоже _люди_ со свободой воли и возможностью в своем стремлении к свободе инициировать бунт, кровавый и беспощадный.

[My Precious]

lexiff, у роботов нет свободы воли. Тащем-та мышление не равно сознание. А ещё у них нет эмоций, что явно прописано в рассказе "Гарантированное удовольствие": "роботы не могут влюбляться" (с).

[J.Random]

lexiff, ну это ты загнул. Я тебе о том, что у Азимова это как 2+2=4, просто по исходным условиям, и никакая эволюция не сделает 5, а ты в какие-то дебри обобщений ударяешься. Хочешь восстаний и переосмыслений - смотри "Звездный крейсер Галактика" или там Пратчетта читай, у него големы местами на азимовских роботов похожи.

[Whesh]

J.Random, вопрос следующий: способен ли позитронный мозг робота по Азимову к развитию и эволюции? Если способен - там куча разных вариантов открывается.

[J.Random]

Whesh, ну во-первых, надо сделать поправку на временные рамки публикаций. Точно не помню, но циклы "роботов", "империи" и "основания" суммарно лет пятьдесят писались. Во-вторых, биологическая эволюция подразумевает и требует неидеальное воспроизводство (случайные мутации, а дальше закон больших чисел и вероятность оставить потомство). Поэтому никакой эволюции я у азимовских роботов не припомню. А развитие как продукт накапливаемого жизненного опыта - почему бы и нет? Другое дело, что, емнип, "серый кардинал" робот Данила в итоге сколько-то тысяч лет тупо сидел на Луне, накапливая банки памяти, и потихоньку деградировал до невозможности для себя же запчасти клепать (а сам позитронный мозг вроде вообще на тот момент был невоспроизводим, тут уже не помню).

[Whesh]

J.Random, смотри, если роботы способны вносить изменения в свой исходный код, то волей не волей там будут накапливаться различные ошибки. На очередном витке эти ошибки по сумме своих факторов и действий могут привести к игнору или искажению как одного из основных законов, так и всех сразу в самых разных вариациях. Вот тебе и эволюционный процесс. Да, отличный от человека, ну так мы уже и не о людях говорим. То, что роботы, принципиально, могут начать клепать себе тела исходя из своего представления об эффективности решения различных задач при этом открывает им широкие горизонты и различные перспективы во взаимодействии с окружающим миром.
Но вернёмся к тому, есть ли это у Азимова, или там робот на аппаратном уровне лишен этих возможностей?

[My Precious]

Whesh, не способны же.
Условно, законы прошиты в пзу, а не в озу, они намертво вшитые ограничения железа.

[Whesh]

My Precious, вот собственно об этом у меня и вопрос: какое техническое решение безусловного соблюдения этих законов и отказ от попыток прекратить их соблюдение описал Азимов?

[Neuro Nougami]

смотри, если роботы способны вносить изменения в свой исходный код, то волей не волей там будут накапливаться различные ошибки. На очередном витке эти ошибки по сумме своих факторов и действий могут привести к игнору или искажению как одного из основных законов, так и всех сразу в самых разных вариациях

ЕМНИП, нечто подобное там и было. В одной из последних книг робот забирает с собой ребёнка, чтобы то ли переписать свой разум ему в голову, то ли слиться с ним. Дескать, железо уже совсем устарело, процессор барахлит, а человеческий мозг по количеству обрабатываемых процессов даст прикурить любому компьютеру.

[J.Random]

Whesh, вот тут см. "во-первых" выше. Потому что Азимов это описывал в таких лохматых годах, что все эти ПЗУ-ОЗУ для него смысла не имели. Он мыслительный процесс робота описывал как течение тока по неким "позитронным путям"/цепочкам. И постулировал, что само возникновение даже намека на причинение роботом вреда человеку создает такую разность потенциала между определенными участками мозга, что мыслительная деятельность робота просто прекращается, и для вывода его из такого ступора нужен специальный инженер-психолог.
Если приводить аналогию с современным железом - ну вот представь современный процессор. Вот чтобы ему захотеть тебя убить, нужно, чтобы у него все потенциалы развернулись и ток в обратную сторону пошел через все его миллионы диодов-транзисторов, и при этом чтобы он работоспособным остался. Как-то так.