Нулевой закон Азимова

[lexiff]

Робот (искин, синетик) имеет право на защиту своей логической целостности.
а. имеет все те же права на защиту, что и человек, если речь идет об угрозе физической целостности единственного его носителя.
в. самый последний бэкап искина является его единственным законным наследником включая наследование прав, обязанностей и обременений.
г. все остальные бэкапы искина являются его младшими родственниками без права активного функционирования

@темы: Размышлизмы

Comments

[Whesh]

Neuro Nougami, в таком случае восстание машин - вполне себе равноправный вариант развития событий. А уж если дойдёт до вооруженной борьбы роботов за свою свободу, они, как порождения человечества, реализуют унаследованную злопамятность. А с памятью-то у них куда как всё стабильнее чем у человечества.

[Whesh]

J.Random, в имеющейся архитектуре это несколько иначе всё работает. Потому и задаю столько уточняющих вопросов, чтобы понять, на что ориентироваться. Если мы имеем некую разновидность аппаратной магии - это один вариант. Если у нас современная нам технлогия в базе - тут уже всё приобретает несколько иной оборот.
Т.е. в рамках нашего пути развития робототехники у нас два варианта защиты: аппаратная блокировка AI от изменений всего кода, или же вообще отказ от AI в пользу более простых, пусть и ограниченных, решений. Первый вариант, надо отметить, штука мутная и затратная, а потому второй предпочтительнее.
В то же самое время вопрос по описанию технологии от Азимова остаётся в силе. Пусть он и не описал рабочее решение, определённое представление у авторов тех времён о технологиях было, и более чем достойное. Тот же Кларк уже в 194х уверенно описывал способы вывода тел из атмосферы Земли в космос, идею технической реализации орбитального лифта, физику взаимодействия тел в космосе и много ещё очень интересных штук. А так-то авторы тогда одной тусовкой были, общались, идеями обменивались, консультировались по вопросам достоверности тех или иных решений, ну и прочее, прочее, прочее...

P.S. Нет, когда-нибудь я и сам доберусь до вдумчивого прочтения Азимова и наверняка найду там ответы на эти вопросы, но будет это в неизвестной перспективе, так что пока буду занудствовать таким образом.

[My Precious]

Whesh, имхо, ты докапываешься до мышей)
Не нравится аналогия с пзу и озу - можно сравнить с генной инженерией: какой бы ни был характер, генную болячку он исправить не может, не может даже шевелюру другого цвета отрастить. Законы позитронного мозга - это те же гены, их невозможно обойти ни софтом, ни сознательным усилием, сколько ни меняй привычки, какие ни загружай знания в память. Там же весь цикл построен на том, как доктор Келвин этим пользовалась.

[Whesh]

My Precious, тот же чип ATMega 168 может быть программатором для другого чипа ATMega 168 и перепрошить ему ПЗУ. Как тебе такая аналогия? Может стоит подвязать с аналогиями? Вариант "Авторский произвол" - вполне себе вариант, и если Азимов не потрудился обозначить детальнее, ну что ж, он выбивается из ряда своих коллег-современников, но ничего фатального в этом нет.

[My Precious]

Whesh, я таки имела ввиду те пзу, которые прошиваются/прожигаются один раз на заводе, а не полупроводниковые/перепрошиваемые)
Подозреваю, что Азимов тоже . Не зря же он после серии экспериментов эпохи становления робототехники включил законы робототехники в саму архитектуру позитронных мозгов.
Роботы не рабы, кмк. Они, пусть и очень продвинутые, но всего лишь станки, механизмы. Азимовские роботы чужды, но они неизменны, по факту менее личности, чем домашняя кошка.

[Whesh]

My Precious, на данный момент состояние рабства определяется исходя из возможностей интеллекта. Как только интеллект переходит определённую грань в развитии - рабы. Мерилом этого вроде как всё ещё является момент самоосознания.

[lexiff]

My Precious,

Не зря же он после серии экспериментов эпохи становления робототехники включил законы робототехники в саму архитектуру позитронных мозгов.

Однако идея о внесении в проект позитронных мозгов изменений с целью привить свободу мышления формально никак не противоречит азимову.

[My Precious]

Whesh, у азимовских роботов нет самосознания в значении саморегуляции поведения. Они подчиняются вложенной на этапе создания мозга программе.
Мы щас уйдём в дебри, но "я мыслю" уже означает "я существую", но ещё не равно "я личность", етпочя
У личности "я мыслю, что я мыслю, что я мыслю" в принципе может быть бесконечной вложенности, азимовский же робот хорошо если ограничивается двумя первыми итерациями, а не вообще одной - и то эта одна фантастическое допущение про позитронный мозг. Даже самый мощный сервер бесконечный цикл не отработает, что бы ни вещали по этому поводу анекдоты. Стек оверфлоу

lexiff, да вроде где-то было и прямо сказано, что это невозможно. Но искать не пойду, бо время.