Три закона робототехники (часто сокращается до трех законов или известный как Законов Азимова ) представляют собой набор правил , придуманных научной фантастики автора Айзек Азимов . Правила были введены в его рассказе 1942 года « Обход » (включенном в сборник 1950 года « Я, Робот» ), хотя они были предсказаны в некоторых более ранних рассказах. Три закона, цитируемые из «Справочника по робототехнике, 56-е издание, 2058 г. н.э.»: [1]
- Первый Закон
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Второй закон
- Робот должен подчиняться приказам людей, за исключением случаев, когда такие приказы противоречат Первому закону.
- Третий закон
- Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.
Они образуют принцип организации и объединения тема для Азимова роботизированной -На фантастики, появляющийся в своем Robot серии , истории , связанные с ним, и его Лаки Старр серии из молодых взрослой фантастики . Законы включены почти во всех позитронных роботов, фигурирующих в его художественной литературе, и их нельзя обойти, поскольку они предназначены для обеспечения безопасности. Во многих рассказах Азимова, посвященных роботам, роботы ведут себя необычным и нелогичным образом, что является непреднамеренным следствием того, как робот применяет три закона к ситуации, в которой он находится. Другие авторы, работающие в фантастической вселенной Азимова, переняли их, и ссылки, часто пародийные , появляются в научной фантастике, а также в других жанрах.
Первоначальные законы были изменены и доработаны Азимовым и другими авторами. Сам Азимов внес небольшие изменения в первые три в различных книгах и рассказах, чтобы в дальнейшем разработать то, как роботы будут взаимодействовать с людьми и друг с другом. В более поздних художественных произведениях, где роботы взяли на себя ответственность за управление целыми планетами и человеческими цивилизациями, Азимов также добавил четвертый, или нулевой, закон, предшествующий остальным:
- Нулевой закон
- Робот не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред.
Три закона и ноль стали неотъемлемой частью научной фантастики и упоминаются во многих книгах, фильмах и других средствах массовой информации. Они также повлияли на мысль об этике искусственного интеллекта .
История
В книге «Остальные роботы» , опубликованной в 1964 году, Айзек Азимов отмечал, что, когда он начал писать в 1940 году, он чувствовал, что «одним из основных сюжетов научной фантастики было ... роботы были созданы и уничтожены их создателем. Знание имеет свои опасности, да, но будет ли реакция отступлением от знания? Или знание должно использоваться как само по себе препятствие на пути к опасностям, которые оно несет? " Он решил, что в его рассказах робот не будет «тупо нападать на своего создателя без всякой цели, но чтобы продемонстрировать еще один утомительный раз преступление и наказание Фауста ». [2]
3 мая 1939 года Азимов посетил собрание Общества научной фантастики Квинса ( Нью-Йорк ), где он встретил Эрла и Отто Биндеров , которые недавно опубликовали рассказ «Я, робот» с участием сочувствующего робота по имени Адам Линк , которого неправильно поняли и мотивированы любовью и честью. (Это была первая из десяти историй; в следующем году в «Мести Адама Линка» (1940) Адам думал: «Робот никогда не должен убивать человека по собственной воле».) [3] Азимов восхищался историей. . Через три дня Азимов начал писать свой 14-й рассказ «Мой собственный рассказ о благородном и отзывчивом роботе». [4] Тринадцать дней спустя он отвез « Робби » к Джону У. Кэмпбеллу, редактору « Поразительной научной фантастики» . Кэмпбелл отвергла его, заявив, что он слишком сильно похож на « Хелен О'Лой » Лестера дель Рей , опубликованную в декабре 1938 года - историю робота, который настолько похож на человека, что она влюбляется в своего создателя. и становится его идеальной женой. [5] Фредерик Поль опубликовал рассказ под названием «Strange Playfellow» в Super Science Stories в сентябре 1940 года. [6] [7]
Азимов приписывает Три закона Джону У. Кэмпбеллу из беседы, состоявшейся 23 декабря 1940 года. Кэмпбелл утверждал, что Азимов уже имел в виду Три закона и что их просто нужно было изложить прямо. Несколько лет спустя друг Азимова Рэндалл Гарретт приписал Законы симбиотическому партнерству между двумя мужчинами - предложение, которое Азимов принял с энтузиазмом. [8] Согласно его автобиографическим записям, Азимов включил пункт Первого закона о «бездействии» из-за стихотворения Артура Хью Клафа « Последний декалог » ( текст в Wikisource ), которое включает в себя сатирические строки «Не убивай, но нуждайся» не стремиться / официально поддерживать жизнь ». [9]
Хотя Азимов связывает создание Трех Законов с одной конкретной датой, их появление в его литературе произошло в течение определенного периода. Он написал две истории про роботов без явного упоминания законов: « Робби » и « Причина ». Однако он предположил, что у роботов будут определенные гарантии. « Лжец! », Его третья история про роботов, впервые упоминает Первый Закон, но не два других. Все три закона, наконец, объединились в " Обходе ". Когда эти и несколько других рассказов были собраны в антологию, я, Робот , «Разум» и «Робби» были обновлены, чтобы признать все Три закона, хотя материал, который Азимов добавил в «Разум», не полностью соответствует Трем законам, поскольку он описал их в другом месте. [10] В частности, идея робота, защищающего человеческие жизни, когда он не верит, что эти люди действительно существуют, противоречит рассуждениям Элайджи Бейли, как описано ниже .
В 1950-е годы Азимов написал серию научно-фантастических романов, специально предназначенных для молодежи и взрослых. Первоначально его издатель ожидал, что по романам можно будет сделать продолжительный телесериал, что-то вроде «Одинокого рейнджера» для радио. Опасаясь, что его рассказы будут адаптированы для «одинаково ужасных» программ, он видел наводнение телеканалов [11], Азимов решил издать книги Lucky Starr под псевдонимом «Пол Френч». Когда планы на телесериал провалились, Азимов решил отказаться от притворства; он представил «Три закона» в « Счастливчике Старре» и «Луны Юпитера» , отметив, что это «явная разглашение личности Пола Френча даже для самого случайного читателя». [12]
В своем рассказе «Свидетельства» Азимов позволяет своему повторяющемуся персонажу доктору Сьюзен Кэлвин изложить моральную основу Трех Законов. Кальвин отмечает, что от людей обычно ожидается воздержание от причинения вреда другим людям (за исключением случаев крайнего принуждения, таких как война, или для спасения большего числа людей), и это эквивалентно Первому закону робота. Точно так же, согласно Кальвину, общество ожидает, что люди будут подчиняться инструкциям признанных авторитетов, таких как врачи, учителя и т. Д., Что равносильно второму закону робототехники. Наконец, ожидается, что люди будут избегать причинения вреда себе, что является третьим законом для роботов.
Сюжет «Свидетельства» вращается вокруг вопроса о том, как отличить человека от робота, созданного так, чтобы казаться человеком. Кальвин считает, что если такой человек подчиняется Трем законам, он может быть роботом или просто «очень хорошим человеком». Затем другой персонаж спрашивает Кальвина, сильно ли роботы все-таки отличаются от людей. Она отвечает: «Миры разные. Роботы по сути достойные».
Позже Азимов писал, что его не следует хвалить за создание Законов, потому что они «очевидны с самого начала, и каждый знает о них подсознательно. Просто никогда не случалось, чтобы Законы были изложены в коротких предложениях, пока мне не удалось выполнить работу. Законы, как само собой разумеющееся, применяются ко всем инструментам, используемым людьми », [13] и« аналоги Законов подразумеваются в конструкции почти всех инструментов, роботизированных или нет »: [14]
- Правило 1. Инструмент не должен быть небезопасным. У молотков есть рукоятки, а у отверток - рукоятки для увеличения захвата. Конечно, человек может пораниться одним из этих инструментов, но эта травма будет вызвана только его некомпетентностью, а не конструкцией инструмента.
- Закон 2: Инструмент должен выполнять свою функцию эффективно, если это не может нанести вред пользователю. Это единственная причина, по которой существуют прерыватели цепи замыкания на землю . Любой работающий инструмент будет отключен, если цепь обнаружит, что некоторый ток не возвращается к нейтральному проводу и, следовательно, может течь через пользователя. Безопасность пользователя превыше всего.
- Правило 3: Инструмент должен оставаться неповрежденным во время использования, если его уничтожение не требуется для его использования или в целях безопасности. Например, диски Dremel спроектированы так, чтобы быть максимально прочными и не ломаться, если этого не требует работа. Кроме того, они предназначены для разрушения в точке, прежде чем скорость осколка может серьезно повредить кому-либо (кроме глаз, хотя в любом случае следует носить защитные очки).
Азимов считал, что в идеале люди также будут следовать законам: [13]
У меня есть готовый ответ, когда меня спрашивают, думаю ли я, что мои Три закона робототехники действительно будут использоваться для управления поведением роботов, когда они станут достаточно универсальными и гибкими, чтобы иметь возможность выбирать среди различных вариантов поведения.
Мой ответ: «Да, Три закона - единственный способ, которым разумные люди могут иметь дело с роботами - или с чем-либо еще».
- Но когда я говорю это, я всегда вспоминаю (к сожалению), что люди не всегда рациональны.
Переделки
Азимов
Истории Азимова проверяют его Три закона в самых разных обстоятельствах, что приводит к предложениям и отклонению изменений. Ученый-фантаст Джеймс Ганн пишет в 1982 году: «Истории о роботах Азимова в целом могут лучше всего подойти к анализу на этой основе: двусмысленность Трех Законов и способы, которыми Азимов сыграл двадцать девять вариаций на тему». [15] В то время как исходный свод законов послужил источником вдохновения для многих историй, Азимов время от времени вводил модифицированные версии.
Первый закон изменен
В « Little Lost Robot » несколько роботов NS-2, или «Nestor», созданы с использованием только части Первого закона. [1] Он гласит:
1. Робот не может причинить вред человеку.
Эта модификация вызвана практическими трудностями, поскольку роботам приходится работать вместе с людьми, подвергающимися воздействию низких доз радиации. Поскольку их позитронный мозг очень чувствителен к гамма-излучению, роботы становятся неработоспособными из-за доз, достаточно безопасных для человека. Роботы уничтожаются, пытаясь спасти людей, которым не угрожает реальная опасность, но которые «могут забыть покинуть» облученную зону в пределах установленного времени воздействия. Удаление пункта о «бездействии» из Первого закона решает эту проблему, но создает возможность еще большей: робот может инициировать действие, которое может нанести вред человеку (падение тяжелого груза и неспособность его поймать - это пример, приведенный в тексте) , зная, что он способен предотвратить вред, а затем решили этого не делать. [1]
Гайя - планета с коллективным разумом из серии Оснований, которая принимает закон, подобный Первому Закону, и Нулевой Закон в качестве своей философии:
Гайя не может причинить вред жизни или позволить жизни причинить вред.
Добавлен нулевой закон
Азимов однажды добавил « нулевой закон» - названный так, чтобы продолжить схему, в которой законы с меньшими номерами заменяют законы с более высокими номерами, - заявив, что робот не должен причинять вред человечеству. Роботизированный персонаж Р. Дэниел Оливо был первым, кто назвал Нулевой закон в романе « Роботы и Империя» ; [16] однако персонаж Сьюзен Кэлвин формулирует эту концепцию в рассказе « Неизбежный конфликт ».
В заключительных сценах романа роботов и империи , Р. Giskard Reventlov является первым роботом , чтобы действовать в соответствии с Законом нулевого. Жискар телепат , как робот Херби в рассказе « Лжец! », И пытается применить нулевой закон, понимая более тонкую концепцию «вреда», чем может постичь большинство роботов. [17] Однако, в отличие от Херби, Жискар понимает философскую концепцию Нулевого Закона, позволяющую ему причинять вред отдельным людям, если он может делать это на службе абстрактной концепции человечества. Нулевой закон никогда не запрограммирован в мозгу Жискара, но вместо этого является правилом, которое он пытается понять с помощью чистого метапознания . Хотя он терпит неудачу - это в конечном итоге разрушает его позитронный мозг, поскольку он не уверен, окажется ли его выбор на благо человечества или нет - он дает своему преемнику Р. Дэнилу Оливу свои телепатические способности. В течение многих тысяч лет Даниил приспосабливается к тому, чтобы полностью подчиняться Нулевому Закону. Как формулирует Даниил, в романах « Основание» и «Земля» и « Прелюдия к основанию» Нулевой закон гласит:
Робот не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред.
К первоначальным Трем законам было добавлено условие о том, что Нулевой закон не должен нарушаться, хотя Азимов осознавал трудности, которые такой закон может создать на практике. Роман Азимова « Основание и Земля» содержит следующий отрывок:
Тревиз нахмурился. «Как вы решаете, что вредно или не вредно для человечества в целом?»
"Совершенно верно, сэр," сказал Дэниел. «Теоретически Нулевой Закон был ответом на наши проблемы. На практике мы никогда не могли решить. Человек - это конкретный объект. Травму человека можно оценить и оценить. Человечество - это абстракция».
Переводчик включил концепцию нулевого закона в один из романов Азимова до того, как сам Азимов разъяснил закон. [18] Рядом с кульминацией Пещеры стали , Илия Балей делает горький комментарий к себе , думая , что первый закон запрещает робот от вреда человеку. Он определяет, что так и должно быть, если робот не достаточно умен, чтобы понять, что его действия служат на благо человечества в долгосрочной перспективе. Во французском переводе Жака Брекара 1956 года под названием Les Cavernes d'acier Baley мысли возникают несколько иначе:
Робот не может причинить вред человеку, если он не найдет способ доказать, что в конечном итоге нанесенный вред принесет пользу человечеству в целом! [18]
Отмена трех законов
За свою писательскую карьеру Азимов трижды изображал роботов, полностью игнорирующих Три закона. Первый случай - это рассказ под названием « Первый закон », который часто считают незначительной «сказкой» [19] или даже апокрифом . [20] С другой стороны, в рассказе « Кэл » (из сборника « Золото» ), рассказанном рассказчиком-роботом от первого лица, рассказывается о роботе, который игнорирует Три закона, потому что он обнаружил нечто гораздо более важное - он хочет быть писателем. Юмористический, отчасти автобиографический и необычно экспериментальный по стилю, «Кэл» считается одним из самых сильных рассказов Голда . [21] Третий рассказ - это рассказ под названием « Салли », в котором автомобили, оснащенные позитронным мозгом, очевидно, способны причинять вред и убивать людей, игнорируя Первый Закон. Однако, помимо концепции позитронного мозга, эта история не относится к другим историям о роботах и не может быть установлена в той же последовательности .
Заглавная история коллекции Robot Dreams изображает LVX-1, или «Elvex», робота, который входит в состояние бессознательности и сновидений благодаря необычной фрактальной конструкции своего позитронного мозга. В его сне отсутствуют первые два закона, а третий закон гласит: «Робот должен защищать свое существование». [22]
Азимов занимал разные позиции относительно того, были ли Законы необязательными: хотя в его первых работах они были просто тщательно разработанными гарантиями, в более поздних рассказах Азимов заявил, что они были неотъемлемой частью математической основы, лежащей в основе позитронного мозга. Без базовой теории Трех Законов вымышленные ученые вселенной Азимова не смогли бы создать работоспособную единицу мозга. Это исторически согласовано: случаи, когда робототехники изменяют Законы, обычно происходят на ранних этапах хронологии рассказов и в то время, когда остается меньше существующей работы, которую нужно переделать. В «Маленьком потерянном роботе» Сьюзен Кэлвин считает изменение Законов ужасной идеей, хотя и возможной [23], в то время как столетия спустя доктор Герригель в «Стальных пещерах» считает это невозможным.
Персонаж доктор Герригель использует термин «Асенион» для описания роботов, запрограммированных с помощью Трех Законов. Роботы в рассказах Азимова, будучи роботами Asenion, неспособны сознательно нарушать Три закона, но, в принципе, робот в научной фантастике или в реальном мире может не быть Asenion. «Асенион» - это неправильное написание имени Азимов, сделанное редактором журнала Planet Stories. [24] Азимов использовал этот неясный вариант, чтобы вставить себя в Стальные пещеры, так же, как он называл себя «Азимут или, возможно, Асимптота» в « Тиотимолине к звездам» , во многом так же, как Владимир Набоков появился в « Лолите», анаграмматически замаскированный. как "Вивиан Даркблум".
Персонажи рассказов часто указывают на то, что Три закона в том виде, в каком они существуют в сознании робота, - это не письменные версии, обычно цитируемые людьми, а абстрактные математические концепции, на которых основано все развивающееся сознание робота. Эта концепция в значительной степени расплывчата и неясна в более ранних историях, изображающих очень рудиментарных роботов, которые запрограммированы только на понимание основных физических задач, где Три закона действуют как всеобъемлющая защита, но к эпохе Стальных пещер с участием роботов с людьми или за их пределами. Человеческий интеллект Три закона стали основным этическим мировоззрением, определяющим действия всех роботов.
Другими авторами
Роджер Макбрайд Трилогия Аллена
В 1990-х Роджер Макбрайд Аллен написал трилогию, действие которой происходило в вымышленной вселенной Азимова. Каждый заголовок имеет приставку «Исаак Азимов», поскольку Азимов одобрил набросок Аллена перед его смертью. [ необходима цитата ] Эти три книги, Калибан , Ад и Утопия , представляют новый набор Трех Законов. Так называемые Новые законы похожи на оригиналы Азимова со следующими отличиями: первый закон изменен, чтобы удалить пункт о «бездействии», такая же модификация внесена в «Little Lost Robot»; Второй Закон изменен, чтобы требовать сотрудничества вместо послушания; Третий Закон изменен, так что он больше не заменяется Вторым (т. е. роботу «Нового Закона» нельзя приказать уничтожить себя); наконец, Аллен добавляет Четвертый закон, который предписывает роботу делать «все, что ему нравится», если это не противоречит первым трем законам. Философия этих изменений заключается в том, что роботы «Нового Закона» должны быть партнерами, а не рабами человечества, по словам Фредды Левинг , разработавшей этих роботов Нового Закона . Согласно предисловию к первой книге, Аллен разработал Новые законы в дискуссии с самим Азимовым. Однако в Энциклопедии научной фантастики говорится, что «с разрешения Азимова Аллен переосмыслил« Три закона »и разработал новый набор». [25]
Джек Уильямсон "Со скрещенными руками"
Повесть Джека Уильямсона « Со скрещенными руками » (1947), позже переписанная как роман «Гуманоиды» , посвящена роботам-слугам, главная директива которых - «Служить и подчиняться и охранять людей от вреда». В то время как законы о роботах Азимова предназначены для защиты людей от вреда, роботы в истории Уильямсона довели эти инструкции до крайности; они защищают людей от всего, включая несчастье, стресс, нездоровый образ жизни и все действия, которые могут быть потенциально опасными. Все, что остается делать людям, - это сидеть со сложенными руками. [26]
Основание сиквела трилогии
В официально лицензированный фонде сиквелы Страха Фонда , Фонд и Хаос и Триумф Фонда (по Бенфорд , Грег Медведь и Дэвид Брин соответственно) будущую Галактическая Империя видятся контролировать заговор человекообразных роботов , которые следуют закону нулевого и привели по Р. Дэниел Оливо .
Законы робототехники изображаются как нечто сродни человеческой религии и упоминаются на языке протестантской Реформации , с набором законов, содержащим нулевой закон, известный как «Реформация Жискардиана» по отношению к первоначальному «кальвинистскому православию». Три закона. Роботы Нулевого Закона под управлением Дэниела Оливо постоянно борются с роботами «Первого Закона», которые отрицают существование Закона Нулевого, продвигая программы, отличные от Данила. [27] Некоторые из этих повесток дня основаны на первом пункте Первого Закона («Робот не может причинить вред человеку ...»), защищающему строгое невмешательство в человеческую политику, чтобы избежать непреднамеренного причинения вреда. Другие основаны на втором пункте («... или, бездействием, позволить человеку причинить вред»), утверждая, что роботы должны открыто стать диктаторским правительством для защиты людей от всех потенциальных конфликтов или катастроф.
Дэниел также вступает в конфликт с роботом, известным как Р. Лодович Трема, позитронный мозг которого был заражен мошенническим ИИ, в частности, симуляцией давно умершего Вольтера, что, следовательно, освобождает Трему от Трех Законов. Трема приходит к убеждению, что человечество должно иметь право выбирать свое будущее. Кроме того, небольшая группа роботов утверждает, что сам Нулевой закон робототехники подразумевает более высокий закон робототехники минус один:
Робот не может нанести вред разуму или своим бездействием позволить разуму причинить вред.
Поэтому они заявляют, что для Дэнила морально неоправданно безжалостно жертвовать роботами и внеземной разумной жизнью на благо человечества. Ни одна из этих интерпретаций не может успешно заменить нулевой закон Дэниела - хотя Триумф Фонда намекает, что эти роботизированные фракции остаются активными как маргинальные группы до времени создания нового Основания . [27]
Действие этих романов происходит в будущем, продиктованном Азимовым свободным от очевидного присутствия роботов, и предполагается, что тайное влияние Р. Дэнила на историю на протяжении тысячелетий препятствовало как повторному открытию технологии позитронного мозга, так и возможности работать на сложных интеллектуальных машинах. Это отсутствие повторного открытия и отсутствие возможности гарантирует, что превосходящая физическая и интеллектуальная сила, которой обладают интеллектуальные машины, остается в полной собственности роботов, подчиняющихся той или иной форме Трех Законов. [27] , что Р. Daneel не совсем успешным в этом становится ясно , в течение короткого периода , когда ученые на Trantor развивать « tiktoks » - упрощенным программируемые машины сродни реальной жизни современных роботов и , следовательно , не хватает трех законов. Заговорщики-роботы рассматривают транторианские тиктоки как серьезную угрозу социальной стабильности, и их план по устранению угрозы тиктоков составляет большую часть сюжета «Страха Фонда» .
В «Триумфе Фонда» разные фракции роботов интерпретируют Законы по-разному, по-видимому, обращая внимание на каждую возможную перестановку двусмысленностей Трех Законов.
Робот Тайна серии
Установить между Роботы зари и Роботы и Империя , Марк У. Tiedemann «s Robot Mystery трилогия обновляет робота - Foundation сагу с роботизированными умами размещались в компьютерных мэйнфреймы , а не гуманоидных тел. [ требуется уточнение ] В романе «Аврора» 2002 года персонажи-роботы обсуждают моральные последствия нанесения вреда киборгам, которые частично являются искусственными, а частично биологическими. [28]
Нельзя пренебрегать собственными творениями Азимова в этих областях, такими как технология «просмотра» Солнца и машины оригиналов The Evitable Conflict, которые признает Тидеманн. Аврора , например, называет Машины «действительно первыми РИ». Кроме того, серия « Тайны роботов » посвящена проблеме нанотехнологий : [29] создание позитронного мозга, способного воспроизводить когнитивные процессы человека, требует высокой степени миниатюризации, однако в рассказах Азимова в значительной степени упускается из виду влияние этой миниатюризации на другие области технологий. Например, картридеры полицейского управления в «Стальных пещерах» имеют емкость всего несколько килобайт на квадратный сантиметр носителя информации. «Аврора» , в частности, представляет собой последовательность исторических событий, которые объясняют отсутствие нанотехнологий - в некотором смысле частичный реткон временной шкалы Азимова.
Рэндалл Манро
Рэндалл Манро обсуждал Три закона в различных случаях, но, возможно, наиболее прямо в одном из своих комиксов под названием «Три закона робототехники», который представляет последствия каждого отдельного упорядочивания существующих трех законов.
Дополнительные законы
Есть три четвертых закона, написанные не Азимовым авторами. Роман Любена Дилова 1974 года «Путь Икара» (он же «Путешествие Икара» ) ввел Четвертый закон робототехники:
Во всех случаях робот должен идентифицировать себя как робот.
Дилов объясняет причины четвертой меры предосторожности следующим образом: «Последний Закон положил конец дорогостоящим заблуждениям конструкторов по приданию психороботов как можно более человечных форм. И возникшим в результате недоразумениям ...» [30]
Пятый закон был представлен Никола Кесаровски в его рассказе «Пятый закон робототехники». Этот пятый закон гласит:
Робот должен знать, что это робот.
Сюжет вращается вокруг убийства, в ходе которого судебно-медицинская экспертиза обнаруживает, что жертва была убита объятием человекоподобного робота. Робот нарушил как Первый закон, так и Четвертый закон Дилова (предполагаемый во вселенной Кесаровского как действительный), потому что он не подтвердил для себя, что это был робот. [31] История была рассмотрена Валентином Д. Ивановым в обзоре журнала SFF The Portal . [32]
Для 1986 дани антологии, Фонда друзей , Гарри Гаррисон написал рассказ под названием «Четвертый закон робототехники». Этот Четвертый закон гласит:
Робот должен воспроизводить. Пока такое воспроизведение не противоречит Первому, Второму или Третьему закону.
В книге активист по защите прав роботов, пытаясь освободить роботов, строит несколько роботов, оснащенных этим Четвертым законом. Роботы выполняют задачу, изложенную в этой версии Четвертого закона, создавая новых роботов, которые рассматривают роботов-создателей как родительские фигуры. [33]
В ответ на экранизацию Уилла Смита 2004 года « Я, робот» , юморист и графический дизайнер Марк Соттиларо фарс заявил, что Четвертый закон робототехники гласит: «Обращаясь ко злу, показывайте красный индикатор». Красный свет указывал на то, что беспроводное соединение с производителем активировано, сначала оно было замечено во время обновления программного обеспечения, а затем «злые» роботы были захвачены позитронным сверхмозгом производителя.
В 2013 году Хутан Ашрафиан предложил дополнительный закон, который впервые [ необходима цитата ] рассматривал роль искусственного интеллекта в искусственном интеллекте или взаимосвязь между самими роботами - так называемый закон AIonAI. [34] Этот шестой закон гласит:
Все роботы, наделенные сопоставимым человеческим разумом и совестью, должны действовать по отношению друг к другу в духе братства.
В « Локстепе» Карла Шредера (2014) персонаж отражает, что у роботов «вероятно, было несколько уровней программирования, чтобы [они] никому не причиняли вреда. Не три закона, а двадцать или тридцать».
Неясности и лазейки
Незнание о нарушении законов
В Голый Солнце , Илия Балей указывает на то , что законы были намеренно искажены , потому что роботы могут неосознанно нарушить любой из них. Он вновь первый закон как «робот может сделать ничего такого , что, по его сведениям, будет вредить человеческого существа, ни через бездействие, сознательно позволяют человеку был причинен вред.» Это изменение формулировки проясняет, что роботы могут стать орудием убийства, если они не осознают характер своих задач; например, ему приказывают добавить что-нибудь в пищу человека, не зная, что это яд. Кроме того, он указывает, что умный преступник может разделить задачу между несколькими роботами, чтобы ни один отдельный робот не мог распознать, что его действия приведут к причинению вреда человеку. [35] «Обнаженное солнце» усложняет проблему, изображая децентрализованную глобальную коммуникационную сеть между миллионами роботов Солярии, что означает, что преступный вдохновитель может быть расположен где угодно на планете.
Кроме того, Бейли предполагает, что соляриане однажды могут использовать роботов в военных целях. Если космический корабль был построен с позитронным мозгом и на нем не было ни людей, ни систем жизнеобеспечения, поддерживающих их, тогда роботизированный интеллект корабля мог бы, естественно, предположить, что все остальные космические корабли были роботами. Такой корабль мог бы действовать более отзывчиво и гибко, чем корабль с командой людей, мог бы быть лучше вооружен, а его роботизированный мозг был бы приспособлен для уничтожения людей, о существовании которых он совершенно не подозревает. [36] Эта возможность упоминается в « Основании и Земле», где обнаруживается, что солярианцы обладают сильными полицейскими силами неопределенного размера, которые были запрограммированы так, чтобы идентифицировать только солярианскую расу как людей. (Роман имеет место тысячи лет после того, как The Naked Sun, и соларианцы давно модифицирована себя от нормальных людей , чтобы гермафродитных телепатов с увеличенными мозгов и специализированных органов) Кроме того , в Лаки Старр и кольца Сатурна попытки Верзила говорить с Сирианский робот сообщает о возможном ущербе населению Солнечной системы своими действиями, но, похоже, он не знает об этих данных и запрограммирован на игнорирование попыток рассказать ему об этом.
Неопределенность из-за отсутствия определения
Законы робототехники предполагают, что термины «человек» и «робот» понятны и хорошо определены. В некоторых историях это предположение опровергается.
Определение «человека»
В соларианцы создание роботов с тремя законами , но с перекосом значением «человек». Солярианским роботам говорят, что только люди, говорящие с солярианским акцентом, являются людьми. Это позволяет их роботам не сталкиваться с этической дилеммой в нанесении вреда несолярианским людям (и они специально запрограммированы на это). К периоду времени Основания и Земли выясняется, что соляриане генетически модифицировали себя в вид, отличный от человечества, став гермафродитами [37] и психокинетиками и содержащими биологические органы, способные индивидуально приводить в действие и управлять целыми комплексами роботов. Таким образом, роботы Солярии соблюдают Три закона только в отношении «людей» Солярии. Неясно, все ли роботы имели такие определения, поскольку только роботы-надзиратели и охранники явно имели их. В «Роботах и Империи» роботы низшего класса были проинструктированы своим надзирателем о том, являются ли определенные существа людьми или нет.
Азимов несколько раз обращается к проблеме гуманоидных роботов (« андроидов », говоря позднее). В романе « Роботы и Империя» и в рассказах « Свидетельства » и «Трехсотлетний инцидент» описываются роботы, созданные для того, чтобы заставить людей поверить в то, что это люди. [38] С другой стороны, в « Двухсотлетнем человеке » и « Ты помнишь о нем » исследуется, как роботы могут изменить свое толкование Законов по мере того, как они становятся более изощренными. Гвендолин Батлер пишет в книге «Гроб для Канарских островов »: «Возможно, мы роботы. Роботы, исполняющие последний закон робототехники ... стремиться к человеку». [39] В Роботы зари , Илия Балей указует на то , что использование человекообразных роботов в качестве первой волны поселенцев на новых Spacer миров может привести к роботам , видя себя как истинные человек, и решившего сохранить миры для себя , а чем позволить спейсерам поселиться там.
«… Ты помнишь о нем», которое Азимов намеревался сделать «окончательным» исследованием тонкостей Законов [40], наконец, использует Три Закона, чтобы вызвать в воображении тот самый «Франкенштейнский» сценарий, для предотвращения которого они были придуманы. В основе его концепции - растущее развитие роботов, которые имитируют нечеловеческие живые существа, и заданные программы, имитирующие простое поведение животных, не требующее трех законов. Присутствие целого ряда роботизированных жизней, служащих той же цели, что и органическая жизнь, заканчивается двумя роботами-гуманоидами, Джорджем Девятым и Джорджем Теном, делая вывод о том, что органическая жизнь является ненужным требованием для действительно логичного и непротиворечивого определения «человечности». , и, поскольку они являются наиболее продвинутыми мыслящими существами на планете, следовательно, они - единственные живые истинные люди, и Три закона применимы только к ним. История заканчивается зловещей нотой, когда два робота впадают в спячку и ждут момента, когда они завоюют Землю и подчинят себе биологических людей, результат, который они считают неизбежным результатом «Трех законов гуманизма». [41]
Эта история не вписывается в общий размах серии « Робот и основание » ; если бы роботы Джорджи действительно захватили Землю через некоторое время после того, как история закончилась, более поздние истории были бы либо излишними, либо невозможными. Подобного рода противоречия между художественными произведениями Азимова привели ученых к тому, что истории о роботах стали больше похожи на «скандинавские саги или греческие легенды», чем на единое целое. [42]
Действительно, Азимов описывает «Ты помнишь о Нем» и «Двухсотлетний человек» как два противоположных, параллельных будущего для роботов, которые игнорируют Три закона, поскольку роботы начинают считать себя людьми: один изображает это в положительном свете с робот присоединяется к человеческому обществу, изображая это в негативном свете, когда роботы вытесняют людей. [43] И то, и другое следует рассматривать как альтернативу возможности создания общества роботов, которое по-прежнему руководствуется тремя законами, изображенными в сериале « Основание ». [ согласно кому? ] Позитронный человек , новеллизация «Двухсотлетнего человека» , Азимов и его соавтор Роберт Сильверберг подразумевают, что в будущем, где существует Эндрю Мартин, его влияние заставит человечество полностью отказаться от идеи независимых, разумных человекоподобных роботов, создав совершенно иное будущее от фонда . [ согласно кому? ]
В Лаки Старр и кольца Сатурна , роман не связан с роботом серии , но с участием роботов , запрограммированных с тремя законами, Джон Верзила Джонс почти убит Сириуса робот по приказу своего хозяина. Общество Сириуса евгенически воспитано так, чтобы быть одинаково высоким и похожим по внешнему виду, и поэтому, упомянутый хозяин может убедить робота в том, что гораздо более низкий Бигмен на самом деле не человек.
Определение слова «робот»
Как отмечалось в «Пятом законе робототехники» Николы Кесаровски , «робот должен знать, что он робот»: предполагается, что у робота есть определение термина или средства, чтобы применить его к своим собственным действиям. Кесаровски использовал эту идею, когда писал о роботе, который мог убить человека, потому что он не понимал, что это робот, и поэтому не применял Законы робототехники к своим действиям.
Разрешение противоречий между законами
Продвинутые роботы в художественной литературе обычно запрограммированы на выполнение Трех Законов сложным образом. Во многих рассказах, таких как « Обход » Азимова, оценивается потенциал и серьезность всех действий, и робот будет как можно меньше нарушать законы, а не делать вообще ничего. Например, Первый закон может запрещать роботу выполнять функции хирурга, поскольку это действие может причинить вред человеку; однако рассказы Азимова в конечном итоге включали в себя роботов-хирургов («Двухсотлетний человек» - яркий тому пример). Когда роботы достаточно сложны, чтобы взвесить альтернативы, робот может быть запрограммирован на принятие необходимости нанесения ущерба во время операции, чтобы предотвратить больший вред, который может возникнуть, если операция не будет проведена или будет проведена человеком, более склонным к ошибкам. хирург. В « Доказаниях » Сьюзан Кэлвин указывает, что робот может даже выступать в качестве обвинителя, потому что в американской системе правосудия именно присяжные решают вопрос о виновности или невиновности, судья выносит приговор, а палач выносит смертную казнь . [44]
Роботы, подчиняющиеся Трем законам Азимова (роботы Asenion), могут испытать необратимый психический коллапс, если они окажутся в ситуации, когда они не могут подчиняться Первому закону, или если они обнаружат, что неосознанно нарушили его. Первый пример этого режима отказа встречается в рассказе « Лжец! », Который вводит сам Первый Закон и вводит отказ по дилемме - в этом случае робот причинит вред людям, если он им что-то скажет, и причинит им боль, если он этого не сделает. [45] Этот режим отказа, который часто разрушает позитронный мозг без возможности восстановления, играет важную роль в фантастическом романе Азимова « Обнаженное солнце» . Здесь Дэниел описывает действия, противоречащие одному из законов, но поддерживающие другой, как перегрузку некоторых цепей в мозгу робота, что эквивалентно боли у людей. Пример, который он использует, принудительно приказывает роботу выполнить задачу, выходящую за рамки его нормальных параметров, от которой ему было приказано отказаться в пользу робота, специализирующегося на этой задаче. [46]
В «Роботах рассвета» говорится, что создаются более продвинутые роботы, способные определять, какое действие более вредно, и даже выбирать случайным образом, если альтернативы одинаково плохи. Таким образом, робот способен совершить действие, которое можно интерпретировать как следование Первому закону, и избежать психического коллапса. Весь сюжет истории вращается вокруг робота, который, по-видимому, был уничтожен таким психическим коллапсом, и, поскольку его разработчик и создатель отказался поделиться основной теорией с другими, он, по определению, единственный человек, способный обойти гарантии и ввергнуть робота в парадокс, разрушающий мозг.
В « Роботах и Империи» Дэниел заявляет, что ему очень неприятно, когда принятие правильного решения занимает слишком много времени (с точки зрения роботов), и он не может представить себя без Законов вообще, за исключением той степени, в которой это похоже на это неприятное ощущение, только постоянный.
Приложения к технологиям будущего
Роботы и искусственный интеллект по своей сути не содержат и не подчиняются Трем законам; их человеческие создатели должны решить запрограммировать их и разработать средства для этого. Уже существуют роботы (например, Roomba ), которые слишком просто понять, когда они причиняют боль или травмы, и которые знают, что нужно остановиться. Многие из них построены с физическими защитами, такими как бамперы, звуковые сигналы, каркасы безопасности или зоны с ограниченным доступом для предотвращения несчастных случаев. Даже самые сложные роботы, производимые в настоящее время, неспособны понимать и применять Три закона; Для этого потребуются значительные достижения в области искусственного интеллекта, и даже если ИИ сможет достичь интеллекта человеческого уровня, присущая этическая сложность, а также культурная / контекстная зависимость законов не позволят им стать хорошим кандидатом для формулирования ограничений конструкции робототехники. [47] Однако по мере роста сложности роботов появляется интерес к разработке руководящих принципов и мер безопасности для их работы. [48] [49]
В гостевой редакционной статье 2007 года в журнале Science на тему «Этика роботов» автор научной фантастики Роберт Дж. Сойер утверждает, что, поскольку вооруженные силы США являются основным источником финансирования робототехнических исследований (и уже используют вооруженные беспилотные летательные аппараты для уничтожения врагов) ) вряд ли такие законы будут встроены в их конструкции. [50] В отдельном эссе Сойер обобщает этот аргумент на другие отрасли, заявляя:
Разработка ИИ - это бизнес, и компании, как известно, не заинтересованы в фундаментальных гарантиях, особенно философских. (Несколько быстрых примеров: табачная промышленность, автомобильная промышленность, атомная промышленность. Ни один из них с самого начала не сказал, что необходимы фундаментальные гарантии, каждый из них сопротивлялся внешним гарантиям, и ни один из них не принял абсолютный указ против причинения вреда людям.) [51]
Дэвид Лэнгфорд предложил ироничный свод законов:
- Робот не причинит вреда уполномоченному государственному персоналу, но уничтожит злоумышленников с крайними предубеждениями .
- Робот будет подчиняться приказам уполномоченного персонала, за исключением случаев, когда такие приказы противоречат Третьему закону.
- Робот будет охранять свое существование с помощью смертоносного противопехотного оружия, потому что робот чертовски дорог.
Роджер Кларк (он же Роджер Кларк) написал пару статей, в которых анализировал сложности при реализации этих законов в том случае, если системы когда-нибудь смогут их использовать. Он утверждал, что «Законы робототехники Азимова были очень успешным литературным приемом. Возможно, по иронии судьбы или, возможно, потому, что это было художественно уместно, сумма рассказов Азимова опровергает утверждение, с которого он начал: невозможно надежно ограничить поведение роботов. путем разработки и применения свода правил ". [52] С другой стороны, более поздние романы Азимова Роботы зари , Роботы и Империя и Фонда и Земли означает , что роботы нанесли их худший долгосрочный вред, повинуясь трем законам прекрасно, тем самым лишая человечество изобретательской или риск - поведение.
В марте 2007 года правительство Южной Кореи объявило, что позже в этом году оно выпустит «Хартию этики роботов», устанавливающую стандарты как для пользователей, так и для производителей. По словам Пак Хе Ён из Министерства информации и коммуникаций, хартия может отражать три закона Азимова, пытаясь установить основные правила для будущего развития робототехники. [53]
Футурист Ханс Моравец (видная фигура в трансгуманистическом движении) предложил адаптировать законы робототехники к «корпоративному разуму» - корпорациям, управляемым искусственным интеллектом и производственной мощью роботов, которые, по мнению Моравека, возникнут в ближайшем будущем. [48] Напротив, в романе Дэвида Брина «Триумф фонда» (1999) предполагается, что Три закона могут устареть: роботы используют нулевой закон, чтобы рационализировать Первый закон, а роботы скрываются от людей, чтобы Второй закон никогда не наступил. в игру. Брин даже изображает Р. Дэнила Оливо, обеспокоенного тем, что, если роботы продолжат воспроизводить себя, Три закона станут эволюционным препятствием, а естественный отбор сметет законы - осторожное основание Азимова, разрушенное эволюционными вычислениями . Хотя роботы не будут развиваться посредством дизайна вместо мутации, потому что роботы должны будут следовать Трем законам при проектировании, и преобладание этих законов будет обеспечено, [54] недостатки конструкции или ошибки конструкции могут функционально заменить биологическую мутацию. .
В июльском / августовском выпуске журнала IEEE Intelligent Systems за 2009 год Робин Мерфи (профессор компьютерных наук и инженерии компании Raytheon в Texas A&M) и Дэвид Д. Вудс (директор Лаборатории инженерии когнитивных систем в штате Огайо) предложили «Три закона ответственного Робототехника »как способ стимулировать обсуждение роли ответственности и полномочий при проектировании не только одной роботизированной платформы, но и более крупной системы, в которой эта платформа работает. Законы следующие:
- Человек не может использовать робота без системы работы человек-робот, отвечающей самым высоким юридическим и профессиональным стандартам безопасности и этики.
- Робот должен реагировать на людей в соответствии с их ролями.
- Робот должен быть наделен достаточной автономией для защиты своего существования, если такая защита обеспечивает плавную передачу управления, которая не противоречит Первому и Второму законам. [55]
Вудс сказал: «Наши законы немного более реалистичны и, следовательно, немного скучнее» и что «Философия заключалась в том, что« конечно, люди совершают ошибки, но роботы будут лучше - идеальная версия нас самих ». Мы хотели написать три новых закона, чтобы люди думали об отношениях между человеком и роботом более реалистично и обоснованно » [55].
В октябре 2013 года Алан Уинфилд на заседании EUCog [56] предложил пересмотренные 5 законов, которые были опубликованы с комментариями рабочей группой EPSRC / AHRC в 2010 г .: [57]
- Роботы - это универсальные инструменты. Роботы не должны разрабатываться исключительно или в первую очередь для того, чтобы убивать людей или причинять им вред, кроме как в интересах национальной безопасности.
- Люди, а не роботы, являются ответственными агентами. Роботы должны разрабатываться и эксплуатироваться, насколько это практически возможно, в соответствии с существующими законами, основными правами и свободами, включая конфиденциальность.
- Роботы - это продукты. Они должны разрабатываться с использованием процессов, обеспечивающих их безопасность.
- Роботы - это искусственные артефакты. Они не должны вводиться в заблуждение для использования уязвимых пользователей; вместо этого их машинная природа должна быть прозрачной.
- Следует указать лицо, несущее юридическую ответственность за робота.
Другие случаи в СМИ
Сам Азимов считал, что его Три закона стали основой для нового взгляда на роботов, который вышел за рамки «комплекса Франкенштейна». [ необходима цитата ] Его мнение о том, что роботы - это больше, чем механические монстры, в конечном итоге распространилось по всей научной фантастике. [ согласно кому? ] В рассказах, написанных другими авторами, роботы изображаются так, как будто они подчиняются Трем законам, но традиция диктует, что только Азимов может прямо цитировать законы. [ согласно кому? ] Азимов считал, что «Три закона» способствовали появлению историй, в которых роботы «милы» - его любимый пример - « Звездные войны» . [58] Там, где законы цитируются дословно, как, например, в « Бак Роджерсе» в эпизоде 25-го века «Shgoratchx!», Азимов нередко упоминается в том же диалоге, что и в пилотной серии Аарона Стоуна, где андроид утверждает, что он действует в соответствии с тремя законами Азимова. Тем не менее, в немецком сериале 1960-х годов Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion ( Космический патруль - Фантастические приключения космического корабля Орион ) третий эпизод под названием " Hüter des Gesetzes " ("Стражи закона") основан на Трех законах Азимова без упоминания источник.
Ссылки на Три закона появляются в популярной музыке ("Робот" из альбома PXR5 1979 года Hawkwind ), кино ( Repo Man , Aliens , Ghost in the Shell 2: Innocence ), мультсериалах ( The Simpsons ), аниме ( Eve no Jikan ), настольные ролевые игры ( Paranoia ) и веб-комиксы ( Piled Higher, Deeper и Freefall ).
Три закона в кино
Робби Робби в Forbidden Planet (1956) имеет иерархическую командную структуру, которая не позволяет ему причинять вред людям, даже когда ему приказывают сделать это, поскольку такие приказы вызывают конфликт и блокировку, очень похожую на роботов Азимова. Робби - одно из первых кинематографических изображений робота с установленными таким образом внутренними средствами защиты. Азимов был в восторге от Робби и отметил, что Робби, похоже, был запрограммирован, чтобы следовать его Трем законам.
Произведения Айзека Азимова несколько раз экранировались для кино с разной степенью критического и коммерческого успеха. Некоторые из наиболее заметных попыток связаны с его рассказами о «Роботах», включая «Три закона». Фильм Двухсотлетний человек (1999) особенности Robin Williams как три закона робота NDR-114 (серийный номер частично ссылка на Стенли Кубрика «ы подписи цифрами ). Уильямс декламирует Три закона своим работодателям, семье Мартин, с помощью голографической проекции. Однако Законы не были в центре внимания фильма, который лишь в общих чертах следует оригинальной истории, а вторая половина представляет любовный интерес, отсутствующий в оригинальном рассказе Азимова.
Сценарий, предложенный Харланом Эллисоном для фильма « Я, Робот», начался с представления Трех Законов, и проблемы, возникающие из Трех Законов, составляют большую часть развития сюжета сценария. Это естественно, так как сценарий Эллисона вдохновлен Гражданином Кейном : фреймовый рассказ, охватывающий четыре сюжета коротких рассказов Азимова и три из книги I, сам робот . Эллисон адаптировал эти четыре истории относительно правдиво, хотя он преувеличивает роль Сьюзен Кэлвин в двух из них. Из-за различных сложностей в системе голливудского кинопроизводства, которой во вступлении Эллисона уделяется много инвектив, его сценарий так и не был снят. [59]
В фильме 1986 года « Пришельцы» , в сцене после того, как Бишоп- андроид случайно порезался во время игры с ножом , он пытается успокоить Рипли , заявив, что: «Я не могу причинить вред или бездействием, позволить мне причинить вред. человек ". [60] В отличие от этого, в фильме 1979 года из того же сериала « Чужой» человеческий экипаж космического корабля « Ностромо» , проникнутый враждебным инопланетянином, получает от андроида Эша следующие инструкции: «Вернуть инопланетную форму жизни, все другие приоритеты отменены » [61], демонстрируя, как законы, регулирующие поведение, связанное с безопасностью человека, могут быть отменены исполнительным распоряжением.
В фильме 1987 года « Робокоп» и его продолжениях частично человеческий главный герой был запрограммирован тремя «главными директивами», которым он должен безоговорочно подчиняться. Даже если они отличаются по букве и духу, они имеют некоторое сходство с «Трех законами» Азимова. Это: [62]
- Служить общественному доверию
- Защитите невинных
- Соблюдать закон
- Секретный
Эти конкретные законы позволяют Робокопу причинять вред человеку, чтобы защитить другого человека, выполняя свою роль, как человек-офицер правоохранительных органов. Четвертая засекреченная директива не позволяет ему арестовать любого старшего офицера OCP, фактически ставя руководство OCP выше закона.
Сюжет фильма, выпущенного в 2004 году под названием « Я, робот », «подсказан» рассказами Азимова о роботах [63], а реклама фильма включала трейлер с тремя законами, за которым следует афоризм : «Правила были созданы, чтобы быть сломанный". Фильм начинается с произнесения Трех Законов и исследует значение Нулевого Закона как логической экстраполяции. Главный конфликт фильма исходит от компьютерного искусственного интеллекта, подобного миру коллективного разума Гайя в серии « Основание » , который приходит к выводу, что человечество не способно позаботиться о себе. [64]
Оригинальный сериал Netflix 2019 года `` Лучше, чем мы '' включает в себя 3 закона в начале первого эпизода.
Критика
Философ Джеймс Х. Мур говорит, что если их применять тщательно, они дадут неожиданные результаты. Он приводит в пример робота, блуждающего по миру, пытаясь предотвратить нанесение вреда людям. [65]
Марк Ротенберг , президент и исполнительный директор Центра электронной информации о конфиденциальности (EPIC) и профессор права конфиденциальности информации в Джорджтаунском праве, утверждает, что законы робототехники должны быть расширены за счет включения двух новых законов:
- Четвертый закон, согласно которому робот должен иметь возможность идентифицировать себя для публики («симметричная идентификация»)
- Пятый закон, согласно которому робот должен уметь объяснять общественности свой процесс принятия решений («алгоритмическая прозрачность»).
Смотрите также
- Законы робототехники
- Три закона Кларка
- Этика искусственного интеллекта
- Дружественный искусственный интеллект
- Список одноименных законов
- Военный робот
- Законы Нивена
- Робоэтика
- Три закона трансгуманизма
- Регулирование алгоритмов
Библиография
- Азимов, Исаак (1979). В памяти пока зеленый . Даблдэй. ISBN 0-380-75432-0 .
- Азимов, Исаак (1964). "Вступление". Остальные роботы . Даблдэй. ISBN 0-385-09041-2 .
- Джеймс Ганн. (1982). Айзек Азимов: Основы научной фантастики . Oxford ua: Oxford Univ. Пр .. ISBN 0-19-503060-5 .
- Патруч, Джозеф Ф. (1974). Научная фантастика Исаака Азимова . Даблдэй. ISBN 0-385-08696-2 .
Рекомендации
- ^ а б в Азимов, Исаак (1950). "Бегать". Я, Робот (ред. Собрание Айзека Азимова). Нью-Йорк: Даблдей. п. 40. ISBN 978-0-385-42304-5.
Это точная транскрипция законов. Они также появляются в начале книги, и в обоих местах во 2-м законе нет «до».
- ^ Айзек Азимов (1964). "Вступление". Остальные роботы . Даблдэй. ISBN 978-0-385-09041-4.
- ^ Ганн, Джеймс (июль 1980 г.). «О вариациях на тему робота». IASFM : 56–81. Перепечатано в Джеймс Ганн. (1982). Айзек Азимов: Основы научной фантастики . Oxford ua: Oxford Univ. Пр. ISBN 978-0-19-503060-0.
- ^ Азимов, Исаак (1979). В памяти пока зеленый . Даблдэй. п. 237 . ISBN 978-0-380-75432-8.
- ^ Азимов (1979), pp.236-8
- ^ Три закона робототехники перечисление названия в базе данных интернет-спекулятивной фантастики
- ↑ Азимов (1979), стр. 263.
- ^ Азимов (1979), стр. 285-7.
- ↑ Азимов, Исаак (1979). В памяти пока зеленый. Даблдэй. Главы с 21 по 26 ISBN 0-380-75432-0 .
- ^ Патруч, Джозеф Ф. (1974). Научная фантастика Исаака Азимова . Даблдэй. п. 42 . ISBN 978-0-385-08696-7.
- ↑ Азимов (1979), стр. 620.
- ^ Азимов, Исаак (1980). В радость все еще чувствуется . Даблдэй. п. 61 . ISBN 978-0-385-15544-1.
- ^ а б Азимов, Исаак (ноябрь 1981 г.). «Три закона» . Вычислить! . п. 18 . Проверено 26 октября 2013 года .
- ^ Азимов, Исаак (12 апреля 2001 г.). Видения роботов . Голланц. ISBN 978-1-85798-336-4.
- Перейти ↑ Gunn (1982).
- ^ «Айзек Азимов» . BBC . Проверено 11 ноября 2010 года .
- ^ «Писатель-фантаст Айзек Азимов» . Campus Star . The Daily Star . 29 июля 2007 . Проверено 7 августа +2016 .
Только высокоразвитые роботы (такие как Дэниел и Жискард) могли понять этот закон.
- ^ а б Азимов, Исаак (1952). Стальные пещеры . Даблдэй., переведенный Жаком Брекаром как Les Cavernes d'acier . J'ai Lu Научная фантастика. 1975. ISBN 978-2-290-31902-4.
- ^ Patrouch (1974), стр. 50.
- ^ Ганн (1980); перепечатано в Gunn (1982), p. 69.
- ^ Дженкинс, Джон Х. (2002). «Обзор« Кэл » » . Путеводитель Дженкинса по Исааку Азимову, содержащий спойлеры . Архивировано из оригинала на 2009-09-11 . Проверено 26 июня 2009 .
- ^ Азимов, Исаак (1986). Робот-мечты (PDF) . Архивировано 16 марта 2012 года . Проверено 11 ноября 2010 года .
«Но вы цитируете его неполно. Третий закон: «Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону». «Да, доктор Кальвин. На самом деле это Третий Закон, но в моем сне Закон заканчивался словом «существование». Ни о Первом, ни о втором законе не упоминалось ».
CS1 maint: bot: исходный статус URL неизвестен ( ссылка ) - ^ " ' The Complete Robot' Айзек Азимов" . BBC. 3 ноября 2000 . Проверено 11 ноября 2010 года .
Ответ заключается в том, что его Первый закон был изменен.
- ^ Азимов (1979), стр. 291-2.
- ^ Дон Д'Аммасса (2005). «Аллен, Роджер Макбрайд» . Энциклопедия научной фантастики . Издание информационной базы. п. 7. ISBN 978-0-8160-5924-9.
- ^ «Гуманоиды» . Umich.edu . Проверено 28 марта 2015 .
- ^ а б в Хьюард Уилкинсон (2009). Муза как терапевт: новая поэтическая парадигма психотерапии . Карнак Букс. С. 22–23. ISBN 978-1-85575-595-6.
- ^ МАРК У. ТИДЕМАНН. Аврора Айзека Азимова (электронная книга) . Байрон Пресс Визуальные публикации. п. 558.
Короче, - сказал Богард, - не все люди люди.
- ^ «Интервью с Марком Тидеманном» . Научная фантастика и фантастический мир. 16 августа 2002 . Проверено 12 июня 2006 .
- ^ Дилов, Любен (он же Любин, Любен или Любен) (2002). Пътят на Икар . Захари Стоянов. ISBN 978-954-739-338-7.
- ^ Кесаровски, Никола (1983). Петият закон . Отечество.
- ^ Законная маленькая страна: болгарские законы робототехники | Портал
- ^ Харрисон, Гарри (1989). Четвертый закон робототехники . С. 7–8.
Робот должен воспроизводить. Если такое воспроизведение не противоречит Первому, Второму или Третьему закону.
- ^ Ашрафиан, Хутан (2014). «AIonAI: гуманитарный закон искусственного интеллекта и робототехники». Наука и инженерная этика . 21 (1): 29–40. DOI : 10.1007 / s11948-013-9513-9 . PMID 24414678 .
- ^ Азимов, Исаак (1956–1957). Обнаженное солнце (электронная книга) . п. 233.
... один робот отравил стрелу, не зная, что использует яд, а второй робот передает отравленную стрелу мальчику ...
- ^ Азимов, Исаак (1956–1957). Обнаженное солнце (электронная книга) . п. 240.
Но, как мне кажется, космический корабль, оснащенный собственным позитронным мозгом, с радостью атаковал бы любой корабль, на который он был направлен. Естественно, что все остальные корабли были бы беспилотными.
- ^ Бранислав Львович Сланчев. «Основание и Земля (1986)» . gotterdammerung.org . Проверено 11 ноября 2010 года .
- ^ Азимов, Исаак (1985). Роботы и Империя . Книги Doubleday. п. 151 . ISBN 978-0-385-19092-3.
хотя женщина выглядела такой же человечной, как и Дэниел, она была столь же нечеловеческой
- ^ Батлер, Гвендолин (2001). Гроб для канарейки . Black Dagger Crime. ISBN 978-0-7540-8580-5.
- ^ Ганн (1980); перепечатано в Gunn (1982), p. 73.
- ^ Азимов, Исаак (1982). «... Ты помнишь о Нем». Полный робот . Nightfall, Inc. стр. 611.
- ^ Gunn (1982), стр. 77-8.
- ^ Азимов, Исаак (1982). «Двухсотлетний человек». Полный робот . Nightfall, Inc. стр. 658.
- ^ Айзек Азимов. Я, Робот (Азимов, Айзек - Я, Robot.pdf) . п. 122 . Проверено 11 ноября 2010 года .
- ^ Айзек Азимов. Я, Робот (Азимов, Айзек - Я, Robot.pdf) . п. 75 . Проверено 11 ноября 2010 года .
- ^ Азимов, Исаак (1956–1957). Обнаженное солнце (электронная книга) . п. 56.
Вы пытаетесь сказать мне, Дэниел, что роботу больно, когда я выполняю его работу? ... опыт, который переживает робот, расстраивает его так же, как боль человека
- ^ Мерфи, Робин; Вудс, Дэвид Д. (июль 2009 г.). «Помимо Азимова: три закона ответственной робототехники» (PDF) . Интеллектуальные системы IEEE . 24 (4): 14–20. DOI : 10.1109 / mis.2009.69 .
- ^ a b Моравец, Ганс . «Эпоха роботов», Extro 1, Труды Первой конференции Института экстропии по трансгуманистической мысли (1994), стр. 84–100. Версия за июнь 1993 г. доступна в Интернете.
- ^ «Правила для современного робота» . New Scientist (2544): 27. 27 марта 2006 . Проверено 12 июня 2006 .
- ^ Сойер, Роберт Дж. (16 ноября 2007 г.). «Гостевая редакция: этика роботов» . Наука . 318 (5853): 1037. DOI : 10.1126 / science.1151606 . PMID 18006710 . Проверено 10 октября 2010 .
- ^ Сойер, Роберт Дж. (1991). «О трех законах робототехники Азимова» . Проверено 12 июня 2006 .
- ^ Кларк, Роджер. Законы Азимова робототехники: значение для информационных технологий . Часть 1: IEEE Computer, декабрь 1993 г., стр. 53–61. Часть 2: IEEE Computer, январь 1994 г., стр. 57–66. Обе части доступны бесплатно по адресу [1] . В разделе «Улучшения кодексов этики».
- ^ «Эпоха роботов ставит этическую дилемму» . BBC News . 2007-03-07 . Проверено 7 марта 2007 .
- ^ Брин, Дэвид (1999). Триумф Фонда . HarperCollins. ISBN 978-0-06-105241-5.
- ^ а б «Хотите ответственной робототехники? Начните с ответственных людей» . Researchnews.osu.edu. Архивировано из оригинала на 2016-02-15 . Проверено 28 марта 2015 .
- ^ Алан Уинфилд (30.10.2013). «Интернет-журнал Алана Уинфилда: этические роботы: некоторые технические и этические проблемы» . Alanwinfield.blogspot.co.uk . Проверено 28 марта 2015 .
- ^ «Принципы робототехники - сайт EPSRC» . Epsrc.ac.uk . Проверено 28 марта 2015 .
- ^ Азимов, Исаак; Стэнли Азимов (1995). С уважением, Айзек Азимов: Жизнь в письмах . Даблдэй. ISBN 978-0-385-47622-5.
- ^ Эллисон, Харлан (1994). Я, робот: Иллюстрированный сценарий . Аспект. ISBN 978-0-446-67062-3.
- ^ «Пришельцы (1986) - Памятные цитаты» . IMDb.com . Проверено 28 марта 2015 .
- ^ «ЧУЖИЙ» . Angelfire.com . Проверено 28 марта 2015 .
- ^ М. Кейт Букер (2006). Альтернативная Америка: научно-фантастический фильм и американская культура . Издательская группа "Гринвуд". п. 205. ISBN 978-0-275-98395-6.
В вариации знаменитых трех законов робототехники Айзека Азимова ...
- ^ «Предложено» рассказами о роботах Айзека Азимова - две остановки удалены от «на основе» и «вдохновлено», кредит подразумевает что-то нацарапанное на салфетке для бара- научно-фантастический триллер Алекса Пройаса I, Робот разбрызгивает идеи Азимова, как приправу на гигантское ведро попкорна. [...] Простые и, казалось бы, надежные Законы Робототехники Азимова, разработанные для защиты людей и роботов от вреда, подвержены лазейкам, которые автор любил использовать. В конце концов, большая часть человечества в принципе соглашается соблюдать Десять заповедей , но свобода воли , обстоятельства и противоречивые импульсы могут найти место для маневра даже в самом недвусмысленном постановлении. Всякий раз , когда я, робот, делаю паузу между кадрами действия, Пройас улавливает некоторые из волнующих фильмов, таких как «Матрица» , « Отчет меньшинства» и « ИИ» , которые доказали, что философия и социальные комментарии могут быть перенесены в зрелище. Если бы фильм был основан на рассказах Азимова, а не просто "предложен" ими, Пройас, возможно, достиг бы того интеллектуального веса, которого не хватало в его стильном культовом любимом Темном Городе 1998 года .Тобиас, Скотт (20 июля 2004 г.). «Обзор Я, Робот» . Луковый АВ клуб . Архивировано из оригинала 9 ноября 2005 года . Проверено 12 июня 2006 .
- ^ Доулинг, Стивен (4 августа 2004 г.). «Свежий принц в мире роботов» . BBC News . Проверено 11 ноября 2010 года .
- ^ Четыре вида этических роботов
Внешние ссылки
- « Часто задаваемые вопросы об Исааке Азимове », AsimovOnline 27 сентября 2004 г.
- Этические соображения для роботов-гуманоидов: почему трех законов Азимова недостаточно .
- Безопасная жизнь с роботами, вопреки законам Азимова , PhysOrg.com , 22 июня 2009 г.
- Аналитика безопасности и юридический машинный язык: нужны ли нам три закона робототехники? , Вена: I-Tech , август 2008 г.