В Законах робототехники представляют собой набор законов, правил или принципов, которые предназначены в качестве фундаментальной основы для подкрепления поведения роботов , разработанных , чтобы иметь степень автономии . Роботов такой степени сложности еще не существует, но они широко используются в научной фантастике , фильмах и являются предметом активных исследований и разработок в области робототехники и искусственного интеллекта .
Наиболее известны множество законов , написанные от Айзека Азимова в 1940 году , или на основе их, но и другие наборы законов были предложены исследователями в течение десятилетий с тех пор.
«Три закона робототехники» Исаака Азимова
Самый известный свод законов - « Три закона робототехники » Айзека Азимова . Они были представлены в его рассказе 1942 года « Обход », хотя они были предсказаны в нескольких более ранних рассказах. Три закона:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен подчиняться приказам людей, за исключением случаев, когда такие приказы противоречат Первому закону.
- Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону. [1]
В The Evitable Conflict машины обобщают Первый Закон, чтобы он означал:
- «Никакая машина не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред».
Это было уточнено в конце « Основания и Земли» , был введен нулевой закон, причем исходные три были соответствующим образом переписаны как подчиненные ему:
- 0. Робот не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред.
На основе этой структуры существуют адаптации и расширения. По состоянию на 2011 год они остаются « вымышленным устройством ». [2]
EPSRC / AHRC принципы робототехники
В 2011 году Совет по исследованиям в области инженерных и физических наук (EPSRC) и Совет по исследованиям в области искусства и гуманитарных наук (AHRC) Соединенного Королевства совместно опубликовали набор из пяти этических «принципов для дизайнеров, строителей и пользователей роботов» в реальном мире , а также с семью «сообщениями высокого уровня», предназначенными для передачи, на основе исследовательского семинара в сентябре 2010 г .: [2] [3] [4]
- Роботы не должны разрабатываться исключительно или в первую очередь для того, чтобы убивать людей или причинять им вред.
- Ответственные агенты - это люди, а не роботы. Роботы - это инструменты, предназначенные для достижения человеческих целей.
- Роботы должны быть спроектированы таким образом, чтобы обеспечивать их безопасность.
- Роботы - это артефакты; они не должны быть предназначены для эксплуатации уязвимых пользователей, вызывая эмоциональную реакцию или зависимость. Всегда должно быть возможно отличить робота от человека.
- Всегда должна быть возможность выяснить, кто несет юридическую ответственность за робота.
Предполагалось передать следующие сообщения:
- Мы считаем, что роботы могут оказать огромное положительное влияние на общество. Мы хотим поощрять ответственные исследования роботов.
- Плохая практика вредит всем нам.
- Решение очевидных проблем общества поможет нам всем добиться прогресса.
- Важно продемонстрировать, что мы, как робототехники, придерживаемся наилучших стандартов практики.
- Чтобы понять контекст и последствия нашего исследования, мы должны работать с экспертами из других дисциплин, включая социальные науки, право, философию и искусство.
- Мы должны учитывать этику прозрачности: есть ли пределы тому, что должно быть открыто доступным?
- Когда мы видим ошибочные сообщения в прессе, мы обязуемся найти время, чтобы связаться с журналистами.
Принципы EPSRC широко признаны полезной отправной точкой. В 2016 году Тони Прескотт организовал семинар, чтобы пересмотреть эти принципы, например, чтобы отделить этические принципы от правовых. [5]
Судебное развитие
Еще одна комплексная терминологическая кодификация для правовой оценки технологических достижений в индустрии робототехники уже началась в основном в азиатских странах. [6] Этот прогресс представляет собой современную интерпретацию права (и этики) в области робототехники, интерпретацию, которая предполагает переосмысление традиционных правовых констелляций. К ним относятся, прежде всего, вопросы юридической ответственности в гражданском и уголовном праве.
Законы Сатья Наделлы
В июне 2016 года Сатья Наделла , в то время генеральный директор Microsoft Corporation , дал интервью журналу Slate и в общих чертах набросал пять правил искусственного интеллекта, которые должны соблюдать их дизайнеры: [7] [8]
- «ИИ должен быть разработан, чтобы помогать человечеству», что означает необходимость уважения автономии человека.
- «ИИ должен быть прозрачным», что означает, что люди должны знать и уметь понимать, как они работают.
- «ИИ должен максимизировать эффективность, не унижая достоинства людей».
- «ИИ должен быть разработан для интеллектуальной конфиденциальности», что означает, что он заслуживает доверия, защищая их информацию.
- «ИИ должен иметь алгоритмическую подотчетность, чтобы люди могли устранить непреднамеренный вред».
- «AI должен остерегаться предвзятости», чтобы не допускать дискриминации людей.
"Законы робототехники" Тильдена
Марк У. Тилден - физик-робототехник, который был пионером в разработке простой робототехники. [9] Его три руководящих принципа / правила для роботов: [9] [10] [11]
- Робот должен защищать свое существование любой ценой.
- Робот должен получить и поддерживать доступ к собственному источнику энергии.
- Робот должен постоянно искать лучшие источники энергии.
Что примечательно в этих трех правилах, так это то, что это, по сути, правила для «дикой» жизни, так что, по сути, Тилден заявил, что он хотел «прокторировать кремниевые разновидности в разум, но с полным контролем над спецификациями. Не растений. Не животное. Что-то еще ". [12]
Смотрите также
- Дружелюбный ИИ
- Робоэтика
- Этика искусственного интеллекта
- Военные роботы, которые могут быть сконструированы таким образом, чтобы нарушать Первый закон Азимова.
- Три закона трансгуманизма
- Три закона Кларка
- Законы Нивена
Рекомендации
- ↑ Азимов, Исаак (1950). Я, робот .
- ^ а б Стюарт, Джон (2011-10-03). "Готовы к революции роботов?" . BBC News . Проверено 3 октября 2011 .
- ^ «Принципы робототехники: регулирование роботов в реальном мире» . Совет по исследованиям в области инженерных и физических наук . Проверено 3 октября 2011 .
- ^ Уинфилд, Алан. «Пять принципов робототехники - для человека» . Новый ученый . Проверено 3 октября 2011 .
- ^ Мюллер, Винсент К. (2017). «Юридические и этические обязательства - комментарий к принципам робототехники EPSRC» . Связь науки . DOI : 10.1080 / 09540091.2016.1276516 .
- ^ bcc.co.uk: Возраст роботов ставит этическую дилемму. Ссылка на сайт
- ^ Наделла, Сатья (28.06.2016). «Партнерство будущего» . Шифер . ISSN 1091-2339 . Проверено 30 июня 2016 .
- ^ Винсент, Джеймс (2016-06-29). «Правила Сатья Наделлы для ИИ более скучны (и актуальны), чем Три закона Азимова» . Грань . Vox Media . Проверено 30 июня 2016 .
- ^ а б Хэпгуд, Фред (сентябрь 1994). «Хаотическая робототехника» . Проводной (2.09).
- ^ Эшли Данн. " Machine Intelligence, Part II: From Bumper Cars to Electronic Mind " The New York Times 5 июня 1996 года. Проверено 26 июля 2009 года.
- ^ makezine.com: Руководство по BEAM для новичков (большая часть статьи предназначена только для подписки.)
- ^ Хэпгуд, Фред (сентябрь 1994). «Хаотическая робототехника (продолжение)» . Проводной (2.09).