Этика роботов , иногда известная как « робоэтика », касается этических проблем, которые возникают с роботами, например, представляют ли роботы угрозу для людей в долгосрочной или краткосрочной перспективе, является ли какое-то использование роботов проблематичным (например, в здравоохранении или в качестве « убийцы»). роботы на войне), и как роботы должны быть спроектированы так, чтобы они действовали «этично» (эта последняя проблема также называется машинной этикой ). В качестве альтернативы, робоэтика относится конкретно к этике человеческого поведения по отношению к роботам, поскольку роботы становятся все более продвинутыми. [1]Этика роботов - это подраздел этики технологий, в частности информационных технологий, и имеет тесные связи с правовыми, а также социально-экономическими проблемами. Исследователи из разных областей начинают решать этические вопросы о создании роботизированных технологий и их внедрении в обществе таким образом, чтобы по-прежнему обеспечивать безопасность человечества. [2]
Хотя вопросы стары, как слово « робот» , серьезные академические дискуссии начались примерно в 2000 году. Этика роботов требует совместной приверженности экспертов нескольких дисциплин, которые должны адаптировать законы и правила к проблемам, возникающим в результате достижений науки и техники в мире. Робототехника и ИИ. Основными областями этики роботов являются: робототехника , информатика , искусственный интеллект , философия , этика , теология , биология , физиология , когнитивная наука , нейронауки , право , социология , психология и промышленный дизайн .
История и события
Некоторые из центральных дискуссий по этике в отношении обращения с нечеловеческими или небиологическими объектами и их потенциальной «духовностью». Другая центральная тема связана с разработкой машин и, в конечном итоге, роботов, эта философия также была применена к робототехнике. Одной из первых публикаций, непосредственно затрагивающих и закладывающих основы этики роботов, была « Обходка» (рассказ) , научно-фантастический рассказ, написанный Исааком Азимовым в 1942 году, в котором были представлены его хорошо известные « Три закона робототехники» . Эти три закона постоянно менялись Азимовым, а четвертый, или нулевой, закон, в конце концов, был добавлен перед первыми тремя в контексте его научно-фантастических работ. Кратковременный термин «робоэтика», скорее всего, был придуман Джанмарко Веруджио. [3]
Важным событием, вызвавшим озабоченность робототехникой, стал Первый международный симпозиум по робототехнике в 2004 году, организованный совместными усилиями Scuola di Robotica, Лаборатории искусств при Scuola Superiore Sant'Anna, Пиза, и Теологического института Pontificia Accademia della Santa Croce, Рим. [4] «После двух дней интенсивных дебатов антрополог Даниэла Черки определила три основные этические позиции, вытекающие из двух дней интенсивных дебатов:
- Тем, кого этика не интересует. Они считают, что их действия являются чисто техническими, и не думают, что они несут социальную или моральную ответственность в своей работе.
- Тем, кого интересуют краткосрочные этические вопросы. Согласно этому профилю вопросы выражаются в терминах «хорошо» или «плохо» и относятся к некоторым культурным ценностям. Например, они считают, что роботы должны придерживаться социальных условностей. Это будет включать «уважение» и помощь людям в различных областях, таких как исполнение законов или помощь пожилым людям. (Такие соображения важны, но мы должны помнить, что ценности, используемые для определения «плохого» и «хорошего», относительны. Это современные ценности промышленно развитых стран).
- Те, кто думает о долгосрочных этических вопросах, например, о «цифровом разрыве» между Югом и Севером или молодыми и пожилыми. Они осознают разрыв между промышленно развитыми и бедными странами и задаются вопросом, не должны ли первые изменить свой способ разработки робототехники, чтобы быть более полезными для Юга. Они не формулируют явно вопрос для чего, но мы можем считать, что это неявно ». [5]
Это некоторые важные события и проекты в области этики роботов. Дальнейшие события в этой области объявляются тематической группой euRobotics ELS и RoboHub :
- 1942: В рассказе Азимова « Обход » впервые четко изложены его «Три закона». Эти «Законы» будут повторно использованы в более поздних произведениях Азимова, посвященных роботам-фантастам.
- 2004: Первый международный симпозиум по робототехнике , организованный Школой робототехники , где впервые официально используется слово «робоэтика» (30–31 января 2004 г., Вилла Нобель, Сан-Ремо , Италия ).
- 2004: IEEE-RAS создает Технический комитет по робототехнике .
- 2004: Всемирная декларация роботов Фукуока (25 февраля 2004 г., Фукуока , Япония ).
- 2005: Технический комитет IEEE РАН по робототехнике организует ICRA05 (Международная конференция по робототехнике и автоматизации), семинар по робототехнике (18 апреля 2005 г., Барселона , Испания ).
- 2005–2006: Ателье EC Euron Roboethics . В проекте Euron , координируемом Школой робототехники , участвовало большое количество робототехников и ученых-гуманитариев, которые составили первую Дорожную карту Робоэтики (февраль / март 2006 г., Генуя , Италия ).
- 2006: BioRob2006 , первая международная конференция IEEE / RAS-EMBS по биомедицинской робототехнике и биомехатронике; Мини-симпозиум по робототехнике (20 февраля 2006 г., Пиза , Италия ).
- 2006: Международный семинар «Этика взаимодействия человека с роботизированными, бионическими системами и системами искусственного интеллекта: концепции и политики» ; при поддержке европейского проекта ETHICBOTS (17–18 октября 2006 г., Неаполь , Италия ).
- 2007: Технический комитет IEEE РАН по робототехнике организует еще один семинар по робототехнике , ICRA07 (Международная конференция по робототехнике и автоматизации) (14 апреля 2007 г., Рим , Италия ).
- 2007: ICAIL'07 , Международная конференция по искусственному интеллекту и праву (4–8 июня 2007 г., Стэнфордский университет , Пало-Альто , Калифорния , США ).
- 2007: Международная европейская конференция по информатике и философии E-CAP '07 , трек: «Робоэтика» (21–23 июня 2007 г., Университет Твенте , Нидерланды ).
- 2007: Философское исследование компьютерной этики CEPE '07 , тема: «Робоэтика» (12–14 июля 2007 г., Университет Сан-Диего , Калифорния , США ).
- 2008: МЕЖДУНАРОДНЫЙ СИМПОЗИУМ РОБОТОТЕХНИКА: НОВАЯ НАУКА (20 февраля 2008 г., Via della Lungara 10, Рим , Италия ).
- 2009: Технический комитет IEEE РАН по робототехнике организует еще один семинар по робототехнике , ICRA09 (Международная конференция по робототехнике и автоматизации) (17 мая 2009 г., Кобе , Япония ).
- 2012: We Robot 2012 ( Университет Майами , Флорида , США ).
- 2013: Семинар по этике роботов (февраль 2013 г., Шеффилдский университет , Южный Йоркшир , Англия ).
- 2013: We Robot 2013 - Приступаем к делу ( Стэнфордский университет , Пало-Альто , Калифорния , США ).
- 2014: We Robot 2014 - Риски и возможности ( Университет Майами , Флорида , США ).
- 2016: Этические и моральные соображения в отношении нечеловеческих агентов, Стэнфордский весенний симпозиум, Ассоциация AAAI по развитию искусственного интеллекта [1] ( Стэнфордский университет , Пало-Альто , Калифорния , США ).
- 2017: Future Investment Summit в Эр-Рияде ; Робот (называемый Софией и упоминаемый женскими местоимениями) получает гражданство Саудовской Аравии , став первым роботом, когда-либо имевшим гражданство. [6] [7] Это вызывает споры из-за двусмысленности по нескольким вопросам, например, может ли София голосовать или выходить замуж, или следует ли считать преднамеренное отключение системы убийством. Кроме того, противопоставление прав, предоставленных саудовским женщинам, против того, что Саудовская Аравия рассматривает робота как гражданина, вскоре вызовет критику со стороны нескольких новостных агентств [8] [9] (25 октября 2017 года, Эр-Рияд , Саудовская Аравия).
- 2017: Создан AI Now Institute (AI Now) в Нью-Йоркском университете , исследовательский институт, изучающий социальные последствия искусственного интеллекта (15 ноября 2017 года, Нью-Йорк , штат Нью- Йорк , США ).
Компьютерный ученый Вирджиния Дигнум отметила в мартовском выпуске журнала « Этика и информационные технологии» за 2018 год , что в современную эпоху общее отношение общества к искусственному интеллекту (ИИ) сместилось от рассмотрения ИИ как инструмента к рассмотрению его как интеллектуальной «команды». -приятель". В той же статье она оценила, что в отношении ИИ у этических мыслителей есть три цели, каждая из которых, по ее мнению, может быть достигнута в современную эпоху при тщательном осмыслении и реализации. [10] [11] [12] [13] [14] Три этические цели заключаются в следующем:
- Этика по замыслу (техническая / алгоритмическая интеграция этических способностей рассуждений как часть поведения искусственной автономной системы - см. Машинную этику );
- Этика в дизайне (нормативные и инженерные методы, поддерживающие анализ и оценку этических последствий систем искусственного интеллекта, поскольку они интегрируют или заменяют традиционные социальные структуры); а также
- Этика для проектирования (кодексы поведения, стандарты и процессы сертификации, которые обеспечивают честность разработчиков и пользователей при исследовании, проектировании, конструировании, использовании и управлении системами искусственного интеллекта - см. Ниже « Этика и закон роботов» ). [15]
В популярной культуре
Робоэтика как наука или философская тема стала обычной темой в научно-фантастической литературе и фильмах. Один фильм, который, как можно утверждать, укоренился в поп-культуре и изображает мрачное будущее использование роботизированного ИИ, - это «Матрица» , изображающая будущее, в котором люди и сознательный разумный ИИ борются за контроль над планетой Земля, что приводит к уничтожению большей части человечества. . Анимационный фильм, основанный на «Матрице» , « Аниматрикс» , в значительной степени сосредоточен на потенциальных этических проблемах и неуверенности в отношениях между людьми и роботами. Фильм разбит на короткие рассказы. Анимационные шорты Animatrix также названы в честь вымышленных рассказов Айзека Азимова.
Другой аспект робоэтики связан с обращением людей с роботами и был исследован в многочисленных фильмах и телешоу. Одним из таких примеров является Star Trek: The Next Generation , в котором одним из главных персонажей является гуманоидный андроид по имени Дейта . По большей части ему доверяют критически важную работу, но его способность адаптироваться к другим живым существам часто ставится под сомнение. [16] Совсем недавно в фильме « Ex Machina» и телешоу « Мир Дикого Запада» эти этические вопросы были рассмотрены совершенно прямо, изображены гиперреалистичные роботы, с которыми люди относятся как к несущественным товарам. [17] [18] Вопросы, касающиеся обращения с искусственно созданными существами, также были ключевым компонентом франшизы « Бегущий по лезвию» на протяжении более 50 лет. [19] В таких фильмах, как « Она» , человеческие отношения с роботами стали еще глубже, убрав физический аспект и сфокусировавшись на эмоциях.
Хотя этическое поведение самих роботов и не является частью робоэтики как таковой , они также были сопутствующей проблемой робототехники в массовой культуре. В серии « Терминатор » речь идет о роботах, управляемых сознательной программой ИИ, без ограничений по уничтожению своих врагов. Эта серия также имеет тот же архетип, что и серия «Матрица », где управление взяли на себя роботы. Другой известный случай в поп-культуре роботов или ИИ без запрограммированной этики или морали - это HAL 9000 из серии Space Odyssey , где HAL (компьютер с расширенными возможностями ИИ, который отслеживает и помогает людям на космической станции) убивает всех людей на борту, чтобы гарантировать успех поставленной миссии после того, как его собственная жизнь находится под угрозой. [20]
Этика и закон роботов
В связи с тем, что современные технологические проблемы возникают по мере того, как общество настаивает, одной из тем, требующих тщательного рассмотрения, является этика роботов в отношении закона. Ученые обсуждают, как правительство могло бы создать законодательство, основанное на этике и законах роботов. Эти вопросы задают два ученых: профессор права Вашингтонского университета в Сент-Луисе Нил М. Ричардс, а также доцент кафедры компьютерных наук Вашингтонского университета в Сент-Луисе Уильям Д. Смарт. В своей статье «Как роботы должны думать о законе» они выдвигают четыре основных утверждения, касающихся этики и закона роботов. [21] В основе их аргументов лежит определение роботов как «небиологических автономных агентов, которые, по нашему мнению, отражают суть нормативных и технологических проблем, которые представляют роботы, и которые могут быть полезны в качестве основы регулирования». Во-вторых, пара исследует будущие передовые возможности роботов примерно через десятилетия. В их третьем утверждении утверждается, что между юридическими вопросами, связанными с этикой роботов и юридическим опытом, и юридическим опытом кибер-права. Это означает, что законы этики роботов могут ориентироваться на кибер-закон. «Урок», извлеченный из кибер-закона, заключается в важности метафор, под которыми мы понимаем возникающие проблемы в технологиях. Это основано на том, что если мы ошибаемся, например, в метафоре, то законодательство, касающееся возникающей технологической проблемы, скорее всего, неверно. Четвертое утверждение, против которого они выступают, - это метафора, которую пара определяет как «заблуждение Android». Они выступают против заблуждения андроидов, которое утверждает, что люди и небиологические существа «такие же, как люди».
Смотрите также
- Машинная этика
- Права роботов
Заметки
- ^ Veruggio, Gianmarco; Оперто, Фиорелла (2008), Сицилиано, Бруно; Хатиб, Усама (ред.), «Робоэтика: социальные и этические последствия робототехники», Справочник по робототехнике Springer, Springer Berlin Heidelberg, стр. 1499–1524, DOI : 10.1007 / 978-3-540-30301-5_65 , ISBN 9783540303015
- ^ «Этика роботов» . Общество робототехники и автоматизации IEEE . Проверено 26 июня 2017 .
- ^ Цафестас, Спирос Г. (2016). Робоэтика - обзор навигации . Чам: Спрингер. п. 1. ISBN 978-3-319-21713-0.
- ^ «Крышка РОБОЭТИКИ» . www.roboethics.org . Проверено 29 сентября 2020 .
- ^ http://www.roboethics.org/icra2005/veruggio.pdf
- ^ «Саудовская Аравия предоставляет гражданство англоговорящему роботу-немусульманину» . Newsweek . 26 октября 2017.
- ^ «Саудовская Аравия предоставляет гражданство роботу по имени София» . TechCrunch . 26 октября 2017 года . Проверено 27 октября, 2016 .
- ^ «Саудовская Аравия делает ужасающий шаг в будущее, предоставляя роботу гражданство» . АВ Клуб . 26 октября 2017 года . Проверено 28 октября 2017 года .
- ^ «Саудовскую Аравию критикуют за предоставление женщинам-роботам гражданства, при этом ограничивая права женщин, - ABC News» . Abcnews.go.com . Проверено 28 октября 2017 .
- ^ Рахван, Ияд (2018). «Общество в петле: программирование алгоритмического общественного договора». Этика и информационные технологии . 20 : 5–14. arXiv : 1707.07232 . DOI : 10.1007 / s10676-017-9430-8 .
- ^ Брайсон, Джоанна (2018). «Терпение - не добродетель: дизайн интеллектуальных систем и систем этики» . Этика и информационные технологии . 20 : 15–26. DOI : 10.1007 / s10676-018-9448-6 .
- ^ Vamplew, Питер; Дазли, Ричард; Фоул, Кэмерон; Фирмин, Салли (2018). «Искусственный интеллект, ориентированный на человека - это многокритериальная проблема» . Этика и информационные технологии . 20 : 27-40. DOI : 10.1007 / s10676-017-9440-6 . ЛВП : 1959,17 / 164225 .
- ^ Боннемейнс, Винсент; Заурел, Клэр; Тесье, Кэтрин (2018). «Встроенная этика: некоторые технические и этические проблемы» (PDF) . Этика и информационные технологии . 20 : 41–58. DOI : 10.1007 / s10676-018-9444-х .
- ^ Арнольд, Томас; Шойц, Маттиас (2018). «Большая красная кнопка» слишком поздно: альтернативная модель этической оценки систем искусственного интеллекта ». Этика и информационные технологии . 20 : 59–69. DOI : 10.1007 / s10676-018-9447-7 .
- ^ Дигнум, Вирджиния (2018). «Этика в искусственном интеллекте: введение в специальный выпуск» . Этика и информационные технологии . 20 : 1–3. DOI : 10.1007 / s10676-018-9450-Z .
- ^ Шорт, Сью (2003-01-01). «Мера человека ?: Двухсотлетний человек Азимова, данные« Звездного пути »и« Быть человеком »». Экстраполяция . 44 (2): 209–223. DOI : 10.3828 / extr.2003.44.2.6 . ISSN 0014-5483 .
- ^ Персонал, Pacific Standard. «Может ли« Мир Дикого Запада »дать нам новые способы говорить о рабстве?» . Тихоокеанский стандарт . Проверено 16 сентября 2019 .
- ^ Паркер, Лаура (2015-04-15). «Как Ex Machina выделяется тем, что не боится искусственного интеллекта» . Атлантика . Проверено 16 сентября 2019 .
- ^ Килкенни, Кэти. «Смысл жизни в« Бегущем по лезвию 2049 » » . Тихоокеанский стандарт . Проверено 16 сентября 2019 .
- ^ Кришнан, Армин (2016). Роботы-убийцы: законность и этичность автономного оружия . www.taylorfrancis.com . Рутледж. DOI : 10.4324 / 9781315591070 . ISBN 9781315591070. Проверено 16 сентября 2019 .
- ^ Richards, Neil M .; Смарт, Уильям Д. (2013). «Как закон должен думать о роботах?». SSRN 2263363 .
Рекомендации
- Леви, Дэвид (ноябрь 2008 г.). Любовь и секс с роботами: эволюция отношений между человеком и роботом . Харпер Многолетник .
- Richards, Neil M .; Смарт, Уильям Д. (2013). Как закон должен относиться к роботам ?: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2263363
дальнейшее чтение
- Лин, Патрик / Эбни, Кейт / Бекей, Джордж А. (декабрь 2011 г.). Этика роботов: этические и социальные последствия робототехники . MIT Press .
- Цафестас, Спирос Г. (2016). Робоэтика - обзор навигации . Берлин: Springer. ISBN 978-3-319-21713-0.
Внешние ссылки
- PhilPapers - включена стандартная библиография по робототехнике.
- Группа по этике и новым наукам
- Центр прикладной этики Марккула при Университете Санта-Клары, США
- Список организаций и конференций из тематической группы euRobotics "этические, правовые и социально-экономические вопросы" (ELS)
- Список конференций на сайте "Робоэтика" (до 2009 г.)
- Технический комитет IEEE по робототехнике
- Тематическая группа euRobotics «этические, правовые и социальные вопросы» (ELS)
- Международное общество этики и информационных технологий
- Компьютерные профессионалы за социальную ответственность
- Ответственная робототехника
- Международный институт гуманитарного права
- Союз неравнодушных ученых
- Информационная база данных Робоэтики
- Международный центр информационной этики
- Безопасная жизнь с роботами, помимо законов Азимова , PhysOrg.com , 22 июня 2009 г.
- Plug & Pray, документальный фильм об этике робототехники и искусственного интеллекта (с Йозефом Вайценбаумом и Рэем Курцвейлом)
- Проф. Бруно Сицилиано, соредактор Справочника по робототехнике Springer, обсуждает робототехнику в рамках своего выступления на TEDx.
- [2]