Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску
Ияд Рахван
إياد رهوان
Ияд Рахван (24346536449) .jpg
Родившийся1978 г.
Алеппо , Сирия
Альма-матерМельбурнский университет
Научная карьера
ПоляВычислительные социальные науки , искусственный интеллект , этика , когнитивная наука , теория игр , краудсорсинг ,
УчрежденияИнститут Макса Планка человеческого развития
ДокторантЛиз Соненберг
Другие научные консультантыАлекс Пентланд
Интернет сайтhttps://rahwan.me/

Ияд Рахван ( арабский : إياد رهوان ) - сирийско-австралийский ученый . Он является директором Центра людей и машин в Институте развития человека им. Макса Планка [1] и доцентом кафедры медиаискусств и наук в медиа-лаборатории Массачусетского технологического института . [2] Работа Рахвана находится на стыке компьютерных и социальных наук , где он исследовал темы вычислительной социальной науки , коллективного интеллекта , крупномасштабного сотрудничества и социальных аспектов искусственного интеллекта . [3]

Биография [ править ]

Рахван родился в Алеппо , Сирия . В 2005 году он получил докторскую степень по информационным системам в Мельбурнском университете . В качестве ассистента , а затем доцента вычислительной техники и информатики в MIT -partnered Масдар институт науки и техники , Rahwan исследовалась масштабируемых социальной мобилизации в возможности, ограничения и проблемы в различных контекстах, анализируя данные от 2009 DARPA Network Challenge , , [4] [5] DARPA Shredder Вызова 2011 , [6] [7] и 2012 Государственный департамент США Тэг вызов . [8] [9][10] В 2015 году Рахван основал Группу масштабируемого сотрудничества в MIT Media Lab , где он является профессором развития карьеры AT&T и адъюнкт-профессором медиаискусств и наук [11], а также дочерним факультетом Института MIT. Данные, системы и общество. [12] С 2019 года Рахван является директором Института человеческого развития им. Макса Планка в Берлине , где он основал и руководит Центром людей и машин. [13]

Поведение машины [ править ]

Вместе с Мануэлем Себрианом и Ником Обрадовичем Рахван возглавил работу по созданию области машинного поведения. [14] Эта область связана с научным исследованием систем искусственного интеллекта не как инженерных артефактов, а как класса субъектов с определенными моделями поведения и экологией. Эта область частично совпадает с информатикой и робототехникой , но отличается от них . Он рассматривает поведение машин эмпирически так же, как этология и поведенческая экология.изучать поведение животных без полного понимания биохимических механизмов. Контуры и вопросы фундаментальных исследований в области поведения машин были очерчены Рахваном, Обрадовичем и Себрианом вместе с двадцатью соавторами, представляющими вычислительные и поведенческие науки, в статье в журнале Nature. [15]

Общество в петле [ править ]

Рахван ввел термин « общество в цикле» как концептуальное расширение систем « человек в цикле» . [16] [17] В то время как системы HITL встраивают суждения человека в узко определенную систему управления, SITL больше касается встраивания суждений общества в целом в систему. Он ссылается на ИИ, который контролирует миллиарды беспилотных автомобилей (и решает, кого стоит экономить в определенных случаях), или на алгоритм фильтрации новостей, который может повлиять на идеологию миллионов граждан (который решает, какой контент будут видеть пользователи). Рахван подчеркивает важность формулирования этических норм и социальных контрактов таким образом, чтобы их могли понять машины, для создания новых алгоритмов управления. [18]

Мораль и машины [ править ]

Этика автономных транспортных средств [ править ]

Рахван одним из первых рассмотрел проблему автономных транспортных средств как этическую дилемму. В его статье 2016 года «Социальная дилемма автономных транспортных средств» показано, что люди одобряют утилитарные автономные транспортные средства и хотят, чтобы их покупали другие, но сами они предпочтут ездить на автономном транспортном средстве, которое защищает своего пассажира любой ценой, и не будет использовать беспилотные автомобили, если утилитаризм был им навязан законом. Таким образом, в статье делается вывод о том, что регулирование утилитарных алгоритмов может парадоксальным образом увеличить количество жертв из-за вождения, непреднамеренно откладывая принятие более безопасной технологии. [19] Статья стимулировала широкое освещение роли этики в создании систем вождения с искусственным интеллектом.[20] [21] [22] [23] [24] [25] [26]

Моральная машина [ править ]

Moral Machine [27] - это онлайн-платформа, которая генерирует сценарии этической дилеммы, с которыми сталкиваются гипотетические автономные машины, позволяя посетителям оценивать сценарии и голосовать за наиболее приемлемый с моральной точки зрения из двух результатов неизбежного вреда. Представленные сценарии часто являются вариациями проблемы тележки . [28] [29] [30] По состоянию на декабрь 2017 года платформа собрала 40 миллионов решений от миллионов посетителей из 233 стран и территорий. Анализ данных показал большие различия в относительных предпочтениях между разными странами и корреляцию между этими предпочтениями и различными национальными показателями. [31]

Сотрудничество с машинами [ править ]

Вместе с Джейкобом Крэндаллом и другими Рахван изучал взаимодействие человека и машины, исследуя, как современные алгоритмы обучения с подкреплением работают в повторяющихся играх против людей. Авторы показали, что предоставление средства коммуникации может привести к тому, что алгоритм научится взаимодействовать со своим партнером-человеком быстрее и эффективнее, чем человек в этих стратегических играх. [32] [33] [34]

AI и будущее работы [ править ]

Вместе со своим учеником Морганом Франком и сотрудниками Рахван исследовал взаимосвязь между размером города и потенциальным влиянием искусственного интеллекта и автоматизации на занятость. Они использовали различные оценки риска автоматизации различных работ. [35] [36] Их главный вывод заключается в том, что небольшие города могут испытывать большее влияние из-за автоматизации. [37] Связанная работа исследует поляризацию рынка труда США из-за лежащей в основе поляризованной структуры профессиональных навыков.

Другие проекты [ править ]

Задача тега [ править ]

Рахван возглавил команду-победительницу в конкурсе тегов Государственного департамента США в 2012 году , используя краудсорсинг и механизм поощрения рефералов (аналогичный тому, который использовался в конкурсе DARPA Network Challenge 2009 года ), чтобы найти людей в городах Европы и Америки в течение 12 часов каждый, учитывая только их фотографические портреты. [38] [39] [40]

Машина Кошмаров [ править ]

Nightmare Machine [41], разработанная под руководством Рахвана, создает сгенерированные компьютером изображения, основанные на алгоритмах глубокого обучения, чтобы учиться на основе отзывов людей и генерировать визуальное приближение того, что люди могут найти «пугающим». [42] [43]

Ссылки [ править ]

  1. ^ «Новый директор: исследование Ияда Рахвана сосредоточено на социальных проблемах оцифровки | Институт Макса Планка по человеческому развитию» . www.mpib-berlin.mpg.de . Проверено 20 июня 2019 .
  2. ^ «Ияд Рахван» . Ияд Рахван . Проверено 20 июня 2019 .
  3. ^ «Ияд Рахван - TEDxCambridge» .
  4. ^ «Как социальные сети мобилизуют общество - LiveScience» .
  5. ^ Rutherford, A .; Cebrian, M .; Dsouza, S .; Moro, E .; Pentland, A .; Рахван, И. (2013). «А. Резерфорд, М. Себриан, С. Дсуза, Э. Моро, А. Пентланд и И. Рахван (2013). Пределы социальной мобилизации» . Труды Национальной академии наук . 110 (16): 6281–6286. DOI : 10.1073 / pnas.1216338110 . PMC 3631633 . PMID 23576719 .  
  6. ^ "Как краудсорсинг меня повернул - Наутилус" . 2014-10-23.
  7. ↑ Стефанович, Николас; Альшамси, Аамена; Кебриан, Мануэль; Рахван, Ияд (2014). «Н. Стефанович, А. Альшамси, М. Себриан, И. Рахван (2014). Устойчивость к ошибкам и атакам при коллективном решении проблем: вызов DARPA Shredder Challenge» . EPJ Data Science . 3 . DOI : 10,1140 / epjds / s13688-014-0013-1 .
  8. ^ Болл, Филипп (2013). «Краудсорсинг в охоте на людей может сработать: Nature News & Comment» . Природа . DOI : 10.1038 / nature.2013.12867 .
  9. ^ Резерфорд, Алекс; Кебриан, Мануэль; Рахван, Ияд; Дсуза, Сохан; Макинерни, Джеймс; Народицкий Виктор; Венанци, Маттео; Дженнингс, Николас Р .; Делара, младший; Вальштедт, Ээро; Миллер, Стивен У. (2013). «Целенаправленная социальная мобилизация в глобальной охоте» . PLoS ONE . 8 (9): e74628. arXiv : 1304.5097 . Bibcode : 2013PLoSO ... 874628R . DOI : 10.1371 / journal.pone.0074628 . PMC 3786994 . PMID 24098660 .  
  10. ^ Рахван, Ияд; Дсуза, Сохан; Резерфорд, Алекс; Народицкий Виктор; Макинерни, Джеймс; Венанци, Маттео; Дженнингс, Николас Р .; Кебриан, Мануэль (апрель 2013 г.). «Глобальный розыск раздвигает границы социальной мобилизации» (PDF) . Компьютер . 46 (4): 68–75. DOI : 10.1109 / mc.2012.295 . ISSN 0018-9162 .  
  11. ^ «Обзор личности‹ Ияд Рахван - Медиа-лаборатория Массачусетского технологического института » .
  12. ^ "Ияд Рахван - IDSS" .
  13. ^ "Люди и машины | Институт Макса Планка человеческого развития" . www.mpib-berlin.mpg.de . Проверено 20 июня 2019 .
  14. ^ Маккендрик, Джо. «Искусственный интеллект сейчас слишком велик, чтобы его можно было ограничить компьютерными науками» . Forbes .
  15. ^ Рахван, Ияд; Обрадович, Ник; Бонгард, Джош; Боннефон, Жан-Франсуа; Бризил, Синтия; Крэндалл, Джейкоб У .; Боннефон, Жан-Франсуа; Кристакис, Николас А .; Иэн Д., Кузин; Джексон, Мэтью О .; Дженнингс, Николас Р .; Камар, Эдже; Kloumann, Isabel M .; Ларошель, Хьюго; Лазер, Дэвид; Макэлрит, Ричард; Mislove, Алан; Паркс, Дэвид С .; Пентланд, Алекс; Робертс, Маргарет Э .; Шариф, Азим; Тененбаум, Джошуа Б.; Веллман, Майкл (24 апреля 2019 г.). «Машинное поведение» . Природа . 568 (7753): 477–486. DOI : 10.1038 / s41586-019-1138-у . PMID 31019318 . 
  16. ^ «Общество в петле искусственного интеллекта» » .
  17. ^ Рахван, Ияд (2018-03-01). «Общество-в-петле: программирование алгоритмического социального контракта». Этика и информационные технологии . 20 (1): 5–14. arXiv : 1707.07232 . DOI : 10,1007 / s10676-017-9430-8 , ISSN 1388-1957 . 
  18. ^ "Общество в петле" . 2016-08-12.
  19. ^ Bonnefon, J.-F .; Шариф, А .; Рахван, И. (2016). "JF Bonnefon, A. Shariff, I. Rahwan (2016). Социальная дилемма автономных транспортных средств". Наука . 352 (6293): 1573–1576. arXiv : 1510.03346 . Bibcode : 2016Sci ... 352.1573B . DOI : 10.1126 / science.aaf2654 . PMID 27339987 . 
  20. ^ «Всемирный форум обсуждает, как беспилотные автомобили будут принимать решения о жизни или смерти» .
  21. ^ Марков, Джон (2016-06-23). «Если ваш беспилотный автомобиль сбил пешехода, чтобы спасти вашу жизнь - The New York Times» . Нью-Йорк Таймс .
  22. ^ Shariff Азим; Рахван, Ияд; Боннефон, Жан-Франсуа (03.11.2016). «Чью жизнь должна спасти ваша машина? - The New York Times» . Нью-Йорк Таймс .
  23. ^ «TedxCambridge: социальная дилемма беспилотных автомобилей» .
  24. ^ «Спасите водителя или спасите толпу? Ученые задаются вопросом, как беспилотные автомобили будут« выбирать »- The Washington Post» .
  25. ^ "Беспилотные автомобили ставят сложный этический вопрос - Time.com" .
  26. ^ «Революция в области безопасности беспилотных автомобилей может быть остановлена ​​моральной дилеммой - The Independent» . 2016-06-23.
  27. ^ "Моральная машина" .
  28. ^ «Этическая дилемма на четырех колесах: как решить, когда ваш беспилотный автомобиль должен убить вас - LA Times» .
  29. ^ "Для беспилотных автомобилей моральная дилемма: кто живет или умирает? - Associated Press" .
  30. ^ «Этическая дилемма на четырех колесах: как решить, когда ваш беспилотный автомобиль должен вас убить» .
  31. ^ Авад, Эдмонд; Дсуза, Сохан; Ким, Ричард; Шульц, Джонатан; Генрих, Джозеф; Шариф, Азим; Боннефон, Жан-Франсуа; Рахван, Ияд (24 октября 2018 г.). «Эксперимент с моральной машиной». Природа . 563 (7729): 59–64. Bibcode : 2018Natur.563 ... 59A . DOI : 10.1038 / s41586-018-0637-6 . ЛВП : 10871/39187 . PMID 30356211 . 
  32. ^ Crandall, Джейкоб У .; Оуда, Майада; Тенном; Ишово-Олоко, Фатима; Абдаллах, Шериф; Боннефон, Жан-Франсуа; Кебриан, Мануэль; Шариф, Азим; Гудрич, Майкл А. (16.01.2018). «Работа с машинами» . Nature Communications . 9 (1): 233. arXiv : 1703.06207 . Bibcode : 2018NatCo ... 9..233C . DOI : 10.1038 / s41467-017-02597-8 . ISSN 2041-1723 . PMC 5770455 . PMID 29339817 .   
  33. ^ Crandall, Джейкоб W; Оуда, Майада; Тенном; Ишово-Олоко, Фатима; Абдаллах, Шериф; Боннефон, Жан-Франсуа; Кебриан, Мануэль; Шариф, Азим; Гудрич, Майкл А; Рахван, Ияд (2017). «Взаимодействие с машинами» . Nature Communications . 9 (233): 233. arXiv : 1703.06207 . Bibcode : 2018NatCo ... 9..233C . DOI : 10.1038 / s41467-017-02597-8 . PMC 5770455 . PMID 29339817 .  
  34. ^ «AI может победить нас в покере - теперь посмотрим, может ли он сработать с нами - MIT Technology Review» .
  35. ^ Widmaier, Сара; Дюмон, Жан-Кристоф (2011). «Рабочие документы ОЭСР по социальным вопросам, вопросам занятости и миграции» . Рабочие документы по социальной занятости и миграции . Рабочие документы ОЭСР по социальным вопросам, вопросам занятости и миграции. DOI : 10.1787 / 1815199x . ISSN 1815-199X . 
  36. ↑ Фрей, Карл Бенедикт; Осборн, Майкл А. (январь 2017 г.). «Будущее занятости: насколько рабочие места подвержены компьютеризации?». Технологическое прогнозирование и социальные изменения . 114 : 254–280. CiteSeerX 10.1.1.395.416 . DOI : 10.1016 / j.techfore.2016.08.019 . ISSN 0040-1625 .  
  37. ^ Франк, Морган Р .; Сунь, Лицзюнь; Кебриан, Мануэль; Юн, Хеджин; Рахван, Ияд (2018-02-01). «Малые города испытывают большее влияние автоматизации» . Журнал Интерфейса Королевского общества . 15 (139): 20170946. DOI : 10.1098 / rsif.2017.0946 . ISSN 1742-5689 . PMC 5832739 . PMID 29436514 .   
  38. ^ "Краудсорсинг в Manhunts может работать - Scientific American" .
  39. ^ «Нигде спрятаться: следующая охота будет организована - New Scientist» .
  40. ^ «Шесть степеней мобилизации» . Экономист . Сентябрь 2012 г.
  41. ^ «Кошмарная машина» .
  42. ^ «Исследователи строят 'кошмарную машину': двусторонний: NPR» .
  43. ^ «Клинтон, Трамп, Белый дом тоже, ужасающе преобразованный« Машиной кошмаров »Массачусетского технологического института - The Washington Post» .