Эффект ELIZA в информатике - это тенденция бессознательно предполагать, что поведение компьютера аналогично поведению человека; то есть антропоморфизация .
Обзор
В своей особой форме эффект ELIZA относится только к «восприимчивости людей к тому, чтобы читать гораздо больше понимания, чем гарантируется в цепочках символов, особенно слов, соединенных вместе компьютерами». [1] Тривиальный пример особой формы эффекта Элизы, приведенный Дугласом Хофштадтером , включает в себя банкомат, который отображает слова «СПАСИБО» в конце транзакции. (Очень) случайный наблюдатель может подумать, что машина на самом деле выражает благодарность; однако аппарат печатает только заранее запрограммированную строку символов. [1]
В более общем смысле, эффект ELIZA описывает любую ситуацию [2] [3], когда, основываясь исключительно на результатах работы системы, пользователи воспринимают компьютерные системы как обладающие «внутренними качествами и возможностями, которых программное обеспечение, управляющее (выводом), не может достичь» [4] или «предположить, что [результаты] отражают большую причинно-следственную связь, чем они есть на самом деле». [5] Как в своей конкретной, так и в общей формах, эффект ELIZA примечателен тем, что он возникает даже тогда, когда пользователи системы осведомлены об определенном характере вывода, производимого системой. С психологической точки зрения эффект ELIZA является результатом тонкого когнитивного диссонанса между осведомленностью пользователя об ограничениях программирования и его поведением в отношении результатов программы . [6] Открытие эффекта ELIZA было важным достижением в области искусственного интеллекта , продемонстрировав принцип использования социальной инженерии, а не явного программирования для прохождения теста Тьюринга . [7]
Источник
Эффект назван в честь чаттер- бота ELIZA 1966 года , разработанного ученым-компьютерщиком Массачусетского технологического института Джозефом Вайценбаумом . При выполнении сценария ВРАЧА Вайценбаума ЭЛИЗА пародировала психотерапевта Роджера , в основном перефразируя ответы «пациента » в виде вопросов:
- Человек: Ну, мой парень заставил меня приехать сюда.
- ЭЛИЗА: Твой парень заставил тебя приехать сюда?
- Человек: Он говорит, что я большую часть времени в депрессии.
- ЭЛИЗА: Мне жаль слышать, что вы в депрессии.
- Человек: Это правда. Я несчастлив.
- ЭЛИЗА: Как вы думаете, приезд сюда поможет вам не быть несчастным? [8]
Хотя разработан исключительно как механизм для поддержки «естественного языка разговор» с компьютером, [9] Элизы ДОКТОР сценарий оказался удивительно успешным в выявлении эмоциональных ответов от пользователей , которые в процессе взаимодействия с программой, начали приписывать понимания и мотивация к выходу программы. [10] Как позже писал Вейценбаум: «Я не осознавал ... что чрезвычайно короткое воздействие относительно простой компьютерной программы может вызвать сильное бредовое мышление у вполне нормальных людей». [11] Действительно, код ELIZA изначально не был разработан для того, чтобы вызывать такую реакцию. При наблюдении исследователи обнаружили, что пользователи бессознательно предполагают, что вопросы ELIZA подразумевают интерес и эмоциональную вовлеченность в обсуждаемые темы, даже когда они сознательно знали, что ELIZA не моделирует эмоции . [12]
Значение автоматизированного труда
ELIZA убедила некоторых пользователей думать, что машина - это человек. Этот сдвиг в человеко-машинном взаимодействии ознаменовал прогресс в технологиях, имитирующих человеческое поведение. Уильям Мейзел выделяет две группы чат-ботов как «общих личных помощников » и «специализированных цифровых помощников». [13] Обычные цифровые помощники были интегрированы в персональные устройства и обладают такими навыками, как отправка сообщений, создание заметок, проверка календарей и установка встреч. Специализированные цифровые помощники «работают в очень определенных областях или помогают с очень конкретными задачами». [13] Цифровые помощники, которые запрограммированы на повышение производительности, принимая поведение, аналогичное человеческому.
Джозеф Вейценбаум считал, что не все аспекты человеческого мышления можно свести к логическим формализмам и что «есть некоторые мыслительные действия, которые должны предприниматься только людьми». [14] Он также заметил, что мы развиваем эмоциональную привязанность к машинам, если взаимодействуем с ними как люди. Когда чат-боты антропоморфизируются, они склонны изображать гендерные особенности как способ, с помощью которого мы устанавливаем отношения с технологией. «гендерные стереотипы используются для управления нашими отношениями с чат-ботами», когда человеческое поведение запрограммировано в машинах. [15]
Феминизированный труд, или женский труд , автоматизированный антропоморфными цифровыми помощниками, подкрепляет «предположение о том, что женщины обладают естественной склонностью к служебной работе и эмоциональному труду». [16] Определяя нашу близость к цифровым помощникам через их человеческие качества, чат-боты становятся гендерно обусловленными сущностями.
Смотрите также
Заметки
- ^ a b Хофштадтер, Дуглас Р. (1996). "Предисловие 4 Неистребимый эффект Элизы и его опасности, эпилог" . Жидкие концепции и творческие аналогии: компьютерные модели фундаментальных механизмов мышления . Основные книги. п. 157. ISBN. 978-0-465-02475-9.
- ^ Фентон-Керр, Том (1999). "GAIA: экспериментальный педагогический агент для изучения мультимодального взаимодействия". Вычисление метафор, аналогий и агентов . Конспект лекций по информатике. 1562 . Springer. п. 156. DOI : 10.1007 / 3-540-48834-0_9 . ISBN 978-3-540-65959-4.
Хотя Хофштадтер делает упор здесь на текстовом режиме, «эффект Элизы» можно увидеть почти во всех режимах взаимодействия человека и компьютера.
- ^ Экбиа, Хамид Р. (2008). Искусственные сны: поиски небиологического интеллекта . Издательство Кембриджского университета. п. 8 . ISBN 978-0-521-87867-8.
- ^ Кинг, В. (1995). Антропоморфные агенты: друг, враг или глупость (Технический отчет). Вашингтонский университет. М-95-1.
- ^ Роуз, Уильям Б.; Бофф, Кеннет Р. (2005). Организационное моделирование . Wiley-IEEE. С. 308–309. ISBN 978-0-471-73943-2.
Это особая проблема в цифровой среде, где «эффект Элизы», как его иногда называют, заставляет взаимодействующих лиц предполагать, что система более разумна, чем она есть, полагать, что события отражают большую причинность, чем они есть на самом деле.
- ^ Экбиа, Хамид Р. (2008). Искусственные сны: поиски небиологического интеллекта . Издательство Кембриджского университета. п. 156 . ISBN 978-0-521-87867-8.
Но люди хотят верить, что программа «видит» футбольный матч на некотором приемлемом уровне абстракции. Слова, которыми манипулирует (программа), настолько полны ассоциаций у читателей, что они НЕ МОГУТ быть лишены всех своих образов. Коллинз, конечно, знал, что его программа не имеет отношения к чему-либо, напоминающему двумерный мир плавно движущихся точек (не говоря уже об упрощенных человеческих телах), и, по-видимому, он думал, что его читатели тоже поймут это. Однако он не мог предположить, насколько силен эффект Элизы.
- ^ Траппл, Роберт; Петта, Паоло; Пайр, Сабина (2002). Эмоции у людей и артефактов . Кембридж, Массачусетс: MIT Press. п. 353. ISBN. 978-0-262-20142-1.
«Эффект Элизы» - склонность людей относиться к программам, которые на них реагируют, так, как будто они обладают большим интеллектом, чем они есть на самом деле (Weizenbaum 1966), является одним из самых мощных инструментов, доступных создателям виртуальных персонажей.
- ^ Гюзельдере, Гювен; Франки, Стефано. «диалоги с колоритными личностями раннего ИИ» . Архивировано 25 апреля 2011 года . Проверено 30 июля 2007 .
- ^ Вайценбаум, Джозеф (январь 1966 г.). "ELIZA - компьютерная программа для изучения естественного языка общения между человеком и машиной" . Коммуникации ACM . Массачусетский технологический институт . 9 : 36. DOI : 10,1145 / 365153,365168 . Проверено 17 июня 2008 .
- ^ Сучман, Люси А. (1987). Планы и установленные действия: проблема человеко-машинного общения . Издательство Кембриджского университета. п. 24. ISBN 978-0-521-33739-7. Проверено 17 июня 2008 .
- ^ Вайценбаум, Джозеф (1976). Компьютерная мощь и человеческий разум: от суждения к расчету . WH Freeman. п. 7 .
- ^ Биллингс, Ли (16 июля 2007 г.). «Возникновение робоэтики» . Семя . Архивировано 28 февраля 2009 года.
(Джозеф) Вайценбаум неожиданно обнаружил, что, даже если они полностью осознают, что они разговаривают с простой компьютерной программой, люди, тем не менее, будут относиться к ней так, как если бы это было реальное, мыслящее существо, которое заботится об их проблемах - явление, теперь известное как Элиза Эффект ».
- ^ а б Дейл, Роберт (сентябрь 2016 г.). «Возвращение чат-ботов» . Инженерия естественного языка . 22 (5): 811–817. DOI : 10.1017 / S1351324916000243 . ISSN 1351-3249 .
- ^ Вайценбаум, Джозеф (1976). Компьютерная мощь и человеческий разум: от суждения к расчету . Сан-Франциско, Калифорния. ISBN 0-7167-0464-1. OCLC 1527521 .
- ^ Коста, Педро. Рибас, Луиза. Беседы с ELIZA: о гендере и искусственном интеллекте. Из (6-я конференция по вычислениям, коммуникации, эстетике и X 2018 г.) (февраль 2021 г.)
- ↑ Эстер, Хелен. 2016. «Технологии ей становятся». Новые перспективы 3 (1): 46-50.
Рекомендации
- Хофштадтер, Дуглас. Предисловие 4: Неистребимый эффект Элизы и его опасности. (из Жидких концепций и творческих аналогий : компьютерные модели фундаментальных механизмов мышления , Basic Books: New York, 1995)
- Теркл, С., Эффект Элизы: склонность воспринимать компьютерные ответы как более разумные, чем они есть на самом деле (из жизни на экране - Идентичность в эпоху Интернета , Феникс в мягкой обложке: Лондон, 1997)
- Эффект ELIZA из файла жаргона , версия 4.4.7. По состоянию на 8 октября 2006 г.