Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску

Искусственная глупость обычно используется как юмористическая противоположность термину искусственный интеллект (ИИ), часто как уничижительная ссылка на неспособность технологии ИИ адекватно выполнять свои задачи. [1] Однако, в области информатики , искусственная тупость также используются для обозначения методики « dumbing вниз » компьютерных программ для того , чтобы намеренно ввести ошибки в своих ответах.

История [ править ]

Алан Тьюринг в своей статье 1952 года « Вычислительные машины и интеллект» предложил тест на интеллект, который с тех пор стал известен как тест Тьюринга . [2] Несмотря на то, что существует несколько различных версий, исходный тест, описанный Тьюрингом как основанный на « имитационной игре », включал «машинный интеллект» (компьютер, выполняющий программу ИИ), участницу женского пола и следователь. И ИИ, и участница-женщина должны были утверждать, что они были женщинами, а задача следователя заключалась в том, чтобы выяснить, какая участница была женщиной, а какая нет, путем изучения ответов участника на набранные вопросы. [2]Хотя неясно, имел ли Тьюринг в виду, что следователь должен был знать, что один из участников был компьютером, при обсуждении некоторых возможных возражений против его аргумента Тьюринг выразил обеспокоенность тем, что «машины не могут делать ошибок». [2]

Утверждается, что следователь мог отличить машину от человека, просто задав им ряд арифметических задач. Машину разоблачат из-за ее смертоносной точности.

-  Тьюринг, 1950, стр. 448.

Как затем заметил Тьюринг, ответ на это прост: машина не должна пытаться «давать правильные ответы на арифметические задачи». [2] Вместо этого в ответы компьютера должны быть внесены преднамеренные ошибки.

Приложения [ править ]

В информатике есть, по крайней мере, два основных применения искусственной глупости: создание преднамеренных ошибок в чат-ботах, пытающихся пройти тест Тьюринга или иным образом заставить участника поверить в то, что он человек; и преднамеренное ограничение использования компьютерного ИИ в видеоиграх для управления сложностью игры.

Чат-боты [ править ]

Первый конкурс на призы Лебнера был проведен в 1991 году. Как сообщалось в The Economist , победившая работа содержала преднамеренные ошибки - которые The Economist назвал «искусственной глупостью», - чтобы заставить судей поверить в то, что это был человек. [3] Этот метод остался частью последующих розыгрышей призов Лебнера и отражает проблему, впервые поднятую Тьюрингом.

Дизайн игры [ править ]

Ларс Лиден утверждает, что хороший игровой дизайн предполагает нахождение баланса между «интеллектом» компьютера и способностью игрока побеждать. Путем точной настройки уровня «искусственной тупости» можно создавать игры, управляемые компьютером, которые позволяют игроку побеждать, но делают это «не выглядя неразумным». [4]

Алгоритмы

Есть много способов намеренно ввести неверные решения в алгоритмы поиска. Возьмем , к примеру, минимаксный алгоритм. Минимаксное алгоритм состязательного алгоритм поиска , который широко используется в играх , которые требуют более одного игрока , чтобы конкурировать друг против друга. Основная цель этого алгоритма - выбрать ход, который максимизирует ваши шансы на победу, и избегать ходов, которые максимизируют шансы на победу вашего оппонента. Такой алгоритм был бы чрезвычайно полезен для компьютера, поскольку компьютеры могут искать на тысячи ходов вперед. Чтобы «упростить» этот алгоритм и учесть различные уровни сложности, необходимо настроить эвристические функции. Обычно в выигрышных состояниях даются огромные очки. Настройка эвристики за счет уменьшения таких больших выплат снизится вероятность выбора алгоритмом состояния выигрыша.

Создание эвристических функций, позволяющих учесть глупость, сложнее, чем можно было бы подумать. Если эвристика позволяет выбрать лучший ход, компьютерный противник будет слишком всеведущим, что сделает игру разочаровывающей и неприятной. Но если эвристика плохая, игра также может быть неприятной. Следовательно, баланс хороших и плохих ходов в состязательной игре зависит от хорошо реализованной эвристической функции.

Другие приложения [ править ]

Согласно ее определению, достаточно разработанная программа искусственной глупости способна сделать все наихудшие случаи в данной ситуации. Это позволило бы компьютерным программистам и аналитикам немедленно находить недостатки, сводя к минимуму ошибки в коде.

Однако в основном предполагается, что он будет использоваться на этапах разработки и отладки компьютерного программного обеспечения.

Аргументы об искусственной глупости [ править ]

The Economist заявляет, что, если мы хотим достичь предсказания Алана Тьюринга, «это будет ужасный кризис». Это бессмысленная попытка создать машину, имитирующую поведение и уровень интеллекта человека. Цель изобретения компьютера - помочь людям выполнять задачи, которые считались бы слишком утомительными или трудоемкими для выполнения вручную. [3]

Как упоминалось в отрывке о розыгрыше призов Лебнизера, компьютер смог обмануть судей, допустив умышленные опечатки. The Economist утверждает, что никому не нужен компьютер, который не умеет правильно печатать. [3]

Дарем Т., автор журнала «Об искусственной глупости», кажется, считает, что компьютеры обладают интеллектом от природы. Компьютер кажется неразумным только из-за плохого программирования. Дарем утверждает обратное в том, во что люди обычно верят, так как «не существует такой вещи, как ИИ, есть только искусственная глупость, которая случается, когда компьютерам не дают необходимых знаний». [5]

Этот термин появился в связи с другими предметными областями, в основном связанными с компьютерными технологиями, но также и с человеческим поведением. Сэди Плант предполагает, что Ада Лавлейс , пророчица вычислительной техники девятнадцатого века, использовала нечто вроде искусственной глупости, чтобы критиковать тех, кто недооценил будущий потенциал вычислительных машин. [6] [7] Хито Штайерл использовал этот термин в отношении глупости, связанной с непризнанием силы и опасностей алгоритмов из-за их невидимости. [8] С другой стороны, «искусственная глупость» для Авиталь Роннель описывает шокирующее злоупотребление измерением интеллекта во времяЭпоха евгеники в США : людей искусственно считали неразумными. [9] [10] Художник и исследователь Мишель О'Коннелл использовал термин « искусственная глупость» в своей докторской диссертации [11] применительно как к вопросам человеческого интеллекта, так и технологического интеллекта. Искусственная тупость может относиться к, как правило , сомнительный, способность человека «действовать глупо» или « немой вниз » , но он предполагает , что это может также быть средством творческого отрывать. Он цитирует внимание Джона Робертса к современным художникам и их использование «глупого мышления» как «отказ от доминирующих дискурсов».система искусства »- это хитрая обратная претенциозность; само по себе искусство кажется глупым с точки зрения утилитарных интересов, коммерции, развлечений, академических кругов и политических программ. Помимо обсуждения искусства и творчества, О'Коннелл выступает за переосмысление значимости человеческого разума против часто ощутимой глупости технологической сферы, включая искусственный интеллект (понимаемый в самом широком смысле).

Искусственная глупость как ограничение искусственного интеллекта [ править ]

Искусственная глупость - это не только преднамеренное внесение ошибок в компьютер, но также может рассматриваться как ограничение компьютерного искусственного интеллекта. Доктор Джей Либовиц утверждает, что «если разум и глупость естественным образом существуют и если ИИ существует, то есть ли что-то, что можно было бы назвать« искусственной глупостью »?» [14]

Либовиц указал на следующие ограничения:

  • Способность обладать здравым смыслом и использовать его
  • Разработка систем глубокого мышления
  • Возможность варьировать возможности объяснения экспертной системы
  • Возможность получить экспертные системы для обучения
  • Возможность иметь распределенные экспертные системы
  • Умение легко приобретать и обновлять знания
    -  Либовиц, 1989, стр. 109

Ссылки [ править ]

  1. ^ О'Коннелл, М., 2017. Искусство как «искусственная глупость». [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно по адресу: < http://sro.sussex.ac.uk/id/eprint/67604 > [доступ 3 августа 2020 г.]. п. 44 год
  2. ^ a b c d Тьюринг, Алан (октябрь 1950 г.), «Вычислительные машины и интеллект», Mind , LIX (236): 433–460, DOI : 10.1093 / mind / LIX.236.433 , ISSN  0026-4423
  3. ^ a b c «Искусственная глупость» , The Economist , 324 (7770): 14, 1992-09-01, первое мероприятие было проведено в 1991 году.
  4. ↑ Лиден, Ларс (2004), С. Рабин (редактор), «Искусственная глупость: искусство совершать преднамеренные ошибки», AI Game Programming Wisdom 2 , Charles River Media, Inc., стр. 41–48
  5. Перейти ↑ Durham, T. (21 марта 1985 г.), «Об искусственной глупости», Computing, The Magazine, стр: 4-5
  6. ^ Плант, С., 1998. Нули и единицы: цифровые женщины и новая технокультура. Лондон: Четвертое сословие. п. 89
  7. ^ О'Коннелл, М., 2017. Искусство как «искусственная глупость» . [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно по адресу: < http://sro.sussex.ac.uk/id/eprint/67604 > [доступ 8 августа 2017 г.]. п. 170
  8. ^ Steyerl, Хито; Кроуфорд, Кейт (23 января 2017 г.). «Потоки данных» . Новое расследование . Проверено 8 августа 2017 года .
  9. ^ Ronell, А., 2002. Stupidty. Урбана, Иллинойс: Урбана: Издательство Иллинойского университета. стр. 59-60
  10. ^ О'Коннелл, М., 2017. Искусство как «искусственная глупость» . [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно по адресу: < http://sro.sussex.ac.uk/id/eprint/67604 > [доступ 8 августа 2017 г.]. п. 168
  11. ^ О'Коннелл, М., 2017. Искусство как «искусственная глупость» . [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно по адресу: < http://sro.sussex.ac.uk/id/eprint/67604 > [доступ 8 августа 2017 г.].
  12. ^ Робертс, Дж, 1996b Без ума от этого! пользователя John Roberts. [онлайн] Журнал Everything. Доступно по адресу: < http://bak.spc.org/everything/e/hard/text/roberts1.html > [доступ 14 июня 2016 г.].
  13. ^ О'Коннелл, М., 2017. Искусство как «искусственная глупость» . [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно по адресу: < http://sro.sussex.ac.uk/id/eprint/67604 > [доступ 8 августа 2017 г.]. п. 174
  14. ^ Liebowitz, Джей (июль 1989). «Если есть искусственный интеллект, есть ли такая вещь, как искусственная глупость?». Информационный бюллетень SIGART . 109 .

Дальнейшее чтение [ править ]

  • http://www.c2.com/cgi/wiki?ArtificialStupidity Описывает искусственную глупость в юмористическом контексте.
  • TEDx: «Тест Тьюринга, искусственный интеллект и человеческая глупость» [1]