« Почему мы не нужны будущему » - это статья Билла Джоя (тогдашнего главного научного сотрудника Sun Microsystems ) в апрельском номере журнала Wired за 2000 год . В статье он утверждает, что «наши самые мощные технологии 21-го века - робототехника , генная инженерия и нанотехнологии - угрожают превратить людей в исчезающий вид ». Радость предупреждает:
Опыт ученых-атомщиков ясно показывает необходимость брать на себя личную ответственность, опасность того, что все будет идти слишком быстро, и то, как процесс может жить своей собственной жизнью. Мы можем, как и они, создать непреодолимые проблемы в кратчайшие сроки. Мы должны больше думать заранее, если не хотим так же удивляться и шокировать последствия наших изобретений.
В то время как одни критики охарактеризовали позицию Джоя как обскурантизм или неолуддизм , другие разделяют его опасения по поводу последствий быстрого распространения технологий. [1]
Резюме
Джой утверждает, что развивающиеся технологии представляют гораздо большую опасность для человечества, чем какая-либо из ранее представленных технологий. В частности, он специализируется на инженерии , нанотехнологиях и робототехнике . Он утверждает, что технологии разрушения 20-го века, такие как ядерная бомба, были доступны только крупным правительствам из-за сложности и стоимости таких устройств, а также сложности с получением необходимых материалов. Он использует роман «Белая чума» как сценарий потенциального кошмара, в котором безумный ученый создает вирус, способный уничтожить человечество.
Джой также выражает озабоченность по поводу увеличения мощности компьютеров. Его беспокоит то, что компьютеры со временем станут более умными, чем мы, что приведет к таким мрачным сценариям, как восстание роботов . Он особенно цитирует Теда Качиньского ( Унабомбера ) по этой теме.
Джой выражает озабоченность по поводу того, что в конечном итоге богатые будут единственными, кто сможет управлять будущими роботами, которые будут построены, и что эти люди также могут решить взять жизнь в свои руки и контролировать, как люди продолжают населять и воспроизводить. [2] Он начал больше исследовать робототехнику и людей, специализирующихся на робототехнике , и помимо собственных мыслей пытался узнать мнение других по этой теме. Родни Брукс , специалист по робототехнике, считает, что в будущем произойдет слияние людей и роботов. [3] Джой упомянул книгу Ханса Моравека «Робот: простая машина для трансцендентного разума», в которой он полагал, что в будущем произойдет сдвиг, когда роботы возьмут на себя нормальную человеческую деятельность, но со временем люди перестанут жить таким образом. . [4]
Ученые-критики
В Сингулярность близко , Рэй Курцвейл сомнение регуляцию потенциально опасных технологий, спрашивая «мы должны сказать , миллионы людей , страдающих раком и другими тяжелыми условиями , которые мы отменяем развитие всех биоинженерных методов лечения , поскольку существует риск того, что эти же технологии могут когда-нибудь быть использованы в злонамеренных целях? ». Однако Джон Зерзан и Челлис Глендиннинг считают, что современные технологии вредны как для свободы, так и для проблемы рака, и что эти две проблемы связаны между собой. [5] [6] [7]
В статье AAAS Science and Technology Policy Yearbook 2001 «Ответ Биллу Джою и мрачным технофутуристам» Джон Сили Браун и Пол Дугид критиковали Джоя за то, что он имел технологическое видение туннеля в своем прогнозе, не принимая во внимание социальные факторы. [8]
Джон МакГиннис утверждает, что предложение Джоя об «отказе» от технологий, которые могут привести к созданию общего искусственного интеллекта (AGI), потерпит неудачу, потому что «запреты, по крайней мере, в соответствии с текущими технологиями и текущей геополитикой, несомненно, будут неэффективными». Проверка соглашений об ограничении AGI будет затруднена из-за двойного использования AGI и простоты сокрытия. Точно так же он считает, что предложение Джоя о «клятве Гиппократа» о добровольном воздержании ученых от вредных исследований также не будет эффективным, потому что на ученых могут оказывать давление правительства, соблазненные прибылью, неуверенные в том, какие технологии могут нанести вред в будущем, или противодействие в первую очередь к предположению Джой. Вместо того, чтобы отказываться от ОИИ, МакГиннис приводит доводы в пользу своего рода дифференцированного технологического развития, при котором дружественный искусственный интеллект продвигается быстрее, чем другие виды. [9]
Экстропийский футурист Макс Мор разделяет точку зрения Курцвейла по вопросам непрактичной и неэффективной природы «отказа от технологий», но добавляет более крупный моральный и философский компонент к аргументу, утверждая, что совершенство и эволюция человечества не означает «потерю человечности» и что добровольно желаемое увеличение емкости в любой области даже не представляет собой «потерю» любого рода. [10]
В статье Зака Голдсмита об интервью Билла Джоя он цитирует его о том, что некоторые опасения по поводу новых развивающихся технологий на самом деле более опасны, чем он выразился в статье, потому что Голдсмит утверждает, что разработчики этих машин наделяют их слишком большой властью. [11] Голдсмит заявляет, что считает, что ученые не думают о многих вещах, которые могут пойти не так, когда они начнут делать изобретения, потому что это приведет к сокращению финансирования.
В обзоре Софи Тайсом на статью Билла Джоя она говорит, что Джой не должен относиться к новым технологиям и должен также понимать, что между ним и этими новыми технологиями может быть достигнут «компромисс». [12] Она также согласна с тем, что у него есть основания беспокоиться о том, что произойдет в долгосрочной перспективе, но не думает, что эти технологии будут пытаться контролировать нас в будущем. Джой ответил на это, заявив, что ему нравится, что люди начинают отвечать на его статью, потому что она дает им мнение по этому поводу. [13]
Последствия
После публикации статьи Билл Джой предложил оценить технологии, чтобы оценить их скрытые опасности, а также запретить ученым работать над технологиями, которые потенциально могут причинить вред.
В выпуске журнала Wired , посвященном 15-летию, в 2008 году Лукас Грейвс сообщил, что технологии генетики, нанотехнологий и робототехники еще не достигли того уровня, который позволил бы воплотить в жизнь сценарий Билла Джоя. [14]
Известный консервативный комментатор Алекс Джонс процитировал статью во время дискуссии о последствиях трансгуманизма с комиками Джо Роганом и Тимом Диллоном в эпизоде шоу Джо Рогана от 27 октября 2020 года. [15]
Рекомендации
- ^ Хушф, Джордж (2004). «Этика нанотехнологий: видение и ценности для нового поколения науки и техники», Новые технологии и этические проблемы в инженерии , Национальная инженерная академия, стр. 31–32. Вашингтон, округ Колумбия: The National Academies Press. ISBN 030909271X
- ^ Джой, Билл (2001-04-01). «Почему мы не нужны будущему» . Проводной . ISSN 1059-1028 . Проверено 14 ноября 2019 .
- ^ Мессерли, Джон (2016-02-17). «Критика Билла Джоя« Почему мы не нужны будущему » » . Причина и смысл . Проверено 14 ноября 2019 .
- ^ Моравец, Ханс (1998). Робот: простая машина для трансцендентного разума . Oup Usa.
- ^ Зерзан, Джон (31 октября 2002 г.). "Что нас беспокоит?" . Зеленая анархия . Федеративная анархия Inc (10) . Проверено 5 марта 2012 года .
- ^ «Эпоха скорби» . Primitivism.com . Проверено 8 июля 2009 .
- ^ Коэн, Марк Натан (1991). «Здоровье и подъем цивилизации» . Primitivism.com (отрывок); Издательство Йельского университета . Проверено 8 июля 2009 .
- ^ Браун, Джон Сили ; Дугид, Пол (2001). "Ответ Биллу Джою и мрачным технофутуристам" (PDF) . Ежегодник политики в области науки и технологий . Американская ассоциация развития науки.
- ^ Макгиннис, Джон О. (лето 2010 г.). «Ускоряющий ИИ» . Обзор права Северо-Западного университета . 104 (3): 1253–1270 . Проверено 16 июля 2014 года .
- ^ Подробнее, Макс (7 мая 2000 г.). «Обними, не отказывайся от будущего» . Экстропия . Проверено 22 июля 2018 .
- ^ Голдсмит, Зак (октябрь 2000 г.). «Дискомфорт и радость: интервью Билла Джоя» . Эколог . 30 . Проверено 20 ноября 2019 года .
- ^ Тайсом, Софи (январь 2001 г.). «Технологические утопии или антиутопии: есть ли третий путь?» . 20 (1): 15–16 . Проверено 20 ноября 2019 года . Цитировать журнал требует
|journal=
( помощь ) - ^ Джой, Билл (15 сентября 2000 г.). «Темная сторона технологий». Важные выступления дня . 66 (23): 706–709. ProQuest 221453952 .
- ^ Грейвс, Лукас (24 марта 2008 г.). «15 лет: почему будущее еще нужно нам» . Проводной . Wired.com . Проверено 22 октября 2009 .
- ^ https://www.youtube.com/watch?v=jdVso9FSkmE
дальнейшее чтение
- Мессерли, Джон Г. «Я рад, что мы не нужны будущему: критика пессимистического футуризма Джоя». ACM SIGCAS Computers and Society , Volume 33, Issue 2, (июнь 2003 г.) ISSN 0095-2737
Внешние ссылки
- «Почему мы не нужны будущему» , Wired , апрель 2000 г.
- Rants & Raves: "Почему мы не нужны будущему"
- Билл Джой надеется, что причина преобладает
- Центр изучения технологий и общества: особое внимание к предупреждению Билла Джоя о высоких технологиях
- Билл Джой - нанотехнологии, генетика и роботы, о боже!