Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску
Чтобы узнать о концепции выбора наименее нежелательного из доступных вариантов, см. « Меньшее зло» .
Меньше Неправильно
LessWrong logo.svg
Тип сайта
Интернет-форум , блог
Доступно ванглийский
СделаноЭлиэзер Юдковски
URLLessWrong.com
Постановка на учетНеобязательно, но требуется для добавления контента
Запущен1 февраля 2009 г . ; 12 лет назад ( 2009-02-01 )
Текущее состояниеАктивный
Написано вJavaScript , CSS (на основе React и GraphQL )

LessWrong (также пишется Less Wrong ) - это блог и форум сообщества,посвященный обсуждению когнитивных предубеждений , философии , психологии , экономики , рациональности и искусственного интеллекта , а также других тем. [1] [2]

Цель [ править ]

LessWrong продвигает изменения в образе жизни, которые, по мнению сообщества, ведут к повышению рациональности и самосовершенствованию . Сообщения часто фокусируются на избежании предвзятости, связанной с принятием решений и оценкой доказательств. Одно из предложений - использовать теорему Байеса в качестве инструмента принятия решений. [2] Особое внимание уделяется психологическим барьерам, препятствующим правильному принятию решений, включая обусловленность страхом и когнитивные искажения , которые были изучены психологом Даниэлем Канеманом . [3]

LessWrong также занимается трансгуманизмом , экзистенциальными угрозами и сингулярностью . Observer отметил, что «несмотря на то, что« Нью-Йоркская группа Less Wrong »  называет себя форумом, посвященным« искусству рационального мышления », она зацикливается на ветви футуризма , которая в трехмерном мультиплексе кажется более удобной, чем на семинаре для выпускников: ужасная экзистенциальная угроза - или, если повезет, утопическое обещание - известная как технологическая сингулярность  ... Если вы называете себя «рационалистами», как это сделала команда Less Wrong, гораздо сложнее отвергнуть их как « культ судного дня» '. " [4]

История [ править ]

Элиэзер Юдковски в Стэнфордском университете в 2006 году.

LessWrong был разработан на основе « Преодоление предвзятости» , более раннего группового блога, посвященного человеческой рациональности, который начался в ноябре 2006 года при участии теоретика искусственного интеллекта Элиэзера Юдковски и экономиста Робина Хэнсона в качестве основных участников. В феврале 2009 года сообщения Юдковски были использованы в качестве исходного материала для создания блога сообщества LessWrong , а « Преодоление предвзятости» стал личным блогом Хэнсона. [5] В 2013 году значительная часть рационалистического сообщества переключила внимание на Кодекс Slate Star Codex Скотта Александра . [6]

LessWrong и окружающее его движение являются предметами книги 2019 года `` ИИ не ненавидит вас '' , написанной бывшим научным корреспондентом BuzzFeed Томом Чиверсом. [7] [8] [9]

Василиск Роко [ править ]

В июле 2010 года участник LessWrong Роко разместил мысленный эксперимент на сайте, в котором система искусственного интеллекта будущего, в остальном благожелательная, мучает людей, которые слышали об искусственном интеллекте до его появления, и неспособны неустанно работать над его созданием, чтобы стимулировать, сказал работай. Используя теорию вневременных решений Юдковски, в сообщении утверждалось, что это будет полезно для ИИ, даже если оно не может причинно повлиять на людей в настоящем. Эта идея стала известна как " василиск Роко"., "основанный на идее Роко, что простое сообщение об этой идее даст гипотетической системе ИИ более сильные стимулы для использования шантажа. Юдковский удалил сообщения Роко по этой теме, заявив, что публикация этого сообщения была" глупой ", а сама идея была" действительно опасной мыслью ". , рассматривая это как информационную опасность . Обсуждение василиска Роко было запрещено на LessWrong на несколько лет, поскольку Юдковский заявил, что это вызвало нервный срыв у некоторых читателей . [10] [11] [4] Запрет был снят в октябре 2015 года. . [12]

Дэвид Ауэрбах написал в Slate «сочетание мессианских амбиций, уверенности в собственной непогрешимости и большого количества денег никогда не дает результата, независимо от идеологии, и я не думаю, что Юдковский и его соратники станут исключением. Я волнуюсь. не столько о Василиске Роко, сколько о людях, которые считают, что превзошли общепринятую мораль ". [11]

Василиск Роко упоминается в музыкальном видео канадского музыканта Граймс на ее песню 2015 года « Flesh Without Blood » через персонажа по имени «Рококо-василиск», которого Граймс описал как «обреченного на вечные пытки искусственного интеллекта, но она также добрая. как Мария-Антуанетта ". Подумав об этом каламбуре и обнаружив, что Граймс уже сделал этот каламбур, Илон Маск связался с Граймсом, что привело к их свиданию. [13] [14] Эта концепция также упоминалась в эпизоде Кремниевой долины . [15]

Neoreaction [ править ]

Neoreactionary движения первым выросло на LessWrong , [16] [17] [18] привлекает обсуждение на сайте евгеники и эволюционной психологии . [19] Юдковский категорически отверг неореакцию. [18] [20] [21] В опросе среди пользователей LessWrong в 2016 году 28 из 3060 респондентов, или 0,92%, определились как «неореакционные». [22]

Эффективный альтруизм [ править ]

LessWrong сыграл свою роль в развитии эффективного движения альтруизма . [23]

Ссылки [ править ]

  1. ^ "Меньше неправильных FAQ" . Меньше Неправильно.
  2. ^ a b Миллер, Джеймс (28 июля 2011 г.). «Вы можете узнать, как стать более рациональным» . Business Insider . Проверено 25 марта 2014 года .
  3. ^ Burkeman, Оливер (9 марта 2012). «Эта колонка изменит вашу жизнь: задали каверзный вопрос? Ответьте на более простой. Мы все делаем это постоянно. Так как же нам избавиться от этой эксцентричности?» . Хранитель . Проверено 25 марта 2014 года .
  4. ^ a b Тику, Ниташа (25.07.2012). «Вера, надежда и сингулярность: вход в матрицу с футуристическим набором Нью-Йорка» . Наблюдатель . Проверено 12 апреля 2019 .
  5. ^ «Откуда взялось Less Wrong? (LessWrong FAQ)» . Проверено 25 марта 2014 года .
  6. ↑ Льюис-Краус, Гидеон (9 июля 2020 г.). «Кодекс Slate Star и война Кремниевой долины против СМИ» . Житель Нью-Йорка .
  7. ^ Каудри, Кэтрин. «W&N выигрывает дебют научного репортера Buzzfeed после аукциона» . Книготорговец . Проверено 21 сентября 2017 .
  8. ↑ Чиверс, Том (2019). ИИ не ненавидит вас . Вайденфельд и Николсон. ISBN 978-1474608770.
  9. ^ Marriott, Джеймс. «ИИ не ненавидит тебя, обзор Тома Чиверса - почему ботаники нервничают» . ISSN 0140-0460 . Проверено 3 мая 2020 . 
  10. ↑ С любовью, Дилан (6 августа 2014 г.). «ВНИМАНИЕ: простое чтение об этом мысленном эксперименте может разрушить вашу жизнь» . Business Insider . Проверено 6 декабря 2014 .
  11. ^ a b Ауэрбах, Давид (17 июля 2014 г.). «Самый ужасающий мысленный эксперимент всех времен» . Шифер . Проверено 18 июля 2014 года .
  12. ^ RobbBB (5 октября 2015). «Несколько заблуждений о василиске Роко» . Меньше Неправильно . Проверено 10 апреля +2016 . Запрет на василисков Роко больше не действует
  13. ^ Паэз, Дэнни. «Илон Маск и Граймс:« Василиск в стиле рококо »связывает двоих в Твиттере» . Обратный . Проверено 24 июля 2020 .
  14. ^ «Объясняя Василиска Роко, мысленный эксперимент, который объединил Илона Маска и Граймса» . www.vice.com . Проверено 24 июля 2020 .
  15. ^ « Проверка фактов « Кремниевая долина »: этот мысленный эксперимент реален и ужасен» . TheWrap . 2018-04-23 . Проверено 12 ноября 2020 .
  16. Рианна Финли, Клинт (22 ноября 2013 г.). «Вундеркинды монархии: восстание неореакционеров» . TechCrunch . Проверено 25 марта 2014 года . Возможно, вы видели, как они [неореакционеры] появлялись на технических тусовках, таких как Hacker News и Less Wrong, ведя загадочные разговоры о «Moldbug» и «Соборе».
  17. ^ Riggio, Адам (23 сентября 2016). «Насилие чистого разума: неореакция: василиск» . Обзор социальной эпистемологии и коллективный ответ . 5 (9): 34–41. ISSN 2471-9560 . Зародыш этого движения жил на страницах сообщества блога Юдковского LessWrong, сайта, посвященного совершенствованию человеческой рациональности. 
  18. ^ a b Симонс, Марк (2017-04-14). "Неореакция в Кремниевой долине: Венн Машинен денкен" . Frankfurter Allgemeine Zeitung (на немецком языке). ISSN 0174-4909 . Проверено 23 марта 2019 . 
  19. ↑ Keep, Elmo (22 июня 2016 г.). «Странные и противоречивые мировоззрения миллиардера Кремниевой долины Питера Тиля» . Фьюжн . Проверено 5 октября 2016 . Благодаря дискуссиям LessWrong о евгенике и эволюционной психологии, она привлекла некоторых читателей и комментаторов, связанных с альтернативными правыми и неореакциями, этой широкой когортой троллей-неофашистов, белых националистов и женоненавистников.
  20. ^ Riggio, Адам (23 сентября 2016). «Насилие чистого разума: неореакция: василиск» . Обзор социальной эпистемологии и коллективный ответ . 5 (9): 34–41. ISSN 2471-9560 . Лэнд и Ярвин являются открытыми союзниками нового реакционного движения, в то время как Юдковский считает многих реакционеров среди своих фанатов, несмотря на то, что находит их расистскую политику отвратительной. 
  21. ↑ Элиэзер Юдковски (8 апреля 2016 г.). «Без названия» . Оптимизировать буквально все (блог) . Проверено 7 октября +2016 .
  22. ^ Херманссон, Патрик; Лоуренс, Дэвид; Малхолл, Джо; Мердок, Саймон (2020). «Темное Просвещение: Неореакция и Кремниевая долина» . Международный Альт-Райт. Фашизм для 21 века? . Абингдон-он-Темз, Англия, Великобритания: Рутледж. ISBN 9781138363861.
  23. ^ де Лазари-Радек, Катаржина; Певец, Питер (27.09.2017). Утилитаризм: очень краткое введение . Издательство Оксфордского университета. п. 110.

Внешние ссылки [ править ]

  • Официальный веб-сайт
  • Ingres (14 мая 2016 г.). «Результаты исследования 2016 г.» (PDF) . Проверено 9 апреля 2017 года . - опрос мнений LessWrong субкультур