Риски

Риски , или сокращенно s-риски , - это будущие события, которые потенциально могут вызвать астрономическое количество страданий . ^[1] Эти события могут вызвать больше страданий, чем когда-либо существовало на Земле за все время ее существования. ^[2] Источники возможно S-риски включают воплощено искусственного интеллекта ^[3] и суперинтеллекта , ^[1] , а также космической колонизации , которая потенциально может привести к «постоянной и катастрофических войн» ^[4] и увеличение огромный в диком страданий животныхпутем введения диких животных, которые «обычно ведут короткую, несчастную жизнь, полную иногда самых жестоких страданий», на другие планеты намеренно или случайно. ^[2]

Ссылки [ править ]

^ ^а ^б Сотала, Кай; Глор, Лукас (27.12.2017). «Сверхразум как причина или лекарство от рисков астрономических страданий» . Informatica . 41 (4). ISSN 1854-3871 .
^ ^a ^b Кович, Марко (2021-02-01). «Риски космической колонизации» . Фьючерсы . 126 : 102638. дои : 10.1016 / j.futures.2020.102638 . ISSN 0016-3287 .
^ Амбрелло, Стивен; Зоргнер, Стефан Лоренц (июнь 2019 г.). «Бессознательное когнитивное страдание: принимая во внимание риски воплощенного искусственного интеллекта» . Философия . 4 (2): 24. DOI : 10.3390 / Философия 4020024 .
^ Торрес, Фил (2018-06-01). «Колонизация космоса и риски страданий: переоценка« правила максипока » » . Фьючерсы . 100 : 74–85. DOI : 10.1016 / j.futures.2018.04.008 . ISSN 0016-3287 .

Дальнейшее чтение [ править ]

Минарди, Ди (15.10.2020). «Мрачная судьба, которая может быть« хуже вымирания » » . BBC Future . Проверено 11 февраля 2021 .
Бауманн, Тобиас (2017). «S-риски: Введение» . Центр уменьшения страданий . Проверено 10 февраля 2021 .
Альтхаус, Дэвид; Глор, Лукас (2016-09-14). «Снижение рисков астрономических страданий: упущенный приоритет» . Центр долгосрочного риска . Проверено 10 февраля 2021 .

См. Также [ править ]

Проблема управления AI
Этика искусственного интеллекта
Этика терраформирования
Экзистенциальный риск от общего искусственного интеллекта
Глобальный катастрофический риск
Этика, ориентированная на страдания

Эта статья о футурологических исследованиях или футурологии является заглушкой . Вы можете помочь Википедии, расширив ее .

[:0-1] а ^б Сотала, Кай; Глор, Лукас (27.12.2017). «Сверхразум как причина или лекарство от рисков астрономических страданий» . Informatica . 41 (4). ISSN 1854-3871 .

[:1-2] Кович, Марко (2021-02-01). «Риски космической колонизации» . Фьючерсы . 126 : 102638. дои : 10.1016 / j.futures.2020.102638 . ISSN 0016-3287 .

[3] Амбрелло, Стивен; Зоргнер, Стефан Лоренц (июнь 2019 г.). «Бессознательное когнитивное страдание: принимая во внимание риски воплощенного искусственного интеллекта» . Философия . 4 (2): 24. DOI : 10.3390 / Философия 4020024 .

[4] Торрес, Фил (2018-06-01). «Колонизация космоса и риски страданий: переоценка« правила максипока » » . Фьючерсы . 100 : 74–85. DOI : 10.1016 / j.futures.2018.04.008 . ISSN 0016-3287 .

[1]

vтеЭффективный альтруизм
Концепции	Оценка благотворительности Возражение требовательности Год жизни с поправкой на инвалидность Заработок отдавать Равный учет интересов Предельная полезность Год жизни с поправкой на качество Утилитаризм Венчурная благотворительность
Ключевые цифры	Лив Бори Ник Бостром Хилари Гривз Холден Карнофски Уильям МакАскилл Дастин Московиц Ю-Кванг Нг Тоби Орд Дерек Парфит Питер Сингер Элиэзер Юдковски
Организации	80,000 часов Оценщики благотворительности животных Этика животных Фонд против малярии Центр высокоэффективной филантропии Центр изучения экзистенциального риска Инициатива Deworm the World Фауналитика Институт будущего человечества Институт будущего жизни Обещание учредителей GiveDirectly GiveWell Отдавая то, что мы можем Хорошие предприятия Институт хорошей еды Гуманная лига Милосердие к животным Научно-исследовательский институт машинного интеллекта Консорциум по малярии Открытый проект благотворительности Повышение для эффективной отдачи Инициатива по борьбе с шистосомозом Институт чувствительности
Области фокусировки	Эффективность помощи Биотехнологический риск Изменение климата Квашеное мясо Бремя болезни Экономическая стабильность Экзистенциальный риск от общего искусственного интеллекта Глобальный катастрофический риск Глобальное здоровье Глобальная бедность Иммиграционная реформа Интенсивное животноводство Реформа землепользования Продление жизни Профилактика малярии Массовая дегельминтизация Забытые тропические болезни Риски Страдания диких животных
Литература	Делать добро лучше Конец животноводства Голод, достаток и нравственность Жизнь, которую можно спасти Жить высоко и позволить умереть Самое хорошее, что вы можете сделать Практическая этика Пропасть

vтеЭкзистенциальный риск от искусственного интеллекта
Концепции	Ускорение изменений Коробка AI Захват AI Проблема управления Экзистенциальный риск от общего искусственного интеллекта Дружественный искусственный интеллект Инструментальная конвергенция Взрыв интеллекта Машинная этика Суперинтеллект Технологическая особенность
Организации	Институт ИИ Аллена Центр прикладной рациональности Центр искусственного интеллекта, совместимого с человеком Центр безопасности и новых технологий Центр изучения экзистенциального риска DeepMind Институт фундаментальных вопросов Институт будущего человечества Институт будущего жизни Человечество + Институт этики и новых технологий Leverhulme Centre for the Future of Intelligence Научно-исследовательский институт машинного интеллекта OpenAI
Люди	Ник Бостром Эрик Дрекслер Сэм Харрис Стивен Хокинг Билл Хиббард Билл Джой Илон Маск Стив Омохундро Хью Прайс Мартин Рис Стюарт Дж. Рассел Яан Таллинн Макс Тегмарк Франк Вильчек Роман Ямпольский Эндрю Ян Элиэзер Юдковски
Другой	Искусственный интеллект как глобальный катастрофический риск Споры и опасности общего искусственного интеллекта Этика искусственного интеллекта Риски Совместимость с человеком Открытое письмо об искусственном интеллекте Наше последнее изобретение Пропасть Сверхразум: пути, опасности, стратегии
Категория