Научно-исследовательский институт машинного интеллекта
Исследовательский институт машинного интеллекта ( MIRI ), ранее называвшийся Singularity Institute for Artificial Intelligence ( SIAI ), является некоммерческим исследовательским институтом , который с 2005 года занимается выявлением и управлением потенциальными экзистенциальными рисками, связанными с общим искусственным интеллектом . Работа MIRI была сосредоточена на дружественном подходе ИИ к проектированию систем и на прогнозировании скорости развития технологий.
В 2000 году Элиэзер Юдковски основал Институт искусственного интеллекта Singularity при финансовой поддержке Брайана и Сабины Аткинс с целью ускорения разработки искусственного интеллекта (ИИ). [1] [2] [3] Однако Юдковски начал беспокоиться о том, что системы ИИ, разработанные в будущем, могут стать сверхразумными и представлять опасность для человечества, [1] и в 2005 году институт переехал в Силиконовую долину и начал сосредотачиваться на способах для выявления и управления этими рисками, которые в то время в значительной степени игнорировались учеными в этой области. [2]
Начиная с 2006 года Институт организовал Саммит по сингулярности для обсуждения будущего ИИ, включая его риски, первоначально в сотрудничестве со Стэнфордским университетом и при финансовой поддержке Питера Тиля . The San Francisco Chronicle описала первую конференцию как «вечеринку в районе залива Сан-Франциско, посвященную философии, вдохновленной технологиями, называемой трансгуманизмом». [4] [5] В 2011 году его офисы представляли собой четыре квартиры в центре Беркли. [6] В декабре 2012 года институт продал свое название, веб-домен и Singularity Summit Университету Singularity , [7] и в следующем месяце получил название «Исследовательский институт машинного интеллекта».[8]
В 2014 и 2015 годах общественный и научный интерес к рискам ИИ вырос, что привело к увеличению пожертвований на финансирование исследований в MIRI и подобных организациях. [3] [9] : 327
В 2019 году Open Philanthropy рекомендовала MIRI выделить грант на общую поддержку в размере около 2,1 миллиона долларов в течение двух лет. [10] В апреле 2020 года Open Philanthropy дополнила это грантом в размере 7,7 миллиона долларов на два года. [11] [12]
Подход MIRI к выявлению и управлению рисками ИИ, возглавляемый Юдковски, в первую очередь касается того, как разработать дружественный ИИ, охватывая как первоначальный дизайн систем ИИ, так и создание механизмов, гарантирующих, что развивающиеся системы ИИ останутся дружественными. [3] [14] [15]
.jpg/440px-Eliezer_Yudkowsky,_Stanford_2006_(square_crop).jpg)
.jpg){kind=link}
