Формирование | 2016 |
---|---|
Штаб-квартира | Беркли, Калифорния |
Лидер | Стюарт Дж. Рассел |
Головная организация | Калифорнийский университет в Беркли |
Интернет сайт | Человеко-совместимый |
Центр Human-Compatible искусственного интеллекта ( ЧАЙ ) является научно - исследовательским центром в Университете Калифорнии, Беркли (UC Berkeley) с упором на передовые искусственного интеллекта (ИИ) методов безопасности . CHAI была основана в 2016 году группой ученых во главе с профессором информатики Калифорнийского университета в Беркли и автором искусственного интеллекта Стюартом Дж. Расселом . [1] [2] Рассел известен как соавтор широко используемого учебника искусственного интеллекта «Искусственный интеллект: современный подход» .
В состав преподавателей CHAI входят Барт Селман и Джозеф Халперн из Корнельского университета [3], Питер Аббил из Калифорнийского университета в Беркли и Майкл Веллман из Мичиганского университета. [4] В 2016 году Open Philanthropy Project (OpenPhil) рекомендовал предоставить грант в размере 5 555 550 долларов на пять лет для поддержки CHAI. [5] CHAI получил дополнительный грант в размере 200 000 долларов США от OpenPhil в 2019 году. [6]
Исследование [ править ]
Подход CHAI к исследованиям безопасности ИИ фокусируется на стратегиях согласования ценностей, особенно на обучении с обратным подкреплением , в котором ИИ выводит человеческие ценности на основе наблюдения за человеческим поведением. [7] Он также работал над моделированием взаимодействия человека с машиной в сценариях, где интеллектуальные машины имеют «выключатель», который они могут отключить. [8]
См. Также [ править ]
- Экзистенциальный риск от общего искусственного интеллекта
- Институт будущего человечества
- Институт будущего жизни
- Совместимость с человеком
- Научно-исследовательский институт машинного интеллекта
Ссылки [ править ]
- ↑ Норрис, Джеффри (29 августа 2016 г.). «Калифорнийский университет в Беркли открывает Центр искусственного интеллекта, совместимого с человеком» . Проверено 27 декабря 2019 года .
- Рианна Солон, Оливия (30 августа 2016 г.). «Рост роботов: забудьте про злой ИИ - реальный риск гораздо коварнее» . Хранитель . Проверено 27 декабря 2019 года .
- ^ Корнельский университет . «Человеческий ИИ» . Проверено 27 декабря 2019 года .
- ^ Центр совместимого с человеком искусственного интеллекта. «Люди» . Проверено 27 декабря 2019 года .
- ^ Open Philanthropy Project (август 2016 г.). «Калифорнийский университет в Беркли - Центр ИИ, совместимого с людьми (2016 г.)» . Проверено 27 декабря 2019 года .
- ^ Open Philanthropy Project (ноябрь 2019 г.). «Калифорнийский университет в Беркли - Центр ИИ, совместимого с людьми (2019 г.)» . Проверено 27 декабря 2019 года .
- Рианна Конн, Ариэль (31 августа 2016 г.). «Новый центр искусственного интеллекта, совместимого с человеком» . Институт будущего жизни . Проверено 27 декабря 2019 года .
- ↑ Мост, Марк (10 июня 2017 г.). «Уменьшение уверенности роботов может помешать им захватить власть» .
Внешние ссылки [ править ]
- Официальный веб-сайт
- Публикации