Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску

Профилирование исправительных правонарушителей для альтернативных санкций ( COMPAS ) - это инструмент управления делами и поддержки принятия решений, разработанный и принадлежащий Northpointe (ныне Equivant ), используемый судами США для оценки вероятности того, что обвиняемый станет рецидивистом . [1] [2]

COMPAS использовался штатами США Нью-Йорк, Висконсин, Калифорния, округ Бровард Флориды и другими юрисдикциями. [3]

Оценка риска [ править ]

Программное обеспечение КОМПАС использует алгоритм для оценки потенциального риска рецидива. Нортпойнт создал шкалу риска для общего рецидива и насильственного рецидива, а также для досудебного проступка. Согласно Практическому руководству КОМПАС, шкалы были разработаны с использованием поведенческих и психологических конструктов, «очень важных для рецидивизма и криминальной карьеры». [4]

  • Шкала риска досудебного освобождения: Риск досудебного освобождения - это мера потенциальной неявки лица и / или совершения нового уголовного преступления во время освобождения. Согласно исследованию, которое послужило основой для создания шкалы, «текущие обвинения, ожидающие рассмотрения обвинения, история предыдущих арестов, предыдущие досудебные отказы, стабильность проживания, статус занятости, связи с общественностью и злоупотребление психоактивными веществами» являются наиболее значимыми показателями, влияющими на оценку риска до суда. [4]
  • Шкала общего рецидивизма : Шкала общего рецидивизма предназначена для прогнозирования новых правонарушений после освобождения и после оценки COMPAS. Шкала использует криминальное прошлое человека и сообщников, причастность к наркотикам и признаки преступности несовершеннолетних. [5]
  • Шкала насильственных рецидивов : шкала насильственных рецидивов предназначена для прогнозирования насильственных преступлений после освобождения. Шкала использует данные или показатели, которые включают «историю насилия, историю несоблюдения, профессиональные / образовательные проблемы, возраст человека на момент поступления и возраст человека на момент первого ареста». [6]

Шкала риска насильственного рецидивизма рассчитывается следующим образом:

где - оценка риска насильственного рецидивизма, - множитель веса, - это текущий возраст, это возраст первого ареста, это история насилия, уровень профессионального образования и история несоблюдения. Вес «определяется силой отношения предмета к рецидиву правонарушений, который мы наблюдали в данных нашего исследования». [7]

Критика и судебные решения [ править ]

В июле 2016 года Верховный суд штата Висконсин постановил, что оценки риска по системе КОМПАС могут учитываться судьями во время вынесения приговора, но при этом должны быть сделаны предупреждения, отражающие «ограничения и предостережения» инструмента. [3]

Общая критика использования проприетарного программного обеспечения, такого как COMPAS, заключается в том, что, поскольку используемые им алгоритмы являются коммерческой тайной , они не могут быть исследованы общественностью и затронутыми сторонами, что может быть нарушением надлежащей правовой процедуры. Кроме того, было показано , что простые, прозрачные и более интерпретируемые алгоритмы (такие как линейная регрессия ) выполняют прогнозы примерно так же, как алгоритм COMPAS. [8] [9] [10] [11]

Еще одна общая критика алгоритмов, основанных на машинном обучении, заключается в том, что они зависят от данных, если данные смещены, программное обеспечение, скорее всего, даст смещенные результаты. [12] [ необходима страница ]

Точность [ править ]

В 2016 году Джулия Ангвин была соавтором исследования алгоритма ProPublica . [13] Команда обнаружила, что «чернокожие почти в два раза чаще, чем белые, будут считаться более опасными, но не совершат повторного преступления», тогда как КОМПАС «совершает противоположную ошибку среди белых: они гораздо чаще, чем чернокожие, получают ярлык. с меньшим риском, но продолжают совершать другие преступления ». [13] [8] [14] Они также обнаружили, что только 20 процентов людей, которым было предсказано совершить насильственные преступления, на самом деле сделали это. [13]

В письме Northpointe раскритиковал методологию ProPublica и заявил, что: «[Компания] не согласна с тем, что результаты вашего анализа или утверждения, сделанные на основе этого анализа, верны или что они точно отражают результаты применения модель." [13]

Другая команда в Community Resources for Justice , аналитическом центре уголовного правосудия , опубликовала опровержение результатов расследования. [15] Среди нескольких возражений, опровержение CRJ заключило, что результаты Propublica: «противоречат нескольким исчерпывающим существующим исследованиям, в которых делается вывод о том, что актуарный риск можно предсказать без расовой и / или гендерной предвзятости». [15]

Последующее исследование показало, что программа COMPAS более точна, чем люди с небольшим опытом или без опыта в области уголовного правосудия, и менее точна, чем группы людей. [16] Они обнаружили, что: «В среднем они получали правильный ответ в 63 процентах случаев, а точность группы выросла до 67 процентов, если их ответы были объединены. Компас, напротив, имеет точность 65 процентов». [8]

Дальнейшее чтение [ править ]

  • Нортпойнт (15 марта 2015 г.). «Практическое руководство по COMPAS Core» (PDF) .CS1 maint: ref=harv (link)
  • Ангвин, Джулия; Ларсон, Джефф (23 мая 2016 г.). «Машинный уклон» . ProPublica . Проверено 21 ноября 2019 .
  • Флорес, Энтони; Ловенкамп, Кристофер; Бехтель, Кристин. «Ложноположительные, ложноотрицательные и ложные анализы» (PDF) . Ресурсы сообщества для правосудия . Проверено 21 ноября 2019 .
  • Образец оценки рисков КОМПАС

См. Также [ править ]

  • Алгоритмическая предвзятость
  • Алгоритмическое управление
  • Мусор на входе, мусор на выходе
  • Правовые экспертные системы
  • Лумис против Висконсина
  • Вынесение уголовных приговоров в США

Ссылки [ править ]

  1. ^ Сэм Корбетт-Дэвис, Эмма Пирсон, Avi Феллер и Шарада Гоел (17 октября 2016). «Компьютерная программа, используемая для освобождения под залог и вынесения приговора, была названа предвзятой против чернокожих. На самом деле это не так ясно» . Вашингтон Пост . Проверено 1 января 2018 года .CS1 maint: multiple names: authors list (link)
  2. ↑ Аарон М. Борнштейн (21 декабря 2017 г.). «Строят ли алгоритмы новую инфраструктуру расизма?» . Наутилус . №55 . Проверено 2 января 2018 года .
  3. ^ а б Киркпатрик, Кит (2017-01-23). «Дело не в алгоритме, а в данных». Коммуникации ACM . 60 (2): 21–23. DOI : 10.1145 / 3022181 .
  4. ^ a b Northpointe 2015 , стр. 27.
  5. ^ Northpointe 2015 , стр. 26.
  6. ^ Northpointe 2015 , стр. 28.
  7. ^ Northpointe 2015 , стр. 29.
  8. ^ a b c Юн, Эд (2018-01-17). «Популярный алгоритм предсказания преступлений не лучше, чем случайные люди» . Проверено 21 ноября 2019 .
  9. ^ Анджелино, Элейн; Ларус-Стоун, Николай; Алаби, Даниэль; Зельцер, Марго; Рудин, Синтия (3 августа 2018 г.). «Изучение гарантированно оптимальных списков правил для категориальных данных» . arXiv : 1704.01701 - через arXiv.org. Cite journal requires |journal= (help)
  10. ^ Робин А. Смит. Открытие крышки программного обеспечения для вынесения приговоров . Duke Today , 19 июля 2017 г.
  11. ^ Анджелино, Элейн; Ларус-Стоун, Николай; Алаби, Даниэль; Зельцер, Марго; Рудин, Синтия (2017-04-06). «Изучение гарантированно оптимальных списков правил для категориальных данных». arXiv : 1704.01701 [ stat.ML ].
  12. ^ О'Нил, Кэти (2016). Оружие математического разрушения . ISBN 0553418815.
  13. ^ a b c d Ангвин, Джулия; Ларсон, Джефф (23 мая 2016 г.). «Машинный уклон» . ProPublica . Проверено 21 ноября 2019 .
  14. ^ Israni, Эллоры (2017-10-26). «Когда алгоритм помогает отправить вас в тюрьму (мнение)» . Проверено 21 ноября 2019 .
  15. ^ a b Флорес, Энтони; Ловенкамп, Кристофер; Бехтель, Кристин. «Ложноположительные, ложноотрицательные и ложные анализы» (PDF) . Ресурсы сообщества для правосудия . Ресурсы сообщества для правосудия . Проверено 21 ноября 2019 .
  16. ^ Дрессел, Джулия; Фарид, Хани (17.01.2018). «Точность, справедливость и пределы прогнозирования рецидивов» . Наука продвигается . 4 (1). DOI : 10.1126 / sciadv.aao5580 . Проверено 21 ноября 2019 .