Мичиган с декабря начнёт пилотное использование ИИ-платформы Recidiviz для классификации заключённых
Департамент исправительных учреждений штата Мичиган с декабря начнёт пилотное использование программного обеспечения некоммерческой организации Recidiviz в нескольких мужских тюрьмах. Платформа, изначально созданная как проект Google для стандартизации данных уголовного правосудия, будет классифицировать людей по пяти уровням режима содержания и определять, к каким программам реабилитации и в каком окружении они будут находиться весь срок заключения. Ранее такие решения принимала комиссия сотрудников, назначаемая начальником тюрьмы. Об этом сообщает IXBT News.
«Представители департамента заявляют, что ИИ улучшит прогнозирование риска насилия примерно на 30%, однако не раскрывают, на основе каких данных получена эта оценка», — пишет IXBT News.
Теперь алгоритм станет ключевым фактором при оптимизации размещения. Проблема алгоритмической предвзятости в пенитенциарной системе уже имеет прецеденты: расследование ProPublica в Луизиане показало, что аналогичная программа классифицировала слепого 70-летнего инвалида-колясочника с безупречным дисциплинарным досье как «умеренный риск» рецидива, автоматически лишив его права на условно-досрочное освобождение. Хотя мичиганская система нацелена на распределение по корпусам, а не на решения об освобождении, эксперты опасаются, что использование исторических данных, пронизанных социально-экономическими и расовыми искажениями, лишь усугубит кризис переполненности и несправедливости.
Сам Recidiviz описывает свою миссию как предоставление инструментов для выявления людей, имеющих право на образовательные программы, переквалификацию или освобождение, и координацию доступа к ресурсам вроде временного жилья и трудоустройства. Отсутствие независимой валидации и отказ властей от деталей о сборе данных оставляют открытым вопрос, станет ли алгоритм шагом к реабилитации или ещё одним механизмом дискриминации.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
