COMPAS (software) - COMPAS (software)

Parte dintr- o serie pe
Algocrația
Exemple
AI în guvern COMPAS DAO Algoritmul frecvent al rezultatelor examenului Cybersyn Poliția predictivă Oras destept Sistem de credit social
v t e

Profilul de gestionare a infractorilor corecționali pentru sancțiuni alternative ( COMPAS ) este un instrument de gestionare a cazurilor și de sprijinire a deciziilor dezvoltat și deținut de Northpointe (acum echivalent ) utilizat de instanțele americane pentru a evalua probabilitatea ca un inculpat să devină recidivist .

COMPAS a fost utilizat de statele americane din New York, Wisconsin, California, județul Broward din Florida și alte jurisdicții.

Evaluare a riscurilor

Software-ul COMPAS folosește un algoritm pentru a evalua riscul potențial de recidivă. Northpointe a creat scale de risc pentru recidiva generală și violentă și pentru abateri preliminare. Conform Ghidului COMPAS Practitioner's Guide, baremele au fost concepute folosind constructe comportamentale și psihologice „de o relevanță foarte mare pentru recidivă și cariere criminale”.

• Scala riscului de eliberare preliminară : riscul preliminar este o măsură a potențialului pentru o persoană să nu apară și / sau să comită noi infracțiuni în timpul eliberării. Potrivit cercetărilor care au informat crearea baremului, „acuzațiile curente, acuzațiile în așteptare, istoricul arestării anterioare, eșecul prealabil anterior, stabilitatea rezidențială, statutul ocupării forței de muncă, legăturile comunitare și abuzul de substanțe” sunt cei mai semnificativi indicatori care afectează scorurile de risc înainte de proces.
• Scara generală de recidivă : Scara generală de recidivă este concepută pentru a prezice noi infracțiuni la eliberare și după ce se face evaluarea COMPAS. Baremul folosește istoricul și asociații criminali ai unei persoane, implicarea în droguri și indicații ale delincvenței juvenile.
• Scara recidivei violente : Scorul recidivei violente este menit să prezică infracțiunile violente după eliberare. Baremul folosește date sau indicatori care includ „istoricul violenței unei persoane, istoricul neconformității, problemele profesionale / educaționale, vârsta la care a fost admisă și vârsta la prima arestare”.

Scala de risc a recidivei violente este calculată după cum urmează:

${\ displaystyle s = a (-w) + a _ {\ text {first}} (- w) + h _ {\ text {violence}} w + v _ {\ text {edu}} w + h _ {\ text {nc }} w}$

unde este scorul de risc de recidivă violentă, este un multiplicator de greutate, este vârsta actuală, este vârsta la prima arestare, este istoria violenței, este nivelul de educație vocațională și este istoria nerespectării. Ponderea,, este „determinată de puterea relației articolului cu recidiva infracțiunii persoanei pe care am observat-o în datele studiului nostru”. ${\ displaystyle s}$${\ displaystyle w}$${\ displaystyle a}$${\ displaystyle a _ {\ text {first}}}$${\ displaystyle h _ {\ text {violence}}}$${\ displaystyle v _ {\ text {edu}}}$${\ displaystyle h _ {\ text {nc}}}$${\ displaystyle w}$

Critici și hotărâri legale

În iulie 2016, Curtea Supremă din Wisconsin a decis că scorurile de risc COMPAS pot fi luate în considerare de către judecători în timpul condamnării, dar trebuie să existe avertismente pentru scoruri pentru a reprezenta „limitările și avertismentele” instrumentului.

O critică generală a utilizării software-ului proprietar COMPAS este că, deoarece algoritmii pe care îi folosește sunt secrete comerciale , nu pot fi examinați de public și de părțile afectate, ceea ce poate constitui o încălcare a procesului echitabil. În plus, s-a demonstrat că algoritmi simpli, transparenți și mai interpretabili (cum ar fi regresia liniară ) realizează predicții aproximativ la fel de bine ca și algoritmul COMPAS.

O altă critică generală a algoritmilor bazate pe învățarea automată este că acestea sunt dependente de date dacă datele sunt părtinitoare, software-ul va da probabil rezultate părtinitoare.

Precizie

În 2016, Julia Angwin a fost coautor al unei investigații ProPublica a algoritmului. Echipa a constatat că „negrii au aproape două ori mai multe șanse ca albii să fie etichetați cu un risc mai mare, dar de fapt nu recidivează”, în timp ce COMPAS „face greșeala opusă între albi: sunt mult mai probabil ca negrii să fie etichetați cu un risc mai mic dar continuați să comiteți alte infracțiuni. ” De asemenea, au descoperit că doar 20 la sută dintre persoanele prezise să comită infracțiuni violente au continuat să facă acest lucru.

Într-o scrisoare, Northpointe a criticat metodologia ProPublica și a declarat că: „[Compania] nu este de acord cu faptul că rezultatele analizei dvs. sau afirmațiile făcute pe baza acestei analize sunt corecte sau că reflectă cu exactitate rezultatele aplicării modelul."

O altă echipă de la Community Resources for Justice , un grup de reflecție privind justiția penală , a publicat o respingere a constatărilor anchetei. Printre mai multe obiecții, respingerea CRJ a concluzionat că rezultatele Propublica: „contrazic mai multe studii cuprinzătoare existente care au concluzionat că riscul actuarial poate fi previzionat fără prejudecăți rasiale și / sau de gen”.

Un studiu ulterior a arătat că software-ul COMPAS este mai precis decât indivizii cu puțină sau deloc expertiză în justiție penală și mai puțin exacte decât grupurile de indivizi. Ei au descoperit că: "În medie, au primit răspunsul corect 63 la sută din timp, iar acuratețea grupului a crescut la 67 la sută dacă răspunsurile lor au fost combinate. COMPAS, în schimb, are o acuratețe de 65 la sută".

Lecturi suplimentare

• Northpointe (15 martie 2015). „Un ghid al practicantului pentru COMPAS Core” (PDF) .
• Angwin, Julia; Larson, Jeff (23/05/2016). „Mașină de părtinire” . ProPublica . Adus 21-11-2019 .
• Flores, Anthony; Lowenkamp, ​​Christopher; Bechtel, Kristin. „Falsuri pozitive, false negative și analize false” (PDF) . Resurse comunitare pentru justiție . Adus 21-11-2019 .
• Eșantion de evaluare a riscului COMPAS

Vezi si

• Bias algoritmic
• Gunoi în, gunoi în afara
• Sisteme de experți juridici
• Loomis v. Wisconsin
• Condamnarea penală în Statele Unite

Referințe