Cristinel GHIGHECI - Categoriile si individualizarea pedepselor
La fel ca un bucatar profesionist sau un chirurg in inima, un algoritm de invatare a masinilor este la fel de bun ca si instruirea pe care o primeste. Și din moment ce algoritmii iau din ce în ce mai mult domnii și iau decizii pentru oameni, descoperim că mulți dintre ei nu au primit cea mai bună educație, deoarece ei mimie raționamente pe baza rasei umane și de gen și chiar creează noi probleme.
Din aceste motive, se referă în special la faptul că mai multe state, inclusiv California, New York și Wisconsin, utilizează algoritmi pentru a anticipa care dintre aceștia vor săvârșesc din nou infracțiuni după ce au fost încarcerați. Chiar mai rău, nici nu pare să funcționeze.
Într-o lucrare publicată miercuri în jurnal Progresele științei, o pereche de oameni de știință de la Colegiul Dartmouth a constatat că un program de calculator folosit pe scară largă pentru a prezice recidiva nu este mai precis decât civilii complet neinstruiți. Acest program, numit Profiling Managementul Infracțiunilor Corupte pentru Sancțiuni Alternative, analizează 137 de factori diferiți pentru a determina cât de probabil este că o persoană va comite o altă infracțiune după eliberare. COMPAS consideră factori cum ar fi consumul de substanțe, izolarea socială și alte elemente pe care teoretizarea criminologilor le poate conduce la recidivă, clasând oamenii ca pe un risc ridicat, mediu sau scăzut.
Și sigur, evaluarea riscului pare grozavă. De ce nu aveți mai multe date pentru a ajuta instanțele să determine cine este un risc mai mare? Dar oamenii de știință de la Dartmouth, pe care Julia Dressel și Hany Farid au descoperit, au descoperit că indivizii neinstruiți au judecat în mod corect riscul de recidivă cu exact aceeași precizie ca COMPAS, sugerând că presupusa putere a algoritmului nu este de fapt acolo.
Într-un studiu care a inclus doar o fracțiune din informațiile utilizate de COMPAS (șapte factori în loc de 137 și excluzând rasa), un grup de voluntari umani pe internet, probabil fără instruire în evaluarea riscurilor criminale, a evaluat rapoartele de caz. Ei au estimat în mod corect recidivarea unei persoane cu o precizie de 67%, comparativ cu precizia de 65% a COMPAS.
Luați o clipă pentru a lăsa să se scufunde. Persoanele netratați pe web au fost puțin mai bine să prezică dacă o persoană s-ar întoarce la închisoare decât instrumentul care este conceput literal pentru a prezice dacă o persoană se va întoarce la închisoare. Și se înrăutățește. Odată ce adăugați o rasă a inculpatului, ratele fals pozitive și false-negative ale voluntarului se situează în doar câteva puncte procentuale din COMPAS. Deci COMPAS nu este atât de mare la prezicerea recidivei, este la fel de predispusă la prejudecăți rasiale, așa cum sunt oamenii. Atât de mult pentru logica rece a calculatoarelor.
Cercetătorii au realizat apoi un model liniar care corespunde ratei predicției COMPAS cu doar doi factori: vârsta și numărul de condamnări anterioare. Doar pentru a fi clar, această predicție ar fi, de asemenea, nedreaptă, dar demonstrează cât de greșită este COMPAS.
Și în timp ce această cercetare este nouă, jocurile mari pe care le presupune nu sunt. Într-o investigație din 2016, ProPublica reporterii au constatat că nu numai COMPAS este fiabilă, ci este în mod sistematic părtinitoare față de afro-americani, dăinuind în mod constant pe negrii ca un risc mai mare decât alții care au comis crime mai grave. Sperăm că această nouă cercetare va ajuta la deschiderea unui proces de evaluare corectă a riscurilor în sistemul de justiție penală.
Faptul că COMPAS este inutil în cel mai bun caz și profund părtinitor în cel mai rău caz sugerează că evaluările de risc bazate pe computer ar putea să consolideze nedreptățile pe care sistemul juridic ar trebui să le abordeze.Deoarece scorurile de evaluare a riscurilor pot fi aplicate la orice etapă a procesului de justiție penală, inclusiv în stabilirea legăturii unei persoane, determinarea acordării parolei și, în unele state, chiar pentru determinarea pedepsei unei persoane, această cercetare sugerează o nevoie reexaminați utilizarea programului COMPAS și a altor programe.
Microsoft se prefac cu o aplicație care prezice recidivismul
Într-o transmisie web cu departamentele de poliție la începutul acestui an, un senior programator Microsoft a dat dovadă de faptul că compania a fost profundă în dezvoltarea unei aplicații care poate prezice dacă un deținut va fi în spatele gratiilor șase luni după eliberare.
"Smart Windows" ar putea deveni obișnuit cu acest material nou
Nuanțele ferestrei pot fi fie în sus, fie în jos. Dar un material nou dezvoltat la Massachusetts Institute of Technology poate permite doar cantitatea potrivită de lumină, fără a sparge banca. O echipă de cercetători MIT poate prezice exact cât de multă lumină trece printr-un material special din cauciuc numit polidimetilsiloxan ...
Virusul vechi lung pe Reddit este mai obișnuit decât ar putea părea
Copacii transformă lumina soarelui în aer pe care îl respiram, vacile transformă iarba în lapte, iar puii își transformă alimentele în ouă lungi. Asta e corect. Ouă lungi. Sunt ca ouăle obișnuite, dar mai mult. Într-un post viral Reddit, joi, redditor E_graaa a împărtășit o fotografie a unui ou foarte ciudat, în subliniatul cu nume / r / WTF.