Microsoft går Precrime med en app som förutsätter recidivism

I en webbsändning med polisavdelningar tidigare i år släppte en ledande Microsoft-programmerare att företaget var djupt in i att utveckla en app som kan förutsäga om en inmate kommer att vara tillbaka bakom stängerna sex månader efter utgåvan.

"Det handlar om mjukvara som har förmåga att förutsäga framtiden, säger programmerare Jeff King.

Den ännu inte namngivna appen körs genom att analysera den inmates historia med hjälp av - vad mer? - En invecklad algoritm, en som kung sade är upp till 91 procent exakt. Några exempel på de faktorer som King sa skulle beaktas: gängförhållande, deltagande i ett rehab-program, överträdelser medan de tjänar sin tid och timmar i administrativ segregering. Det är inte så långt, faktiskt, från de faktorer som parolebrädorna anser när de fattar beslut om huruvida de ska släppa in fångar.

De låter som rimliga prediktorer tills du anser att de fångar som utvärderas kanske inte har mycket val i hur de har spenderat sin fängelse. Som Ekonomen anteckningar, fängelsegängar var inte ens en sak förrän i andra hälften av 20-talet, när den fängslade befolkningen exploderade och livet bakom stängerna blev så farligt att man anmälde sig som en form av skydd som vakterna inte lyckades ge. När det gäller rehab har det under de senaste decennierna sänkt pengar för dessa program med hundratals miljoner - Kalifornien under 2011 sänkte i synnerhet 250 miljoner dollar från missbruk, yrkesutbildning och utbildningsprogram. Det är åtminstone delvis att skylla på att antalet inmates som har tagit ett rehab-program är mycket lägre än för 20 år sedan. Att sätta på sig de inmates som ska bevisa sig för hur de anpassar sig till fängelset medan man frikänner fängelset för politiken som är mer benägna att öka återfallet är i bästa fall att berätta för hälften av historien.

Då är det frågan om vad vi gör med Microsofts Minoritetsrapport -värda siffror. Skulle en ex-con få fler sociala tjänster för att hjälpa honom att återuppliva? Skulle parolestyrelserna överväga algoritmens åsikt? Skulle ett lågt betyg användas för att motivera längre fängelsestraff? Vad sägs om att motivera obligatorisk dömande, en politik som historiskt har gjort mycket mer skada än bra.

När han bröt Microsofts prediktiva planer på Fusion, Daniel Rivero skrev att kungens tal hade "nästan gått obemärkt", med cirka 100 visningar av YouTube-talet. (Bra öga, Daniel.) Kanske har det gått under radaren, eftersom det bara inte är så förvånande längre. Crime prediction algoritmer, och argument över deras nyanser och moraliska konsekvenser, blir allt vanligare. Japanskt företag Hitachi har ett halvt dussin amerikanska städer som är involverade i ett bevis på koncepttest för ett system som bolaget säger kan hjälpa till att förutsäga brott genom att krossa siffrorna på historisk brottsstatistik, kollektivtrafikkartor, väderrapporter och till och med sociala medier. På den lågteknologiska änden driver Chicago en "värmelista" av potentiella brottslingar som får slumpmässiga polisbesök oavsett vad de har gjort. Och Los Angeles överväger en automatiserad läsare att skanna registreringsskylten på vilken bil som helst som bara kör nära ett område som besöks av prostituerade och skickar ett "Kära John" brev till namnet på fordonets registrering. Mer och mer kan den bästa förutsägelsen vi kan ge er att din framtid ska ses och utvärderas av en väldigt mycket utomjordisk intelligens. Men hej, åtminstone har du en hoverboard.