Vår A.I. Politiken är fast i det förflutna

Ed Felten, biträdande amerikanska chefstekniker för Vita husets kontor för vetenskap och teknik, säger att människor har två stora ansvarsområden när det gäller utveckling och framsteg för artificiell intelligens.

Den första, säger han, är att "göra fördelarna med A.I. en verklighet. "Den andra:" Att ta itu med riskerna med A.I."

Felten pratade med ett stort antal människor på New York Universitys Skirball Center for Performing Arts på A.I. Nu - en sommarföreläsningsserie med medborgarskap av Vita huset som försökte undersöka och diskutera viktiga frågor relaterade till framtiden för A.I. teknologi.

A.I. ligger vid en korsning, A.I. Nu medordnade Kate Crawford (forskare vid Microsoft Research) och Meredith Whittaker (grundaren och ledaren för Google Open Research) påpekade. Privata och offentliga sektorer måste samarbeta för att skapa någon form av genomförbar A.I. politik. Men problemet är att medan teknikföretag gör enorma steg mot att främja den faktiska koden och arkitekturen som går in i att göra A.I. en allmäktig kraft, är våra nuvarande politiska strukturer föråldrade eller, värre, obefintliga.

För länge, A.I. har kastats åt sidan som ett futuristiskt koncept, oanvändbart för modern tid. Men A.I. har tyst uppenbarat sig i stadspolitiken, siktar igenom massor av data och levererar tjänster till människor på ett sätt som bara mänsklig kraft är oförmögen att någonsin uppnå. Felten citerade exempel på hur algoritmer kan använda data för att länka människor till prisvärda bostäder eller genomdriva öppenhet så att allmänheten har tillgång till värdefull information.

Det är inte att säga att A.I. är perfekt; det är väldigt mycket inte. Under huvudpanelen för kvällen, Latanya Sweeney, en A.I. forskare vid Harvard University, diskuterade en historia som hon ringde, "The Day My Computer Was Racist".

En reporter som intervjuade Sweeney sökte hennes namn via Google och upptäckte att hennes namn var poppar upp under annonser för webbplatser som erbjuder att samla in och dela med sig av kriminella gripdata. Sweeney hade aldrig arresterats, och hennes namn var inte ens en del av webbsidans databas - men hennes namn stänktes framträdande i annonsen. Som alla goda vetenskapsmän tog Sweeney sin egen personliga erfarenhet och sprang en studie och fann att dessa annonser var signifikant mer sannolika att lista namnen på svarta individer än vita individer. Anledningen? Googles leverans av dessa annonser är resultatet av en algoritm som ger större vikt vid vad människor klickade på när annonser visades. När ett svart namn var Googled, klickade fler personer på dessa annonser. Systemet lärde sig mönstret och började leverera dessa annonser i större frekvens.

Det är en värdefull lektion att grunda löftet om A.I.: Människor är i slutändan kraftteknik och rasistiska handlingar från människans sida kan påverka design och algoritmer och, ja, även A.I.

Google kan enkelt upptäcka dessa företeelser i deras annonstjänster och arbeta för att rätta till dem. "De valde att inte", sa Sweeney.

Kan en modernare politisk ram tvinga Google att åtgärda problemet? Kanske. Nicole Wong, som var Felts föregångare från 2013 till 2014, betonade att många människor - inklusive A.I. forskare själva - hade en verklig oro över en "växande asymmetri vid makten" mellan de personer som använder stora data och de personer som i slutändan berörs, vilket varierade från dataens ämnen eller de som berörs av de beslut som informerats av sådana uppgifter.

Dessa farhågor är inte bara begränsade till den privata sektorn. Roy Austin, biträdande assistent till presidenten vid Vita husets inhemska politiska råd, berörde hur brottsbekämpningen skulle kunna förbättras kraftigt av A.I. - eller skapa en enorm överkänsla i kraft och missbruk när det gäller civilbefolkningens integritet. "Frågan blir," Vad gör vi med den här informationen? ", Sade han. Det är en sak att ha data, men vem har tillgång till det? Hur länge? Vem kommer att få tillgång till det? Återigen har vi inga politiska svar eller lösningar på dessa frågor och osäkerhetsfaktorer - och det är oroande när vi tränger in i en framtid mer och mer kontrollerad av A.I.

En tredje pelare av oro hade mindre att göra med falska användningar av A.I., och mer att göra med hur A.I. och autonoma system förskjuter människor från jobb. Henry Siu, en A.I. forskare vid University of British Columbia, diskuterade "rutinmässiga" yrken (där anställda utför en mycket specifik uppsättning uppgifter som nästan aldrig avviker från en viss rutin) och hur dessa jobbförluster är de som är mest utsatta för störningar i teknik. Automatisering har skapat en nedslående minskning i dessa jobb - och de kommer inte tillbaka.

Låter som samma gamla historia om industrialisering, men det är inte riktigt. Medan "denna revolution kanske redan är här … den kan vara mindre exotisk än vad vi tänkte", varnade David Edelman, specialassistent till presidenten för ekonomisk och teknisk politik. Arbetsförlust "kommer inte att hända på en gång." Både han och Siu betonade att lösningen är att skapa ett pedagogiskt klimat där människor inte slutar gå till skolan, de förvärvar ständigt nya kompetenser och specialiseringar som gör att de kan anpassa sig med teknologi.

Det kan vara tröstande för politikare att inse att USA inte är ensam i att ta itu med dessa frågor. Men om Amerika har för avsikt att fortsätta leda vägen för A.I., måste den stiga upp på policyområdet.

Mustafa Suleyman, grundare av Google DeepMind, diskuterade potentialen för A.I. att hjälpa sjukvårdssystemen och låta läkare på maskinalgoritmer diagnostisera vissa sjukdomar och sjukdomar - frigöra tid för människor att komma fram till behandlingsmetoder. För Suleyman, som är brittisk, såg det inte ut som en färgad idé att få ett sådant system som upprättats på sjukhus. Sweeney påpekade emellertid att "i USA har du inte kontroll över dina egna data" - det finns inga regleringsåtgärder för att säkerställa att information inte missbrukas. Och det är en enorm problem.

"Jag vill ha allt som jag kan klämma ut ur alla framgångar med teknik," sa Sweeney. "Problemet är inte tekniksidan. problemet är att vi inte är i takt med allmän ordning."