Hur UC Berkeleys nya centrum kunde förhindra en A.I. Apokalyps

University of California Berkeley har just lagt sitt namn till en växande lista av välrenommerade institutioner som arbetar för att förhindra illviljande artificiell intelligens från att förstöra mänskligheten. Dess nya centrum för human-kompatibel artificiell intelligens, meddelade måndag, är avsedd att säkerställa att A.I. förblir fördelaktig, och även för att utesluta en A.I. apokalyps.

Berkeleys eget A.I. expert, professor Stuart Russell, leder ledningen. Open Philanthropy Project gav ett bidrag på 5,5 miljoner dollar till centret, och andra flisade också. Flera andra experter från Berkeley, Cornell University och University of Michigan kommer att fungera som medforskare.

Cornell professor Bart Selman berättade Omvänd om centrumet, A.I.s att vi skall rädsla, och varför världen förmodligen inte är på väg till helvetet i en handbasket - ändå.

Vad hoppas du åstadkomma med Center for Human-Compatible A.I.?

Dessa centra är en relativt ny utveckling. Människor gör investeringar - Livsinstitutets framtid, till exempel, har en investering från Eles Musk, från Tesla - för att hantera frågorna om livets framtid och möjliga hot mot livet och samhällets framtid. Det nya centrumet i Berkeley är ett annat exempel på ett sådant institut.

Det är inspirerat av den skiftande rollen som artificiell intelligens och databehandling i vårt samhälle. Dessa tekniker går in i vårt samhälle och kommer att påverka oss. Dessa institut finns för att föra forskare tillsammans för att studera eventuella negativa effekter, eller hur man ser till att det inte finns några negativa effekter.

Centrets höga titel antyder att A.I. och mänskligheten är i sig inkompatibelt. Är det din åsikt?

Det är den första reaktionen som människor har, att dessa saker kan vara oförenliga. Vi tror faktiskt att vi med riktiga försiktighetsåtgärder och riktiga riktlinjer och forskning verkligen kan anpassa intressena och se till att dessa teknologier är fördelaktiga. A.I. Tekniken har enorma positiva sidor, och målet för samhället är att se till att vi stannar på de positiva sidorna. Forskarna som är involverade i institutet tror att det är genomförbart.

Om du skulle kunna anta ett doomsayer perspektiv, vad skulle det mest sannolika A.I.-inducerade dommedagscenariot se ut?

En tydlig risk skulle vara en militär utveckling av artificiell intelligens, en som skulle kunna leda till en A.I.-vapenkonflikt mellan länder: autonoma vapen, autonoma droner som följer sina egna kommandon, utvecklade av olika länder som är fientliga mot varandra. Det är den mest konkreta risken jag ser. Jag tror att A.I. Utvecklat för självkörande bilar, till exempel - för regelbundna roller i samhället - kommer att vara mycket fördelaktigt. Men den militära aspekten är en oroande komponent.

Är det redan ett uppförsbacke?

Länderna överväger faktiskt denna fråga. I en viss mening är det ett uppförsbacke: Militären driver framåt för att utveckla A.I. teknologi. Men det har funnits avtal - till exempel är biologiska vapen förmodligen det mest kända fallet - där länder vid någon tidpunkt bestämde sig för att det skulle gynna alla länder inte att utveckla biologiska vapen i stor skala. Vi hoppas att länderna kommer att inse att nackdelen, för alla, är för stor för att gå in i en all-out A.I. kapprustning.

Om båda sidor utvecklar denna teknik är ingen framför.

Finns det något annat jag borde veta om centret eller om illvilligt A.I. i allmänhet?

Det är viktigt att ge den positiva sidan. Det är lätt att betona riskerna - och det är naturligtvis det varför dessa centra är etablerade - men det är också viktigt att påpeka att många forskare anser att denna risk är hanterbar och att upsiderna blir enorma.

Du gav redan dommedagsperspektivet. Vilka är några potentiella positiva användningar av A.I. att du är väldigt exalterad?

De positiva sidorna kommer att vara ett samhälle där vi får hjälp av denna teknik. Samtidiga taluttalningar - mellan kinesiska och engelska, till exempel - där människor bara kan prata om, som om de talade modersmål, med varandra runt om i världen. Äldreomsorg: Människor kan stanna så länge som de vill ha i sitt hem, eftersom de har en hushållsassistentrobot som hjälper dem att leva självständigt.

Det kommer troligen att ha en ganska dramatisk inverkan på livet i allmänhet - vad gäller sysselsättning och vad vi prioriterar.

Ja. Det finns en diskussion om sysselsättningen, som är en särskild debatt pågår. Det kommer att finnas tillräckliga resurser till stöd för alla, så det är fråga om hur vi ser till att alla dra nytta av denna utveckling. Det kommer att bli en förnyelse av vad det innebär att arbeta, vilken typ av arbete människor kommer att göra. Men i princip kommer människor att ha mer frihet och mer tid att göra aktiviteter som de tycker om att göra, eftersom maskiner kommer att hjälpa till med många andra mer vardagliga, arbete -typ saker. Det kommer att ta lite tid, men vi tror att samhället kommer att anpassa sig och införliva långsamt dessa förändringar.

Denna intervju har redigerats för tydlighet och korthet.