U.N. samlar experter för att diskutera lagar och vår potentiella autonoma robotnedgång

$config[ads_kvadrat] not found

The epidemic of the "I Know All" expert | Mikhail (Doctor Mike) Varshavski | TEDxMonteCarlo

The epidemic of the "I Know All" expert | Mikhail (Doctor Mike) Varshavski | TEDxMonteCarlo
Anonim

Den här veckan håller FN ett "möte med experter" för att diskutera huruvida U.N. bör förbjuda dödliga autonoma vapensystem (LAWS) innan de ens existerar. Om du ännu inte är skrämmad, överväga ett sådant autonomt vapen: artificiellt intelligenta robotar.

Eller överväga en fungerande definition av LAWS:

"LAWS-leveransplattformen skulle kunna flytta, anpassa sig till land-, marina eller luftmiljöer och rikta in och döda en dödlig effektor (kula, missil, bomb, etc.) utan någon form av mänsklig intervention eller validering."

Det finns ett sådant system som enligt uppgift redan är i bruk i den demilitariserade zonen mellan Nord och Sydkorea.

En del av oroa här, förutom att släppa lossa automatiska mänskliga målare och mördare, är att det kommer att finnas en ny vapenkamp för att utveckla och släppa lös LAWS. Om det här armarna släpper ut, då - går argumentet - det kommer inte att stoppa det. Det är vår generationens version av ömsesidigt säker förstörelse, förutom att det kommer att vara ur mänsklighetens händer. Istället för att vänta på att reagera på LAWS-ansträngda kaos, hoppas FN att vidta förberedande åtgärder för att säkerställa att ingen sådan förödelse någonsin kan uppstå.

Genom att sammankalla, ger U.N. legitimitet till vad som annars annars hade varit en fringe debatt. Andra kraftfulla namn delar dock uppgiften. Förra året samlades framtidens livsinstitut A.I. och roboten forskare att penna ett öppet brev som uppmanar ett sådant förbud mot autonoma vapensystem.

Artificial Intelligence (AI) -tekniken har nått en punkt där utbyggnaden av sådana system är - praktiskt om det inte är juridiskt - genomförbart inom år, inte årtionden och insatserna är höga: autonoma vapen har beskrivits som den tredje revolutionen i krigföring efter krut och kärnvapen.

Stephen Hawking, Elon Musk, Noam Chomsky och Steve Wozniak, tillsammans med andra kraftfulla namn, undertecknade sig för att bifalla brevet. Elon Musk donerade också $ 10 miljoner till FLI och är verifierbart bekymrad över en lagomvandlad apokalyps. Här är Musk post donation:

Det informella U.N.-mötet löper till fredag. Även om det inte kommer att leda till ett lagförbud, är det det nödvändiga första steget.

$config[ads_kvadrat] not found