Pentagon är orolig för mördarerobotar från Kina och Ryssland

Kan vi säkerställa vår nationella säkerhet utan att bedriva dödrobotsteknik? Pentagon tror inte det.

Sådan var diskussionen vid måndagens nationella säkerhetsforum vid Center for New American Security, en D.C.-tank som specialiserat sig på militära frågor. Vice försvarssekreterare Robert Work var till hands för att säga att mänskligheten stod på "en inflexionspunkt" med artificiell intelligens och att framtidens slagfält domineras av autonoma mekaniska krigare. Arbetet har talat om det stora tekniska skiftet som händer under militärens fötter för ett tag nu. Han är inte granskar ord.

"Vi vet att Kina redan satsar tungt på robotteknik och autonomi och den ryska generaldirektören Valery Vasilevich Gerasimov sa nyligen att den ryska militären förbereder sig för att slåss på ett robotiserat slagfält, och han sa, och jag citerar" inom en snar framtid, det är möjligt att en fullständig robotiserad enhet kommer att skapas som kan självständigt genomföra militära operationer, "sade Arbete till den alltmer nervösa publiken. Den här informationen gjorde lite för att dämpa rädslan: Företaget bakom Rysslands nya Armata T-14-tank har lovat att rulla ut en armé av stridsrobotsprototyper inom de närmaste två åren.

Arbetade förutspådda auktoritära regimer skulle naturligtvis dämpa sig mot autonoma mönster eftersom de filosofiskt ser människor med oberoende tanke som svaga länkar. Logiken där finns, men tanken är skrämmande, särskilt i samband med ett halvt århundrade av civila krig stridade mot ryska gjort AK-47.

Det här är inte att säga att Amerika inte är intresserad av att förstärka sina egna vapen med AI. Pentagon-tjänstemän har redan förutsagt flera jobb som sannolikt kommer att vara bättre anpassade till robotmakare i den närmaste framtiden, från cyberkrig och över horisonten Targeting strider där en mänsklig intelligens skulle vara för långsam för att reagera effektivt, att berätta för F-35 piloter vad man ska rikta och hjälpa till med flygning och landning, programmering av dronor och båtar.

Trots sina demokratiska idealer kommer amerikansk autonom vapenforskning med sin egen uppsättning oroliga etiska förgreningar som ledde till att Elon Musk och Stephen Hawking kallade för ett "mördarrobot" -förbud i sommar. Frågan är massiv Till exempel: Om ett autonomt vapen fick en olaglig ordning skulle det vara programmerat med etiken att avvisa det? Det är den saken som man måste mulla innan man säljer en laddad bot.

Kunde maskiner begå krigsbrott oberoende? Det är en annan.

Arbetet visade verklig tankeväckning vid mötet, men gav också ingen inblick i huruvida hans utländska motsvarigheter hade en liknande moralistisk inriktning.