A.I. Algoritmen erkänner terroristpropaganda med 99% noggrannhet

Det brittiska företaget ASI Data Science presenterade en maskininlärningsalgoritm onsdag som kan identifiera terroristpropagandavideor med 99 procent noggrannhet.

Denna utveckling markerar ett av de första fallen i ett företag som framgångsrikt använder A.I. att flagga extremistisk propaganda. Den islamiska staten gruppen är ökänd för sina sociala medier rekrytering insatser, och denna algoritm kan hjälpa till att begränsa dem.

Medan forskarna vid ASI inte skulle diskutera några tekniska detaljer i algoritmen verkar det fungera som andra typer av A.I. erkännande programvara. Algoritmen kan undersöka vilken video som helst och bestämma sannolikheten för att videon är en extremistisk propaganda. Enligt BBC utbildades algoritmen på tusentals timmar av terroristrekryteringsvideoer, och det använder egenskaper från dessa videor för att tilldela sannolikhetsresultat.

Om en video är markerad som mycket stor sannolikhet, är den taggad för granskning av en human content moderator. Eftersom videon inte automatiskt tas ner, bör eventuella falska positiva fångas innan videon av misstag tas bort. ASI sa att algoritmen kunde upptäcka upp till 94 procent av islamiska statliga uppladdningar.

Algoritmen, som delvis finansierats av den brittiska regeringen, skapades huvudsakligen till förmån för mindre videoplattformar som inte har resurserna för att upprätthålla en stor personal med högt innehåll. Eftersom dessa webbplatser inte kan granska alla videoklipp noga, är det lättare för terroristgrupper att plantera propaganda på dem. Som forskare Marc Warner från ASI berättade BBC: "Det finns över 1000 olika videor på över 400 olika plattformar."

Det är inte klart när den nya algoritmen kommer att distribueras på dessa webbplatser. När det äntligen blir tillgängligt, kommer grupper som den islamiska staten sannolikt att försöka ändra hur de hantar sina videoklipp för att undvika upptäckt.

Förhoppningsvis kan datavetenskaparna stanna ett steg framåt.