"Den här personen existerar inte" Skaparen avslöjar sin webbplatss skrymmande ursprungsberättelse

Phillip Wang är den 33-årige programvarutekniker som ansvarar för att skapa den artificiella intelligens-drivna webbplatsen Denna person existerar inte som nyligen gick viral. Varje gång sidan uppdateras, gör en algoritm som kallas ett generellt adversarialt nätverk (GAN) (ursprungligen kodat av Nvidia) hyperrealistiska porträtt av helt falska personer.

Stuntet var utformat för att uppmärksamma A.I: s ständigt ökande kraft att presentera som riktiga bilder som är helt artificiella. Men som Wang berättar Omvänd, denna stunt har förgreningar som sprider sig långt bortom, "hej, kolla på den här verkliga falska personen". I ett samhälle där bilder och bilder är de vanliga surrogaten för "bevisa" GANs - genom att automatisera det arbete som en gång krävde noggrann arbetskraft på Den del av bildbehandlingsexperter - kommer snart att låta någon tillhandahålla "bevis" att någon tänkbar person gjorde något tänkbart.

"Jag är i princip i den punkten i mitt liv där jag ska erkänna att superintelligens kommer att vara verklig och jag måste ägna mitt återstående liv till det", förklarar han. "Reaktionen talar om hur mycket människor är i mörkret om A.I. och dess potential."

Platsen slog ett ackord. Den tidigare Uber-mjukvaruingenjören säger att den här personen inte existerat sedan dess lansering har besökts omkring 4,2 miljoner gånger, inte dålig för en engångsplats som ursprungligen postades till en sluten Facebook-grupp. Wang använde ursprungligen det som ett sätt att övertyga några vänner att delta i den oberoende A.I. forskning som han för närvarande arbetar med. Men inom en dag bestämde han sig för att en bredare publik kunde dra nytta av att lära sig om GAN: s potential. Han sa att reaktionen echos hur viktigt det är att informera folk om hur denna typ av teknik kan vara både revolutionerande och farlig.

Varför Fake Faces Representerar ett läskigt genombrott

Wangs webbplats använder sig av Nvidias StyleGAN-algoritm som publicerades i december förra året. Potentialen, enligt hans åsikt, sträcker sig från den hjälpsamma men livliga (tänk: effektivisering av tandkronimplantation) till den mer borta, till exempel för att möjliggöra fantasin hos helt nya molekyler att tjäna i framtida droger. Men den här revolutionerande tekniken kommer också att göra bedrägeri och missinformation enklare än någonsin tidigare.

Anledningen till att användarfall är så mångfacetterade är att det finns många, många sätt att tillämpa GAN, som utbildas genom att pitta två nätverk mot varandra: generatorn och diskriminatorn. Generatorn ges riktiga bilder som den försöker återskapa så gott som möjligt, medan diskriminatorn lär sig att skilja mellan faktade bilder och original. Efter miljontals miljoner träningssessioner utvecklar algoritmen övermänskliga förmågor för att skapa kopior av bilderna som den utbildades på.

Det är samma metod som skapar djupfel eller datorgenererade bilder som läggs på befintliga bilder eller videor, och som ofta används för att driva falska nyhetsberättelser eller andra hoaxes.

Och medan Wang är fascinerad av den innovation som den kommer att leda över många företag, vill han också att människor ska vara mer medvetna om den potentiella skada den kan orsaka.

Som ett exempel kan en skrämmande skådespelare sprida en GAN-genererad video eller bild som visar en falsk händelse för att uppmuntra upplopp, protester eller andra potentiellt våldsamma reaktioner online.

Eftersom processen är helt automatiserad, skulle alla som skulle behöva få tillgång till en rad grafikbehandlingsenheter (GPU) eller grafikkort - vilken maskinmaskinsinlärning - och en datasett av bilder som börjar skryta ut fakes som urverk.

På längre sikt, medan StyleGANs kan skapa stillbilder av människor som aldrig existerade, gör dessa bilder att tala och flytta naturligt bara några steg bortom det. Lyckligtvis noterar Wang att det bara är informerat om att GAN kommer att göra människor mindre känsliga för att bli lurade av dem. Ökad medvetenhet kommer att göra det lättare för oss alla att njuta av förbättringarna i 3D-grafik och medicin StyleGANs kommer sannolikt att medföra.

"Jag hoppas bara att min demonstration ökar medvetenheten. De som är omedvetna är mest utsatta för denna teknik, säger Wang. "På flipsidan, A.I. verkligen kommer att ge mycket bra till denna värld."

Email författaren: [email protected]