Elon Musks OpenAI kan vara muskel för säker artificiell intelligensforskning

Under helgen tillkännagav Elon Musk, Sam Altman och andra Silicon Valley bigwigs oväntat lanseringen av OpenAI, ett ideellt företag som beskriver sitt mål som: "för att fördjupa digital intelligens på det sätt som mest sannolikt kommer att gynna mänskligheten som helhet, obestridd av ett behov av att generera finansiell avkastning."

"Eftersom vår forskning är fri från ekonomiska skyldigheter kan vi bättre fokusera på en positiv mänsklig påverkan. Vi tror A.I. bör vara en förlängning av enskilda mänskliga testamente och, i frihetens anda, så bred och jämnt fördelad som möjligt."

Det finns två stora takeaways från detta meddelande. Den första är att Musk och företaget ser A.I. forskning just nu som alltför inskränkt fokuserat på att uppnå kortsiktigt praktisk värde och de vill hjälpa till att driva framåtriktningar som tar en bredare och övergripande strategi för att utveckla A.I. system. Den andra, mer slöjade borttagningen är att Musk fortfarande är bekymrad över A.I.: s potential att göra skada om vi utvecklar och introducerar halvbakade system. Musk har tidigare kallat A.I. "Vårt största existensiella hot" och föreslog att regelverksövervakning kan vara nödvändigt för att förhindra potentiella faror. OpenAI kan vara ett sätt att tillhandahålla det övervakningen utan att behöva en federal vakthund.

Vad gör Musk och hans kollegor som skiljer sig från vad andra har gjort. När allt kommer till, öppnas öppen källkod A.I. är inget nytt. Google gjorde sin egen A.I. programvara öppen källkod förra månaden och det har blivit ganska standardprocedur. Men med ett bidrag på 1 miljard dollar är OpenAI redan en av de största organisationerna som arbetar med A.I. forskning, och ganska lätt det största ideella. Dess mål är att göra sina resultat offentligt tillgängliga och alla dess patent royaltyfria. De har en morot och en pinne och de tänker använda den för att styra en industri.

Tanken är att använda OpenAI som en slags motvikt till större företag, privata forskningslaboratorier och till och med världsregeringar som har otroliga mängder pengar och resurser att hälla i sina egna A.I. forskning som inte kan ägnas åt vänliga ändamål, och kan istället leda till teknologier med grymma tillämpningar. Forskare som arbetar med OpenAI kommer i grund och botten att driva "vänliga" A.I., utan att pressen visar omedelbara resultat. Det kan vara större hänsyn till säkerhets- och designfunktioner som privata företag kan vara benägna att ignorera. Det kommer inte att finnas ett vitt torn där endast ett fåtal kontrollerar vägen till A.I. utveckling. Det kommer att bli en välkommen värld för alla.

I en intervju med backchannel Musk betonar också en önskan att göra en mängd olika A.I. system. "Vi vill ha A.I. att vara utbredd ", säger han. "Vi tror förmodligen att många är bra."

Det är viktigt, eftersom det segues in i kanske den främsta anledningen till att Musk och Altman vill demokratisera A.I. De tror den bästa typen av A.I. - det slag som kommer att gynna mänskligheten på ett positivt sätt utan att skapa robotöverlåtare - är det slag som verkar som "en förlängning av individens mänskliga vilja", som Musk säger det. Han fortsätter med att säga:

"Som i en A.I. förlängning av dig själv, så att varje person är väsentligen symbiotisk med AI i motsats till att AI är en stor central intelligens som är typ av annan. Om du funderar på hur du använder, säger applikationer på internet, har du ditt e-postmeddelande och du har sociala medier och med appar på dina telefoner - de gör dig överhuman och du tänker inte på dem som vara andra, du tycker om dem som en förlängning av dig själv. Så i den mån vi kan styra AI i den riktningen vill vi göra det. Och vi har hittat ett antal likasinnade ingenjörer och forskare på AI-fältet som känner sig likadant."

I grund och botten är OpenAI-visionen för A.I. forskning är en decentraliserad gemenskap som hjälper till att ansluta människor till varandra och till världen i sig.

Musk har ännu inte angett hur de skulle förhindra forskning inom OpenAI själv - eller återupptagna av utomstående grupper - från att gå i en farlig riktning. Och det är något annat värt att notera här: Open source-system är bara meningsfullt om data som används för att bygga maskininlärningsalgoritmer delas fritt. Ett intelligent system måste lära sig hur man är intelligent, och för det gör det, det behöver lära av data och erfarenhet. Det är som att bygga en damm - du behöver både ritningarna (algoritmen) och byggmaterialet (data) för att faktiskt göra något som kommer att stoppa vatten.

Det är därför människor fortfarande är begränsade till vad de kan göra med Googles TensorFlow - de har ännu inte de uppgifter som Google har. Och om inte samarbeten som byggts ut av OpenAI tillåter fri tillgång till samma data som de inhemska forskarna arbetar med, kommer Musks vision inte nödvändigtvis att realiseras - eller åtminstone inte hur han främjar det.

Musk, Altman och de andra grundarna av OpenAI har börjat något som kommer att få ett enormt inflytande på tillväxten av A.I. från och med nu. Samtidigt måste de vara uppriktiga i sitt engagemang för att främja en öppen källforskningsgrupp, vilket innebär att de är offentliga om sina planer för ideella bolag och att de är villiga att dela data. Annars kommer OpenAI inte att vara mycket annorlunda än de flockföretag som den utformades för att besätta.