AI Bättre vid kompromiss än människor, hittar ny studie

Låt möta det. Ända sedan artificiell intelligens först dröms upp, har människor varit rädda för den dag som våra AI-övertalare tar över. Men vissa forskare har testat kunskapen för artificiell intelligens till inte bara konkurrera med mänskligheten, men också till samarbeta.

I en studie publicerad på torsdag i Naturkommunikation ett team av BYU datavetenskapsprofessorer, Jacob Crandall och Michael Goodrich, tillsammans med kollegor vid MIT och andra universitet, skapade en algoritm för att undervisa maskiners samarbete och kompromisser.

Forskarna programmerade maskinerna med en algoritm som heter S # och sprang dem genom ett antal spel med olika partners - maskinmaskin, människa och människa - för att testa vilken parning som skulle leda till de mest kompromisser. Maskiner (eller åtminstone de som programmeras med S #) visar sig vara mycket bättre på kompromiss än människor.

Men det här kan säga mer om "mänskliga brister", säger leadforskare Jacob Crandall Omvänd. "Våra mänskliga deltagare hade en tendens att vara disloyal - de skulle gå i fel i ett samarbetsförhållande - och oärligt - ungefär hälften av våra deltagare valde att inte följa igenom på sina förslag - någon gång i samspelet."

Maskiner som hade programmerats för att värdera ärlighet, å andra sidan var ärliga. "Denna speciella algoritm lär oss att moraliska egenskaper är bra. Det är programmerat att inte ligga, och det lär sig också att upprätthålla samarbete när det kommer fram, säger Crandall.

Dessutom fann forskningen att vissa samarbetsstrategier var mer effektiva än andra. En av dessa var "billig prat", enkla verbala signaler som svarade på en given situation, som "Sweet." Vi blir rik! "Eller" Jag accepterar ditt senaste förslag "eller, för att uttrycka missnöje," Förbanna dig! "" Du kommer att betala för det! "Eller till och med" i ditt ansikte!"

Oavsett vilken typ av spel som spelades eller vem spelade, dubbelt så låga priser samarbetet. Det humaniserade också maskinerna, med mänskliga spelare som ofta inte kunde berätta om de interagerade med en maskin eller en människa.

Eftersom fokusen för denna forskning var på testningen av S # -algoritmen är en brist på forskningen att den inte tar hänsyn till kulturella skillnader bland människor som kan påverka hur olika mänskliga populationer kan använda eller tolka strategier som billiga prat eller hur mycket mänskliga spelare kan engagera sig i bedrägeri eller illvilja.

Förmodligen, i den slutliga kort berättelsen om Isaac Asimovs berömda bok 1950-bok Jag robot - "The Evitable Conflict" - AI-överherrar tar faktiskt över planeten.Men eftersom de är så rimliga och programmerade med några oföränderliga etiska regler är det bra för mänskligheten. Och, som den här studien visar, för att mänskliga interaktioner är röriga och komplicerade, kanske kan vi lita på maskiner. Antag naturligtvis om de har programmerats för ärlighet.

Abstrakt:

Eftersom Alan Turing förutsåg artificiell intelligens har tekniska framsteg ofta uppmätts genom förmågan att besegra människor i nollsumma möten (t ex schack, poker eller gå). Mindre uppmärksamhet har givits till scenarier där samarbete mellan människa och maskiner är fördelaktigt men icke-trivialt, till exempel scenarier där mänskliga och maskinpreferenser varken är fullständigt inriktade eller helt i konflikt. Samarbetet kräver inte ren beräkningskraft, utan i stället underlättas av intuition, kulturella normer, känslor, signaler och förebyggda dispositioner. Här utvecklar vi en algoritm som kombinerar en state-of-the-art armeringsinlärningsalgoritm med mekanismer för signalering. Vi visar att denna algoritm kan samverka med människor och andra algoritmer på nivåer som konkurrerar med mänskligt samarbete i en rad tvåspelars upprepade stokastiska spel. Dessa resultat tyder på att det generella samarbetet mellan människa och maskin kan uppnås med hjälp av en icke-trivial, men slutligen enkel uppsättning algoritmiska mekanismer.