"Vi skulle göra en robot som inte skulle tillåta sig att missbrukas"

Jonathan Nolan och Lisa Joy, skaparna av HBO: s Westworld, gör den verkliga världen till en tjänst. De gör att samhället bringar den hotande frågan om hur man behandlar artificiell intelligens. Specifikt talar Nolan och Joy om robot samtycke. Det är en diskussion som de fiktiva pengar-hungriga cheferna i Westworld nöjespark tyvärr aldrig hade.

Men över på Hanson Robotics, det Hongkongbaserade företaget som hävdar att utveckla "världens mest mänskliga robotar", känner Stephan Bugaj och hans team dessa framväxande samtal som deras ryggar i handen eller som den realistiska falska huden - "Frubber" - på sina robotars ansikten. Bugaj är Vice President of Creative på Hanson, och han övervakar android personlighet design.

Han berättar Omvänd han har njutit Westworld hittills, men kanske inte överraskande, han sidor med seriens artificiellt intelligenta, robotvärdar. Tänk kanske på Hanson Robotics som den ofrivilliga konkurrenten till det fiktiva företaget som driver den hedonistiska västvärlden. Hanson är det offentliga biblioteket till Westworlds stripklubb.

Hanson ingenjörer verkar som om de är de bokstavliga föräldrarna till androiderna som de skapar. "Människor måste inse att en av meddelandena från Westworld är "du skörda vad du sår", säger Bugaj. "Etiken och moralen som du lär ut en enhet är vad den lär sig. Och då betalar du utdelningarna."

"Det är upp till dig att välja vilken typ av moralisk och etisk kod du ger en robot, eller ett barn eller din hund eller vad som helst."

“ Om du skapar denna slavlek och brutaliserar dem, vad vill en brutaliserad slav göra? Bust ut, och eventuellt söka hämnd. ”

Hittills i showen verkar det som Dolores Abernathy - en av parkens värdar och Westworld S centrala karaktär - kan avslöja och sedan bryta ut ur hennes metafysiska bur. (Bugaj: "Vill du inte bryta ut ur en bur om någon hade dig i en? Om någon hade mig som en sexslav, så skulle jag säkert som helvete försöka busta ut.") Dolores har inte för avsikt att att skada människor, men om hon ibland måste, då måste hon ibland. "Hennes mål är att rädda sig."

Endast om programmerarna ledde av Anthony Hopkins doktor Ford hade bara gjort det möjligt för Dolores att sluta.

Hanson Robotics hoppas kunna göra robotar som kunde sluta, om det kom till det.

"Vi skulle göra en robot som älskar mänskligheten, och har en positiv moralisk och etisk kod, men skulle inte nödvändigtvis tillåta sig att missbrukas," förklarar Bugaj. De skulle göra en Dolores, säger han, men de skulle lämna ut Skynet: De skulle skjuta upp Dr. Ford och kanske Bernard Lowe, båda av dem verkar nu som orättvisa. Med tanke på några av besökarnas psykotiska beteende skulle Westworld-värdarna säkert sluta - men de verkar svårkodade för att vara ofreflekterande. Värdarnas reveries kommer dock att bli bättre för både Ford och Lowe.

Vissa robotar idag förklarar Bugaj redan primitiva former av samtycke: Isaac Asimovs "Tre Laws of Robotics" är ett sådant exempel, och till och med felsäkra system "är ett slags proto-samtycke, eller åtminstone en gjorde du -Regent-medel-det-tillvägagångssättet. "(Dolores, om hon lyckas bryta sig ur Westworld, kommer troligen att behöva bryta alla tre Asimovs regler.)

Men Hanson går utöver dessa rudimentära nivåer. Bugaj säger att de ger sina robotar omfattande målsystem, fyllda med interna mål och interna övertygelser, och "förstärkningssystem för vad de tror, ​​hur man behandlar det, hur de svarar." Till sist kommer de att konstruera AI som "kan överväga hur de känner sig när de fattar beslut, och huruvida de vill göra saker du vill att de ska göra, eller ha det som görs för dem som du vill göra. "Det första steget är att bygga upp solida moraliska och etiska koder och starka personligheter, på vilka dessa domar skulle vila. Liksom processen med att på ett ansvarsfullt sätt höja ett barn.

Problemet är nu att de flesta robotar könsbestäms, och det kan också vara föremål för attraktion. Det är osannolikt att förändras. Kön neutrala robotar i Westworld skulle vara antitetiskt mot parkens tema: debauchery. Men Hansons samvetsgranna specialister, trots att de köper könsbestämda robotar, motstår könsstereotyper så mycket som möjligt.

"Vi försöker inte göra en fembot med Sophia", förklarar Bugaj. "Vi försöker definitivt inte göra sexbot, men vi försöker inte göra 1950-talets människa idealiska play-kvinna, som antingen lagar och rensar, och skrattar åt alla sina skämt och berättar att han är strålande. Vi försöker göra en stark kvinnlig karaktär som har egna och egna perspektiv, som tänker på saker som vad det betyder för henne att vara android och även den mänskliga världen och varför vi behandlar varandra hur vi gör det."

Hanson vill att dess robotar till en dag är drivkraften för meningsfulla diskussioner, om inte moderatörerna. Westworld händer att höja frågor som Bugaj hoppas vi börjar fråga oss själva, till exempel: "Hur kan vi förvänta oss androider och robotar att behandla människor bra om vi inte gör oss själva? och borde vi inte leda oss genom exempel?"

Han och hans team gör framtidens robotar, och de kommer att arbeta för att dessa robotar är tredimensionella - att de kommer att "bryr sig om saker som är viktiga, har perspektiv på dem och ibland utmanar människor, inte bara lydig. Men inte på ett aggressivt sätt.

"Du får världen du skapar", säger Bugaj.