Hjärnemuleringar utgör tre massiva moraliska frågor och en skrämmande praktisk

Det finns en gruppforskare som tror att när människokroppar och vitala tecken tona, kan glömska fortfarande hållas i rymden. Odödlighet är fiktionens grejer, men hjärnemulering - ibland kallad "mind uploading" - är spekulationen av superspekulativ vetenskap. Tanken att nervsystemet kan modelleras i mjukvaran så att personligheter kan antändas (eller reignited) i hårdvaran är inte helt exakt, men det är mer sannolikt än det var när tron debuterade 1981. Några neurovetenskapliga experter tror att det kan hända inom de närmaste 50 åren och att tekniken kan komma fram för fullt fungerande artificiell intelligens.

När det kommer fram kommer det att medföra ett betydande antal moraliska dilemmaer. Och insatserna är för höga för att vänta på att överväga etiken.

"Vi vill inte klättra upp till himlen på en hög av lik, säger berättande neurovetenskapliga Anders Sandberg, förmodligen den mest offentliga bilden på hjärnemulering, vid Global Future 2045 International Congress.

Kan medvetandet replikeras?

Vid kärnan i hjärnemulering är teorin om att medvetandet kommer att överföras från den anatomiska hjärnan till mjukvaromodellen. I rapporten "Hela hjärnan Emulering: En vägkarta" Sanderg och kollega Oxford University forskare Nick Bostrom skriver att en hjärnemulator skulle vara "detaljerad och korrekt nog att producera fenomenologiska effekter av ett sinne" - det är erfarenhet och medvetenhet, sett mer från en filosofisk syn än något annat.

Vetenskapligt bevisas medvetandet av mönster av elektrisk aktivitet. Men det är i slutändan mer komplicerat än det; Det finns ett metafysiskt element. Djur och människor, i vissa sammanhang, anses vara medvetna om de visar sinnen som sentience, vakenhet och självmedvetenhet. Men det är svårt att ha en längre diskussion om medvetandet utan att prata om själen.

Istället för att hoppa in i kaninhålet om det digitala medvetandet kan uppfylla biologiska eller psykologiska teorier om identitet, hävdar Michael Cerullo från Brain Preservation Foundation att hjärnemulering kommer att tvinga oss att skapa en ny definition av medvetande. I ett dokument från 2015 beskriver han det som en "psykologisk förgreningsidentitet", ett tillstånd där "medvetandet kommer att fortsätta så länge det finns kontinuitet i den psykologiska strukturen".

"Vi är drivna för att acceptera möjligheten att personliga identiteter kan förgrena sig i flera kopior, var och en upprätthåller en kontinuitet av medvetandet med originalet," skriver Cerullo i tidningen Minnen och maskiner. "Vi är på en unik historia där vi måste fatta beslut om mänsklighetens framtid baserat på vår bästa förståelse av tankegången och medvetandet."

Men kommer emuleringar att replikera eller vara värd för replikatorerna? När du blinkar efter en postuppladdning, kommer det fortfarande vara du? Det finns inget sätt att veta.

Är vi okej med att döda många testdjur?

Att utveckla hjärnemulering kommer definitivt att kräva användning av testdjur. Sandberg förutspår att de tidigaste försöken kommer att göras på djur med väldefinierade nervsystem, som dammseglar och fruktflugor, och sedan gå vidare till ryggradslaboratorier, som möss. Det är faktiskt rimligt att anse att möss kommer att vara de första varelserna som har sina hjärnor emulerade: Europeiska unionen har investerat över en miljard euro i Human Brain Project, som försöker fullt ut efterlikna hjärnan hos en mus och delar av den mänskliga hjärnan före 2023.

Vissa har hävdat att kostnaden för att använda djur i försök uppvägs av vetenskapliga avkastningar. Men pausar för att överväga om det är värt det när experiment kan mycket väl leda till ingenting, är viktigt. Sandberg skriver: "Indirekta teorier hävdar att djur inte ger mer moralisk hänsyn, men effekten av mänskliga handlingar på dem spelar roll …. Våra skyldigheter gentemot dem är bara indirekta uppgifter gentemot mänskligheten."

Är emuleringar lika?

Det finns ett argument att det kommer att vara värt att lära sig att emulera hjärnor, så att framtida forskning kan göras på emulerade hjärnor istället. Men det här frågar: Har en emulering samma moraliska vikt som ett "riktigt" djur eller mänskligt? I vissa scenarier är hjärnemulering ett sätt att öka sin medvetenhet, i andra skapar den en underart av kända varelser.

I Att vara ingen neuroethicist Thomas Metzinger ifrågasätter hur mänskliga hjärnemulsioner någonsin skulle kunna bli utan att på allvar gå över gränserna för etiken. Han skriver:

"Vad dagens etikutskott inte ser är hur de första maskinerna som uppfyller en minimalt tillräcklig uppsättning begränsningar för medveten erfarenhet kan vara som psykiskt fördröjda spädbarn. De skulle drabbas av alla slags funktionella och representativa underskott också. Men de skulle nu också subjektivt uppleva dessa underskott. Dessutom skulle de inte ha någon politisk lobby - inga företrädare i någon etisk kommitté."

Och om vi gjorde lyckas skapa hjärnemuleringar, vi kan hypotetiskt tvinga dem att arbeta för oss. Carl Shulman från Machine Intelligence Research Institute förutser att utvecklingen av intelligent programvara utrustad med emulerade hjärnor skulle ersätta mänskligt arbete - fördubbla storleken på ekonomier, men också köra ner löner för människor. Det kan också leda till några ganska knullade metoder.

"Brain-emuleringsprogram kan ändras för att efterlikna effekten av droger, neurokirurgi, genetiska förändringar och andra ingrepp," skriver Shulman. "Experiment med sådana förändringar skulle sannolikt göra emuleringar kognitivt försämrade eller psykiskt sjuka i de flesta fall, men i vissa fall kan det leda till ökad produktivitet."

Kan vi mäta risken?

Hjärnemuleringar kan bli våra mästare istället för våra tjänare. I sitt papper föreslår Shulman också en framtid att, om den teknologiska processen inte kontrolleras noggrant, "snabbt replikerande och utvecklande sinnen kan orsaka mänsklig utrotning." Dessa skulle vara superorganismer som Johnny Depps Will Caster i Överskridande - Hyper-intelligent och allestädes närvarande.

Det är den möjliga framtiden för uppladdning av hjärnor för makts syfte - och låt oss möta det, de människor som vill leva för evigt låter misstänkt megalomaniacal. Vid konferensen Transhuman Visions 2014 berättade neurovetenskapliga Randal Koene att de som en art vi behöver är "effektiva och inflytelserika och kreativa i en mycket större sfär". Det som återstår att se är huruvida de mänskliga förbättringarna som finns i denna sfär Följaktligen betyder mänsklighetens ände.