Om du någonsin har spelat rollspel - oavsett om det är online eller i en gammaldags bakgård - vet du hur lätt det är att bli knuten till din avatar, det vill säga att vänja sig till rollen som "kosackrånaren". Du känner bokstavligen smärta när karaktären slås av ett troll, rostas av en drake eller dödas av en shaman. Den amerikanska sociologen (och ivrig spelaren) William Sims Bainbridge tog detta förhållande ännu längre genom att skapa virtuella representationer av 17 avlidna familjemedlemmar. I ett essä från 2013 om Online Avatars föreställer han en tid då vi kan ladda vår personlighet i en konstgjord intelligent simulering av oss själva som kan agera oberoende av oss och till och med kvarstå efter att vi dör.
Vilket slags ansvar kan vi lägga på dessa simulerade människor? Även om vi är misstänksamma mot våldsamma datorspel, anser ingen allvarligt att det mord undergräver en virtuell attackerare. Men det är inte längre absurt att föreställa sig att en gång modellerade människor kommer att existera och också ha en viss grad av autonomi och medvetande. Många filosofer tror att ett sinne som vårt inte behöver lagras i nätverket av nervceller i vår hjärna, utan kan existera i olika slags materialsystem. Om de är korrekta, finns det ingen anledning att tro varför kraftfulla datorer inte kunde lagra medvetande i sina chips.
Kommer du att döda en digital fluga?
Idag försöker många moraliska filosofer att förstå etiken för att förändra den mänskliga befolkningen och ställa frågor som dessa: Vad kostar mänskligt liv? Vilket slags liv ska vi sträva efter att forma? Hur mycket värde ska vi investera i mänsklig mångfald? Men när det gäller etiken för att hantera modellerade enheter är det inte helt klart om vi ska lita på samma logik och intuition som vi använder i vår värld av kött och blod. Djupt nere i våra själar känner vi oss fel att döda en hund eller till och med en fluga. Men skulle inaktivera flugan - eller den mänskliga hjärnmodellen - döda? När "livet" antar nya digitala former kan vår egen erfarenhet inte längre fungera som en pålitlig moralisk följeslagare.
Adrian Kent, en teoretisk fysiker vid University of Cambridge, bestämde sig för att utforska detta gap i moraliskt resonemang. Anta att vi har lärt oss att emulera mänskligt medvetande på en dator billigt och enkelt, skriver han i en av artiklarna. Vi vill ge denna virtuella varelse en rik och givande miljö för kommunikation - ett liv värt att leva. Kanske kan vi göra detta med riktiga människor genom att skanna deras hjärnor i detalj och replikera dem på en dator. Man kan föreställa sig hur en sådan teknik”räddar” människor från en dödlig sjukdom; vissa transhumanister ser detta som vägen till odödligt medvetande.
Naturligtvis kan allt detta vara en rördröm - men låt oss anta det motsatta. Låt oss nu ta hand om en uppsättning utilitaristiska moralprinciper som infördes av Jeremy Bentham i slutet av 1700-talet och därefter förfinade av John Stuart Mill. Alla saker som övervägs, sade Bentham, vi bör sträva efter att få maximal lycka (eller "verktyg") till så många människor som möjligt. Eller, i Mills ord, "handlingar är motiverade i proportion till hur lyckliga de är och inte rättfärdiga om de leder till brist på lycka."
Principerna för gott beteende har många kritiker. Till exempel, hur kan vi mäta eller jämföra typer av lycka - med en vikt av en mormors kärlek, till exempel, på samma skalor med beundran för en virtuos konsertpianist? "Även om du vill ta utilitarism på allvar, vet du inte vilka egenskaper du lägger i dina beräkningar verkligen spelar roll," säger Ken. De flesta trossystem i dag accepterar dock som standard att en moralisk kompass som pekar mot större lycka är klart att föredra framför en som ser bort från den.
Kampanjvideo:
Enligt Kents scenario kan vi tro att vi måste gå framåt och multiplicera våra modellerade eller simulerade varelser - låt oss kalla dem sims - utan begränsningar om vi går utifrån utilitaristiska motiv. I den verkliga världen har sådan okontrollerad förplantning uppenbara nackdelar. Människor kommer att drabbas, känslomässigt och ekonomiskt, med en stor familj; överbefolkningen sätter redan press på globala resurser och så vidare. Men i den virtuella världen kanske det inte finns sådana gränser. Du kan skapa en utopi med nästan obegränsade resurser. Varför kan du då inte skapa så många världar som möjligt och fylla dem med glada simmar?
Vår intuition föreslår svaret: men varför? Kanske kommer en medveten sim helt enkelt inte ha samma inre värde som en person av kött och blod? Denna punkt uttrycks av Michael Medery, en sinnesfilosofi och virtual reality-etiker vid Tulane University i New Orleans, och anser att den borde tas på allvar.
Vissa filosofer tror att vi själva kan vara liknande simulerade varelser. Vi kan helt enkelt inte utesluta en sådan möjlighet, men vi anser dock att dessa frågor är meningsfulla. Så man kan också anta att simmarna har rätt att ställa frågor.
Kent ställer igen frågan: vad skulle vara mer korrekt - att skapa en population av identiska varelser eller helt annorlunda? Uppenbarligen skulle det vara mer effektivt att skapa identiska varelser - tillräckligt med information om en för att skapa N av dem. Men våra instinkter säger att mångfalden har mening och värde. Och varför undrar jag om det inte finns någon anledning att tro att N olika individer kommer att vara lyckligare än N identiska.
Kents inställning är att olika liv är att föredra framför flera kopior av samma. "Jag kan inte bli av med tanken att ett universum med en miljard oberoende identiska emuleringar av Alice kommer att vara mindre intressant och av mindre kvalitet än ett universum med en miljard olika individer," säger han. Han kallar detta begrepp replikation underlägsenhet.
Om vi betraktar kosmos bebodd av miljarder Alice, är det verkligen värt att prata om ett liv, multipliceras många gånger, eller pratar vi om ett liv, spridd över många världar. Det kan följa av detta att många Alice i en identisk miljö inte har värden mer än en. Han kallar detta scenario för nyttan av replikering. "Jag är benägen till den åsikten," säger Kent och medger dock att han inte kan hitta ett oåterkalleligt argument i sitt försvar.
Kents tankeexperiment berör flera gamla mysterier om moralisk filosofi som aldrig har lösts. Den engelska filosofen Derek Parfit, som dog förra året, talade om dem i sitt monumentala arbete om personlighet och själv, Reasons and Personalities (1984). Parfit funderade på frågor som hur många människor det skulle finnas alls, och om det alltid är moraliskt bättre att lägga till ett liv värt att leva till livets liv och rörelse när vi får möjligheten.
Även om du accepterar den utilitaristiska synvinkeln, finns det problemet att hitta den största lyckan för det största antalet: dubbla kriterier skapar tvetydighet. Föreställ dig till exempel att vi har kontroll över hur många människor som lever i en värld med begränsade resurser. Man skulle tro att det borde finnas ett optimalt antal människor som (i princip) kommer att utnyttja resurser för att säkerställa lycka och välstånd för alla. Men skulle det inte finnas plats i en sådan utopi för en annan person? Skulle det inte vara acceptabelt att minska allas lycka lite för att säkerställa ett nytt lyckligt liv?
Problemet är att denna process inte har något slut. När antalet ökar kan den nya lyckan i nya liv uppväga kostnaderna för de som redan lever. I slutändan, säger Parfit, kommer du till en "motbjudande slutsats": ett scenario där det bästa resultatet skulle bli en uppblåst befolkning av människor som är hopplöst olyckliga men bättre än vad det inte fanns något liv alls. Sammantaget ger deras magra glattmängder mer än summan av ett litet antal verkligen lyckliga människor. "Det är svårt för mig att acceptera denna slutsats," skrev Parfit, men kan vi motivera denna strategi? Kent vet inte. "Jag vet inte om det kan finnas något balanserat beslut om den motbjudande slutsatsen," säger han.
I grunden till denna fråga ligger det som Parfit kallade”problemet med icke-identitet”: hur kan vi resonera rationellt om frågorna till oroliga individer om deras existens beror på de val vi gör (som att hitta en plats för”en annan”)? Att väga för- och nackdelar som kan påverka en individ beroende på de beslut vi fattar är i princip inte så svårt. Men med tanke på möjligheten att denna karaktär aldrig kan ha funnits, vet vi inte längre hur vi ska beräkna. Jämfört med noll eller ingenting, kommer allt att bli en vinst, så även de värsta scenarierna av existens kan vara moraliskt motiverade.
Det finns ett annat mycket konstigt scenario i detta utilitaristiska befolkningsspel. Tänk om det fanns människor med ett så stort lyckebehov att de skulle kräva mer av andra än de hade råd att ge? Den amerikanska filosofen Robert Rozick kallade denna skapelse för ett "utilitaristiskt monster" och kritiserade det i sin bok Anarchy, State and Utopia (1974). Enligt Nozick kommer denna bild "att kräva att vi alla offrar för monsterets skull för att öka vår totala nytta." Mycket av Parfits bok var ett försök - i slutändan misslyckad - att undkomma både den hemskt slutsatsen och det utilitaristiska monsteret.
Låt oss nu gå tillbaka till Kents virtuella världar fulla av simmar och hans princip om ofullständig replikering - när ett visst antal olika liv är värda mer än samma antal identiska. Kanske kommer detta att göra det möjligt för oss att undvika Parfits hemska slutsats. Trots vad Leo Tolstoj sa om ojämlikheten i olyckliga familjer i början av Anna Karenina (1878), verkar det som om ett stort antal olyckliga liv kommer att vara nästan samma i deras dystra sorg. Följaktligen kommer det inte att vara möjligt att plocka upp dem och öka den totala lyckan droppe för droppe.
Men på samma sätt lockar replikens underlägsenhet det utilitaristiska monsteret - per definition måste det vara unikt och därför mer "värt", jämfört med den oundvikliga likheten i de liv som livnär sig det. Detta beslut tillfredsställer oss inte heller. "Det vore trevligt om folk på något sätt tänkte mer på dessa frågor", medger Kent. "Jag är lite förvirrad av dem."
För den amerikanska libertarianekonomen Robin Hanson, professor i ekonomi vid George Mason University i Virginia, är dessa reflektioner inte så mycket mentala experiment som förutsägelser om framtiden. Hans bok "The Age of Em" presenterar ett samhälle där alla människor laddar upp sitt medvetande till en dator för att leva sina liv i form av "emuleringar" (inte sims, utan emas). "Miljarder av sådana nedladdningar kan bo och arbeta i en höghus och det skulle finnas plats för alla," skriver han.
Hanson undersökte i detalj hur en sådan ekonomi kan fungera. Ems kan vara av valfri storlek - vissa kommer att vara väldigt små - och timingen kan vara annorlunda för dem jämfört med människor. Det kommer att finnas nära övervakning och en liten lön, men ems kan bli av med detta lidande genom att välja ett liv utan arbete. (Hanson tror att vi redan kan leva i en sådan värld.)
Detta scenario möjliggör duplicering av sig själv, eftersom sinnet redan har överförts till datorn, så att göra kopior kommer att vara ganska enkelt. Hanson säger att identitetsproblemet i detta fall är suddig: dubbletter är "samma person" från början, men gradvis avviker deras identitet när de börjar leva separat.
Hanson föreslår att dubbla människor inte bara är möjliga utan också önskvärda. Under den kommande tidens emus kommer människor med särskilt värdefulla mentala förmågor att "laddas" många gånger. Och i allmänhet kommer folk att vilja göra flera kopior av sig själv ändå som en form av försäkring. "De kanske föredrar redundans i sin egen implementering för att se till att de kan överleva oväntade katastrofer," säger Hanson.
Men han tror inte att de föredrar Kents scenario med identiska liv. Ems “kommer inte att lägga något speciellt värde på att leva samma liv vid olika tidpunkter och på olika platser. De kommer att investera värde i flera kopior eftersom dessa kopior kan fungera eller kommunicera med andra. Men denna typ av arbete och förhållande kommer att kräva att varje kopia är kausalt oberoende och deras berättelser sammanflätade baserat på uppgifter eller som partners.”
I vilket fall som helst kommer de att behöva kämpa med moraliska svårigheter som vi ännu inte kan överskatta. "Jag tror inte att den moral som människor har är tillräckligt generell eller tillförlitlig för att ge säkra svar på situationer som denna, som är så långt bort från våra förfäder" upplevelse ", säger Hanson. "Jag förutspår att emus kommer att ha många olika motstridiga åsikter om sådana saker."
Ems, sims och vår virtuella framtid
Nu kan allt detta låta väldigt konstigt, som apokryfiska medeltida samtal om änglar som dansar på tårna. Kommer vi någonsin att kunna skapa virtuellt liv som kommer att likna det verkliga livet alls? "Jag tror inte att någon med säkerhet kan säga om detta är möjligt eller inte," säger Kent, delvis för att "vi inte har en god vetenskaplig förståelse av medvetandet."
Trots det går tekniken framåt och dessa frågor förblir öppna. Den svenska filosofen Nick Bostrom från Institutet för människans framtid hävdade att den beräkningskraft som finns för den "posthuman" civilisationen skulle göra det enkelt att simulera varelser som lever i världen och känner det lika verkligt som vi är våra egna. (Bostrom tror också att vi kan leva i en sådan simulering.) Men frågan om hur vi kan befolka sådana världar är "ett verkligt dilemma för framtidens programmerare, forskare och lagstiftare, om än inte så långt ifrån", säger Kent.
Kents scenario kan redan ha verkliga konsekvenser. Argument för verktygsmaksimering och problemet med icke-identitet uppstår i diskussioner om att främja och förebygga mänsklig befruktning. När ska du vägra att bli gravid vid risk, till exempel för att utveckla avvikelser hos ett barn? Ingen av de nya metoderna garanterar fullständig säkerhet och aldrig garanteras, men IVF skulle aldrig göras om det var en förutsättning. En sådan teknik förväntas uppfylla en viss risktröskel. Men den utilitaristiska strategin utmanar denna idé.
Vad händer om en ny reproducerad metod med måttlig risk att utveckla små defekter vid födseln, som födelsemärken? (Detta är ett verkligt argument: Nathaniel Hawthornes berättelse från 1843 berättar om en alkymist som försökte, med dödliga konsekvenser, ta bort märket från sin fru, citerade US Bioethics Council 2002.) Det är svårt att säga att personer som är märkta med en sådan plats kommer att vara sämre än andra och därför inte bör beaktas med metoden. Men var ska linjen dras? När är en födelsedefekt bättre att inte implementeras alls?
Vissa har nämnt detta dilemma i sitt försvar av mänsklig kloning. Kommer faror, som socialt stigma eller förvrängda föräldrars motiv och förväntningar, uppväger fördelarna med att ge liv. Vem ska vi göra valet för den klonade människan? Vem ska vi vara om vi gör detta val innan människan till och med existerar?
Denna typ av resonemang verkar kräva att vi fattar gudliknande beslut. Men en feministisk observatör kanske tror att vi är offer för en version av Frankensteins fantasi. Med andra ord, är detta inte ett gäng män som drömmer om att äntligen börja tillverka människor när kvinnor har gjort detta i århundraden? Känslan av nyhet som leder till alla dessa kontroverser har en patriarkalsk smak.
Trots detta väcker perspektivet på virtuellt medvetande några mycket fräscha och fascinerande etiska frågor - som enligt Kent leder oss till att utmana det intuitiva värdet vi lägger i livet och demografin. Det är oerhört svårt att se ett starkt argument för att ett visst antal olika liv blir moraliskt bättre än samma antal samma. Varför tror vi det? Hur kan vi bli av med fördomar?
Man kan säga att upplevd homogenitet i mänskliga befolkningar försvårar förmågan till empati och etiskt resonemang. Den "ansiktslösa" publiken, som motsätts av individen, är en bekant kliché som väcker en känsla av heroism. Men detta är inte nödvändigtvis korrekt.
Kanske har vi en evolutionär motvilja mot samma individer, särskilt när du tänker på att den genetiska mångfalden i en befolkning säkerställer dess överlevnad? Tänk bara på filmer om identiska tvillingar eller kloner - det ser inte alltid bra ut. Det ser till och med illa ut. 1919 associerade Sigmund Freud denna känsla med idén om en ond dubbel (doppelganger). Och om detta fortfarande är förståeligt för identiska tvillingar, kommer hundra "identiska" karaktärer att se fruktansvärda ut.
Det ser inte ut som om vi kommer att möta arméer av dubbletter när som helst snart, i den verkliga eller virtuella världen. Men värdet av tankeexperiment är att de ger dig ett nytt sätt att känna till världens frågor. Genom att föreställa oss etiken i vår relation med simmar, avslöjar vi skakig eller icke-existerande logik som vi instinktivt använder för att väga det moraliska värdet i våra egna liv.
Ilya Khel
