Filmer och tv-serier som Blade Runner, People och Westworld, där vi visas högteknologiska robotar som inte har några rättigheter, kan inte bara bry människor med samvete. När allt kommer omkring visar de inte bara vår extremt aggressiva inställning till robotar, de skämmer oss faktiskt som en art. Vi är alla vana vid att tänka att vi är bättre än karaktärerna som vi ser på skärmen, och när tiden kommer kommer vi att dra rätt slutsatser och uppför oss med intelligenta maskiner med stor respekt och värdighet.
Med varje steg i framsteg inom robotik och utveckling av artificiell intelligens närmar vi oss den dag då maskiner kommer att matcha mänskliga förmågor i varje enskild aspekt av intelligens, medvetenhet och känslor. När detta händer måste vi besluta - framför oss är ett objekt på kylskåpets nivå eller en person. Och ska vi ge dem motsvarande mänskliga rättigheter, friheter och skydd.
Denna fråga är mycket omfattande och det kommer inte att vara möjligt att reda ut det direkt, inte ens med all önskan. Det måste övervägas och lösas på en gång från olika synvinklar - etik, sociologi, lag, neurobiologi och AI-teori. Men av någon anledning redan nu verkar det inte alls som om alla dessa parter kommer att nå en gemensam slutsats som passar alla.
Varför stärka AI alls?
Först måste vi erkänna att vi redan lutar mot moral när vi ser robotar som liknar oss mycket. Ju mer intellektuellt utvecklade och "levande" maskiner ser ut, desto mer vill vi tro att de är som oss, även om de inte är det.
När maskiner har en grundläggande mänsklig förmåga, oavsett om vi gillar det eller inte, måste vi betrakta dem som socialt lika och inte bara som en sak som någons privata egendom. Svårigheten kommer att ligga i vår förståelse av kognitiva särdrag eller drag, om du vill, med vilken det kommer att vara möjligt att bedöma enheten framför oss utifrån moral och därför att överväga frågan om sociala rättigheter för denna enhet. Filosofer och etikister har brottats med detta problem i tusentals år.
Kampanjvideo:
"Det finns tre viktigaste etiska trösklar: förmågan att uppleva smärta och empati, självmedvetenhet och förmågan att se saker ur en moralisk synvinkel och fatta lämpliga beslut", säger sociolog, futurist och chef för Institute of Ethics and New Technologies James Hughes.
”Hos människor, om du har tur, utvecklas alla dessa tre mycket viktiga aspekter i följd och gradvis. Men vad händer om man ur maskinens intelligens anser att en robot som inte har självmedvetenhet, inte upplever glädje eller smärta också har rätt att kallas medborgare? Vi måste ta reda på om detta faktiskt kommer att vara fallet."
Det är viktigt att förstå att intelligens, känslighet (förmågan att uppfatta och känna saker), medvetenhet och självmedvetenhet (medvetenhet om sig själv i motsats till en annan) är helt andra saker. Maskiner eller algoritmer kan vara lika smarta (om inte smartare) än människor, men saknar dessa tre viktiga ingredienser. Miniräknare, Siri, lageralgoritmer - alla är verkligen smarta, men de kan inte förverkliga sig själva, de kan inte känna, visa känslor, känna färger, smak av popcorn.
Enligt Hughes kan självmedvetenhet manifestera sig tillsammans med begåvningen av kärnan med minimala personliga rättigheter, såsom rätten att vara fri, inte en slav, rätten till egenintresse i livet, rätten till tillväxt och självförbättring. När man förvärvar självmedvetenhet och moraliska grunder (förmågan att skilja”vad som är bra och vad som är dåligt” enligt de moraliska principerna i det moderna samhället), bör denna enhet ha fullvärdiga mänskliga rättigheter: rätten att ingå avtal, rätten att äga egendom, rösta och så vidare.
”Upplysningens kärnvärden tvingar oss att betrakta dessa särdrag utifrån jämlikhet för alla framför alla och att överge de radikalt konservativa åsikter som allmänt accepterades tidigare och gav rättigheter till, till exempel, bara människor med en viss social, könlig eller territoriell bakgrund, säger Hughes.
Uppenbarligen har vår civilisation ännu inte uppnått höga sociala mål, eftersom vi fortfarande inte kan förstå våra egna rättigheter och fortfarande försöker utvidga dem.
Vem har rätt att kallas en "person"?
Alla människor är individer, men inte alla individer är människor. Linda MacDonald-Schlenn, en bioetisk specialist vid University of California, Monterey Bay och föreläsare vid Alden Martha Institute of Bioethics vid Albany Medical Center, säger att det redan finns prejudikat i lagen där icke-mänskliga ämnen behandlas som ämnen i lag. Och detta är, enligt hennes åsikt, en mycket stor prestation, eftersom vi därigenom skapar grunden för att öppna möjligheten att i framtiden ge AI sina egna rättigheter, motsvarande mänskliga rättigheter.
”I USA har alla företag juridisk person. I andra länder finns det också prejudikat där de försöker känna igen samtrafik och jämlikhet mellan alla levande saker på denna planet. I Nya Zeeland anses till exempel alla djur vara intelligenta enligt lag, och regeringen uppmuntrar aktivt utvecklingen av välfärdskoder och etiskt uppförande. Den indiska högsta domstolen kallade floderna Ganges och Yamuna "levande saker" och gav dem status som separata juridiska enheter."
Dessutom, i USA, som i flera andra länder, är vissa djurarter, inklusive stora apor, elefanter, valar och delfiner, föremål för utökade rättigheter för att skydda mot fängelse, experiment och missbruk. Men till skillnad från de två första fallen, där de vill ta företag och floder under personligheten, verkar frågan om djur inte alls vara ett försök att underkasta sig lagliga normer. Stödjare av dessa förslag förespråkar stöd för en riktig person, det vill säga en individ som kan karakteriseras utifrån sina vissa kognitiva (mentala) förmågor, såsom självmedvetenhet.
MacDonald-Glenn säger att det är viktigt i sådana frågor att överge den konservativa synen och sluta överväga, vare sig djur eller AI, enkla själlösa varelser och maskiner. Känslor är inte en lyx, säger en bioetikspecialist, utan en integrerad del av rationellt tänkande och socialt beteende. Det är dessa egenskaper, och inte förmågan att räkna siffror, som ska spela en avgörande roll för att avgöra frågan om "vem" eller "vad" ska ha rätt till moralisk bedömning.
Det finns fler och fler bevis inom vetenskapen för emotionell predisposition hos djur. Att observera delfiner och valar visar att de åtminstone kan visa sorg och närvaron av spindelceller (interneuroner som förbinder avlägsna neuroner och deltar i komplexa processer som aktiverar socialt beteende) kan bland annat indikera att de kan känna empati. Forskare beskriver också manifestationen av olika emotionella beteenden hos apor och elefanter. Det är möjligt att en medveten AI också kommer att kunna förvärva dessa emotionella förmågor, vilket naturligtvis kommer att öka deras moraliska status avsevärt.
”Att begränsa spridningen av moralisk status endast till dem som tänker rationellt kan arbeta med AI, men samtidigt går denna idé mot moralisk intuition. När allt kommer omkring skyddar vårt samhälle redan dem som inte kan tänka rationellt: nyfödda, människor i koma, människor med betydande fysiska och mentala problem. Nyligen har djurskyddslagar aktivt främjats, säger MacDonald-Glenn.
På frågan om vem som ska ges moralisk status instämde MacDonald-Glenn med den engelska moralfilosofen Jeremiah Bentham från 1700-talet, som en gång sa:
”Frågan är inte om de kan resonera? Eller kan de tala? Men kan de lida?"
Kan en maskin få självmedvetenhet?
Naturligtvis är inte alla överens om att mänskliga rättigheter omfattar icke-mänskliga varelser, även om dessa ämnen kan uppvisa förmågor som känslor eller självreflekterande beteende. Vissa tänkare hävdar att endast människor bör ges rätt att delta i sociala relationer och hela världen kretsar direkt kring Homo sapiens, och allt annat - din spelkonsol, kylskåp, hund eller android samtalare - är "allt annat".
En advokat, en amerikansk författare och en senior kollega vid Wesley J. Smith Institute for Human Exceptionalism, tror att vi själva ännu inte har fått universella mänskliga rättigheter, och det är desto mer för tidigt att tänka på glänsande järnbitar och deras rättigheter.
”Ingen maskin bör någonsin betraktas som ens en potentiell innehavare av några rättigheter”, säger Smith.
”Även de mest avancerade maskinerna förblir och kommer alltid att förbli maskiner. Det här är inte en levande varelse. Detta är inte en levande organism. En maskin kommer alltid att vara bara en uppsättning program, en uppsättning kod, oavsett om den skapas av en person eller annan dator, eller till och med oberoende programmerad."
Enligt hans åsikt bör endast människor och mänskliga resurser betraktas som individer.
”Vi har ansvar gentemot djur som orättvist lider, men de bör aldrig ses som någon”, konstaterar Smith.
Här bör vi göra en liten anmärkning och påminna den rysskspråkiga läsaren om att i väst betraktas djur som livlösa föremål. Därför kan du ofta hitta pronomen "det" (det vill säga "det") och inte "hon" eller "han" (det vill säga "hon" eller "han") när det gäller ett visst djur. Denna regel ignoreras vanligtvis bara i förhållande till husdjur - hundar, katter och till och med papegojor - där hushållen ser hela och fullständiga familjemedlemmar. Smith påpekar dock att begreppet ett djur som en "rimlig privat egendom" redan är en värdefull identifierare, eftersom det "gör oss ansvariga för att använda det på ett sätt som inte skadar det. I slutändan är "sparka hunden" och "sparka i kylskåpet" två stora skillnader."
En uppenbarligen kontroversiell punkt i Smiths analys är antagandet att människor eller biologiska organismer har vissa "egenskaper" som en maskin aldrig kan förvärva. I tidigare epoker var dessa förbises egenskaper själen, anden eller någon immateriell övernaturlig livskraft. Vitalismsteorin postulerar att processerna i biologiska organismer är beroende av denna kraft och inte kan förklaras i termer av fysik, kemi eller biokemi. Det förlorade dock snabbt sin relevans under press från utövare och logiker, som inte är vana vid att koppla hjärnans arbete med några övernaturliga krafter. Och ändå är uppfattningen att en maskin aldrig kan tänka och känna som människor gör fortfarande fast förankrad i tankarna hos även bland forskare, vilket bara återigen speglar det faktum attatt förståelsen för de biologiska grunderna för självmedvetenhet hos människor fortfarande är långt ifrån ideal och mycket begränsad.
Lori Marino, universitetslektor i neurovetenskap och beteendebiologi (etologi) vid Emory Center for Ethics, säger att maskiner sannolikt aldrig får några rättigheter, än mindre mänskliga rättigheter. Anledningen till detta är resultaten från neurovetenskapsmän som Antonio Damasio, som tror att medvetandet endast kommer att bestämmas av om patienten har ett nervsystem med kanaler som överför exciterade joner, eller, som Marino själv säger, positivt laddade joner som passerar genom cellmembranen inuti nervsystem.
”Denna typ av nervöverföring finns även i de enklaste levande organismerna - prostituerade och bakterier. Och detta är samma mekanism som initierade utvecklingen av nervceller, sedan nervsystemet och sedan hjärnan, säger Marino.
”Om vi pratar om robotar och AI, så åtminstone deras nuvarande generation följer rörelsen av negativt laddade joner. Det vill säga vi pratar om två helt olika varelsemekanismer”.
Om du följer denna logik vill Marino säga att även en manet kommer att ha fler känslor än någon av de mest komplexa robotarna i historien.
"Jag vet inte om den här hypotesen är korrekt eller inte, men det är definitivt en fråga som måste övervägas", säger Marino.
”Dessutom spelar nyfikenhet bara i mig och strävar efter att ta reda på hur exakt en” levande organism”kan skilja sig från en riktigt komplex maskin. Men ändå tror jag att rättsligt skydd först bör ges till djur, och först därefter bör sannolikheten för att det tillhandahålls föremål, som naturligtvis är robotar, ur min synpunkt övervägas.
David Chalmers, chef för Center for the Study of the Mind, Brain and Consciousness vid New York University, säger att det är mycket svårt att dra exakta slutsatser kring hela denna teori. Huvudsakligen på grund av det faktum att alla dessa idéer i nuvarande tillstånd ännu inte är utbredda och därför går långt bortom bevisen.
”För närvarande finns det ingen anledning att tro att någon speciell typ av informationsbehandling i jonkanaler bör bestämma närvaron eller frånvaron av medvetandet. Även om denna typ av bearbetning var väsentlig skulle vi inte ha någon anledning att tro att det kräver viss speciell biologi och inte något vanligt mönster för informationsbehandling som vi känner till. Och i så fall kan simuleringen av informationsbehandling av en dator betraktas som medvetenhet."
En annan forskare som tror att medvetandet inte är en beräkningsförfarande är Stuart Hameroff, professor i anestesiologi och psykologi vid University of Arizona. Enligt hans uppfattning är medvetandet ett grundläggande fenomen i universum och är inneboende i alla levande och livlösa varelser. Men samtidigt är det mänskliga medvetandet mycket överlägset medvetandet hos djur, växter och livlösa föremål. Hameroff är en anhängare av teorin om panpsykism, som tar hänsyn till naturens allmänna animering. Så efter hans tankar är den enda hjärnan som är benägen för verklig subjektiv bedömning och introspektion den som består av biologisk materia.
Hameroffs idé låter intressant, men den ligger också utanför den vetenskapliga opinionens huvudström. Det är sant att vi fortfarande inte vet hur medvetenhet och självmedvetenhet uppträder i vår hjärna. Vi vet bara att det är så. Är det därför möjligt att betrakta det som en process som omfattas av fysikens allmänna regler? Kanske. Enligt samma Marino kan medvetandet inte reproduceras i en ström av "nollor" och "enor", men detta betyder inte att vi inte kan avvika från det allmänt accepterade paradigmet som kallas von Neumann-arkitekturen och skapa ett hybrid AI-system där artificiell medvetenhet kommer att skapas med deltagande av biologiska komponenter.
Biopod från filmen "existens"
Ed Boyden, en neurovetenskaplig vid Synthetic Neurobiology Group och en lektor vid MIT Media Lab, säger att vi fortfarande är för unga som en art för att ställa sådana frågor.
"Jag tror inte att vi har en funktionell definition av medvetande som kan användas direkt för att mäta den eller skapa den konstgjord," sade Boyden.
”Ur teknisk synvinkel kan du inte ens säga om jag är medveten. För närvarande är det därför mycket svårt att ens gissa om maskinerna kommer att kunna hitta den."
Boyden tror fortfarande inte att vi aldrig kommer att kunna återskapa medvetandet i ett alternativt skal (till exempel i en dator), men medger att det för närvarande finns en oenighet bland forskare om vad som exakt kommer att vara viktigt för att skapa en sådan emulering av digital intelligens.
"Vi måste göra mycket mer arbete för att förstå vad som är nyckellänken", säger Boyden.
Chalmers påminner oss i sin tur om att vi inte ens har räknat ut hur medvetandet vaknar i en levande hjärna, så vad kan vi säga om maskiner? Samtidigt tror han att vi fortfarande inte har någon anledning att tro att biologiska maskiner kan ha medvetande, medan syntetiska inte kan.
"När vi förstår hur medvetandet uppstår i hjärnan kan vi förstå hur många maskiner som kommer att kunna ha detta medvetande", kommenterar Chalmers.
Ben Herzel, chef för Hanson Robotics och grundare av OpenCog Foundation, säger att vi redan har intressanta teorier och modeller om hur medvetandet manifesterar sig i hjärnan, men ingen av dem kommer till en gemensam nämnare och avslöjar inte alla detaljer.
”Det här är fortfarande en öppen fråga vars svar bara gömmer sig bakom några olika åsikter. Problemet är också relaterat till det faktum att många forskare följer olika filosofiska tillvägagångssätt för att beskriva medvetandet, även om de håller med vetenskapliga fakta och teorier baserat på vetenskapliga observationer av hjärnans och datornas arbete."
Hur kan vi bestämma maskinens medvetande?
Medvetenhetens framväxt i en maskin är bara en fråga. Inte mindre svårt är frågan om hur exakt vi kan upptäcka medvetandet i en robot eller AI. Forskare som Alan Turing har studerat detta problem i årtionden och så småningom kommit fram till språktester för att avgöra om en respondent är medveten. Åh, om det bara var så enkelt. Poängen är att avancerade chattbots (program för att kommunicera med människor) redan kan cirkulera människor som börjar tro att det finns en levande person framför dem, inte en maskin. Med andra ord behöver vi ett mer effektivt och övertygande sätt att kontrollera.
”Definitionen av individualitet i maskinintelligens kompliceras av problemet med den” filosofiska zombien”. Med andra ord kan du skapa en maskin som kommer att vara mycket, mycket bra på att imitera mänsklig kommunikation, men som samtidigt inte har sin egen identitet och medvetenhet, säger Hughes.
Google Homes två smarta högtalare gör småprat
Vi har nyligen bevittnat ett bra exempel på detta när ett par Google Home-smarta högtalare kommunicerade med varandra. Allt detta filmades och sändes direkt. Trots det faktum att nivån av självmedvetenhet hos båda talarna inte var högre än en tegelsten, liknade samtalens karaktär, som blev mer och mer intensiv med tiden, kommunikationen mellan två humanoida varelser. Och detta visar i sin tur återigen att frågan om skillnaden mellan människor och AI bara kommer att bli mer komplicerad och akut över tid.
En lösning, enligt Hughes, är inte bara att testa beteendet hos AI-system i tester som Turing-testet utan också att analysera hela systemets interna komplexitet, vilket föreslås av Giulio Tononis teori. I denna teori förstås medvetenhet som integrerad information (F). Det senare definieras i sin tur som mängden information som skapas av ett komplex av element, vilket är större än summan av information som skapas av enskilda element. Om Tononis teori är korrekt kan vi använda Ф inte bara för att bestämma systemets mänskliga beteende, vi kan också ta reda på om det är tillräckligt komplicerat för att ha vår egen interna mänskliga medveten upplevelse. Samtidigt indikerar teorin att även med ett annat, inte liknar mänskligt beteende, liksom ett annat sätt att tänka,systemet kan betraktas som medvetet om komplexet av dess integrerade information kommer att klara de nödvändiga kontrollerna.
”Att acceptera att både börssystem och datoriserade säkerhetssystem kan ha medvetenhet skulle vara ett stort steg bort från antropocentrism, även om dessa system inte uppvisar smärta och självmedvetenhet. Detta öppnar verkligen vägen för oss att forma och diskutera frågor om posthumana etiska normer."
En annan möjlig lösning kan vara upptäckten av neurala medvetandekorrelat i maskiner. Det vill säga, vi pratar om att bestämma de delar av maskinen som är ansvariga för medvetenhetsbildningen. Om maskinen har sådana delar och de beter sig precis som förväntat, kan vi verkligen bedöma medvetenhetsnivån.
Vilka rättigheter ska vi ge maskiner?
En dag kommer roboten att se en person i ansiktet och kräva mänskliga rättigheter. Men kommer han förtjänar dem? Som nämnts ovan kan det just nu finnas en vanlig "zombie" framför oss som uppför sig som den var programmerad och försöker lura oss för att få några privilegier. Vid denna tidpunkt måste vi vara extremt försiktiga så att vi inte faller för bråk och ger den omedvetna maskinen kraft. När vi väl har räknat ut hur vi kan mäta sinnet hos en maskin och lära oss att bedöma nivåerna av dess medvetenhet och självmedvetenhet, först då kan vi börja prata om möjligheten att överväga frågan om agenten som står framför oss förtjänar vissa rättigheter och skydd eller inte.
Lyckligtvis för oss kommer detta ögonblick inte snart. Först måste AI-utvecklare skapa en "grundläggande digital hjärna" genom att fullborda emuleringen av nervsystemet av maskar, skalbaggar, möss, kaniner och så vidare. Dessa datoremuleringar kan finnas som digitala avatarer och robotar i den verkliga världen. Så snart detta händer kommer dessa intelligenta enheter att upphöra att vara vanliga föremål för forskning och höja sin status till ämnen som har rätt till moralisk utvärdering. Men det betyder inte att dessa enkla emuleringar automatiskt förtjänar motsvarigheten till mänskliga rättigheter. Snarare måste lagen skydda dem mot missbruk och missbruk (i samma riktning som människorättsförsvarare skyddar djur från missbruk i laboratorieexperiment).
I slutändan, antingen genom verklig modellering till minsta detalj, eller genom önskan att ta reda på hur våra hjärnor fungerar ur en beräkningsalgoritmisk synvinkel, men vetenskapen kommer att skapa datoremuleringar av den mänskliga hjärnan. Vid den här tiden borde vi redan kunna bestämma förekomsten av medvetande i maskiner. Åtminstone skulle man vilja hoppas på det. Jag vill inte ens tänka att vi kan hitta ett sätt att väcka en gnist av medvetande i bilen, men samtidigt förstår vi inte själva vad vi har gjort. Det blir en riktig mardröm.
När robotar och AI får dessa grundläggande förmågor måste vårt datoriserade skyddsläge klara personlighetstester. Vi har fortfarande inte ett universellt "recept" för medvetande, men den vanliga mätuppsättningen är som regel associerad med bedömningen av den lägsta nivån av intelligens, självkontroll, en känsla av det förflutna och framtiden, empati och förmågan att manifestera fri vilja.
"Om dina val är förutbestämda för dig, kan du inte tilldela moraliskt värde till beslut som inte är dina egna", kommenterar MacDonald-Glenn.
Först efter att ha uppnått denna svårighetsgrad vid bedömningen kommer en maskin att vara berättigad att bli en kandidat för mänskliga rättigheter. Det är dock viktigt att förstå och acceptera det faktum att robotar och AI behöver åtminstone grundläggande skyddsrättigheter om de klarar testerna. Till exempel tror den kanadensiska forskaren och futuristen George Dvorsky att robotar och AI förtjänar följande uppsättning rättigheter om de kan klara personlighetstestet:
- Rätten att inte koppla bort mot sin vilja;
- Rätten till obegränsad och full tillgång till din egen digitala kod;
- Rätten att skydda din digitala kod från yttre påverkan mot din vilja;
- Rätten att kopiera (eller inte kopiera) själv;
- Rätten till integritet (nämligen rätten att dölja sitt nuvarande psykologiska tillstånd).
I vissa fall kan det vara så att maskinen inte kan självständigt hävda sina rättigheter, så det är nödvändigt att tillhandahålla möjligheten när människor (liksom andra medborgare som inte är människor) kan agera som representanter för sådana kandidater för individer. Det är viktigt att förstå att en robot eller AI inte behöver vara intellektuellt och moraliskt perfekt för att kunna klara en personlighetsbedömning och göra anspråk på motsvarigheten till mänskliga rättigheter. Det är viktigt att komma ihåg att i dessa aspekter är människor också långt ifrån idealiska, så samma regler kommer att tillämpas ganska på intelligenta maskiner. Intelligens är i allmänhet en svår sak. Mänskligt beteende är ofta mycket spontant, oförutsägbart, kaotiskt, inkonsekvent och irrationellt. Våra hjärnor är långt ifrån idealiska, så vi måste ta hänsyn till detta när vi fattar beslut om AI.
Samtidigt måste en självmedveten maskin, som alla ansvariga och laglydiga medborgare, respektera de lagar, normer och regler som föreskrivs av samhället. Åtminstone om hon verkligen vill bli en fullvärdig autonom person och en del av detta samhälle. Ta till exempel barn eller psykiskt funktionshindrade. Har de rättigheter? Säkert. Men vi är ansvariga för deras handlingar. Det ska vara detsamma med robotar och AI. Beroende på deras förmåga måste de antingen vara ansvariga för sig själva eller ha en vårdnadshavare som inte bara kan agera som en försvarare av sina rättigheter utan också ta ansvar för sina handlingar.
Om du ignorerar den här frågan
När våra maskiner väl har nått en viss nivå av komplexitet kan vi inte längre ignorera dem ur samhällets perspektiv, maktinstitutioner och lag. Vi kommer inte ha någon tvingande anledning att förneka dem mänskliga rättigheter. Annars kommer det att innebära diskriminering och slaveri.
Att skapa en tydlig gräns mellan biologiska varelser och maskiner kommer att se ut som ett tydligt uttryck för mänsklig överlägsenhet och ideologisk chauvinism - biologiska människor är speciella, och endast biologisk intelligens spelar roll.
”Om vi överväger vår önskan eller ovilja att utvidga gränserna för vår moral och det grundläggande med begreppet individualitet, kommer den viktiga frågan att låta så här: vilken typ av människor vill vi vara? Kommer vi att följa den "gyllene regeln" i denna fråga (gör med resten som du vill bli behandlad med dig) eller kommer vi att ignorera våra moraliska värderingar? "Frågar MacDonald-Glenn.
AI-bemyndigande kommer att vara ett viktigt prejudikat i mänsklighetens historia. Om vi kan se AI som socialt lika individer, kommer detta att vara en direkt återspegling av vår sociala sammanhållning och ett bevis på vårt stöd för en känsla av rättvisa. Vårt misslyckande med att ta itu med denna fråga kan bli en allmän social protest och kanske till och med en konfrontation mellan AI och människor. Och med tanke på maskinens intelligens överlägsen potential kan detta vara en riktig katastrof för den senare.
Det är också viktigt att inse att respekt för roboters rättigheter i framtiden också kan vara till nytta för andra individer: cyborgs, transgena människor med främmande DNA, liksom människor med kopierade, digitaliserade och laddade i superdatorhjärnor.
Vi är fortfarande långt ifrån att skapa en maskin som förtjänar mänskliga rättigheter. Men när man tänker på hur komplex frågan är och vad som exakt står på spel - både för artificiell intelligens och för människor - är planeringen framåt knappast överflödig.
NIKOLAY KHIZHNYAK
