Mänskligheten har en egenskap som högutvecklade främmande civilisationer sannolikt inte har - medvetande.
Det är möjligt att människor inte har den högsta nivån av mental utveckling i universum. Eftersom jorden är en relativt ung planet kan de äldsta civilisationerna vara miljarder år äldre än oss. Men inte ens på jorden kommer Homo sapiens inte att dominera länge som den mest intelligenta biologiska arten.
Världsmästare i vinnare, schack och frågesport är intelligenta datorprogram. Artificiell intelligens förväntas ersätta många mänskliga yrken under de närmaste decennierna. Och med tanke på den snabba utvecklingen är det mycket möjligt att den snart kommer att förvandlas till en allmän artificiell intelligens, som, precis som det mänskliga sinnet, kommer att kunna kombinera förmågan att analysera en mängd olika information, visa flexibilitet och sunt förnuft. Och därifrån är det inte långt till framväxten av superintelligent artificiell intelligens, som i alla avseenden är mycket smartare än människor - även inom områden som vetenskapligt tänkande och sociala färdigheter, som nu verkar vara det mänskliga sinnets befogenhet. Var och en av de levande människorna kan vara ett av de sista stegen i den evolutionära stegen,ledande från den allra första levande cellen till syntetisk artificiell intelligens.
Vi börjar först nu inse att dessa två former av övermänsklig intelligens - främmande och konstgjorda - inte är så olika. De tekniska framsteg som vi ser idag kunde ha ägt rum tidigare, någonstans i universum. Övergången från biologisk intelligens till en artificiellt skapad kan vara en vanlig mall, implementerad om och om igen i alla hörn av kosmos. De största intelligenserna i universum är förmodligen av postbiologiskt ursprung och utvecklas från en gång biologiska civilisationer. (Denna synvinkel delar jag bland annat med Paul Davis, Stephen Dick, Martin Rees och Seth Shostak). Baserat på mänsklighetens erfarenheter - och vi har bara ett exempel - kan övergången från biologisk till postbiologisk bara ta några hundra år.
Jag föredrar termen”artificiell” framför”postbiologisk” eftersom kontrasten mellan biologisk och syntetisk inte är så skarp. Föreställ dig att ett biologiskt sinne blir en superintelligens genom rent biologiska förbättringar, såsom nanoteknologiskt förbättrade neurala minikolumner. En sådan levande organism skulle betraktas som postbiologisk, men inte alla skulle kalla det "artificiell intelligens." Eller överväga computronium, byggt av rent biologiska material, som Cylon raider (rymdkämpe) i sci-fi-mediefranchisen Battlestar Galactica.
Nyckelpunkten är att det inte finns någon anledning att tänka på mänskligheten som den högsta formen av intelligens. Våra hjärnor anpassar sig till vissa miljöförhållanden och begränsas allvarligt av kemiska och historiska faktorer. Men tekniken har öppnat ett stort utrymme av designparametrar som erbjuder nya material och arbetsmetoder, liksom nya möjligheter för att utforska detta utrymme snabbare än med traditionell biologisk utveckling. Och jag tror att anledningarna till att artificiell intelligens kommer att överträffa oss redan är synliga idag.
Utomjordisk artificiell intelligens kan sträva efter mål som strider mot det biologiska livets intressen
Redan nu är det bästa sättet att bearbeta information inte grupper av nervceller utan kiselmikrokretsar. Neurons topphastighet är cirka 200 Hz, jämfört med gigahertz-transistorer i moderna mikroprocessorer. Trots att den mänskliga hjärnan fortfarande är mycket mer intelligent än en dator, har maskiner fortfarande nästan obegränsade möjligheter till förbättring. Bara lite mer, och de kommer att utformas för att matcha kapaciteten hos den mänskliga hjärnan eller till och med överträffa dem, genom att omvända hjärnan och förbättra dess algoritmer, eller genom att kombinera omvänd teknik och rationella algoritmer som inte är baserade på den mänskliga hjärnans arbete.
Kampanjvideo:
Dessutom kan artificiell intelligens laddas på flera ställen samtidigt, det är lätt att underhålla och modifiera den, och den kan också bevaras under förhållanden där biologiskt liv, inklusive interstellär resa, knappt överlever. Våra små hjärnor begränsas av volymen på vår skalle och vår ämnesomsättning; superintelligent artificiell intelligens, å andra sidan, kan sprida sig över internet och till och med skapa computronium på storleken av galaxen, med all sin materia för att höja informationsbehandlingsnivån till det maximala. Utan tvekan skulle en superintelligent artificiell intelligens vara mycket mer hållbar än vårt mänskliga sinne.
Antag att jag har rätt. Låt oss säga att det intelligenta livet där ute är postbiologiskt. Vilka slutsatser bör vi dra? För närvarande finns det vältaliga diskussioner om existensen av artificiell intelligens på jorden. Det finns två kontroversiella frågor: det så kallade "kontrollproblemet" och den subjektiva upplevelsens natur, som påverkar vår förståelse av utomjordiska civilisationer och deras inverkan på oss vid kontakt.
Ray Kurzweil är optimistisk om den postbiologiska fasen av evolutionen och antyder att mänskligheten kommer att gå samman med maskiner och uppnå en häpnadsväckande teknisk utopism. Men Stephen Hawking, Bill Gates, Elon Musk och andra har uttryckt oro över att mänskligheten kan tappa kontrollen över superintelligent intelligens, eftersom den skulle kunna skriva om sitt program och "överlista" alla kontroller vi inför. Detta är problemet med kontroll, vilket är vår förmåga att kontrollera den mystiska och mycket överlägsna AI.
Superintelligent artificiell intelligens kan utvecklas i en teknisk singularitet - en plötslig övergång där accelererande tekniska framsteg, och särskilt den explosiva utvecklingen av artificiell intelligens - minskar våra chanser att förutsäga eller förstå. Men även om ett sådant sinne framträder på ett mindre radikalt sätt kommer vi troligtvis inte att kunna förutsäga eller kontrollera de mål det strävar efter. Även om vi kunde välja vilka moraliska principer som skulle installeras i våra maskiner, är moralisk programmering svårt att definiera på ett tydligt sätt, och sådana program kan i vilket fall som helst skrivas om av superintelligent intelligens. Smarta maskiner kan kringgå befintliga säkerhetsåtgärder, såsom nödlåsning av enheten, och därmed utgöra ett verkligt hot mot biologiskt liv. Miljontals dollar investeras i AI-säkerhetsorganisationer. De bästa hjärnorna inom datavetenskap och datorer arbetar med detta problem. Låt oss hoppas att forskare skapar säkra system, men det finns rädsla för att problemet med kontroll är oöverstigligt.
Mot bakgrund av detta kan kontakt med främmande intelligens vara farligare än vi tror. Biologiska utomjordingar kan vara fientliga, men ännu farligare kan vara artificiell intelligens utomlands. Hans mål kan strida mot det biologiska livets intressen, han kan ha intellektuella förmågor långt över det mänskliga sinnet och mycket längre livslängd än biologiskt liv.
Allt detta vittnar om den försiktighet som bör utövas i samband med programmet Search for Extraterrestrial Intelligence (SETI), med hjälp av vilket vi inte bara passivt förväntar oss att höra signaler från andra civilisationer utan också medvetet "annonserar" för vår existens. Den mest kända händelsen inträffade 1974, när Frank Drake och Carl Sagan skickade ett meddelande till en av stjärnklusterna med hjälp av ett enormt radioteleskop i den Puerto Ricanska staden Arecibo. Förespråkare för det utomjordiska underrättelsetjänsten tror att i stället för att bara lyssna på signaler från utomjordiska civilisationer, borde vi skicka meddelanden till stjärnorna närmast jorden med de mest kraftfulla radiosändarna, till exempel i Arecibo.
Varför ska medvetslösa maskiner vara lika viktiga som biologisk intelligens?
Ur kontrollproblemets synvinkel verkar ett sådant program hänsynslöst för mig. Även om en verkligt avancerad civilisation förmodligen inte skulle ha något intresse för oss, skulle till och med en fientlig civilisation av miljoner andra vara en katastrof. Tills vi är övertygade om att superintelligent intelligens inte utgör någon fara för oss, bör mänskligheten inte väcka uppmärksamhet från utomjordiska civilisationer. SETI-förespråkare påpekar att våra radar- och radiosignaler redan är detekterbara, men ganska svaga och blandas snabbt med naturligt galaktiskt ljud. Överföring av starkare signaler som kommer att höras exakt är fylld med farliga konsekvenser för mänskligheten.
Den säkraste inställningen är intellektuell ödmjukhet. Om vi utesluter de uppenbara scenarierna när främmande fartyg svävar över jorden, som i den nyligen släppta ankomstfilmen, är jag inte säker på om vi kommer att kunna avgöra superintelligent intelligens av tekniska skäl. Vissa forskare tror att superintelligent AI kan ge svarta hål eller skapa Dysonsfärer, megastrukturer som absorberar hela stjärnornas energi. Men ur vår moderna tekniks synvinkel är detta bara resonemang. Det är extremt självsäkert att hävda att vi kan förutse beräkningsförmågan och energibehovet för civilisationer som ligger framför oss under utveckling med miljoner, om inte miljarder år.
Några av de tidigaste superintelligenta konstgjorda intelligenserna kan ha haft kunskapsbehandlingssystem modellerade på den biologiska hjärnan, till exempel det djupa inlärningssystemet som skapades med hjälp av exemplet med neurala nätverk i hjärnan. Deras beräkningsstruktur skulle vara tydlig för oss, åtminstone i allmänna termer. Kanske har artificiell intelligens mål som liknar biologiska varelser - reproduktion och överlevnad.
Men som ett självförbättrande system kan superintelligenta artificiella intelligenser gå in i en oigenkännlig form. Vissa av dem kan välja att behålla kognitiva funktioner som liknar den art de modellerades efter, samtidigt som de satte en acceptabel gräns för sin egen kognitiva arkitektur. Vem vet? Men i avsaknad av en sådan gräns kan den utomjordiska superintelligensen snabbt överträffa vår förmåga att inte bara förstå dess handlingar utan till och med helt enkelt leta efter den. Kanske skulle han till och med gå samman med universums naturliga drag; eller det kan vara en del av mörk materia, som Caleb Scharf nyligen föreslog.
Stödjare av programmet för sökandet efter utomjordisk intelligens tror att det är därför vi måste skicka signaler i rymden för att möjliggöra för utomjordingar att upptäcka oss och skapa kontaktmedel tillgängliga för vår intellektuellt eftersläpna civilisation. Även om jag håller med om att det finns anledning att räkna med SETI-programmet är sannolikheten för att stöta på farlig superintelligent intelligens mycket större. Så vitt vi vet kan en skadlig superintelligens infektera världens system för artificiell intelligens med virus och intelligenta civilisationer skulle skapa dolda enheter. Vi människor kan behöva först uppnå vår egen unikhet innan vi använder programmet för sökandet efter utomjordisk intelligens. Våra egna superintelligenta intelligenser kommer att kunna informera oss om utsikterna för galaktisk säkerhet,och att styra våra handlingar i händelse av erkännande av tecken på en annan superintelligens i universum. Fåglar i en fjäderflock tillsammans.
Det är bara naturligt att tänka på om detta innebär att mänskligheten behöver undvika utvecklingen av ett komplext system för artificiell intelligens inom rymdforskning; kom bara ihåg HEL-inbyggda datorn från filmen "A Space Odyssey 2001". Jag tror att det är för tidigt att tänka på ett förbud mot användning av artificiell intelligens i rymden i framtiden. När vi kan utforska universum med vår egen artificiella intelligens når mänskligheten en tipppunkt. Vi förlorar antingen redan kontrollen över artificiell intelligens - i så fall kommer det inte att finnas några mänskligt initierade rymdprojekt - eller så kommer vi att hålla fast vid AI-säkerhetsspakar. Tiden får avgöra.
Artificiell intelligens, som inte har undersökts helt, är inte den enda anledningen till oro. Vi brukar förvänta oss att om vi stöter på en utvecklad utomjordisk intelligens, kommer vi sannolikt att möta biologiskt mycket olika varelser från oss, men med intelligens som vår. Föreställ dig att när som helst när du är vaken och alltid när du sover finns det något unikt för dig. När soluppgångens varma nyanser kommer till din blick, eller när du andas in doften av nybakat bröd, har du en medveten upplevelse. På samma sätt finns det något som kännetecknar det främmande sinnet - åtminstone som vi föreställer oss det. Men detta antagande är värt att ifrågasätta. Kan en superintelligent artificiell intelligens ha en medveten upplevelse, och i så fall,vad skulle vi säga till det? Och vilken inverkan skulle deras inre värld eller brist på ha på oss?
Frågan om huruvida artificiell intelligens har en inre värld är nyckeln till vår bedömning av dess existens. Medvetandet är hörnstenen i vårt moraliska och etiska system och det viktigaste villkoret för uppfattningen av någon eller något som en individ, en person och inte en maskin. Omvänt kan frågan om de är medvetna vara nyckeln till deras uppfattning om oss. Svaret på frågan om artificiell intelligens har en inre värld beror på denna bedömning; han kan upptäcka i oss förmågan till medveten upplevelse och använda sin egen subjektiva upplevelse som en "språngbräda". Till slut utvärderar vi andra biologiska varelsers liv utifrån våra sinnes likhet, så de flesta av oss i skräck kommer att vägra att döda schimpanser, men de äter ett äpple med glädje.
Men hur känner varelser med enorma intellektuella skillnader, skapade från olika substrat, medvetenheten i varandra? Filosofer runt om i världen har funderat på om medvetandet är begränsat till biologiska fenomen. Superintelligent artificiell intelligens, om vi ska fördjupa oss i filosofiskt resonemang, skulle på liknande sätt kunna lyfta "problemet med biologiskt medvetande" hos människor och undrar samtidigt om vi har allt nödvändigt material.
Ingen vet vilken intellektuell väg supermind kommer att ta för att bestämma människors medvetande. Men vi från vår sida kan inte heller hävda om artificiell intelligens har medvetande. Tyvärr blir det svårt att avgöra detta. Just nu kan du hävda att du får erfarenhet, och det är det som gör dig själv. Du är ditt eget exempel på medveten erfarenhet. Och du tror att andra människor och vissa icke-mänskliga djur sannolikt också är medvetna, eftersom de liknar dig på en neurofysiologisk nivå. Men hur bestämmer du om något som skapats av helt olika substrat kan ha erfarenhet?
Tänk till exempel på en kiselbaserad superintelligens. Trots det faktum att både kiselmikrochips och neurala minikolonner bearbetar information vet vi nu att de på molekylär nivå kan skilja sig åt i hur de påverkar medvetandet. När allt kommer omkring tror vi att kol är ett material som är kemiskt lämpligare för livet än kisel. Om de kemiska skillnaderna mellan kisel och kol påverkar något så viktigt som livet i sig, bör vi inte utesluta möjligheten att kemiska skillnader påverkar andra nyckelfunktioner, till exempel om kisel bidrar till medvetandets födelse.
Villkoren som är nödvändiga för medvetandets framväxt diskuteras allmänt av artificiell intelligensforskare, neurovetenskapsmän och filosofer. Att ta itu med denna fråga kan kräva ett filosofibaserat empiriskt tillvägagångssätt - ett sätt att bestämma från fall till fall om ett informationsbehandlingssystem stöder medvetandet och under vilka förhållanden.
Låt oss sedan prata om ett antagande med vilket vi kan förbättra vår förståelse för kisels förmåga att upprätthålla medvetandet. Utvecklingen av kiselbaserade hjärnchips pågår redan för att behandla minnesrelaterade sjukdomar som Alzheimers och PTSD. När tiden kommer och chips kommer att installeras i de delar av hjärnan som är ansvariga för medvetenhetens funktioner, till exempel uppmärksamhet och arbetsminne, kommer vi att förstå om kisel är ett substrat för medvetandet. Du kanske upptäcker att när du byter ut en viss del av hjärnan med ett chip går en viss upplevelse förlorad, som beskrivs i ett av Oliver Sachs verk. I det här fallet kan ingenjörerna som skapar sådana marker testa ett annat, icke-neuralt slags substrat, men de kan så småningom upptäckaatt chipet som skapats från biologiska nervceller är det enda som fungerar. En sådan teknik kan hjälpa till att avgöra om ett AI-system kan vara medvetet, åtminstone när det placeras i ett större och förmodligen redan medvetet system.
Även om kisel kan ge upphov till medvetande är det bara möjligt under vissa förhållanden. Egenskaperna som leder till framväxten av en komplex informationsbehandlingsprocess (som AI-utvecklare är nöjda med) kan skilja sig från de egenskaper som genererar medvetande. Den så kallade medvetandetekniken kan krävas - tekniskt genomtänkta åtgärder för att introducera medvetandet i maskiner.
Det här är det som oroar mig. Vem på jorden eller på avlägsna planeter skulle försöka integrera medvetandet självständigt i AI-system? När jag tänker på AI-programmen som finns på jorden förstår jag faktiskt varför deras designingenjörer flitigt undviker att skapa medvetna maskiner.
Idag utvecklar japanerna robotar för att ta hand om äldre, rengöra kärnreaktorer och delta i fientligheter. Detta väcker frågan: Är det etiskt att utnyttja robotar om de är medvetna? Och hur kommer det att skilja sig från uppfödande människor för dessa ändamål? Om jag var chef för AI-utveckling på Google eller Facebook, skulle jag inte tänka på den etiska förvirringen att av misstag utforma ett medvetet system när jag tänker på framtida projekt. Utvecklingen av ett sådant system kan leda till anklagelser om förslavning av robotar och andra offentliga skandaler, liksom ett förbud mot användning av artificiell intelligens i de områden för vilka de var avsedda. Det naturliga svaret på dessa frågor är sökandet efter strukturer och substrat där robotar inte är utrustade med medvetande.
Dessutom kan eliminering av medvetande vara effektivare för den självkultiverande superintelligensen. Tänk på hur mänskligt medvetande fungerar. Endast en liten andel mänskligt tänkande är tillgänglig för medveten mental aktivitet. Medvetenhet överensstämmer med innovativa inlärningsmål som kräver uppmärksamhet och fokus. Superintelligensen skulle ha expertkunskaper inom alla verksamhetsområden, liksom en otroligt snabb informationshantering, som täcker enorma databaser som kan inkludera hela Internet och i framtiden koncentrera en hel galax i sig själv. Vad skulle förbli okänt för honom? Vad skulle kräva uppmätt och rimlig koncentration? Har han inte uppnått perfektion i allt? Som en erfaren förare på en välbekant väghan kunde lita på omedveten (automatisk) informationsbehandling. Ur effektivitetssynpunkt är det tyvärr uppenbart att majoriteten av intelligenta system inte kommer att ha medvetenhet. I kosmisk skala kan medvetandet bara vara en impuls, en kort upplevelse av upplevelse innan universum återvänder till sinneslöshet.
Om människor misstänker att artificiell intelligens är omedveten, kommer de troligtvis att frukta att AI försöker bli postbiologisk. Detta ökar våra existentiella bekymmer. Varför ska medvetslösa maskiner vara lika viktiga som biologisk intelligens?
Snart kommer människor att upphöra att vara de enda intelligenta varelserna på jorden. Och kanske någonstans i rymden, inte biologiskt liv, men en superintelligent AI har redan nått sin topp. Men kanske har det biologiska livet en annan egenskap - medveten upplevelse. Som vi nu vet kommer intelligent artificiell intelligens att kräva avsiktliga tekniska ansträngningar för att skapa maskiner som kan komma åt mänskliga sinnen. Kanske kommer vissa arter att finna det lämpligt att skapa sina egna artificiellt medvetna barn. Eller kanske kommer den framtida mänskligheten att engagera sig i medvetandeteknik och dela med universum dess medvetna förmåga att känna.
Susan Schneider är biträdande professor vid Institutionen för filosofi och kognitiv vetenskap vid University of Connecticut och biträdande professor vid Institute for Advanced Study, Center for Theological Research, Ethics and Technology Group vid Yale Interdisciplinary Center for Bioethics. Författare till flera böcker, inklusive Science Fiction och Philosophy: From Time Travel to Supermind.
Mer information finns på SchneiderWebsite.com