Som AI-forskare konfronteras jag ofta med åsikten att många människor är rädda för AI och vad det kan bli. I själva verket är det inte förvånande om man ser ur människans historiska perspektiv, samtidigt som man uppmärksammar vad underhållningsindustrin matar oss, att människor kan vara rädda för ett cyberuppror som kommer att tvinga oss att leva i isolerade områden och förvandla andra till en "matrixliknande" typ av mänskliga batterier …
Och ändå, för mig, när jag tittar på alla dessa evolutionära datormodeller som jag använder i AI-utveckling, är det svårt att tänka att min ofarliga varelser, rena som ett barns tårar, på min datorskärm en dag kunde förvandlas till monster av en futuristisk dystopi. Kan jag verkligen kallas en "världsskyddare", som Oppenheimer en gång ångrade och sa om sig själv efter att han ledde programmet för att skapa en kärnbombe?
Kanske skulle jag acceptera sådan berömmelse, eller kanske kritikerna på mitt arbete trots allt? Kanske borde jag verkligen sluta undvika frågor om vilken rädsla jag har för AI som AI-expert?
Rädsla för oförutsägbarhet
HAL 9000-datorn, en dröm som går i uppfyllelse för science fictionförfattaren Arthur Charles Clarke och väckt liv av filmskaparen Stanley Kubrick under 2001 A Space Odyssey, är ett utmärkt exempel på ett system som kraschade på grund av oförutsedda omständigheter.
I många komplexa system - Titanic, NASA-rymdfärjan och kärnkraftverket i Tjernobyl - var ingenjörerna tvungna att kombinera många komponenter. Kanske var arkitekterna för dessa system väl medvetna om hur var och en av dess element fungerade individuellt, men de förstod inte tillräckligt väl hur alla dessa komponenter skulle fungera tillsammans.
Kampanjvideo:
Resultatet var system som aldrig helt förstås av sina egna skapare, vilket ledde till välkända konsekvenser. I båda fallen sjönk fartyget, två skyttlar exploderade, och nästan hela Europa och delar av Asien stod inför problemet med radioaktiv förorening - en uppsättning relativt små problem, men som sammanfaller inträffade samtidigt, skapade en katastrofisk effekt.
Jag kan perfekt föreställa mig hur vi, skaparna av AI, kan nå fram till liknande resultat. Vi tar den senaste utvecklingen och forskningen inom kognitiv vetenskap (tänkande-vetenskapen), översätter dem till datoralgoritmer och lägger till allt detta till befintliga system. Vi försöker utveckla AI utan att helt förstå vår egen intelligens och medvetande.
System som IBMs Watson eller Googles Alpha är konstgjorda neurala nätverk med imponerande beräkningskraft och förmågan att ta itu med riktigt komplexa uppgifter. Men för tillfället är det enda som ett fel i deras arbete leder till, resultatet av en förlust i det intellektuella spelet "Jeopardy!" eller en missad möjlighet att besegra ännu ett världens bästa logiska brädspel Go.
Dessa konsekvenser är inte globala. Faktum är att det värsta som kan hända med människor i detta fall är att någon tappar en del pengar i satsningarna.
Men AI-arkitektur blir mer komplex och datorprocesser blir snabbare. AI-kapaciteten kommer bara att öka med tiden. Och redan nu kommer detta att leda till att vi börjar tilldela AI ett mer och mer ansvar, även om de ökande riskerna för oförutsedda omständigheter.
Vi är väl medvetna om att "misstag är en del av människans natur", därför kommer det helt enkelt vara fysiskt omöjligt för oss att skapa ett verkligt säkert system i allt.
Rädsla för missbruk
Jag är inte riktigt orolig för konsekvenserna i AI: s arbete som jag utvecklar med den så kallade neuroevolution-metoden. Jag skapar virtuella miljöer och fyller dem med digitala varelser och ger deras hjärnor kommandon för att lösa problem med ökande komplexitet.
Med tiden ökar och utvecklas effektiviteten för att lösa problem från dessa varelser. De som gör det bästa jobbet väljs för reproduktion och skapar en ny generation på grundval av dem. Under generationerna utvecklar dessa digitala varelser kognitiva förmågor.
Till exempel, just nu tar vi de första stegen i att utveckla maskiner till nivån för att utföra enkla navigationsuppgifter, fatta enkla beslut eller memorera ett par informationsbitar. Men snart kommer vi att se utvecklingen av maskiner som kan utföra mer komplexa uppgifter och ha en mycket effektivare övergripande intelligensnivå. Vårt ultimata mål är att skapa intelligens på mänsklig nivå.
Under denna utveckling kommer vi att försöka hitta och fixa alla buggar och problem. Med varje ny generation kommer maskinerna att bli bättre på att hantera fel än de tidigare. Detta kommer att öka chansen att vi kan identifiera alla oförutsägbara konsekvenser i simuleringar och eliminera dem redan innan de kan realiseras i den verkliga världen.
En annan möjlighet som den evolutionära utvecklingsmetoden ger är att förse konstgjord intelligens med etik. Det är troligt att sådana etiska och moraliska egenskaper hos en person som tillförlitlighet och altruism är resultatet av vår utveckling och en faktor i dess fortsättning.
Vi kan skapa en byggd miljö och stärka maskiner för att visa vänlighet, ärlighet och empati. Detta kan vara ett sätt att se till att vi utvecklar mer lydiga tjänare än hänsynslösa mördningsrobotar. Men även om neuroevolution kan minska nivån av oavsiktliga konsekvenser i AI-beteende kan det inte förhindra missbruk av artificiell intelligens.
Som forskare måste jag leva upp till mitt engagemang för sanning och rapportera vad jag upptäckte genom mina experiment, oavsett om jag gillar resultaten eller inte. Mitt jobb är inte att bestämma vad jag gillar och vad jag inte gör. Det enda viktiga är att jag kan offentliggöra mitt arbete.
Rädsla för fel sociala prioriteringar
Att vara vetenskapsman betyder inte att du tappar din mänsklighet. Jag måste åter ansluta med mina förhoppningar och rädsla på någon nivå. Som en moraliskt och politiskt motiverad individ måste jag beakta de potentiella konsekvenserna av mitt arbete och dess möjliga effekt på samhället.
Som forskare och som företrädare för samhället har vi fortfarande inte fått en klar uppfattning om vad vi exakt vill få från AI och vad det så småningom skulle bli. Detta beror naturligtvis delvis på att vi fortfarande inte helt förstår dess potential. Men ändå måste vi tydligt förstå och bestämma vad vi vill få från verkligt avancerad konstgjord intelligens.
Ett av de största områdena som människor tar upp när de pratar om AI är sysselsättning. Roboter gör redan komplexa fysiska arbeten för oss, till exempel att montera och svetsa bildelar i bildelar. Men en dag kommer dagen då robotar kommer att tilldelas att utföra kognitiva uppgifter, det vill säga de kommer att anförtros det som tidigare ansågs vara en exklusiv unik förmåga hos personen själv. Självkörande bilar kan ersätta taxichaufförer; självkörande flygplan behöver inte piloter.
Istället för att få medicinsk vård i akutrum fyllda med alltid trött personal och läkare, kommer patienter att kunna utföra undersökningar och lära sig diagnoser med hjälp av expertsystem med omedelbar tillgång till all medicinsk kunskap. Kirurgiska operationer kommer att utföras av robotar som inte är mottagliga för trötthet med en perfekt "tränad hand".
Juridisk rådgivning kommer att finnas tillgänglig från en omfattande juridisk ram. För investeringsrådgivning vänder vi oss till expertprognossystem för marknaden. Kanske en dag kommer allt mänskligt arbete att utföras med maskiner. Till och med mitt arbete kan göras snabbare genom att använda ett stort antal maskiner obevekligt undersöka hur man gör maskiner smartare.
I verkligheten i vårt nuvarande samhälle tvingar automatisering redan människor att lämna sina jobb, vilket gör de rika ägarna till sådana automatiserade maskiner ännu rikare och resten ännu fattigare. Men detta är inte ett vetenskapligt problem. Detta är ett politiskt och socioekonomiskt problem som samhället själv måste lösa.
Min forskning kommer inte att förändra det, men mina politiska grunder, tillsammans med mänskligheten, kan leda till omständigheter där AI kan bli en oerhört användbar funktion istället för att utvidga klyftan mellan en procent av världens elit och resten av oss.
Rädsla för ett katastrofalt scenario
Vi har kommit till den slutliga rädsla som ålagts oss av den galna HAL 9000, Terminator och annan skurklig superintelligens. Om AI fortsätter att utvecklas tills den överträffar mänsklig intelligens, skulle ett artificiellt superintelligent system (eller en samling av sådana system) betrakta människor som ett värdelöst material? Hur kan vi motivera vår existens inför en superintelligens som kan göra och skapa det som ingen annan kan? Kommer vi att kunna undvika ödet med att torkas bort från jorden av de maskiner som vi hjälpte till att skapa?
Därför kommer den viktigaste frågan under sådana omständigheter att låta så här: varför behöver konstgjord superintelligens oss?
Om en sådan situation hade hänt skulle jag förmodligen säga att jag är en bra person som till och med bidrog till skapandet av denna superintelligens, som jag står inför nu. Jag skulle vädja till hans medkänsla och empati, så att superintelligensen kommer att lämna mig, så medkännande och empatisk, levande. Jag skulle också tillägga att artsmångfalden i sig har värde och universum är så stort att människans art i den faktiskt är ganska obetydlig.
Men jag kan inte tala för hela mänskligheten, så det kommer att vara svårt för mig att hitta ett giltigt argument för oss alla. Det är bara det att när jag tittar på oss alla ser jag verkligen att vi har gjort mycket och gör mycket fel. Hat mot varandra härskar i världen. Vi går i krig mot varandra. Vi fördelar mat, kunskap och vård orättvist. Vi förorenar planeten. I den här världen finns det naturligtvis många bra saker, men om du tittar på alla dåliga saker som vi har skapat och fortsätter att skapa, kommer det att vara mycket svårt att hitta ett argument som stöder vår fortsatta existens.
Lyckligtvis behöver vi inte motivera vår existens ännu. Vi har fortfarande tid. Från 50 till 250 år, beroende på hur snabbt artificiell intelligens utvecklas. Vi som art har förmågan att träffas och hitta ett bra svar på frågan om varför superintelligens inte ska torka oss från planeten.
Det kommer att vara mycket svårt att lösa det här problemet. Att säga att vi stöder mångfald och etnokulturella skillnader och att göra det är ju helt andra saker. Hur man säger att vi vill rädda planeten och lyckas hantera den.
Alla av oss, vare sig det är varje individ eller samhälle i sin helhet, måste förbereda oss för ett katastrofalt scenario och använda den tiden för att vara redo att visa och bevisa varför våra skapelser bör låta oss fortsätta att existera. Eller så kan vi helt enkelt fortsätta att blint tro att en sådan utveckling av händelser är omöjlig och helt enkelt sluta prata om detta ämne.
Oavsett vilken fysisk fara superintelligens kan utgöra för oss, bör vi inte glömma att det också kommer att utgöra en politisk och ekonomisk fara. Om vi inte hittar ett sätt att förbättra vår levnadsstandard kommer vi helt enkelt att driva kapitalismen med en konstgjord intelligensarbetare som bara kommer att tjäna vissa utvalda som har alla produktionsmedel.
Denna artikel publicerades ursprungligen på theconversation.com av Arend Hintze, docent vid Institutionen för integrativ biologi, datavetenskap och teknik, University of Michigan
Nikolay Khizhnyak
