Nästan alla som dyker till och med lite in i ämnet artificiell intelligens kommer till slutsatsen att det antingen leder oss till en eldig apokalyps eller till en magisk utopi. Det finns praktiskt taget inga alternativ mellan. Naturligtvis beror detta delvis på att slagord som "Slutet är nära!" eller "Utopia kommer!" Men ändå…
En del av det handlar om hur människor känner för förändringar, särskilt stora. Millennialism har ingenting att göra med att vara tusenårig, född på 90-talet och komma ihåg TV-serien Buffy the Vampire Slayer. Det är en tänkesätt om framtiden som är förknippad med en djupgående känsla av öde. Millennialism är "förväntningen att världen kommer att förstöras och ersättas av en perfekt värld och att en återlösare kommer att kasta ner det onda och trösta de rättfärdiga."
Tusenåriga övertygelser kopplar följaktligen nära idéerna om förstörelse och skapelse. Bland dem finns idéerna om stora, apokalyptiska, seismiska skift som kommer att förstöra den gamla världens tyg och bygga något helt nytt. Ett liknande trossystem finns i många av världens större religioner, och även i de mindre än ateistiska och agnostiska religionerna som tror på teknik.
Se till exempel hur futurister väntar på en teknologisk singularitet. Enligt Ray Kurzweil är singulariteten skapandet av paradiset. Alla kommer att bli odödliga tack vare bioteknik som läker våra sjukdomar; våra hjärnor kan laddas upp till molnet; ojämlikhet och lidande försvinner som fenomen.”Förstörelse av världen” ersätts av Silicon Valley favoritbegrepp: störningar eller radikala förändringar i branschen. Och som med andra tusenåriga föreställningar beror din slutliga uppfattning på om du väntar på världens ände eller en utopis födelse.
Det finns många goda skäl att vara skeptiska till denna typ av tänkande. Det kanske mest övertygande av dessa är att tusenårsåtgärder helt enkelt återspeglar människors attityder till förändring; titta bara på hur många variationer av dessa övertygelser som har vuxit upp i världen.
Dessa övertygelser finns i aspekter av kristen teologi, även om de blev populära i sin moderna form under 1800- och 1900-talet. Idéer som evig sorg - många års lidande och svårigheter - och bortryckandet, när de rättfärdiga kommer att uppstå och det onda straffas. Efter denna förstörelse kommer världen att skapas på nytt, eller människor kommer till paradiset.
Trots dogmatisk ateism fanns det många liknande tro på marxismen. Den enda frågan är i förhållande till historien. Precis som troende letar efter signaler som antyder att profetian uppfylls, letar marxister efter tecken på att vi befinner oss i kapitalismens sista stadier. De tror att samhället oundvikligen kommer att försämras och försämras till botten - faktiskt, som kristna tror.
Enligt marxismen samlas och störter förtryckaren när de rika utnyttjar de rika ohållbara. "Sorg" ersätts med "revolution". Ibland hyllas revolutionära figurer som Lenin eller Marx själv som messias som för millenniet närmare; deras retorik innehåller oundvikligen uppmaningar till förstörelse av det gamla systemet, på vars ruiner "vi kommer att bygga vårt, vi kommer att bygga en ny värld." De rättfärdiga arbetarna kommer att få sin rätt, och den onda bourgeoisin kommer att förstöras.
Kampanjvideo:
Även i den norska mytologin finns det en del av detta, som James Hughes noterar i sin uppsats i Nick Bostroms bok, Global Catastrophic Risks. I Ragnarok besegras både människor och gudar i den sista apokalyptiska striden, men eftersom allt detta är dystert tillade skandinaverna tanken på ett nytt land där de överlevande kommer att leva i harmoni.
Domedagen har också blivit ett kulturellt spår. Ta de gamla egyptierna och deras tro på efterlivet; underjordens herre Osiris väger hjärtat hos en dödlig tillsammans med en fjäder. Om den avlidnes hjärta är alltför tyngd av överträdelser, kommer demonen att äta det och hoppet om ett efterliv kommer att försvinna.
Kanske kommer något liknande att hända under singulariteten. När vår teknik förbättras, och därför vår styrka, kommer våra hjärtan, människors hjärtan, vägas mot fjädrar. Om de visar sig vara för tunga - med dumhet, arrogans, fördomar, ondska - kommer vi att misslyckas med testet och förstöras. Men om vi går igenom och ut ur singulariteten väntar himlen på oss. Som med andra trossystem finns det inget utrymme för icke-troende; hela samhället kommer att förändras radikalt, oavsett om du gillar det eller inte. Teknologisk beundran.
Det verkar som om varje större utveckling framkallar ett sådant svar. Och kärnvapen också. Antingen blir det det sista halmen och vi kommer att förstöra oss själva, eller så kan kärnenergi användas för att skapa en bättre värld. I de första dagarna av kärnkraftsåldern pratade människor om att elektricitet "var för billigt att räkna med." Forskare som arbetade med bomben trodde ofta att med en sådan destruktiv kraft i mänskliga händer skulle vi helt enkelt behöva samlas och arbeta tillsammans som en art.
När vi ser samma svar om och om igen, under olika omständigheter, framträdande inom olika områden, vare sig det är vetenskap, religion eller politik, måste vi överväga mänsklig partiskhet. Vi älskar tusenårsåtgärderna, så när idén om artificiell intelligens som överträffar mänsklig intelligens dyker upp, inför vi omedelbart ett välkänt mönster.
Vi gillar inte fakta. Vi gillar inte informationen. Vi är inte så rationella som vi tror att vi är. Vi skapar berättelser. Fysiker observerar världen, och vi väver våra egna observationer i berättande teorier, berättelser om små biljardbollar som flyger här och där och kolliderar med varandra, eller om rum och tid som böjer, böjer och expanderar. Historiker försöker ge mening till en oändlig ström av händelser. Vi älskar berättelser: berättelser om vårt förflutna, vår nutid och de förbereder oss också för framtiden.
Tusenårsberättelsen är vacker och övertygande. Han ger dig social förändring. Han kan rättfärdiga ditt dagliga lidande om du sörjer. Han ger dig hopp om att ditt liv är viktigt och meningsfullt. Det ger dig en känsla av att saker utvecklas i en viss riktning, enligt reglerna, och inte bara i kaos. Han lovar att de rättfärdiga kommer att räddas och kättarna straffas, även om det finns lidande på vägen. Slutligen lovar tusenårsberättelsen himlen i slutet av tunneln.
Vi bör vara försiktiga med tusenårsberättelsen när vi tänker på teknisk utveckling, singularitet och existentiella risker. Vi ropade”vargar!” Många gånger när de inte var där. Kanske inte ens nu är världen på randen till en katastrof. Naturligtvis är den här historien inte så attraktiv. Naturligtvis vill alla ha ett förtrollande slut.
Men gräva djupare och du kommer att upptäcka att tusentals tro inte alltid är det mest lovande, eftersom de tar den mänskliga agenten ur ekvationen. Vi måste tro på nyanser av grått och överge den olycksbådande apokalypsen med den röda ögon AI och den fantastiska utopin med den allsmäktiga AI som älskar människor.
Ilya Khel