Nästan alla som har dykt till och med lite in i ämnet artificiell intelligens måste komma till slutsatsen att artificiell intelligens antingen leder oss till en fruktansvärd apokalyps eller direkt till en fantastisk utopi. Och det finns praktiskt taget inga mellanalternativ. Naturligtvis är detta delvis dikterat av det faktum att höga slagord som "Slutet är nära!" eller till exempel "Utopia kommer!" Men ändå…
Det beror delvis på hur människor känner för förändring, särskilt stor förändring. Millennialism har inget att göra med att vara född på 90-talet, vara en "millennial" och komma ihåg serien om vampyrvinnaren Buffy. Det är en tänkesätt om framtiden som är förknippad med en djupgående känsla av öde. Millennialism är "förväntningen att vår värld kommer att förstöras och ersättas med en perfekt värld och att en återlösare kommer att dyka upp som kommer att kasta ner allt ont och kunna trösta de rättfärdiga."
Följaktligen kopplar tron från årtusenden nära idéerna om skapande och förstörelse. Bland dem - idéer om apokalyptiska, enorma, seismiska förändringar som kan förstöra tyget i den gamla världen och bygga något helt nytt. Ett liknande trossystem finns i många större världsreligioner, och även i de inte så mycket agnostiska och ateistiska religionerna, som tror på teknik snarare än på gudomliga essenser.
Tänk till exempel på hur futurister förutspår en teknisk singularitet. Enligt Ray Kurzweil är singulariteten besläktad med skapandet av paradiset. Alla kommer att vara odödliga, för bioteknik kommer att dyka upp som kan läka våra sjukdomar; och våra hjärnor kan laddas upp till molnet; lidande och ojämlikhet försvinner som fenomen.”Förstörelse av världen” ersätts av Silicon Valley favorituttryck: störningar, vilket är en radikal förändring i branschen. Och som är fallet med andra tusenåriga övertygelser, är din slutliga uppfattning mycket beroende av vad du förväntar dig: födelsen av en utopi eller världens ände.
Det finns många mycket goda skäl att vara skeptiska till denna typ av tänkande. Det kanske mest övertygande av dessa skäl är att alla tron från årtusenden helt enkelt återspeglar människors attityder till förändring; se bara hur många variationer av dessa övertygelser som har vuxit i världen.
Dessa övertygelser finns i aspekter av kristen teologi, även om de blev populära i sin moderna form på 1800- och 1900-talet. Idéer som evig sorg, många års svårigheter och lidande och bortryckandet, när de rättfärdiga kommer att återuppstå och det onda kommer att straffas. Efter all denna förstörelse kommer världen att skapas på nytt, eller människor kommer till himlen.
Trots dogmatisk ateism fanns det också många liknande tro på marxismen. Den enda frågan är i förhållande till historien. Precis som troende letar efter signaler som kan leda till att alla profetior uppfylls, letar marxister efter tecken på att vi befinner oss i kapitalismens sista fas. De tror att samhället är förnedrande och kommer oundvikligen att försämras till botten - faktiskt, som kristna också tror.
Som marxismen hävdar, när exploateringen av arbetarklassen av de rika är ohållbar, samlas och störter arbetarklassen förtryckaren. "Sorg" ersätts med "revolution". Ibland hyllas revolutionära figurer som Lenin eller Marx själv som messias som för millenniet närmare; deras retorik innehåller alltid uppmaningar till förstörelse av det gamla systemet, på ruinerna av "vi kommer att bygga vårt, vi kommer att bygga en ny värld." De rättfärdiga arbetarna kommer att få vad de förtjänar, och den onda borgarklassen kommer att förstöras.
Kampanjvideo:
Även i den nordiska mytologin finns det en del av detta, som James Hughes noterade i sin uppsats i Nick Bostroms bok, Global Catastrophic Risks. I Ragnarok besegras både människor och gudar i den sista apokalyptiska striden, men eftersom allt detta är dystert tillade skandinaverna tanken på ett nytt land där de överlevande kommer att leva i harmoni.
Domedagen har också blivit ett kulturellt spår. Ta de gamla egyptierna och deras tro på efterlivet; underjordens herre Osiris väger hjärtat hos en dödlig tillsammans med en fjäder. Om den avlidnes hjärta är alltför tyngd av överträdelser, kommer demonen att äta det och hoppet om ett efterliv kommer att försvinna.
Förmodligen kommer något liknande att hända under singulariteten. När vår teknik förbättras, och därför vår styrka, kommer våra hjärtan, människors hjärtan, vägas mot fjädrar. Om de visar sig vara för tunga - med dumhet, arrogans, fördomar, ondska - kommer vi att misslyckas med testet och förstöras. Men om vi går igenom och ut ur singulariteten väntar himlen på oss. Som med andra trossystem finns det inget utrymme för icke-troende; hela samhället kommer att förändras radikalt, oavsett om du gillar det eller inte. Teknologisk beundran.
Varje större utveckling tycks framkalla ett liknande svar. Och kärnvapen också. Antingen blir det det sista halmen och vi kommer att förstöra oss själva, eller så kan kärnenergi användas för att skapa en bättre värld. I de första dagarna av kärnkraftsåldern pratade människor om att elektricitet "var för billigt att räkna med." Forskare som arbetar med bomben trodde ofta att med en sådan destruktiv kraft i människors händer skulle vi helt enkelt behöva träffas och arbeta tillsammans som en art.
När vi ser samma svar om och om igen, under olika omständigheter, som uppstår inom olika områden, vare sig det är vetenskap, politik eller religion, måste vi överväga mänsklig partiskhet. Vi älskar tusenårsåtgärderna, så när idén om artificiell intelligens som överträffar mänsklig intelligens dyker upp, inför vi omedelbart ett välkänt mönster.
Vi gillar inte fakta. Vi gillar inte informationen. Vi är inte så rationella som vi tror att vi är. Vi skapar berättelser. Fysiker observerar världen, och vi väver våra egna observationer i berättande teorier, berättelser om små biljardbollar som flyger här och där och kolliderar med varandra, eller om rum och tid som böjer, böjer och expanderar. Historiker försöker ge mening till en oändlig ström av händelser. Vi älskar berättelser: berättelser om vårt förflutna, vår nutid och de förbereder oss också för framtiden.
Tusenårsberättelsen är mycket vacker och övertygande. Han ger dig social förändring. Han kan rättfärdiga ditt dagliga lidande om du sörjer. Han ger dig hopp om att ditt liv är viktigt och meningsfullt. Det ger dig en känsla av att saker utvecklas i en viss riktning, enligt reglerna, och inte bara i kaos. Han lovar att de rättfärdiga kommer att räddas och kättarna straffas, även om det finns lidande på vägen. Slutligen lovar tusenårsberättelsen himlen i slutet av tunneln.
Vi måste vara försiktiga med tusenårsberättelsen när vi tänker på teknisk utveckling, singularitet och existentiella risker. Vi ropade”vargar!” Många gånger när de inte var där. Kanske inte ens nu är världen på randen till en katastrof. Naturligtvis är den här historien inte så attraktiv. Naturligtvis vill alla ha ett förtrollande slut.
Men gräva djupare så kommer du att upptäcka att tusentals tro inte alltid är det mest lovande, för de tar den mänskliga agenten ur ekvationen. Vi måste tro på nyanser av grått och överge den olyckliga apokalypsen med den röda ögon AI och den fantastiska utopin med den allsmäktiga AI som älskar människor.