Föreställ dig den villigaste, mest onda, cyniska och listiga världsledaren. Föreställ dig nu att den här personen inte är en person utan ett nätverk med miljontals datorer runt om i världen. Och denna digitala diktator har direkt tillgång till även den minsta dokumenterade informationen om varje person som bor eller någonsin har bott på jorden. Och den kan också utföra miljontals beräkningar på en sekund, kontrollera världsekonomin, alla datoriserade beväpnade system och, värst av allt, har odödlighet i en eller annan form.
Framväxten av en sådan otrolig digital diktator, enligt grundaren av Tesla och SpaceX Elon Musk, är ett av de mörkaste möjliga scenarierna för mänsklighetens framtid, om utvecklingen av konstgjord intelligens fortsätter utan seriöst tillsyn.
"Det är helt tydligt att vi snabbt går mot framväxten av digital superintelligens som kommer att överträffa varje människa," sade Elon Musk i den nya dokumentären Förlitar du den här datorn? ("Tror du på den här datorn?") Regisserad av Chris Payne, som också regisserade dokumentären "Vem dödade elbilen?" ("Vem dödade elbilen?").
"Om ett företag eller en liten grupp människor kan skapa en gudliknande digital superintelligens, kommer det att ta över världen."
Mänsklig historia innehåller många exempel på individer som försökte erövra hela världen på en gång. Alexander den store, Charlemagne, Napoleon, Hitler är bara några av namnen på denna lista. Men enligt Musk kommer en auktoritär konstgjord intelligens att ha en fruktansvärd fördel över alla dessa människor.
”Alla, även de mest onda och motbjudande diktatorerna, förenades av en sak - de var dödliga. Men för AI kommer det inte att finnas något som döden alls. Han kommer att kunna existera för evigt. Människor kommer inte ha någonstans att gömma sig för sådan ondska,”sade Musk.
Enligt samma musk kommer denna hypotetiska AI-diktator inte ens behöva vara verkligen ond för att utgöra en fara för hela mänskligheten.
”Om AI har en viss uppgift och den utvecklas så att mänskligheten kommer att stå i vägen för att lösa denna uppgift, kommer AI helt enkelt att förstöra den, som en självklarhet. Utan tvekan och moralisk plåga. Det är som att bygga en väg, på vilken väg ett myrnar råkade vara. Vi hatar inte myror, vi bygger bara en väg. Så farväl till myren, tillade Musk.
Kampanjvideo:
Nikolay Khizhnyak