Ämnet avancerad artificiell intelligens (AI) i framtiden medför vanligtvis vissa rädslor - till exempel att det kommer att kunna självlärande och bli så utvecklat att människor inte längre kan förstå det. I fel händer, och till och med på egen hand, kan en sådan avancerad algoritm ta över regeringar och arméer, införa orwelliska metoder för övervakning och manipulation, etablera kontroll över samhället och till och med kontrollera en armé av autonoma stridsdrönare på slagfältet.
Men vissa AI-experter ser inte denna rädsla som giltig. I själva verket kan en mycket avancerad AI vara bättre kapabel att styra världen än människor. Sådan rädsla är själva farlig eftersom de kan förhindra oss från att inse en sådan möjlighet.
"Kanske inte-implementering av AI utgör en fara för mänskligheten," sa Facebook-AI-forskaren Thomas Mikolov på en konferens i Prag om utmaningarna med att skapa AI på nivå med mänsklig intelligens.
Mikolov förklarar att människor, som art, är mycket svaga när de fattar långsiktiga beslut för att ge positiva resultat. Människor har rensat regnskogar för att utvinna råmaterial, inte inser (eller inte intresserat) att de genom att göra det har bidragit till nedbrytningen av vår planet - kanske irreversibelt.
Men ett avancerat AI-system kan skydda mänskligheten från sin egen kortsiktighet.
”Folk kan dåligt förutse en avlägsen framtid, säga 20-30 år framöver. Kanske genom att skapa en AI som är mycket smartare än vi, kan vi hjälpa oss att undvika framtida katastrof."
Naturligtvis tillhör Mikolov en minoritet av forskare som tror att en högutvecklad AI kommer att vara välvillig. Under konferensen uttryckte många talare en stor rädsla för AI, oftare i samband med dess möjliga användning för farliga ändamål av skadliga aktörer, vars fara inte bör underskattas.
Vi vet inte med säkerhet om det kommer att vara möjligt att skapa en generell AI som kan utföra någon tankeuppgift som är tillgänglig för människor, och kanske till och med bättre än dem.
Kampanjvideo:
Framtiden för avancerad AI ser lovande ut, men den väcker många etiska problem. Vi vet inte ens alla frågor som måste besvaras.
Ändå var de flesta av deltagarna i Prags konferens överens om att reglerna måste utarbetas innan de behövs. Redan är det nödvändigt att skapa internationella fördrag, etiska kommittéer och tillsynsorgan vid regeringar, företag och vetenskapssamhällen. Genomförande av sådana institutioner och protokoll kommer det att minska sannolikheten för att en fientlig regering, en oväsentlig forskare eller till och med en verkligt galen”forskare” kommer att utlösa skadlig AI eller använda en komplex algoritm på ett annat sätt som ett vapen. Och i värsta fall kommer vi att få rättsmedel.
Genom att införa nödvändiga regler och försiktighetsåtgärder kommer vi att kunna leva i harmoni med högt utvecklade AI i framtiden; kanske en dag kommer han till och med att rädda oss.
Vadim Tarabarko