Rädslan för konstgjord intelligens har länge tagits in i populärkulturen. Mänsklighetens finaste sinnen, från Stephen Hawking till Elon Musk, har talat om det existentiella hotet från digital intelligens för mänskligheten.
Professor vid University of California vid Berkeley Stuart Russell talar också om det, men i hans framtidsvision finns inga onda robotar som gör uppror mot mänsklig dominans.
Enligt Russell kommer maskinerna någon gång att bli så effektiva att de förstör oss och utför de uppgifter som vi gav dem.
Russell är expert på maskininlärning och författare till Human Compatible: AI and the Problem of Control.
"Den traditionella Hollywood-historien är att maskiner spontant blir medvetna och sedan bestämmer sig för att de hatar människor och vill döda alla," konstaterar professor Russell.
Men detta är enligt hans åsikt en felvision av robo-apokalypsen, eftersom maskiner inte har mänskliga känslor.
"Vi måste oroa oss inte för onda maskiners självmedvetenhet, utan om de maskiner som utför de uppgifter vi har satt upp," är forskaren övertygad om.
Kampanjvideo:
För kompetent
I en intervju med BBC Today beskrev professor Russell en hypotetisk situation där människans existens skulle kunna hotas av artificiell intelligens.
Föreställ dig att det finns en superkraftig konstgjord intelligens som kan kontrollera klimatet på planeten. Han har till uppgift att föra tillbaka koldioxidnivåerna i atmosfären till preindustriella nivåer.
”Systemet kommer att anse att det mest effektiva sättet att göra detta är att förstöra människor. De producerar koldioxid, säger professorn.
”Detta kan kringgås till exempel genom att göra henne till ett villkor att inte bli av med människor. Vad kommer systemet då att göra? Hon kommer att se till att färre och färre barn föds tills människor försvinner helt."
Detta är ett exempel på vad konstgjord intelligens kan leda till under dåligt tänkta mänskliga instruktioner.
Superintelligence
AI-system som finns idag har snävt riktade applikationer. De är utformade för att lösa tydligt definierade problem inom ett område, säger forskare vid Center for the Study of Existential Risks vid University of Cambridge.
Det triumferande ögonblicket för denna AI-filosofi var Deep Blue-datorns seger över den regerande världschackmästaren Garry Kasparov 1997.
* Deep Blue's seger över Kasparov 1997 var en AI-triumf.
Men Deep Blue skapades exklusivt för schackspel. I rutor skulle han ha förlorat till en femte klassning.
De senaste framstegen inom artificiell intelligens har gett oss mycket olika program.
Till exempel lärde AlphaGo Zero-programmet att spela Go på egen hand, utan att använda data om tidigare spel som spelats av människor, och på bara tre dagar efter att ha spelat med sig själv nådde det en nivå ouppnåelig för en vanlig person.
Djupa inlärningsalgoritmer användes för att skapa AlphaGo Zero. Detta innebär att relativt lite mänskligt arbete krävdes för att utveckla programmet.
Samtidigt vet AlphaGo Zero hur man spelar bra både schack och shogi.
Kom ihåg att programmet är helt självlärande. Detta kan orsaka oro för vissa.
"När AI blir kraftfullare och mångsidigare finns det en risk att det blir superintelligent, det vill säga att det kommer att överträffa människor på många eller alla områden," säger Center for Study of Existential Risker.
Vi vet inte vad vi vill
Professor Russell anser att det helt enkelt inte är någon väg att ge AI mycket specifika uppgifter, eftersom människorna själva inte kan formulera dem tillräckligt bra.
"Vi inser inte att vi inte gillar något förrän det händer," säger han.
"Vi måste ändra den mycket grundläggande metoden för att skapa AI-system," tillägger professorn. Han tror att det är fundamentalt fel att ge robotar en uppgift, som de sedan utför.
”Systemet måste förstå att målet inte är klart för det. han säger. - När sådana system skapas beror de verkligen på personen. De börjar be om tillstånd innan de gör något för de är inte säkra på om du vill."
Det viktigaste, säger professorn, kommer de inte att motstå om du bestämmer dig för att stänga av dem, eftersom de är utformade för att inte göra vad du inte gillar.
Aladdins lampa
AI idag skapas som om det var genie från en lampa, säger professor Russell. Du gnider lampan och säger: "Jag vill att detta och det ska hända."
I Stanley Kubricks 2001 * A Space Odyssey *, revolterar en superintelligent dator mot människor som beslutar att stänga av den.
Och om konstgjord intelligens är tillräckligt kraftfull kommer den att göra exakt vad du frågar.
"Problemet med gin är att den tredje önskan alltid är att avbryta de två första, eftersom personen har formulerat dem fel."
"En maskin som strävar efter fel mål blir de facto mänsklighetens fiende, och denna fiende är mycket starkare än oss", avslutar forskaren.