Kanske en av de svåraste testerna av maskinintelligens var schackspelet som ägde rum för nästan 20 år sedan mellan Deep Blue-datorn och världschackmästaren Garry Kasparov. Bilen vann. Just nu har serien av spel i det logiska spelet go slutat, där AI AlphaGo från DeepMind (ägare av Google) och den legendariska go-mästaren från Kina Li Si Dol tävlade. I fyra av de fem spelen vann maskinen, vilket visar sin överlägsenhet över människan i det här spelet. Det otroligt komplexa spelet mellan människa och AI visar att maskinintelligens har utvecklats mycket starkt under denna tid. Det verkar som att den ödesdigra dagen, när maskiner verkligen blir smartare än människor, nu är närmare än någonsin. Det verkar dock som om många inte förstår alls utan snarare till och med tar fel om de konsekvenser som kan vänta oss i framtiden.
Vi underskattar några mycket allvarliga och till och med farliga konsekvenser av utvecklingen av artificiell intelligens. Förra året utfärdade SpaceX medgrundare Elon Musk ett uttalande där han uttryckte oro över eventuell förslavning av världen genom artificiell intelligens, vilket i sin tur föranledde en enorm mängd kommentarer från både anhängare och motståndare till denna åsikt.
För en så grundläggande revolutionär framtid som kan vänta på oss är det förvånande att det finns så många meningsskiljaktigheter idag om det alls kommer att hända och vad det så småningom kommer att visa sig vara. Det är särskilt konstigt att förneka de otroliga fördelarna vi kan få av att skapa en riktigt smart AI, naturligtvis med hänsyn till alla möjliga risker. Alla dessa frågor är otroligt svåra att få de svar du behöver, eftersom AI, till skillnad från andra mänskliga uppfinningar, verkligen kan "föryngra" denna mänsklighet eller helt förstöra den.
Nu är det svårt att förstå vad man ska tro och vad man kan hoppas på. Men tack vare pionjärer inom datavetenskap, neurovetenskapsmän och teoretiker för AI-utveckling börjar en tydlig bild långsamt klara upp. Nedan följer en lista över de vanligaste missuppfattningarna och myterna angående artificiell intelligens.
Vi kommer aldrig att skapa AI med humanoid intelligens
Verkligheten föreslår i sin tur att vi redan har datorer som matchar och till och med överskrider mänsklig kapacitet inom vissa områden. Ta schack eller samma gång, handla på börser eller rollen som en virtuell samtalspartner. Datorer och algoritmer som kontrollerar dem kommer bara att bli bättre med tiden, och det är bara en tidsfråga tills de blir lika med mänskliga möjligheter.
Kampanjvideo:
New York University-forskaren Gary Marcus sa en gång att "nästan alla" som arbetar med AI tror att maskiner en dag kommer att överträffa oss:
"Den enda tvisten mellan anhängare och skeptiker är tidpunkten för detta evenemang."
Futurister som Ray Kurzweil tror att detta kan hända under de kommande decennierna, medan andra säger att det kommer att ta flera århundraden.
AI-skeptiker är inte övertygande i sina bevis för att skapandet av artificiell intelligens som något unikt och mycket liknar en verklig levande mänsklig hjärna i tekniska termer är någonstans bortom verkligheten. Vår hjärna är också en maskin. Biologisk maskin. Den finns i samma värld och följer samma fysiklagar som allt annat. Och med tiden kommer vi att helt räkna ut hela principen för dess arbete.
AI kommer att ha medvetande
Det finns en allmän enighet om att maskinintelligens kommer att vara medveten. Det vill säga AI kommer att tänka på samma sätt som en människa gör. Dessutom tror vissa kritiker, som Microsoft grundare Paul Allen, att på grund av en ofullständig teoretisk bas som beskriver mekanismerna och principerna för självmedvetenhet, har vi ännu inte skapat ens allmän artificiell intelligens, det vill säga intelligens som kan utföra några intellektuella uppgifter med vilka en person kan hantera. Men enligt Murray Shanahan, biträdande professor vid Institutionen för kognitiv robotik vid Imperial College London, borde vi inte jämföra de två.
"Självmedvetenhet är definitivt ett mycket intressant och viktigt ämne för forskning, men jag tror inte att självmedvetenhet bör vara ett obligatoriskt attribut för mänsklig artificiell intelligens", säger Shanahan.
"I stort sett använder vi termen" självmedvetenhet "endast för att indikera flera psykologiska och kognitiva attribut som vanligtvis är kopplade till en person."
Det är möjligt att föreställa sig en väldigt smart bil som saknar en eller flera av dessa attribut. En dag kommer vi att kunna bygga en verkligt otroligt intelligent AI, men samtidigt saknar förmågan till självmedvetenhet, såväl som subjektiv och medveten förståelse för världen omkring oss. Shanahan konstaterar att enande av intelligens och självmedvetenhet inuti maskinen fortfarande kommer att vara möjlig, men vi bör inte tappa ur sikte att dessa är två helt separata begrepp från varandra.
Och även om en av varianterna av "Turing Test", där en maskin visade att den inte skiljer sig från en person, lyckades passera, betyder det inte alls att den här maskinen har medvetande. Ur vår (mänskliga) synvinkel kan avancerad artificiell intelligens verka för oss som något som har självmedvetenhet, men själva maskinen kommer inte att vara medveten om sig själv mer än samma sten eller miniräknare.
Vi borde inte vara rädda för AI
I januari i år delade Facebook-grundaren Mark Zuckerberg sina tankar om hur vi inte borde vara rädda för AI och tillade att denna teknik kan ge enorma fördelar runt om i världen. Sanningen är att han bara delvis har rätt. Vi kommer verkligen att kunna skörda fantastiska fördelar med AI till vårt förfogande (från självkörande bilar till nya upptäckter inom medicin), men ingen kan garantera att varje tillämpning av AI kommer att vara till nytta.
Ett mycket intelligent system kommer kanske att veta allt som behövs för vissa uppgifter (till exempel lösa en komplex global ekonomisk situation eller hacka fiendens datorsystem), men utanför högspecialiserade uppgifter är AI: s potential fortfarande helt oklar och därför potentiellt farlig. Exempelvis är DeepMinds system specialiserat på spelet go, men det har ingen förmåga (och anledning) att utforska områden utanför detta område.
Flamdatavirus, vars uppgift var att spåra länderna i Mellanöstern
Många av dessa system kan utgöra allvarliga säkerhetsrisker. Ett bra exempel är det kraftfulla och mycket listiga Stuxnet-viruset, en militariserad mask som skapats av den amerikanska och israeliska militären för att infiltrera och attackera iranska kärnkraftverk. Bara detta skadliga program smittade på något sätt (av misstag eller medvetet) ett av de ryska kärnkraftverken.
Ett annat exempel är Flame-viruset, utvecklat för riktad cyberspionage i Mellanöstern. Det är lätt att föreställa sig hur "framtida versioner" av Stuxnet och Flame-virus oberoende kommer att gå utöver sina tilldelade uppgifter och kommer att kunna infektera nästan hela infrastrukturen i ett land. Och de kommer att göra det väldigt tyst och omärkbart.
Konstgjord superintelligens kommer att vara för smart för att göra misstag
Richard Luzmore, matematiker, artificiell intelligensforskare och grundare av robotföretaget Surfing Samurai Robots, tror att de flesta AI-dommedagsscenarier ser osannolika ut eftersom de alla i stort sett bygger på vad AI en dag kommer att säga,”Jag förstår att förstörelse människor är ett misstag i min programkod, men jag måste fortfarande följa uppgiften."
Luzmore tror att om AI beter sig enligt detta scenario, kommer det att möta logiska motsättningar som kommer att ifrågasätta hela sin ackumulerade kunskapsbas och så småningom kommer att leda till sin egen medvetenhet om sin dumhet och värdelöshet.
Forskaren tror också att de människor som säger att "AI bara kommer att göra det som ingår i dess program" har fel, precis som de människor som en gång sa samma ord, men mot datorer och förklarar att datorsystem aldrig kommer att ha universalitet.
Peter McIntyre och Stuart Armstrong, båda vid Institute for the Future of Humanity vid Oxford University, håller i sin tur inte med denna åsikt och argumenterar för att AI-beteende kommer att vara obligatoriskt och till stor del motiverat av programkoden. Forskare tror inte att AI aldrig kommer att göra misstag eller tvärtom kommer att vara för dumt för att förstå exakt vad vi vill ha av dem.
"Enligt definition är artificiell superintelligens (ISI) en agent vars intelligens många gånger kommer att överträffa mänsklighetens bästa sinnen på nästan alla områden", säger McIntyre.
"Han kommer definitivt att förstå vad vi vill ha av honom."
McIntyre och Armstrong tror att AI bara kommer att utföra de uppgifter som det var programmerat för, men om det på något sätt utvecklas på egen hand, kommer det troligtvis att försöka lista ut hur mycket dess handlingar kommer att skilja sig från mänskliga uppgifter och inneboende i det. lagar.
McIntyre jämför människors framtid med möss. Möss har en kraftfull instinkt för att hitta mat och skydd, men deras mål strider ofta mot en person som inte vill se dem i sitt hem.
"Precis som vår kunskap om möss och deras önskningar kan superintelligenssystemet också veta allt om oss och veta vad vi vill, men samtidigt kommer det att vara helt likgiltigt för våra önskningar."
Enkel lösning eliminerar AI-kontrollproblem
Som visas i filmen "From the Machine" kommer det att bli mycket svårt att kontrollera AI, vilket kommer att vara mycket smartare än oss
Om vi antar att vi en dag kommer att skapa superintelligens som kommer att vara smartare än människor, då måste vi möta ett allvarligt problem, problemet med kontroll. Futurister och teoretiker för artificiell intelligens kan ännu inte förklara hur vi kan kontrollera och innehålla ISI efter dess skapande. Det är också oklart hur vi kan se till att han blir vänlig mot människor. På senare tid föreslog forskare vid Georgia Institute of Technology (USA) naivt att AI kan lära sig och absorbera mänskliga värden och kunskap om sociala normer genom att helt enkelt läsa enkla sagor. Ja, ja, enkla barns berättelser och berättelser som föräldrar läser för oss i barndomen. Men i verkligheten kommer allt att visa sig vara mycket mer komplicerat än allt detta.
"Många så kallade" lösningar "har föreslagits för frågan om artificiell intelligenskontroll", säger Stuart Armstrong.
Ett exempel på sådana lösningar kan vara att programmera ISI på ett sådant sätt att det hela tiden försöker behaga eller behaga en person. Ett alternativ skulle vara att integrera begrepp som kärlek eller respekt i dess källkod. Och för att undvika en sådan utveckling av scenariot, enligt vilket AI kan förenkla alla dessa begrepp och uppfatta denna värld genom prismen för dessa superförenklade begrepp och endast dela den i svartvitt, kan den programmeras för att förstå och acceptera intellektuell, kulturell och social mångfald.
Isaac Asimovs tre robotiklagar passar perfekt in i begreppet fiktion, men i verkligheten behöver vi något mer omfattande för att ta itu med frågan om kontroll
Tyvärr är dessa lösningar för enkla och ser ut som ett försök att passa all komplexitet av mänskliga gillar och ogillar inom en allmän definition eller ett koncept, eller ett försök att passa all komplexitet av mänskliga värden i ett ord, fras eller idé. Försök till exempel att passa in i denna ram en konsekvent och adekvat definition för sådant som "respekt".
”Naturligtvis borde man inte tro att sådana enkla alternativ är helt värdelösa. Många av dem har en bra anledning att tänka och kanske stimulerar sökandet efter en lösning på det ultimata problemet, säger Armstrong.
"Men vi kan inte förlita oss enbart på dem utan mer komplext arbete utan tydlig forskning och leta efter konsekvenserna av att använda vissa lösningar."
Vi kommer att förstöras av artificiell superintelligens
Ingen kan garantera att AI en dag kommer att förstöra oss, precis som ingen kan säga med säkerhet att vi inte kommer att kunna hitta sätt att kontrollera och använda AI för våra egna syften. Som den amerikanska experten på artificiell intelligens Eliezer Yudkowski en gång sa: "AI kan inte älska eller hata dig, men du är gjord av atomer som den kan använda för något annat."
Oxford-filosofen Nick Bostrom i sin bok "Superintelligence: Ways, Dangers and Strategies" skriver att verklig superintelligens en dag kommer att kunna förverkliga sig själv, vilket gör det farligare än någon uppfinning som någonsin skapats av människan. Framstående samtida tänkare som Elon Musk, Bill Gates och Stephen Hawking (av vilka många tror att "skapandet av AI kan vara det värsta misstaget i mänsklighetens historia"), är mer överens med denna åsikt och slår redan larm.
Peter McIntyer tror att för de flesta uppgifter som superintelligens kan ställa för sig själva, kommer människor att se ut som en extra länk.
”AI kommer en dag att kunna dra slutsatsen - och det bör noteras att den kommer att beräkna detta ganska korrekt - att människor inte vill använda det för att maximera lönsamheten för ett visst företag till varje pris, oavsett konsekvenserna för konsumenter, miljö och levande varelser. Därför kommer han att ha ett enormt incitament att utveckla en plan och strategi, tack vare vilken en person inte kommer att kunna störa lösningen på uppgiften, genom att ändra den eller till och med stänga av AI."
Enligt McIntyer, om AI: s uppgifter är precis motsatta av våra egna, kommer det att ge det utmärkta skäl för att inte låta oss stoppa det. Och om vi anser att nivån på hans intelligens kommer att vara mycket högre än vår, kommer det verkligen att vara mycket, mycket svårt att stoppa honom, om det alls är möjligt.
Det är dock omöjligt att säga något med säkerhet just nu, och ingen kommer att kunna säga vilken form av AI vi kommer att behöva hantera och hur det kan hota mänskligheten. Som Elon Musk en gång sa kan AI faktiskt användas för att kontrollera, spåra och kontrollera andra AI. Och kanske kommer mänskliga värden och en första vänlighet till människor att införas i det.
Konstgjord superintelligens kommer att vara vänlig
Filosofen Immanuel Kant trodde att intelligens är starkt sammankopplad med moralens principer. I sitt arbete Singularity: A Philosophical Analysis tog neurovetenskapsmannen David Chalmers Kants berömda idé som grund och försökte tillämpa den för att analysera bildandet av artificiell superintelligens.
”Om principerna som beskrivs i detta dokument är korrekta, bör man tillsammans med den kraftiga utvecklingen av AI förvänta sig en skarp utveckling av moraliska principer. Ytterligare utveckling kommer att leda till framväxten av ISI-system, som kommer att ha supermorale och superintelligens. Därför bör vi bara förvänta oss välvilliga egenskaper från deras sida."
Sanningen är att tanken på en avancerad AI med moralprinciper och exceptionell dygd inte håller vatten. Som Armstrong påpekar är världen full av smarta krigsförbrytare. Intellekt och moral i en person, till exempel, är inte kopplade på något sätt, därför forskaren ifrågasätter att en sådan relation kommer att existera i andra former av intelligens.
”Smarta människor som beter sig omoraliskt tenderar att skapa mycket mer problem och smärta än sina mindre intelligenta motsvarigheter. Intelligens ger dem förmågan att vara mer sofistikerade i sina dåliga snarare än bra handlingar, säger Armstrong.
McIntyre förklarar att en agents förmåga att utföra en given uppgift inte har något att göra med vad den uppgiften är.
”Vi kommer att ha väldigt tur om våra AIs blir mer moraliska, inte bara smarta. Att lita på tur är naturligtvis det sista i denna fråga, men kanske är det tur som kommer att avgöra vår position i framtiden, säger forskaren.
Riskerna med AI och robotik är desamma
Detta är en särskilt vanlig missuppfattning som används i media, liksom i Hollywood-storfilmer som The Terminator.
Om artificiell superintelligens som Skynet till exempel verkligen vill förstöra hela mänskligheten, är det osannolikt att han kommer att använda paramilitära androider med maskingevär i varje hand. Hans listiga och effektiva tänkande gör det möjligt för honom att förstå att det skulle vara mycket bekvämare att använda, säg, en ny typ av biologisk pest eller till exempel någon nanoteknisk katastrof. Eller kanske han bara tar och förstör atmosfären på vår planet. AI är potentiellt farligt inte bara för att dess utveckling är nära relaterad till utvecklingen av robotik. Anledningen till hans potentiella fara ligger i de metoder och medel genom vilka han kan förklara sin närvaro för världen.
AI som presenteras i science fiction speglar vår framtid
Utan tvekan har författare och science fiction-författare under många år använt science fiction-miljön som en språngbräda för gissningar om vår verkliga framtid, men det faktiska skapandet av ISI och de verkliga konsekvenserna av detta ligger fortfarande utanför horisonten för vår verkliga kunskap. Dessutom tillåter en sådan artificiell och tydligt omänsklig natur av AI inte ens med någon säkerhet att anta hur denna AI faktiskt kommer att bli.
I de flesta sci-fi-verk är AI så nära människor som möjligt.
”Före oss finns faktiskt ett helt spektrum av de mest olika möjliga sinnesstilarna. Även om vi bara tar den mänskliga formen. Till exempel är ditt sinne långt ifrån identiskt med din granns. Men denna jämförelse är bara en droppe i havet av all möjlig mångfald av sinnen som kan existera, säger McIntyre.
De flesta science fiction skapas naturligtvis främst för att berätta en historia, inte för att vara så vetenskapligt övertygande som möjligt. Om det vore tvärtom (vetenskapen är viktigare än handlingen), skulle det vara ointressant att följa sådana verk.
”Tänk dig hur tråkigt alla dessa berättelser skulle vara, där AI utan självmedvetenhet, förmågan att glädja, älska eller hata förstör alla människor praktiskt taget utan motstånd för att uppnå sitt mål, vilket förresten kanske inte är särskilt intressant för läsaren eller tittaren, säger Armstrong.
AI tar våra jobb
AI: s förmåga att automatisera de processer som vi gör manuellt och dess potential att förstöra hela mänskligheten är inte samma sak. Men enligt Martin Ford, författare till Rise of the Robots: Technology and the Threat of a Jobless Future, försöker dessa begrepp ofta jämföras och kombineras till en sammanhängande helhet. Naturligtvis är det fantastiskt att vi försöker förutse konsekvenserna av att skapa AI hittills, men bara om dessa ansträngningar inte distraherar oss från de problem som vi kan möta om ett par decennier om vi inte gör något. Och ett av de största problemen är massautomatisering.
Få skulle hävda att en av utmaningarna med artificiell intelligens kommer att vara att hitta ett sätt att automatisera många jobb, från fabriksjobb till vissa tjänstemän. Vissa experter förutspår att hälften av alla jobb, åtminstone i USA, kan bli automatiserade inom en snar framtid.
Men detta betyder inte alls att vi inte kommer att kunna acceptera sådana förändringar. Det är viktigt att förstå att önskan att befria sig från onödig fysisk och psykisk stress på jobbet faktiskt har varit en dröm för vår mänskliga art under lång tid.
”Om några decennier kommer AI verkligen att ersätta människor i många jobb. Och det här är faktiskt väldigt bra. Till exempel kommer självkörande bilar att ersätta lastbilsförare, vilket i sin tur inte bara sänker kostnaden för fraktvaror utan också lägre kostnader för varorna själva. Om du arbetar som lastbilschaufför, förblir du naturligtvis den sista, men alla andra i detta fall är mer benägna att få en höjning av sina löner. Och ju mer dessa pengar kan sparas, desto mer kan dessa pengar spenderas på andra varor och tjänster som människor kommer att engagera sig på på sina arbetsplatser."
Mest troligt kommer artificiell intelligens att söka efter nya sätt att trivas och mata människor medan de gör andra saker. Framsteg inom AI-utveckling kommer att åtföljas av framgångar inom andra områden. Speciellt inom tillverkningssektorerna. I framtiden kommer allt detta sannolikt att mycket förenkla snarare än att komplicera tillfredsställelsen av våra grundläggande behov.