Tidigare i år undertecknade 116 tekniska armaturer ett öppet brev som uppmanade FN att förbjuda "dödliga autonoma vapensystem." De tror att sådana kan leda till väpnade konflikter av enastående proportioner. The Independent noterade att "för första gången har AI-experter och robotföretag fattat ett gemensamt beslut i denna fråga."
Men inte alla observatörer är så oroliga. Andrew Ng, som tills nyligen arbetat som chefsforskare vid Baidu, kom fram till att oroa sig för mördarrobotar är som att oroa sig för överbelastning på Mars, och vi kommer att ha tillräckligt med tid för att inse detta.
Under de första åren av 2000-talet skapade få ämnen mer intresse eller debatt mer kraftfullt än artificiell intelligens, och började med till och med själva förståelsen av termen. I mars noterade en observatör att "det finns ungefär lika många definitioner av AI som det finns forskare som utvecklar denna teknik." Robbie Whiting, grundare av konsultföretaget Junior, hävdar att "AI inte bara är ett slagord - det kommer att förändra världen."
Även om det finns överdrift bygger AI redan upp hela industrier som transport, ekonomi och hälso- och sjukvård. Facebooks CTO tror att AI "kan lösa problem i en planeten omfattning." Elon Musk hävdar under tiden att "AI utgör en grundläggande risk för existensen av mänsklig civilisation." De flesta tekniker är varken användbara eller skadliga - det som är viktigt är vem som använder dem och varför.
Få håller inte med om att AI utvecklas mycket snabbare än vi försöker förstå dess komplexa karaktär, flera dimensioner och långtgående konsekvenser för nationell säkerhet. I en färsk rapport av Gregory Allen och Thaniel Chan, doktorander vid Harvard University, uppmanas regeringen att skapa något som ett RAND-företag för AI.
RAND-forskare prenumererar i sin tur på Harvard-teamets ord.
De föreslår att man överväger fyra områden där effekterna av AI kan vara betydande men osäkra.
Kampanjvideo:
Arbetsplatser
Kai Fu Lee, ordförande för SinovationVentures, tror att AI är "inriktat på storskaliga jobbnedskärningar", samtidigt som man koncentrerar rikedom i händerna på företag som utvecklar eller adopterar AI. Andra tror att liknande farhågor var närvarande med tillkomsten av all världsföränderlig teknik ända fram till tryckpressen på 1400-talet.
The Economist övertygar läsarna att "AI skapar efterfrågan på jobb", och ett växande antal människor runt om i världen "tillhandahåller digitala tjänster på Internet." Vilka företag och länder kommer att trivas under AI-eran? Vilka segment kommer att försvinna, förändras, skapas? Hur kommer arbetets natur att förändras?
Krigföring
Anhängare av stridsdronor hävdar att sådana vapen kan träffa mål med mycket högre noggrannhet än människor. och ju större roll de spelar i krigsteatern, desto mindre ofta kommer teknikerna att använda dem för att skada.
Men tänk om ett sådant vapen blir oberoende och fungerar självständigt utan mänsklig inblandning? Kommer att ta bort människor från listan över militärpersonal leda till ett ännu svårare och ostoppbart vapenlopp?
Ett öppet brev, som publicerades under 2015 International Collaborative Conference on Artificial Intelligence, varnade för att autonoma vapen "inte kräver dyra eller svåra att hitta råvaror, så de kommer att bli allestädes närvarande och billiga för alla viktiga militära styrkor att massproducera." Kommer eran med automatiserade vapen att vara fredligare eller mer krigförande?
RAND-forskare efterlyser en analytisk ram och internationell insats för att använda långväga stridsdronor för att motverka terrorism och riktade mord.
Ta beslut
Politiker konfronteras ständigt med en myriad av val och motiv - det finns många fler på de sociala mediernas dagar än för tjugo år sedan. Sådan informationsöverbelastning tillåter inte att hantera situationen under en kris, än mindre flera kriser.
Nyligen fanns det ett förslag om att skicka "alla beslut som fattats av presidenten via datorn - inte för att göra det slutliga valet utan för att hjälpa ledaren i en persons person."
Men medan AI till stor del är syndfri just nu, belyser RAND-forskningen riskerna med algoritmisk bias vid filtrering av nyheter, påverkan av straffrättsliga rättigheter och till och med tillhandahållande av sociala förmåner och utfärdande av visum. Vilka beslut ska fattas för AI? Vad ska förbli i händerna på en person? I händerna på ett team av människor?
Skapande
Världen är van vid AI som kan utföra spännande beräkningar och slå folk i populära brädspel (drygt 20 år har gått sedan IBMDeepBlue-superdatorn berömde besegrade schackmästaren Garry Kasparov). Hur kommer han att fortsätta att utvecklas i det kreativa rummet hos människor?
Artificiell intelligensforskare Jesse Engel tror att han kommer att "omvandla den kreativa processen … med smarta verktyg som ger nya sätt att uttrycka." Andra är inte så optimistiska. Journalisten Adrienne Lafrance konstaterar att AI redan kan "flirta", "skriva romaner" och "fejka berömda målningar med fantastisk noggrannhet." Vad betyder det att vara kreativ? Dessutom, vad betyder det att vara människa?
AI-diskussioner går ofta till ytterligheter, oavsett om det är löftet om en utopi fri från mänskligt lidande, eller farorna med en dystopi där robotar förslavar sina mänskliga skapare. En mer balanserad och noggrann analys behövs för att utforma policyer för att mildra risker och maximera fördelarna. Vissa steg måste vidtas för att övervinna rädslan för att AI kommer att fungera för staten och samhället.
Hur kan AI påverka ett lands nationella intressen? Vilka typer av AI, om någon, kan betraktas som strategisk teknik baserat på statliga kriterier? Var ska marknadskrafterna spela och var är politik? Medan AI fortfarande till stor del är en science fiction-domän, får dessa frågor mer och mer betydelse.
Ilya Khel
