För trettio år sedan försökte USA pressa gränserna för datoranvändning, artificiell intelligens och robotik. De ville skapa något nytt, mycket påminner om den dystopiska framtiden från Terminator-filmerna, eller Skynet.
Från 1983 till 1993 spenderade Defense Advanced Research Projects Agency (DARPA) mer än 1 miljard dollar på ett program som kallas Strategic Computing Initiative (Strategic Computer Initiative, eller SCI). DARPAs mål var att driva gränserna för datoranvändning, artificiell intelligens och robotik och skapa något som liknar den dystopiska framtiden från Terminator-filmerna. Det ville skapa Skynet.
Liksom Ronald Reagans Star Wars-program visade sig SKI-idén vara för futuristisk för sin tid. Men idag, när vi ser slående framgångar i skapandet av konstgjord intelligens och oberoende robotar av militären, är det vettigt att återvända till detta halvt glömda program och ställa oss frågan: är vi redo att leva i en värld av mördarmaskiner sammankopplade med elektroniska hjärnor? Och ytterligare en, eventuellt värdelös fråga. Om vi vill stoppa detta, är vi för sent med vår önskan?
Möjligheterna är verkligen fantastiska …
Detta är ett utdrag från ett lite känt dokument som presenterades för kongressen i oktober 1983. Det anger målen för det nya strategiska datorinitiativet. Och som allt annat som DARPA har gjort tidigare och sedan har detta program visat sig vara extremt ambitiöst.
Konceptet för det strategiska datorinitiativet förkroppsligades i ett helt nytt system, vars utveckling leddes av Robert Kahn, då chef för informationsbearbetningstekniker vid DARPA. Som rapporterats i sin bok 2002 Strategic Computing, var Kahn inte den första att förstå systemet, men han var den första som beskrev konceptet och strukturen för det framtida Strategic Computer Initiative. Han startade detta projekt och definierade dess innehåll tidigt. SKI tog sitt eget liv under ledning av andra människor, men behöll Kahns inflytande."
Detta system var tänkt att skapa en värld där oberoende fordon inte bara samlar in besöksdata om fienden runt om i världen utan också har förmågan att slå med dödlig precision från land, hav och luft. SKI skulle bli ett globalt nätverk som förbinder alla aspekter av den amerikanska militärtekniska kapaciteten - kapaciteter baserade på nya och otroligt snabba datorer.
Kampanjvideo:
Men detta nätverk var inte bara för kall och opartisk automatiserad informationsbehandling. Nej, det nya systemet måste se, höra, agera och reagera. Och viktigast av allt, hon var tvungen att förstå, och utan någon fråga från en person.
Den ekonomiska vapen rasen
Ursprunget till SQI är ofta förknippat med teknisk konkurrens som uppstod mellan USA och Japan i början av 1980-talet. Japanarna ville skapa en ny generation av superdatorer, som skulle utgöra grunden för ett konstgjord intelligenssystem. Genom att kombinera den japanska statens ekonomiska makt och de nya kapaciteterna i landets mikroelektronik- och datorindustri började de skapa en femte generationens datorsystem för att uppnå sitt mål.
Målet var att utveckla otroligt snabba datorer som skulle göra det möjligt för Japan att bryta sig loss från andra länder (främst USA och "Silicon Valley" som växte där) i loppet för teknisk överlägsenhet. Japanarna gav sig själva tio år att slutföra denna uppgift. Men oavsett hur de påskyndade sina bilar, kunde de, liksom amerikanerna, inte göra datorer "smartare" på bekostnad av kraftfull konstgjord intelligens.
Japanska ambitioner skrämde många amerikaner. De var oroliga för att Amerika tappade sin tekniska ledning. Dessa rädsla drevs till stor del av The Fifth Generation: Artificial Intelligence och Japans Computer Challenge to the World, publicerad 1983 av Edward A. Feigenbaum och Pamela McCorduck. Utmaning till världen), som har blivit måste-läs litteratur om Capitol Hill.
För att popularisera SCI: s idéer bland det amerikanska folket och näringslivet, insisterade DARPA att syftet med initiativet från början bara var att främja landets ekonomiska intressen. Spin-offs från denna teknik borde ha skapat nya incitament för den amerikanska ekonomin, som rapporterats i ett DARPA-planeringsdokument:
Att vädja till den privata sektorn och universitetssystemet var också tänkt att ge stöd till de smartaste och mest begåvade när det gäller att fullgöra uppgifterna i programmet för Office for Advanced Research and Development:
utvecklad teknik kommer inte att överföras till konkurrerande företag.
Men ekonomisk konkurrens med japanerna, om än ett viktigt drivmotiv, orsakade endast sekundär oro bland politiker som var förvirrad i det kalla kriget. GOP-hökarna var mest upptagna av militär uppbyggnad och militär uppbyggnad. Många av dem trodde att det viktigaste militära hotet som Sovjetunionen utgör. Och det strategiska datorinitiativet skulle eliminera detta hot.
Star Wars-anslutning
Lanseringen av SRS-programmet och DARPA: s referensvillkor, som framkom 1983 och 1984, ledde till en het debatt i det vetenskapliga samhället - det som i slutändan gynnades av finansieringen från detta projekt. Någon uttryckte tvivel om möjligheten att genomföra ambitiösa planer för att skapa en avancerad konstgjord intelligens. Vissa var oroliga för att med skapandet av konstgjord intelligens för militära ändamål skulle en fruktansvärd era av oberoende arméer av robotar börja.
Och detta var en välgrundad oro. Om målet för Star Wars (det populära namnet för det strategiska försvarsinitiativet från Ronald Reagan och den populära politiska fotbollen under tiden) var ett automatiskt eller halvautomatiskt svar på sovjeternas hot mot nukleära missiler, skulle det helt enkelt vara löjligt att inte inkludera det i ett större system av verkligt intelligent maskiner. Uppgifterna för de två projekten, för att inte tala om institutionerna som utvecklade dem, överlappade och överlappade för mycket för att bara vara en slump, även om var och en insisterade på att det var en slump.
Från Chris Hables Greys arbete, skrivet 1988:
Om du frågar alla som har arbetat i ledningen för SKI-programmet, kommer du att få höra att det strategiska datorinitiativet inte hade något att göra med Reagans dröm om Star Wars. Men människor från början av implementeringen av SKI skapade en koppling mellan den och SDI. Delvis uppstod dessa föreningar på grund av likheter i namn och på grund av att dessa namn gavs av en person - Robert Cooper, som tjänade som chef för Advanced Research and Development Administration vid US Department of Defense från 1981 till 1985. Eller kanske människor såg anslutningen på grund av att datorgränssnittssystemen som utvecklats för SKI var ganska logiskt lämpliga som en applikation för en rymd mot missilförsvarstrategi.
Användning av strategisk datateknik på land, till sjöss och i luften
En allmän beskrivning av SQI som utarbetades 1983 beskrev målet med detta initiativ. Målet var tydligt och förståeligt: att utveckla en stor bas av teknik för artificiell intelligens för att stärka nationell säkerhet och ekonomisk makt. Men för att uppnå det måste kongressen och de militära avdelningarna, som skulle använda SKI och dess fördelar i framtiden, se detta system i aktion.
SKI hade tre hårdvaruinkarnationer som skulle bevisa sin kamppotential, även om det i slutet av 1980-talet planerades att utveckla ännu fler sådana system. I spetsen för SKI: s tekniska utveckling var det autonoma markfordonet ALV, pilotassistenten och flygbolagets stridsstyrningssystem.
Dessa verktyg planerades att vara utrustade med otroligt avancerade datorer, som designades av Cambridge-företaget BBN, bäst känt för sitt arbete med att skapa den första versionen av Internet. Datorer har möjliggjort banbrytande framsteg inom områden som visionsystem, språkförståelse och navigering. Och det här är de viktigaste verktygen för att skapa en integrerad militärstyrka mellan människor och maskiner.
Bil utan förare - 1985
Den mest olycksbådande utvändiga produkten som kom ut från SKI-tarmen var det autonoma markfordonet ALV. Detta förarlösa, åttahjuliga fordon var tre meter högt och fyra meter långt. Den var utrustad med en kamera och sensorer som var monterade på taket och kontrollerade bilens rörelse, som var dess "ögon".
Martin Marietta, som fusionerades med Lockheed Corporation 1995 för att bilda Lockheed Martin, vann ett anbud sommaren 1984 för att skapa ett experimentellt autonomt markfordon. Under SKI-programmets tre och ett halvt år borde det ha fått 10,6 miljoner dollar (justerat för inflation, detta är 24 miljoner), plus ytterligare 6 miljoner om projektet uppfyller vissa riktmärken.
I oktober 1985-numret av Popular Science fanns det en artikel om testen som genomfördes på den hemliga Martin Marietta-träningsplatsen sydväst om Denver.
Författaren till artikeln, Jim Schefter, beskrev testscenen på bevisningsplatsen:
DARPA har gått samman med Martin Marietta och University of Maryland, som har gjort ett bra jobb med att skapa ett visionsystem. Denna kombination verkade viktig för att säkerställa framgången för landfordonsutvecklingen.
Att bygga ett videosystem för ett autonomt fordon har visat sig vara oerhört svårt. Hon kan vilseledas av ljus och skuggor, och därför var hon inte tillförlitlig nog. Under dagen fann hon vägarna utan problem, men på grund av kvällskuggorna vid solnedgången kunde hon väl glida in i diket.
Eventuella förändringar i miljön (säg smuts från under en annan bil) har också förvirrat synsystemet. Detta var oacceptabelt även under testförhållanden på den bevisande marken. Om maskinen inte klarar så enkla hinder, hur kommer den då att agera i svåra och oförutsägbara stridsförhållanden med otaliga variabla faktorer?
I november 1987 hade det autonoma markfordonet förbättrats avsevärt, men i slutet av året övergavs det effektivt. Även om fordonet var ganska primitivt, ansåg vissa på DARPA att det hade diskonterats för snabbt.
Som ett resultat kunde hon inte övervinna sin oförberedda för strid. Som Alex Roland påpekade i sin bok Strategic Computing, "En officer som inte förstod avsikten med ALV-programmet alls klagade över att fordonet var militärt värdelöst: mycket långsamt och vitt, vilket gjorde det till ett enkelt mål. på slagfältet. " I april 1988 upphörde Office for Advanced Research and Development officiellt arbetet med det.
R2-D2, men i verkligheten
Den andra praktiska utföringsformen av Strategic Computer Initiative var pilotassistenten. Utvecklarna såg den som en osynlig R2-D2-robot - en intelligent satellit som förstår pilotens enkla språk. Denna assistent kan till exempel upptäcka ett fiendemål och fråga piloten om det är nödvändigt att förstöra det. Något som "The best shooter" i sällskap med den personliga assistenten Siri från iPhone.
I detta scenario förblev det slutliga beslutet hos piloten. Men hans assistent måste bli tillräckligt smart för att inte bara veta vem som ställde frågorna, vad han ställde och hur han skulle ställa frågorna själv. Han var tvungen att förstå varför.
Här är raderna från SKI: s planeringsdokument:
Och det var här som Advanced Directorate for Research and Development beslutade att det behövde sitt eget Skynet. Nya funktioner i stridsåtgärder i samband med den snabba utvecklingen av militär teknik krävde en tydlig interaktion mellan en maskin och en person - och detta blev nyckeln till framgång i striden. Piloten tryckte fortfarande på knapparna, men dessa datorer måste tänka åt honom åtminstone hälften. Om mänskligheten inte har tid är det nödvändigt att ansluta maskiner till arbete.
Pilotens assistentprogram omfattades inte av den amerikanska pressen i samma utsträckning som det autonoma markfordonet. Förmodligen berodde detta på att det var mycket svårare att föreställa sig det än en enorm tank som körde längs vägen utan förare. Men om man tittar på dagens teknik för taligenkänning blir det klart vad all denna forskning om "pilotassistenten" ledde till.
Osynlig robotrådgivare
SKI-program utformat för att bevisa dess genomförbarhet.
Roland skriver om detta i sin bok Strategic Computing:
av anledning hölls det hemligt, till skillnad från ALV. En robot som kör på vägen utan förare kan skrämma många. En osynlig robot med ett osynligt finger på en kärnknapp? Nåväl, knappast någon vill publicera pressmeddelanden om detta ämne.
Kampkontrollsystemet utformades som en mjukvaruapplikation specifikt för marinen. (Ett autonomt markfordon skapades specifikt för markstyrkorna och en "assistentpilot" för flygvapnet.) Men i verkligheten var det bara ett täckmantel för ett mer mångsidigt system. Alla dessa tekniker planerades att användas i framtiden där de behövs mest. Det taligenkänningsprogram som utvecklats för "pilotassistenten" var planerat att användas i alla försvarsmaktens grenar, inte bara i flygvapnet. Och stridsstyrningssystemet måste vara lämpligt för alla - utom naturligtvis fienden.
Sammansätter Skynet
Alla de olika komponenterna i det strategiska datorinitiativet var en del av ett större hypotetiskt system som radikalt kunde förändra krigets natur under 2000-talet.
Föreställ dig ett globalt trådlöst nätverk som styr många andra underordnade nätverk i den amerikanska militären. Föreställ dig arméer av robottankar som pratar med svärmar av drönare på himlen och obemannade ubåtar till sjöss - och samspelet mellan dem är mycket snabbare än någon mänsklig befälhavare kunde. Föreställ dig nu att allt detta är mycket mer komplicerat och med kärnmissiler som väntar på lansering i rymden.
Begreppet Strategic Computer Initiative var oerhört vågigt och ändå lite ovanligt när du tänker på hur långt det kan ta oss. Logiken för den vidareutvecklingen av konstgjord intelligens och det globala nätverket av mördarmaskiner är lätt att föreställa sig, bara för att vi har sett det otaliga gånger i böcker och filmer.
Framtiden för krig och fred
Det strategiska datainitiativet i början av 90-talet förstördes slutligen av insikten att det helt enkelt var omöjligt att skapa kraftfull konstgjord intelligens som den som DARPA föreställde sig. Men om alla dessa teknologier och tekniska innovationer som utvecklats på 1980-talet verkar konstigt bekanta för oss, beror det på att de i början av 2000-talet talar och skriver om i media.
Visionssystem från ett autonomt markfordon har hittat sin utföringsform i Atlas-robotar från Boston Dynamics. Vi kan se att ett taligenkänningssystem som Siri från "pilotassistent" används i det amerikanska flygvapnet. Och autonoma bilar testas av Google, tillsammans med många andra företag. Alla dessa är tekniker för framtida krig. Och om du tror på Google, så är detta också tekniken i framtidens värld.
Google Corp köpte nyligen Boston Dynamics, som har förvånat dem som är oroliga för en framtid med arméer av oberoende robotar. Google säger att Boston Dynamics kommer att uppfylla alla sina gamla kontrakt med militära kunder, men kommer inte att ingå nya.
Men oavsett om Google accepterar beställningar från militären eller inte (vilket är mycket möjligt eftersom de kan göra det i hemlighet med medel från sin "svarta" budget), det råder ingen tvekan om att gränsen mellan civil och militär teknik alltid har varit suddig. Om Boston Dynamics aldrig mer arbetar med organisationer som DARPA, men Google drar nytta av militärfinansierad forskning, kan systemet förmodligen sägas fungera.
Militären fick vad de ville genom att driva robotforskning genom ett privat företag. Och nu kommer resultaten av dessa militära tekniker att känna sig själva i vårt dagliga civila liv - liksom många andra tekniker, inklusive Internet.
I själva verket är denna artikel bara en droppe i skopan bland de idéer som Direktoratet för forskning och utveckling har kläckt inom ramen för SKI. Låt oss hoppas att genom att fortsätta studera gårdagens perspektivkoncept kan vi få lite historisk erfarenhet och bättre förstå att våra nya framsteg inte kom ut ur luften. Även de kan inte alltid kallas innovationer. Detta är resultatet av många års forskning och miljarder dollar i anslag som har behärskats av hundratals organisationer, både offentliga och privata.
I slutändan demonterades inte det strategiska datorinitiativet av rädsla för vad det kunde ge till vår värld. Det är bara så att teknologierna för dess implementering inte utvecklades tillräckligt snabbt - detta gäller konstgjord intelligens och autonoma fordon. Men under de tjugo åren sedan SKI upphörde har alla dessa smarta maskinutvecklingar fortsatt.
En framtid med mycket intelligenta och sammankopplade robotar är nästan verklig. Vi behöver inte älska honom, men vi kan inte säga att ingen varnade oss om honom.
Matt Novak