Författaren är bekymrad över robotarnas växande roll i krigföring. Sedan 1991, sedan Gulfkriget, har de hjälpt generalerna. Och nu har en "mördningsrobot" skapats - en maskin som oberoende tar ett beslut att förstöra fiender, om detta överensstämmer med den allmänna politiken för "kontrollcentret".
Konstgjord intelligensutvecklare DeepMind har meddelat en nyhet - en bot som heter AlphaStar, som kommer att spela den populära onlinestrategin Starcraft-2 på stormästernivå.
Detta är inte första gången en bot slår människor i ett strategiskt krigsspel. 1981 vann ett program som heter Eurisko, utvecklat av en av pionjärerna inom konstgjord intelligens, Doug Lenat, US Travellers Championship, ett mycket komplext strategiskt krigsspel där spelaren måste slutföra sin flotta och bekämpa fiendens flottor. Eurisko tilldelades så småningom titeln Honoral Admiral Traveller. 1982 ändrades turneringsreglerna i ett försök att motverka datorn. Men Eurisko vann alla i två år i rad. Efter att sponsorer lovade att avbryta turneringen om datorn vinner igen, drog Lenat sig tillbaka.
DeepMind PR vill att du ska tro att StarCraft "framkom med konsensus som nästa stora utmaning (i PC-spel)" och "har varit en utmaning för AI-utvecklare i över 15 år."
Under det senaste Starcraft-mästerskapet lämnades endast 4 ansökningar in från akademiska eller industriella forskningslaboratorier. De övriga nio bots var skriven ensamma av individer, och inte som en del av mainstream av forskning om konstgjord intelligens (AI).
I själva verket är antalet författare (42) av DeepMind-artikeln, publicerad 31 oktober i Nature, över antalet människor som arbetar med Starcraft-bots i resten av världen. Jag vill inte överskugga framgången med detta tekniska samarbete, men om du investerar tillräckligt med resurser för att lösa problemet är framgång garanterad.
Till skillnad från de senaste segrarna i datorschack har AlphaStar inte tränats genom att spela mot sig själv. Han lärde sig detta genom att imitera de bästa avsnitten från nästan en miljon spel som spelades av de allra bästa mänskliga spelarna. Innan dess led AlphaStar ett obestridligt nederlag i 19 av 20 slagsmål och spelade med riktiga människor på StarCraft-spelservern. AlphaStar spelade anonymt för att förhindra att människor utnyttjar svagheter som kan ha hittats i tidigare spel.
I december förra året slog AlphaStar en av världens bästa professionella spelare - Grzegorz MaNa Komincz. Men det var en version av AlphaStar med reflexer som var betydligt snabbare än mänskliga, och också med obegränsad syn på spelplanen (till skillnad från mänskliga spelare som bara ser en del av det i taget). Det kan knappast kallas en jämn spelplan.
Kampanjvideo:
StarCraft har dock vissa funktioner som gör AlphaStar till en imponerande utveckling, om inte ett verkligt genombrott. Till skillnad från schack eller det östra go-spelet (ett strategispel som använder ett 361-fältbräde - red.) Har StarCraft-spelare en ofullständig förståelse för situationen i spelet, men antalet möjliga åtgärder i det är mycket större. Och StarCraft-strid sker i realtid, men kräver långsiktig planering.
Robot Wars
Frågan uppstår - kommer vi att se i framtiden hur robotar inte bara deltar i krig utan också planerar dem? Faktum är att båda redan händer.
Trots många varningar från AI-forskare (som jag själv), grundare av robotik, nobelpristagare och kyrkledare, har ett fullständigt autonomt vapen känt som en "killerrobot" redan skapats och kommer snart att användas.
2020 kommer Turkiet att distribuera kamikaze-drönare vid gränsen till Syrien. Dessa drönare kommer att använda datorsyn för att identifiera, spåra och döda människor utan mänsklig intervention.
Detta är en fruktansvärd utveckling. Datorer har inte den moraliska förmågan att fatta ett moraliskt balanserat beslut om vem som kommer att leva och vem som ska dö. De saknar empati eller medkänsla. Killerroboter kommer att förändra konfliktens natur till det värre.
Vad sägs om "robotgeneraler"? Datorer har hjälpt generaler att planera krig i decennier. Tillbaka i början av 1990-talet, under Operation Desert Storm under Gulf War, användes verktyg för konstgjord intelligens (AI) för att planera en uppbyggnad i Mellanöstern före konflikten. En amerikansk general berättade för mig kort därefter att det sparade beloppet var lika med summan av allt som hade använts för AI-utveckling tidigare.
Generaler använder också datorer för att utveckla multivariata militära strategier som plötsligt kan behövas. Men vi lämnar inte alla beslut på slagfältet i en soldats händer, och därför går det för långt att flytta allt ansvar från generalens hjärna till datorprocessorn.
Maskinen kan inte hållas ansvarig för sina beslut. Endast människor är ansvariga. Och detta är hörnstenen i internationell humanitär rätt. Men generaler kommer i allt högre grad att förlita sig på datorstöd i sina beslut att bryta igenom dimman av krig och hantera den enorma mängden information som kommer framifrån.
Om detta resulterar i färre civilolyckor, mindre vänlig eld och större respekt för internationell humanitär rätt, bör vi välkomna sådan datorhjälp. Men det slutliga beslutet måste fattas av människan, inte maskin.
Här är en sista fråga att fundera över. Om teknikföretag som Google verkligen inte vill att vi ska vara rädda för ett maskinuppror, varför bygger de bots för att vinna virtuella krig istället för att fokusera på något mer fredligt som fredliga elektroniska spel? Med all respekt för sportfans måste vi erkänna att insatserna för icke-krigsspel är mycket lägre.
Toby Walsh är professor i konstgjord intelligens vid University of New South Wales och Data61-forskarsamhället.