I Genève på måndag 27 augusti kommer samtal från en grupp regeringsexperter från 70 länder under FN: s regi att starta på dödliga autonoma vapensystem. Det beror på samråden om uppkomsten av helt självkontrollerade robotdödare kommer att bli verklighet under de kommande åren, som utan mänsklig kontroll kommer att välja ett mål och besluta om dess förstörelse.
Ett litet steg till autonoma vapen
Internationella diplomater, nedrustningsexperter och representanter för civilsamhället började diskutera autonoma vapen redan 2014. Dessa informella samråd utvecklades till formella förhandlingar förra året. Helt självstyrda vapen har ännu inte skapats, men många stater investerar mycket för att anpassa konstgjord intelligensteknologi till militära behov. Ett antal länder är redan beväpnade med system med inslag av konstgjord intelligens - från drönare och vaktpostrobotar till enheter för att fördriva explosiva enheter. Samtidigt fortsätter utvecklingen av konstgjorda neurala nätverk, vilket gör att konstgjord intelligens kan lära sig själv.
Thomas Kuchenmeister.
"Det finns bara ett litet steg kvar för att skapa helt autonoma vapensystem", säger Thomas Küchenmeister, chef för den tyska organisationen Facing Finance, som deltar i den internationella kampanjen Stop Killer Robots. Vad är fel med användningen av automatiska system i armén, som är mer exakta och kan analysera stora mängder data?
Kuchenmeister påpekar i en intervju med DW att självkörande system inte kan skilja mellan till exempel en militär och en civil lastbil. Och detta strider redan mot internationell humanitär rätt, som verkar i väpnade konflikter och är utformad så långt som möjligt för att skydda civilbefolkningen. "Men vi kan inte implantera ett chip med internationell rätt i dessa vapen," beklagar en kampanj mot mördare robotar.
Kampanjvideo:
Kina är för moratoriet, USA och Ryssland är emot
26 stater, inklusive Australien, Brasilien och Kina, är för ett förebyggande moratorium för autonoma vapensystem. Ett öppet brev som stöder deras ståndpunkt har undertecknats av mer än 230 organisationer runt om i världen och cirka 3 000 entreprenörer och forskare som arbetar inom konstgjord intelligens. Bland dem till exempel grundaren av Tesla och Space X, Elon Musk och Deep Mind (ägs av Google). "Beslutet att ta en persons liv bör aldrig delegeras till en robot," står det i brevet.
Kampen robot på en utställning i Kiev, 2016.
Förbudet motsätts av stater som aktivt investerar i användning av konstgjord intelligens för militära ändamål, till exempel Förenta staterna, Israel, Ryssland och Storbritannien. Som den ryska presidenten Vladimir Putin en gång sa, kommer ledaren för att skapa konstgjord intelligens "vara världens herre."
USA försöker till och med att framställa autonoma vapen i ett positivt ljus och hävdar att de kommer att hjälpa till att undvika "säkerhetsförstörelse." När allt kommer omkring kan en dator, till skillnad från en soldat, analysera hela situationen på slagfältet snabbare och göra färre misstag, är de övertygade om i Washington. Under den sista konsultationsrundan i Genève uppmanade den amerikanska delegationen att inte stigmatisera sådana vapen.
Berlins ståndpunkt: från förklaring till gradvis förbud
Den tyska regeringen förespråkar ett "internationellt förbud" mot autonoma vapen - detta är förankrat i det tyska regerings koalitionsavtalet. Samtidigt anser Berlin att det är taktiskt felaktigt att insistera på ett moratorium för de pågående förhandlingarna i Genève, eftersom ländernas positioner är för olika. Tillsammans med Frankrike föreslår Tyskland en interimlösning: det första steget kan vara antagandet av en politisk förklaring vid FN, som skulle tala om vikten av att upprätthålla mänsklig kontroll över autonoma vapensystem. Sedan föreslår Berlin och Paris att anta en militär uppförandekod, och först då - ett direkt fördrag som förbjuder sådana vapen.
Enligt tyska diplomater kommer en sådan flerstegsstrategi att ge en chans att övervinna de befintliga motsägelserna - trots allt kan motståndare till moratoriet ansluta sig till den politiska förklaringen utan några skyldigheter. Samtidigt skulle detta dokument skapa vissa allmänna standarder som banar väg för konsolidering av förbudet mot självstyrande vapen i internationell rätt.
Ett avtal utanför FN?
Emellertid aktivisterna i rörelsen "Stoppa mördaren robotar" Tysklands position verkar inte tillräckligt tuff. De anser att FRG bör vara i framkant i kampen för ett omedelbart moratorium. Andra länder skulle ha följt det, tror Thomas Kuchenmeister. "Om den tyska regeringen vill uppnå ett förbud mot sådana vapen, måste den visa detta, det vill säga ta ansvar," betonar han.
På ett eller annat sätt har länder mindre och mindre tid att komma överens om positioner, eftersom teknik förbättras varje dag. Om inga framsteg görs i Genève-samtalet, kommer press från det civila samhället att byggas upp, förutspår Kuchenmeister.
Enligt hans åsikt kan i detta fall en överenskommelse om ett moratorium för autonoma vapen nås utanför FN: s ram, eftersom det hände med förbudet mot personalminor. 1996-1997 höll den kanadensiska regeringen och företrädare för dussintals andra länder oberoende ett antal konferenser som slutade med Ottawa-fördraget. Hittills har 164 länder redan anslutit sig till avtalet. Denna process inleddes till stor del på grund av en aktiv civil kampanj för att förbjuda antipersonella gruvor. Denna rörelse fick Nobels fredspris 1997.