Kapitel från en bok publicerad av Polytechnic Museum
Man och robot - var är gränsen mellan dem och vilka faror medför vår närhet? Baserat på personlig erfarenhet, många intervjuer och data från den senaste forskningen, erbjuder den mest respekterade forskaren inom området, David Mindell, en bakom kulisserna en titt på de mest innovativa tillämpningarna inom robotik. Indicaror. Ru publicerar ett kapitel från sin bok “Rise of the Machines Canceled! Myter om robotisering”.
Mänskligt opererat - fjärr - autonomt
Djupt på natten, högt över Atlanten i det stora öppna utrymmet mellan Brasilien och Afrika, fångades en planerad passagerarflygplan i dåligt väder. Den frusna isen tättade små rör i flygplanets näsa, vilket bestämde dess hastighet och överförde data till datorerna som kontrollerade flygplanet. Datorer kunde fortsätta att flyga utan denna information, men programmet inbäddat i dem gav inte någon sådan anpassning. Det automatiska fly-by-wire-systemet övergav sig och stängdes av och överförde kontrollen till folket - piloterna som satt i cockpiten på linjen: 32-åriga Pierre-Cedric Bonin och 37-åriga David Robert. Bonin och Robert, båda avslappnade och lite trötta, blev överraskade när de plötsligt upptäckte att de måste manuellt flyga en enorm flygplan i hög höjd under dåliga väderförhållanden, och även på natten. Och under gynnsammare förhållanden skulle det vara en svår uppgift som piloter inte har mött på sistone. Besättningsbefälhavaren, 58-åriga Marc Dubois, flög inte planet i det ögonblicket utan vilade i kabinen. Piloterna var tvungna att spendera dyrbar tid för att kalla honom in i cockpiten. Trots att flygplanet för tillfället när datorerna stängdes av var i nivå i rak nivå, var det inte lätt för piloterna att känna till de magra luftparametrarna. En av dem drog kontrollhandtaget mot sig själv, den andra drev framåt. Flygplanet fortsatte rakflygning i ungefär en minut och började sedan falla. Piloterna var tvungna att spendera dyrbar tid för att kalla honom in i cockpiten. Trots att flygplanet för tillfället när datorerna stängdes av var i nivå i rak nivå, var det inte lätt för piloterna att känna till de magra luftparametrarna. En av dem drog kontrollhandtaget mot sig själv, den andra drev framåt. Flygplanet fortsatte rakflygning i ungefär en minut och började sedan falla. Piloterna var tvungna att spendera dyrbar tid för att kalla honom in i cockpiten. Trots att flygplanet för tillfället när datorerna stängdes av var i nivå i rak nivå, var det inte lätt för piloterna att känna till de magra luftparametrarna. En av dem drog kontrollhandtaget mot sig själv, den andra drev framåt. Flygplanet fortsatte rakflygning i ungefär en minut och började sedan falla.och började sedan falla.och började sedan falla.
Den 1 juni 2009 spiralades Air France Flight 447 i havet och dödade mer än 200 passagerare och besättning. Han försvann i vågorna nästan utan spår. I ett världsomspännande sammankopplat system av internationella flygbolag är det tänkbart att planet helt enkelt skulle försvinna. Ett stort samordnat sökarbete organiserades. Bara några dagar senare hittades spår av planet på havsbotten. Men för att hitta huvuddelen av flygplanets vrak och svarta lådor, tack vare vilket det skulle vara möjligt att fastställa orsaken till tragedin, var det nödvändigt att genomföra sökningar på ett stort havsbottenområde, som steglöst avancerade långsamt. Mer än två år senare, på ett djup av 3,2 km, nästan precis vid den tidpunkt där flygplanet kraschade i havets yta,ett autonomt undervattensfordon som heter Remus 6000 gled tyst genom mörkret under vattenspelarens monster. När roboten rörde sig lite snabbare än en fotgängare höll roboten formad som en torpedo en konstant höjd på cirka 60 m över botten. I den här positionen fick hans akustiska skanner de tydligaste bilderna. Den akustiska signalen färdades cirka 800 m i alla riktningar, roboten samlade gigabyte information via de returnerade signalerna.roboten samlade gigabyte information via de returnerade signalerna.roboten samlade gigabyte information via de returnerade signalerna.
Ytan var bergig, så havsbotten steg kraftigt. Trots sin konstgjorda intelligens träffade roboten ibland ytan, oftast utan några konsekvenser. Tre av dessa robotar arbetade harmoniskt i tandem: medan två av dem sökte under vattnet var den tredje ombord på fartyget på ytan. En sådan "pit stop" tog tre timmar, under vilka de som betjänar roboten omskrivde information, laddade batterierna och ställde in nya sökplaner. På fartyget arbetade ett team med tolv ingenjörer från Woods Hole Oceanographic Research Institute under ledning av Mike Purcell, som var banbrytande för design och utveckling av sökfordon, tolv timmars skift. De laddades som alla formel 1-mekaniker.
När enheten steg upp till ytan tog det ingenjörerna cirka 45 minuter att ladda ner informationen den hade samlat in i en dator, sedan ytterligare en halvtimme att bearbeta den så att den snabbt kunde ses på monitorn. Franska och tyska utredare och representanter för Air France kikade över axlarna. Deras handlingar verkade beräknade och försiktiga, men spänningen hängde i luften: insatserna var för höga när det gäller fransmännens nationella stolthet och vad gäller Airbus-tillverkarens rykte och när det gäller säkerheten för alla flygresor.
Kampanjvideo:
Flera tidigare expeditioner lyckades inte. I Frankrike, Brasilien och runt om i världen väntade offrens familjer på nyheter. Att dechiffrera information från en akustisk skanner kräver noggrann analys som inte kan lita helt till en dator. Purcell och hans ingenjörer förlitade sig på många års erfarenhet. På sina bildskärmar studerade de den steniga botten kilometer efter kilometer. Detta rutinmässiga arbete varade i fem dagar, tills dess monotoni avbröts: en ansamling av skräp dök upp på skärmen, och sedan kom forskarna till katastrofområdet - de fick en stark signal från konstgjorda föremål i havsöknen. Åtminstone så antog de, men kunde fortfarande inte säga säkert. Ingenjörerna omprogrammerade fordonen så att de återvände till katastrofområdet och rörde fram och tillbaka genom det. Den här gången var robotarna tvungna att gå tillräckligt nära för att kamerorna skulle kunna ta fotografier på en höjd av cirka 9 m över botten i ljuset från sidoljusen. När fordonen förde bilderna till ytan såg ingenjörer och utredare katastrofområdet och fick ett svar: de hittade vraket av en flygplan som blev en grav för hundratals människor. Snart återvände ett annat team till scenen för tragedin med en annan typ av robot - ett fjärrstyrt undervattensfordon. Snart återkom ett annat team till scenen för tragedin med en annan typ av robot - ett fjärrstyrt undervattensfordon. Snart återkom ett annat team till scenen för tragedin med en annan typ av robot - ett fjärrstyrt undervattensfordon.
Det var en kraftfull anordning speciellt designad för att arbeta på djupet. Det var anslutet till fartyget med en kabel. Med hjälp av kartor genererade från en framgångsrik sökning, lokaliserade ROV de svarta rutorna - flygplanets röstinspelare och datalogger - och lyfte dem till ytan. Registreringar av de dömda pilots slutminuterna hämtades från havets djup, och nu kunde utredarna återskapa de ödesdigra omständigheterna som ledde till förvirring ombord på robotflygplanet. Sedan gick undervattensfordonet in på ett sorgligt uppdrag - att hämta resterna av de döda.
Kraschen av Air France Flight 447 och en operation för att hitta dess vrak förbinder modern automation och robotik i två extrema miljöer: vid stratosfärens kant och i havets djup. Flygplanet föll i havet på grund av fel i mänsklig interaktion med automatiserade system. Sedan upptäcktes dess fragment av människor som använder fjärrstyrda och autonoma robotar.
Medan orden "automatiserad" och "autonom" (i deras vanliga betydelser) innebär att sådana system fungerar oberoende, berodde i båda fallen misslyckandet eller framgången inte på maskiner och personer som agerade separat, utan på grund av maskinernas kombinerade handling. och människor. Mänskliga piloter kämpade för livet för ett flygplan som automatiserades för ökad säkerhet och tillförlitlighet. många sammankopplade fartyg, satelliter och fria flytande bojar hjälpte till att hitta kraschplatsen; ingenjörer behandlade information som mottogs från robotar och agerade på den.
Automatiserade och autonoma fordon återvände ständigt till sina skapare - människor - för information, energi och vägledning. Tragedin med Air France Flight 447 gjorde det tydligt att genom att ständigt anpassa och modifiera vår miljö, omarbetar vi oss själva. Hur kan piloter bli så beroende av datorer att de tappade ett perfekt fungerande plan till havs? Vad är människans roll inom områden som transport och transport, forskning och militär verksamhet, när fler och fler uppgifter av primär betydelse verkar utföras av maskiner? Den extrema uppfattningen är att människor är nära att "gå ur användning", att robotar "bokstavligen behöver en mjukvaruuppdatering" för att bli helt autonoma, som Scientific Amerikan nyligen skrev. Denna åsikt berättaratt robotar avancerar - vi möter dem allt mer i en bekant miljö. Oro för den okända och ifrågasatta förmågan hos konstgjord intelligens uppstår på grund av tron att vi befinner oss i "superintelligens". Vår värld är på randen av förändring, i själva verket förändras den redan under påverkan av robotar och automatisering.
Plötsligt dyker upp nya projekt som förkroppsligar gamla drömmar om smarta maskiner som hjälper oss att uppfylla våra professionella arbetsuppgifter, underlätta fysiskt arbete och rutinmässiga uppgifter i vardagen. Roboter som finns och arbetar i närheten av människor på en fysisk, kognitiv och emotionell nivå blir ett allt större och lovande forskningsämne. Autonomi - drömmen att robotar en dag kommer att bete sig som helt oberoende enheter - förblir en källa till inspiration, innovation och rädsla. Spänningen orsakas av experimentets svårighetsgrad; de exakta formerna av dessa tekniker är långt ifrån kompletta, och ännu mindre säkra är deras sociala, psykologiska och kognitiva konsekvenser.
Hur kommer våra robotar att förändra oss? I vilken bild och bild kommer vi att göra dem? Vad kommer att finnas kvar av våra traditionella verksamhetsområden - forskare, advokat, läkare, soldat, chef och till och med förare och vaktmästare - när dessa uppgifter kommer att utföras av maskiner? Hur ska vi leva och arbeta? Vi behöver inte spekulera: för det mesta har denna framtid redan kommit idag, om inte i vardagen, då under extrema förhållanden, där vi har använt robotar och automatisering i årtionden. Människan kan inte existera i sig i de övre lagren av atmosfären, i havets djup, i yttre rymden. På grund av behovet av att skicka människor till dessa farliga förhållanden skapades och implementerades robotik och automatisering i dessa områden tidigare än inom andra verksamhetsområden som är mer bekanta för oss.
I extrema miljöer testas förhållandet mellan människor och robotar för styrka. Den mest innovativa utvecklingen förekommer i en sådan miljö. Här har ingenjörer den största friheten att experimentera. Trots fysisk isolering är det här de kognitiva och sociala effekterna av olika enheter först började manifestera. Med människoliv, dyr utrustning och uppdragskritiska uppdrag som står på spel måste autonomi alltid begränsas av överväganden om säkerhet och tillförlitlighet. Under sådana förhållanden försvinner vardagens liv och förhållanden tillfälligt i bakgrunden, och vi finner, från det omgivande mörkret, fragmenterade, spöklika allegorier om mänskligt liv i teknologiens värld. Sociala och tekniska processer i cockpiten på en flygplan eller i ett djuphavsfordon skiljer sig inte grundläggande från liknande processer i en fabrik, på ett kontor eller i en bil. Men under extrema förhållanden verkar de mer tydligt och därför är de lättare att förstå.
Varje flygning i en flygplan är en historia, precis som varje oceanografisk expedition, rymdflyg eller militär operation. Genom dessa berättelser om specifika personer och maskiner kan vi sammanföra data om subtil dynamik. Under extrema förhållanden får vi en uppfattning om vår närmaste framtid, när sådan teknik kan introduceras inom sådana områden med mänsklig aktivitet som vägtransport, hälsovård, utbildning, etc. Enheter som kontrolleras av en person på distans eller autonomt öppnar kvalitativt nya möjligheter till interaktion mellan människor och maskiner, nya former av närvaro och nya upplevelser, samtidigt som vi uppmärksammar farorna, etiska aspekterna och oönskade konsekvenserna av att leva runt smarta maskiner. Vi ser en framtid där människans närvaro och kunskap kommer att bli viktigare,än någonsin, men på ett sätt ovanligt och okänt. Och dessa bilar är bara underbara.
Jag är inte den enda personen som har beundrat flygplan, rymdskepp och ubåtar hela mitt liv. Faktum är att hjältarna till berättelserna som jag kommer att berätta nedan styrdes inte bara av sökandet efter praktiska fördelar - de drevs också av en passion för ny teknik. Det är ingen slump att sådana historier ofta har beskrivits i science fiction-arbeten om människor och maskiner. Historierna om människor och maskiner som samverkar vid gränsen för deras möjligheter är fängslande, överraskande och väcker hopp för vem vi kan bli. Denna entusiasm återspeglas ibland i en naiv tro på teknikens perspektiv. Men gradvis leder ett sådant intresse oss till de viktigaste filosofiska och humanistiska frågorna:vilka är vi? Hur är vi kopplade till vårt arbete och till varandra? Hur utvidgar våra skapelser vår upplevelse? Hur kan vi leva i denna föränderliga värld? Dessa frågor kommer upp på egen hand när du börjar prata med de människor som skapar och kontrollerar robotar och maskiner. Jag vill dela med dig informationen jag fick från första hand från fördjupade intervjuer och resultaten från den senaste forskningen från Massachusetts Institute of Technology och andra organisationer som testar robotik och automatisering under havsdjupets extrema förhållanden under flygflygningar (civil och militär) och i rymden. Detta är inte en imaginär framtid, men vad som händer idag: vi kommer att se hur människor kontrollerar robotar och får information via autonoma enheter, vi kommer att analysera hur dessa interaktioner påverkar deras arbete,livserfarenhet, färdigheter och förmågor.
Vår berättelse börjar där jag själv började - i havets djup. För tjugofem år sedan, när jag var ingenjör som utvecklade inbäddade datorer och verktyg för djuphavsrobotar, blev jag förvånad över att upptäcka att den här tekniken förändrar oceanografi, vetenskapliga metoder och till och med själva oceanografyrket på oförutsägbara sätt. Denna förståelse ledde till att jag fick två parallella karriärer. Som forskare har jag studerat samspelet mellan människor och maskiner, från pansarfartyg under det amerikanska inbördeskriget till datorer och programvara som hjälpte Apollo-astronauterna att landa på månen.
Som ingenjör har jag integrerat data som erhållits från denna forskning i moderna projekt - utvecklat robotar och enheter för användning i nära samspel med människor. I vissa berättelser framträder jag som deltagare, i andra - som observatör och i andra - i båda dessa drag på en gång. Under åren med att samla erfarenhet, söka och prata med människor blev jag övertygad om att vi måste ändra oss om robotar. Till och med språket som vi talar om dem är snarare hämtat från science fiction från 1900-talet och har ingenting att göra med vår tids tekniska resultat. Till exempel kallas fjärrstyrda flygplan drönare, som om de var sinneslösa automater, när de faktiskt kontrolleras strikt av människor.
Roboter presenteras (och säljs) ofta som helt autonoma mellanhänder, men till och med dagens begränsade autonomi finns ofta bara i den mänskliga fantasin. Roboterna som vi använder så vitt och varierande är knappast hotautomater - de är inbäddade i sociala och tekniska nätverk precis som vi är. Nedan kommer vi att titta på många exempel på hur vi arbetar tillsammans med våra maskiner. Det handlar om kombinationerna. Det är dags att överväga vilka funktioner som moderna robotar faktiskt utför för att bättre förstå vår relation med dessa ofta otroligt skickliga skapelser av mänskliga händer. Jag erbjuder dig en empirisk slutsats med forskningsstöd: oavsett vad robotar gör i laboratoriet, i verkligheten, där människors liv och verkliga resurser står på spel,vi strävar efter att begränsa deras autonomi till det stora antalet nödvändiga godkännanden och möjligheter för mänsklig intervention.
Jag argumenterar inte för att maskiner är smarta, och jag säger inte att de en dag kanske inte är smarta nog. Snarare är min påstående att sådana maskiner inte är isolerade från människor. Låt oss lista tre myter från 1900-talet relaterade till robotik och automatisering. Den första myten är linjära framsteg - idén att tekniken kommer att gå från direkt mänsklig kontroll till fjärrkontroll och sedan till helt autonoma robotar. Filosofens Peter Singer, som ständigt talar för att försvara autonoma system, fångar essensen av denna myt. Han skriver att "människans förmåga att behålla kontrollen över vad som händer är ogiltig både av dem som är vid rodret och direkt av teknik, och därför kommer människor snart att uteslutas från kontrollslingan." Men det finns ingen anledning att antaatt evolutionen kommer att följa denna väg, att "tekniken själv", som Singer skriver, kommer att leda till något liknande. Det finns faktiskt bevis på att människor gradvis kommer i djupare kontakt med sina maskiner.
Vi upplever ständigt att människor, fjärrstyrd av dem och autonoma fordon, utvecklas parallellt och påverkar varandra. Till exempel skulle obemannade flygfordon inte kunna flyga i USA: s nationella luftrum utan lämpliga ändringar av bemannade fordon. Eller för att ta ett annat exempel: nya framsteg inom robotik inom rymdfarkostfältet återspeglas i astronauternas arbete med Hubble Space Telescope. De mest utvecklade (och komplexa) teknologierna är inte de som fungerar separat från människor utan de som är djupt inbäddade i det sociala systemet och svarar snabbare på vad som händer i det. Den andra är substitutionsmyten, idén att maskiner gradvis börjar ta över alla uppgifter som människor utför. Denna myt är en version från det tjugonde århundradet av det jag kallar Iron Horse-fenomenet.
Till en början föreställde sig människorna att järnvägen skulle häva behovet av hästar, men tåg har visat sig vara väldigt obetydliga hästar. Järnvägar tog sin plats när människor lärde sig att göra helt nya saker med deras hjälp. Mänskliga faktorer forskare och kognitiva forskare hävdar att automaten sällan bara "mekaniserar" mänskliga uppgifter. Snarare tenderar de att göra uppgiften svårare, ofta genom att öka arbetsbelastningen (eller omfördela den). Fjärrstyrda flygplan utför inte samma uppgifter som bemannade flygplan; de tar på sig nya funktioner. Fjärrstyrda robotar på Mars replikerar inte geologernas arbete i fältet;de och de människor som arbetar med dem lär sig att bedriva fältforskning i en ny miljö med hjälp av fjärrmekanismer.
Slutligen har vi en tredje myt - myten om fullständig autonomi, den utopiska idén att robotar kan agera helt oberoende i dag eller i framtiden. Ja, automatiskt kan naturligtvis ta på sig några av de uppgifter som tidigare utförts av människor, och de kan verkligen agera oberoende under en viss begränsad tid som svar på förändringar i miljön. Men maskiner som inte är beroende av mänsklig inriktning är värdelösa maskiner. Endast sten kan vara verkligt autonom (men till och med sten skapades och placerades på sin plats tack vare sin miljö). Automation ändrar graden av mänskligt engagemang i driften av en maskin, men eliminerar inte behovet av det helt. I alla system, till och med ett till synes autonomt system, kan vi alltid hitta ett gränssnitt tack vare vilket en person kan styra sitt arbete,läs information och tack vare vilken den blir användbar. För att citera en av de senaste rapporterna från US Department of Defense Science Council, "Det finns inga helt autonoma system, precis som det inte finns några helt autonoma soldater, sjömän, flygmän eller marinesoldater."
För att tänka i 2000-talets termer och ändra våra åsikter om robotik, automatisering, och särskilt den nyare idén om autonomi, måste vi förstå hur mänskliga avsikter, planer och antaganden förändrar essensen i maskinen de skapar. Varje operatör, som kontrollerar sin apparat, interagerar med designers och programmerare, vars närvaro i maskinen är oundviklig - även i form av strukturella element eller kodlinjer skapade för många år sedan. Air France Flight 447: s omborddatorer kunde fortsätta att flyga planet med begränsad lufthastighetsdata, men människor hade programmerat dem för att förhindra dem från att göra det. Även om programvaran vidtar åtgärder som inte kan förutsägas, uppför den sig inom ramen för scheman och begränsningar som skapas av dess skapare. Det där,hur systemet utvecklades, av vem och för vilket syfte, bestämmer dess förmågor och sätt att interagera med de människor som använder det. Mitt mål är att komma ifrån dessa myter och förstå begreppet autonomi i samband med 2000-talet.
Genom berättelserna som följer nedan avser jag att omforma den offentliga diskursen och skapa en konceptkarta för en ny era. För att skapa en sådan karta, tala om enheter och robotar i den här boken, kommer jag att arbeta med begreppen mänskligt styrd, avlägsen och autonom. Den första är en analog till det inte alltid lämpliga ordet "bemannat", därför i vissa fall betyder "kontrollerad" "kontrollerad av en person i fordonet". Detta är naturligtvis gamla och bekanta typer av apparater som fartyg, flygplan, tåg och bilar - de maskiner som människor reser genom. Vanligtvis anses inte människokontrollerade system alls vara robotar, även om de i allt högre grad liknar robotar med människor inuti. Fjärrkontrollen, en förkortad form av fjärrstyrd fordon, indikerar helt enkelt var föraren befinner sig i förhållande till fordonet. Även när den kognitiva uppgiften att styra fjärrsystemet nästan fullständigt sammanfaller med den som direkt utförs av den fysiskt närvarande operatören, får operatörens närvaro eller frånvaro och de tillhörande riskerna stor kulturell betydelse.
Det mest slående exemplet är fjärrkrigföring tusentals kilometer från en krigszon. Detta är en helt annan upplevelse än den vanliga soldatens uppgifter. Som ett kognitivt fenomen sammanflätas den mänskliga närvaron med den sociala aspekten. Automation är också en idé från det tjugonde århundradet och återspeglar fortfarande den mekanistiska uppfattningen att maskiner följer förutbestämda procedurer steg för steg. Termen "automatiserad" används vanligtvis för att beskriva datorer ombord på flygplan, även om de innehåller moderna, ganska komplexa algoritmer. Autonomi är det mer trendiga ordet i dag och en av de främsta forskningsprioriteringarna för det ständigt krympande amerikanska försvarsdepartementet. Vissa forskare skiljer klart mellan autonomi och automatisering, men enligt min meningskillnaden mellan autonomi ligger bara i en större grad av oberoende beslutsfattande än enkel feedback; Dessutom omfattar och förenar begreppet "autonomi" många idéer lånade från teorin om konstgjord intelligens och andra discipliner. Och naturligtvis blir idén om individer och gruppers autonomi orsaken till ständig kontrovers i politik, filosofi, medicin och sociologi. Detta borde inte överraska, eftersom tekniker ofta lånar villkor från samhällsvetenskapen för att beskriva sina maskiner.idén om individer och gruppers autonomi blir orsaken till ständig kontrovers i politik, filosofi, medicin och sociologi. Detta borde inte överraska, eftersom tekniker ofta lånar villkor från samhällsvetenskapen för att beskriva sina maskiner.idén om individer och gruppers autonomi blir orsaken till ständig kontrovers i politik, filosofi, medicin och sociologi. Detta borde inte överraska, eftersom tekniker ofta lånar villkor från samhällsvetenskapen för att beskriva sina maskiner.
Även inom designverksamheten kan termen "autonomi" ha flera olika betydelser. Autonomi i rymdskepp design består av ombord bearbetning av de data som krävs för driften av rymdskeppet (oavsett om det är en kretsande automatiserad station eller en mobil robot), åtskilda från uppgifter såsom uppdragsplanering. Vid Massachusetts Institute of Technology, där jag undervisar, täcker innehållet i autonomiteknik huvudsakligen "banplanering" - hur man går från en punkt till en annan, tillbringar en tillräcklig tid och utan att krascha in i något. I andra system är autonomi analogt med intelligens, förmågan att fatta beslut som en person skulle fatta i vissa situationer eller förmågan att agera i förhållandensom inte förväntades eller förutses av skaparna av enheten.
Autonoma undervattens är så kallade eftersom de arbetar på egen hand och motsätter sig fjärrstyrda fordon som är anslutna till fartyget med långa kablar. Trots detta säger ingenjörerna som skapar sådana autonoma ubåtar att deras enheter är semi-autonoma, eftersom de endast i sällsynta fall arbetar utan kontakt med operatören. Uttrycket "autonomt" innebär större handlingsfrihet. Den beskriver hur apparaten används, vilket är en potentiellt flyktig faktor. I en nyligen genomförd studie föreslås begreppet "ökande autonomi": på detta sätt betonar författarna autonomiens relativa karaktär och säger att "fullständig" autonomi, det vill säga maskiner som inte behöver ta emot information från en person, alltid är ouppnåelig.
I denna bok kommer en fungerande definition av autonomi att vara: mänskligt utvecklade sätt att omvandla information från miljön till riktade planer och åtgärder. Ordningen är viktig, och det ger kontroverser en annan smak. Men vi borde inte bo på dem. Jag litar ofta på språket (som ibland kan vara felaktigt) som används av de människor jag arbetar med. Poängen med denna bok ligger inte i definitioner, utan i beskrivningar av verkligt arbete - hur människor använder dessa system i den verkliga världen, får nya erfarenheter, forskar eller till och med slåss och dödar. Vad händer egentligen? Om du uppmärksammar levande upplevelsen hos designers och de som använder robotar, kan allt bli tydligt. Till exempel,ordet "drönare" döljer robotarnas naturliga natur och tillskriver deras negativa sidor abstrakta idéer som "teknik" eller "autonomi." När vi undersöker Predator-operatörernas inre funktioner, lär vi oss att de inte strider med automatiska enheter - människor fortfarande uppfinner, programmerar och kontrollerar maskiner.
Det pågår en lång debatt om etik och policy för fjärrmord av drönare med fjärroperatörer eller om hemligheten för sådana enheter som arbetar i det interna amerikanska luftrummet. Men dessa debatter har att göra med karaktären, platsen och tidpunkten för mänskliga beslut, inte med autonoma maskiner. Följaktligen handlar inte frågan om att kontrastera bemannade och obemannade fordon och inte att motsätta sig manstyrda fordon mot autonoma fordon. Huvudfrågorna i denna bok är: "Var är folket?", "Vem är dessa människor?", "Vad gör de?", "När gör de det?" Var är folket? (På ett fartyg … i luften … inuti bilar … eller på ett kontor?) Manipuleringarna av Predator-operatören är besläktade med en flygplanspilot: han övervakar tillståndet ombordssystem, uppfattar information,fattar beslut och tar vissa steg. Men hans kropp är på en annan plats, kanske flera tusen kilometer från resultaten av hans arbete. Denna skillnad är viktig. Uppgifterna är olika. Riskerna är olika och detsamma är maktbalansen.
Det mänskliga sinnet kan resa till andra platser, andra länder, till andra planeter. Kunskap som uppnås genom sinnet och sinnena skiljer sig från kunskap som uppnås genom kroppen (där du äter, sover, kommunicerar, avröter). Vi bestämmer vilka av de två vägarna för att få kunskap att följa beroende på den specifika situationen, och detta har dess konsekvenser för de som är involverade i processen. Vilka är de här personerna? (Piloter … ingenjörer … forskare … utbildade arbetare … chefer?) Ändra tekniken, och då kommer både uppgiften och essensen hos den specialist som arbetar med den att förändras. I själva verket kommer du att ändra hela kontingenten för personer som kan hantera systemet. Det tar år av studier och utbildning för att bli pilot, och detta yrke är högst upp i personalhierarkin. Kräver fjärrstyrning av ett flygplan samma färdigheter och egenskaper? Från vilka sociala klasser kan arbetskraften rekryteras?
Ökningen av automatisering på kommersiella flygplan matchar utvidgningen av pilotdemografi både i industriländer och runt om i världen. Är en forskare någon som reser under farliga förhållanden, eller någon som sitter hemma framför en dator? Måste du njuta av livet ombord för att bli oceanograf? Kan du utforska Mars medan du sitter i rullstol? Vad arbetar dessa nya piloter, forskare och forskare med fjärråtkomst? Vad håller de på med? (Fly … kontroll … processinformation … kommunicera?) Fysisk ansträngning förvandlas till att behandla visuell information och sedan till en kognitiv uppgift. Det som brukade kräva styrka nu kräver uppmärksamhet, tålamod och snabb reaktion. Håller piloten händerna direkt på styrspakarna,när flyger han planet? Eller ange nyckelkommandon i autopiloten eller flygdatorn för att programmera flygplanets flygväg? Vilken roll har personens bedömning av situationen? Vilken roll är ingenjören som programmerade den inbyggda datorn, eller flygteknikern som skapade den?
När gör de det? (I realtid … med viss försening … i förväg, år eller månader innan uppdraget?) Flyget av ett vanligt flygplan sker i realtid: en person reagerar omedelbart på händelserna som inträffar, och hans handlingar har en omedelbar effekt. I ett rymdflugsscenario kan enheten vara på Mars (eller närma sig en avlägsen asteroid), i vilket fall kommer det att ta 20 minuter innan enheten får kommandot, och 20 minuter för operatören att se att något har hänt. Eller så kan vi säga att hantverket landar "i automatiskt läge", när vi i verkligheten förstår att det landar under kontroll av programmerare som lämnade instruktioner flera månader eller år innan landning (även om vi här kanske måste göra justeringar av själva konceptet "kontrollera"). Att kontrollera ett automatiserat system kan likna interaktion med ett spöke. Dessa enkla frågor väcker vår uppmärksamhet på omfördelning och omjustering.
Nya former av mänsklig närvaro och aktivitet är inte triviala och motsvarar inte de gamla - den kulturella identiteten hos en pilot som riskerar sitt liv att flyga över slagfältet skiljer sig från en person som kontrollerar ett fordon på distans från en markstation. Men dessa förändringar är också oväntade - en fjärroperatör känner sig mer närvarande på slagfältet än en pilot som flyger högt över den. Vetenskaplig information om månen kan vara densamma eller ännu mer fullständig när den samlas in av ett fjärrstyrt fordon och inte av en person som landade direkt på planeten. Men den kulturella upplevelsen av månutforskning i detta fall är helt annorlunda. Låt oss ersätta gammaldags föreställningar med rika - animerade bilder av hur människor faktiskt skapar och kontrollerar robotar och automatiska system i den verkliga världen. Berättelserna nedan är både vetenskapliga och tekniska och humanistiska.
Vi kommer att se att människodrivna, avlägsna och autonoma maskiner tillåter rörelse och omorientering av människans närvaro och handling i tid och rum. Kärnan i denna bok är som följer: det är inte själva motståndet från människokontrollerade och autonoma system som är viktiga, utan snarare frågorna - "Var är folket?", "Vem är dessa människor?", "Vad gör de och när?" De sista, svåraste frågorna kommer att vara: "Hur förändras människans uppfattning?", "Och varför spelar det någon roll?"
