Robotar utvecklas snabbt - tiden närmar sig när de kommer att fylla gator, kontor, lägenheter och till och med våra kroppar. Är vi villiga att existera sida vid sida med maskiner som fungerar som människor och redan tävlar med oss om jobb? Många humanitära frågor uppstår.
Vad kan du anförtro en robot och vad är det bättre att vägra? Kan han fatta beslut, känna känslor, har han en viss fri vilja och är han ansvarig för sina handlingar? Hur integrerar jag robotar i samhället? Dessa frågor verkar naiva. Medan. Men det kan visa sig att svaren på dem kommer att avgöra vår civilisations öde.
När lamporna slocknade började en het melodi av de som brukar åtfölja modemodeller på catwalken spela. Och vi (personalen i tidningen Schrödinger's Cat) såg två enorma röda hjärtformade ögon. Roboten närmade sig publiken med värdighet och nåd. Ögonen förvandlades till två blå cirklar, som utstrålade goda avsikter och barnslig naivitet, händerna sträckte sig ut till människor. Lamporna tändes igen.
- Alantim! - chefen för Promobot-projektet och chefen för robotavdelningen vid Moskva tekniska institutet (MTI) Alexey Yuzhakov presenterade det för allmänheten. - År 2012 kallade vi honom Promobot, då stod det stötande smeknamnet Monument vid honom, då hade han det sonorösa namnet Bogdan, men nu är han Alantim - för att hedra skaparna av den nya världen Alan Turing och Tim Berners-Lee.
Foto: Skoltech / kot.sh
Alantim vände sig fortfarande fram och tillbaka och pratade med journalister och badade dem med skämt och berättelser om hur robotar kommer att ta makten på jorden och döpa om den till Promobotia. En rad tjejer stod omedelbart upp till honom och ville bli fotograferad med en sådan söt varelse. Alantim träffade tjejerna, svarade på frågor om livets mening och dollarkursen och kom ihåg alla.
Så den första arbetsdagen för den nya biträdande chefen för avdelningen för robotik vid Moskvas tekniska högskola, roboten Alantim, gick.
Kampanjvideo:
En bil med karaktär
Alantim är inte en unik varelse. Teamet från Perm, som skapade promobots, har redan sålt 60 sådana enheter, och i år tecknat kontrakt för ytterligare 124, som praktiskt taget uppfyller den årliga helryssiska planen för leverans av servicerobotik - 2014 såldes bara cirka 200 inhemska servicerobotar.
En promobot är en autonom robot med karaktär, utformad för att arbeta på trånga platser: promotor, guide, showman. Han vet hur man känner igen några av samtalens känslor, kan förstå den fråga som riktas till honom och hitta svaret på webben, och om han inte förstår frågan försöker han skratta av den.
Under tiden gick vi till chefen för Alantim - MIT-prorektor Evgeny Pluzhnik
[Schrödingers katt] Hur kom du på idén att anställa en robot till organisationen?
[Grigory Bubnov] Vi insåg just att det förr eller senare kommer att komma när robotar kommer att börja anställa. Och vi bestämde oss för att bli pionjärer.
[KSh] Så det är inte för ingenting som de säger att robotar gör anspråk på våra jobb
[SE] Detta är faktiskt inte ett skämt, utan ett mycket allvarligt hot, särskilt i områden där ett stort antal människor är anställda. Jag tror till exempel att autonoma bilar kommer att säljas överallt redan under detta decennium, och efter det kommer många förare att lämnas utan arbete. Regeringarna kommer oundvikligen att möta denna utmaning - de måste börja fundera på hur man skapar nya jobb och omskolningsprogram.
[KSh] Hur tycker du att använda Alantim? Precis som en prålig leksak?
[GB] Inte bara! Till exempel har han en forskningsuppgift - att samla in data om kommunikationen mellan robotar och människor, att studera individuella reaktioner på robotar. Denna information kommer att göra utseendet och beteendet av framtida modifieringar av Alantim mer mänskligt och bekvämt för kommunikation.
Foto: Skoltech / kot.sh
[CS] Vilken typ av information samlar han in?
[SE] Först och främst uppgifter om reaktioner på hans beteende - han har ett system för att känna igen känslor. Till exempel, hur reagerar andra när han lyfter upp handen? Vad händer om hans sätt att göra något skrämmer dem? Våra gester har finslipats av evolutionen - vi tvekar inte, säga, kliar i baksidan av våra huvuden - och med en robot måste vi fortfarande gå hela vägen till "naturligt" beteende. Förresten minns han människor genom att fotografera dem.
Men det kan finnas problem: bilder av människor betraktas som personuppgifter, och det finns en lag som begränsar deras användning. I allmänhet kommer här många juridiska frågor att uppstå - är det till exempel nödvändigt att betala inkomstskatt på den elektricitet som gavs till robotanställd för laddning? Jag tror att vi snart kommer att se hur lagstiftningen i olika länder kommer att förändras - tillsammans med människors attityd till robotar.
Gummipushkin och andra robotar
Den globala robotmarknaden blomstrar redan, försäljningen slår rekord - tiotals miljarder dollar i slutet av förra året.
0,17% - Denna andel av världsmarknaden för industriella robotar finns i Ryssland (enligt 2013 års data).
Foto: Skoltech / kot.sh
Från hjältar från Hollywood-blockbusters kommer robotar att förvandlas till riktiga karaktärer - och vi kommer att börja leva med dem. Kommer vi överens? Från och med skräckhistorierna om Golem och Frankenstein eller pjäs av Karel Čapek, där ordet”robot” först dyker upp, slutade som regel alla dessa berättelser med en sak - upproret av konstgjorda varelser mot deras skapare. Kommer vi att kunna skapa en verklighet som överträffar våra fantasier?
En annons på Promobots projektwebbplats förklarar tydligt varför en robotanställd är bättre än en människa: behöver inte lön och overall, arbetar utan pauser, blir inte sjuk, protesterar inte, blir inte förvirrad, säger inte för mycket, behöver inte utbildning … Det finns så många fördelar, att enligt olika uppskattningar robotar under de kommande decennierna kan ta från 40 till 80% av jobben, det vill säga vi hotas av en oöverträffad våg av masslöshet.
Kanske i slutändan kommer detta att bli en guldålder, när, som Karl Marx drömde, människor kommer att engagera sig i fri kreativitet. Men vi måste fortfarande leva för att se det - och helst utan sociala katastrofer. Det är osannolikt att det kommer att vara möjligt att begränsa användningen av robotar avsevärt: lagstiftningsförbud har aldrig tidigare kunnat stoppa framstegen. Vad är poängen? Snarare kommer människor att förbjudas att köra när robotförare blir allestädes närvarande. Människan är för oförutsägbar. Är inte mänskliga piloter, till exempel, som kan styra ett flygplan till marken eller till bostadsområden, farliga?
Det betyder att vi måste lära oss att leva med robotar
Till att börja med åkte vi till den plats där det finns många robotar - till den internationella konferensen Skolkovo Robotics. Ett brokigt företag med robotar och deras skapare har samlats i Skolkovo Hypercube. Stora och små, flygande och gående drönare, professionella brandmän och elektroniska torkare, mekaniska armar och ben, torso och huvuden …
Här är Pushkins gummihuvud, monterat på ett stativ, som på en stav, tittar på förbipasserande och nervöst ryckar ett ögonbryn - det finns för många människor, ögonen springer upp. Poetens ansikte liknar den verkliga att du känner dig vördnad.
Foto: Skoltech / kot.sh
I närheten finns en robot som inte ser ut som en människa alls. Istället för en kropp finns det en pinne på hjulen, istället för ett huvud, en skärm som vänder i alla riktningar. Detta är en telepresence-robot Webot, skapad i Skolkovo för att hjälpa barn med funktionsnedsättning. Du kan ansluta till den via Internet, flytta runt i byggnaden med den, se och höra vad som händer runt och interagera med andra.
Sådana robotar används redan i flera skolor - barn ansluter till dem hemifrån och med deras hjälp delta i lektioner, slutföra uppgifter, svara på lärarens frågor, köra upp till tavlan, kommunicera med kamrater.
De största konsumenterna av tjänstrobotar i Ryssland och över hela världen är personer med funktionsnedsättning. Robotics ger dem hopp om att återvända till fullt liv - som det första ryska exoskelettet ExoAtlet. Dess pilot Jaroslav, som nyligen tvingats leda en förlamad person, går bland allmänheten som en cyborg från framtiden.
En annan robotassistent introducerades för oss av den japanska professorn Kazuhiko Terashima:
- Det japanska samhället åldras snabbt, det finns inte tillräckligt med personal på kliniker. Och roboten Terapio som vi utvecklat visade sig vara en utmärkt assistent för läkaren. Han följer läkaren, bär instrument, men viktigast av allt, han kommer ihåg uppgifterna, vilket gör medicinska journaler onödiga. Dessutom gör han självständigt rundor med patienter och i så fall väcker larmet.
Han har ett barnsligt uttryck i ansiktet och en mild röst, han vet hur man skrattar och gråter, hans stora ögon blinkar hela tiden - för att tillfredsställa patienterna, för att få dem en reaktion som den som orsakas av barn eller kattungar. Vår robot är ett viktigt steg i ett robotsjukhusprojekt som kontinuerligt övervakar patienter. Förresten, du vet, nu görs operationerna med hjälp av robotkirurger.
Foto: Skoltech / kot.sh
Du kan känna igen en Android genom att gå
Robotik och designers uppträder i konferenshallen i Hypercube. Mikhail Lebedev från Duke University förklarar hur han implanterar flisor i apans hjärna som gör att de kan kontrollera robotar med sina sinnen. Sessionen modereras av Dmitry Teteryukov, professor vid Skolkovo Institute of Science and Technology, chef för rymdrobotlaboratoriet, som har arbetat i Japan i många år.
Vi peppade naturligtvis honom med frågor.
[Schrödingers katt] Statistiskt växer antalet robotar snabbt, men var gömmer de sig - andra än de som används inom industrin?
[Dmitry Teterukov] Förutom industrirobotar växer en armé av tjänstrobotar - alla har hört talas om robotdammsugare eller robotkvadrocopters som levererar inköp. Många av dessa maskiner används inom medicin, och i den amerikanska armén har de varit i krig under lång tid: till exempel spårrobotar med en manipulator är engagerade i minröjning. I allmänhet var de mycket användbara i nödsituationer, de användes i olyckan vid Fukushima.
[KSh] Vilken typ av robotar producerar du i Ryssland?
[JT] Jag fortsätter vad jag gjorde i Japan. Ett av projekten är att kontrollera en grupp robotar, när de agerar enligt en gemensam plan, som en enda flock, utbyta information och ta hänsyn till varandras handlingar. Vi kommer naturligtvis att testa allt detta här på jorden, men vi planerar att de ska fungera i rymden.
[KSh] Forskare har alltid beskrivit robotar som sådana ensamma varelser …
[JT] Att fördela arbete bland många är mycket effektivare än att tilldela allt till en. Till exempel måste en självkörande bil bearbeta all information om själva vägen, men om sådana enheter finns överallt är det mycket bekvämare för dem att agera utifrån den allmänna bilden och programmet.
[KSh] När robotar blir mänskliga både i utseende och sinne, börjar det bli lite läskigt, eller hur?
[JT] Det finns en japansk professor Hiroshi Ishiguro som skapar androider som nästan inte kan skiljas från oss - jag misstog nyligen en av hans geminoider som en människa. Men det här är bara medan han sitter. En robot som kan gå som en människa har ännu inte dykt upp - det är lätt att känna igen den genom sin gång. Ishiguro skapade både sin egen och sin dotters.
Men när hon såg henne blev dottern rädd, grät och sprang iväg. Det vill säga, när en robot blir mycket lik en person inträffar dess avslag. Och när denna tröskel passeras, elimineras det onaturliga utseendet och rörelserna, börjar roboten uppfattas som en riktig person. Men för att klara det måste man inte bara uppnå fysisk likhet utan också intellektuell - förmågan att föra ett rimligt samtal.
[KS] Är det berömda Turing-kriteriet, enligt vilket en robot ska betraktas som rimlig, som vi inte kan skilja från en människa i en konversation? Eller behöver det omformuleras på något sätt?
[JT] Nu förstås detta kriterium som ett test för program som simulerar mänsklig chatt. Men poängen är inte bara i intellektet - för att misstänka en antropomorf robot för en människa måste den vara emotionell, röra sig smidigt, uppträda som en människa. Det finns redan program som mycket övertygande visar sarkasm och ironi. Jag tror att det snart kommer att finnas separata tester för olika förmågor: det emotionella Turing-testet kommer att kontrollera tillräckligheten hos känslor, och till exempel motortestet - förmågan att röra sig som en person.
Foto: Skoltech / kot.sh
[KS] Är du inte rädd, grovt sett, för ett robotuppror?
[ДТ] När allt kommer omkring skriver människor program för robotar, vilket innebär att de bestämmer vilka robotar som kan och vad inte, vilka önskningar de kommer att ha och vad de inte kommer att ha. Och varför skulle robotar gå emot sina skapare, av vilken anledning?
[KSh] Till exempel på grund av vårt missförstånd att de också behöver rättigheter, eller för att de tas isär och avyttras efter utgångsdatumet. Och program för robotar kommer inte bara att skrivas av människor - förr eller senare kommer maskiner att bli självlärande
[JT] De kommer att tränas inom den ram vi har satt. Det verkar som om framtidens version med konfrontationen mellan människor och robotar leder till nedbrytning, oavsett vem som vinner i en sådan konfrontation. Ett evolutionärt produktivt scenario är symbios, inte ett förintelseskrig, parasitism eller annan underkastelse. Dessutom kommer denna symbios också att förekomma i människokroppen, så att de mest intressanta etiska frågorna, enligt min mening, kommer att uppstå i samband med cyborgisering.
Var kommer gränsen mellan människa och maskin vara när vi börjar installera konstgjorda organ för oss själva, installera chips i hjärnan, förbättra vårt minne och andra förmågor med deras hjälp? Det verkar för mig att en framtid väntar oss utan prylar och persondatorer - det räcker att göra en mental begäran eller ge ett kommando, eftersom hjärnan kommer att vara ansluten till nätverket.
Men kanske cyborgs kommer att behöva begränsande lagar, som liknar lagarna i Asimovs robotik - jag formulerade dem till och med på något sätt. Deras väsen är att maskinen i cyborg inte tar makten över personen, så att beslutsstyrkan förblir hos personen och inte hos hans huvudprocessor.
[KSh] Har du en drömrobot?
[DT] Detta är förmodligen en operatörsstyrd robot med en telepresence-effekt, som möjliggör full kommunikation på distans och förmedlar operatören alla känslor, vilket skapar effekten av fullständig närvaro.
[CS] Avatar?
[JT] Ja. Jag behandlade detta ämne innan Avatar kom ut, men naturligtvis bestämmer sådana filmer på något sätt framtiden - vår förståelse för vad vi strävar efter och vad som är möjligt.
Foto: Skoltech / kot.sh
Moraliska maskiner
Under tiden inleddes en diskussion i Hypercube om ämnet "Moraliskt porträtt av en antropomorf maskin." Professor i psykologi Maxim Kiselev höll ett inledande tal om roboters moraliska karaktär.
”Roboetik hanterar alla humanitära problem relaterade till robotar”, förklarade han. - Till exempel lagligt: vem är ansvarig om en bil utan förare körde någonstans - själva roboten, ägaren till bilen eller en programmerare? Eller socialt, vars huvudsakliga är potentiell arbetslöshet. Själv har jag varit på robotfabriker mer än en gång - till exempel vid en fabrik i Swindon, där komponenter till MINI Cooper-bilar tillverkas. Det sysselsätter cirka två hundra robotar och samma antal människor, och innan det fanns fyra tusen jobb. Det finns också specifika moraliska frågor, till exempel det så kallade assistentrobotdilemmaet. Hur vet du när maskinhjälp blir kontraproduktivt? Föreställ dig en robot, mjuk och fluffig, som följer barnet och samlar leksaker. Men för ett barns normala utveckling är det nödvändigt att han gör det själv.
Fylld med robofobi gick vi till skaparen av robotik, professor Gianmarco Verugio, ordförande för vetenskapskommittén vid School of Robotics vid det italienska institutet för elektronik, informationsteknik och telekommunikation - han satt bara i närheten.
[Schrödingers katt] Hur blev roboetik till?
[Gianmarco Verugio] Jag var en gång ett fan av Asimov, vid 16 års ålder hade jag läst alla hans böcker. Kanske är det därför många år senare kom något som en uppenbarelse över mig, från vilken roboetik uppstod. Jag insåg att lagarna i Asimovs robotik - "En robot kan inte skada en person" och så vidare - inte alls är lagar, utan bara goda önskningar, ingen av dem följs i praktiken. Den verkliga lagen är e = mc2. Liksom andra naturlagar kan den inte brytas.
Överträdelse av lagstiftning bestraffas. Och robotikens tre lagar är som de bibliska buden som säger "Du ska inte döda": alla verkar vara för, men följer inte. Just nu utvecklas robotvapensystem i många länder runt om i världen. Vapen behövs för att döda, vilket innebär att dessa robotar skapas för att döda människor.
Vi måste ge juridisk kraft till robotiklagarna. Att skriva sådana lagar är en svår uppgift. Antag att en robot kan döda en person med avsikt, eller kanske av misstag, på grund av ett sammanbrott eller programbrister, blir det ofta svårt att skilja mellan dessa situationer. Men det är värt att börja tänka på dessa problem nu: om vi går fel väg kan vi förstöra mänsklighetens framtid. Det är dumt att skapa framtiden med slutna ögon, men hittills utvecklar vi robotik blindt.
Krigsrobotar är ett av de största problemen i roboetiken. Vi försöker uppmärksamma olika internationella organisationer på det. Detta är inte bara mitt initiativ, det finns en internationell rörelse "Stop the killer robots!", Vilka kampanjer på Internet och stöds av FN.
En annan grupp problem är relaterad till ämnet bioroboter och artificiella organ. I vilken utsträckning kan vi till exempel störa den mänskliga hjärnans arbete? En vän till mig experimenterar med råttor - sätter in elektroner i hjärnan och kontrollerar deras beteende. Han är en riktig råttpilot! Men när den mänskliga hjärnan är full av alla typer av neuroimplantat som förbättrar förmågor eller kontrollerar cybernetiska organ, kan en liknande avlyssning av kontroll göras med människor.
Foto: Skoltech / kot.sh
[KS] Men vi kan inte ge upp fördelarna med teknik bara för att nya möjligheter alltid går hand i hand med nya faror?
[DV] Hur löser jag dessa problem så att teknik inte gör oss till kontrollerade objekt för hantering utan tvärtom ökar vår frihet? Jag har inget svar på den här frågan, jag vill bara ställa den, förstå all dess komplexitet och ofullständighet i vår vision av situationen.
Många oväntade frågor uppstår före roboetiken. Föreställ dig till exempel den här situationen: en robotsjuksköterska tar hand om en ensam äldre person som kommunicerar med maskinen mer än någon annan. Och hon börjar snabbt betrakta henne som en person, älska henne som en person och lida om hon går sönder - vi tenderar att göra detta även med primitiva Tamagotchi, men här kommer det att finnas mycket starkare känslor. Kan en sådan robot stängas av? För mig är en person en person och en maskin är en maskin, men jag är rädd att folk snart kommer att börja göra misstag …
[KSh] Hur skiljer du dem åt? Chatbots klarar redan Turing-testet …
[DW] Jag skulle börja med att vårt psyke inte bara finns i kroppen, som i en behållare. Psyken är inbyggd i kroppen - vi blir intelligenta och medvetna när vi får kroppslig erfarenhet. Begreppet artificiell intelligens, som myntades av datavetare på 1960-talet, antog att den virtuella världen var tillräcklig för att den skulle visas. Nu kallas denna idé skämtsamt GOFAI (god gammaldags artificiell intelligens), och det blev klart för utvecklarna att programmet, för att få en sken av intelligens, kommer att behöva en robotkropp och lång erfarenhet av att interagera med den verkliga världen. Men generellt sett kan vi inte skapa en intelligent maskin, bara för att vi fortfarande har en mycket dålig förståelse för hur hjärnan fungerar, vad förnuft och medvetande är.
[KSh] Så handlar robotik inte om roboträttigheter? Men vad gör du om din dator i morgon säger "Jag är rädd, stäng inte av mig?"
[DW] Tja, nej, robotarnas rättigheter kommer att börja oroa mig när den sista personen på planeten har alla rättigheter. Det finns fortfarande för mycket arbete att göra för att människor ska kunna ta hand om bilar. Roboetik handlar om människor, vi måste göra det, för vi skapar vår egen framtid.
Publicerad i den populära vetenskapstidningen "Schrödinger's Cat" # 5 (07) för maj 2015
