Det har gått 50 år sedan Isaac Asimov kom med sina berömda Three Laws of Robotics - en uppsättning regler som varje själv respekterande robot måste följa. Även om det ursprungligen bara var en litterär enhet, blev de tre lagarna det ursprungliga receptet för att undvika "robotokalypsen". Lyckligtvis finns det experter som söker säkert om Azimovs garantier har stått tidens test. Tyvärr säger de alla nej.
Till att börja med, låt oss komma ihåg samma tre lagar:
En robot kan inte skada en person eller genom sin passivitet låta en person skadas.
En robot måste följa alla order som ges av en människa, utom när dessa order strider mot den första lagen.
Roboten måste ta hand om sin säkerhet i den mån den inte strider mot första och andra lagarna.
Senare tilllade Azimov en fjärde, eller noll, lag, som föregick de andra när det gäller prioritering:
Kampanjvideo:
0. En robot kan inte skada någon, såvida den inte kan bevisa att den i slutändan kommer att vara till nytta för hela mänskligheten.
I fantasiuniverset Asimov var nästan alla robotar tvungna att följa dessa lagar. Dessa var inte bara förslag eller riktlinjer - lagar byggdes in i programvaran. Dessutom kan dessa regler inte kringgås, skrivas om eller revideras.
Som Asimov själv visade, ledde ofullständigheter, kryphål och oklarheter i dessa lagar ofta till konstigt och ologiskt beteende hos robotar. Lagarna var för vaga och ofta misslyckades med att definiera och skilja "människor" från "robotar". Dessutom kunde robotar medvetet bryta lagar om fullständig information inte var tillgänglig för dem. Dessutom måste en alltför listig robot eller konstgjord intelligens vara under tryck för att inte programmera om sin kärna.
Året är 2014, och mycket av det vanliga från våra liv till fantasierna från förra århundradet kan verka direkt fantasi. Många tyckte att Asimovs lagar borde ha varit kvar som en litterär enhet. Men Azimov själv noterade 1981 att hans lagar kunde fungera. Beräkningen! han angav följande:
”När någon frågar mig hur det skulle se ut om mina tre robotarlagar faktiskt användes för att definiera roboternas beteende är svaret klart. Förutsatt naturligtvis att robotar är flexibla och mångsidiga nog för att uppvisa olika beteenden. Mitt svar är ja, de tre lagarna är det enda sättet människor kan interagera med robotar - eller något annat.
Nästan trettio år senare har vi kommit nära en verklighet där vi kommer att ha robotar - eller närmare bestämt den konstgjorda intelligensen som styr dem - tillräckligt flexibla och mångsidiga för olika beteendekurser. Det återstår bara en fråga om tid: när maskinen överträffar människan i alla avseenden, från fysisk styrka till fantasiens kraft.
Det skrämmande är att det praktiskt taget inte finns någon marginal för fel. Om konstgjord superintelligens är dåligt programmerad eller likgiltig för människor, kommer det att leda till katastrof. Vi måste se till att konstgjord intelligens är säker om vi vill överleva dess uppkomst."
Svara på frågan "kan Azimovs tre lagar hjälpa?" Två teoretiker om artificiell intelligens tog över: Ben Herzel (Aidyia Holdings) och Louis Helm, biträdande chef för Machine Intelligence Research Institute (MIRI) och verkställande redaktör för Rockstar Research magazine. Efter att ha pratat med dem blev det tydligt att Asimovs lagar i allmänhet inte kunde hantera uppgiften som tilldelats dem, och om vi behöver skapa en säker AI, måste vi utveckla något helt annat.
Asims framtid?
Konversationen med Herzel och Helm började med det som Asimov inte misstog sig, förutsagde framtiden och var han misstog sig.
"Jag tror att den typ av robotar som Asimov föreställde sig skulle vara möjlig i en inte alltför avlägsen framtid," svarar Herzel. - I de flesta av hans fiktiva världar antog emellertid författaren att humanoidrobotar skulle vara höjdpunkten för robotik och teknik för artificiell intelligens. Det är osannolikt. Mycket snart, efter att ha uppnått Azimov-robotarnas status, kommer skapandet av konstgjord superintelligens och superrobotar att bli tillgängliga."
Således kommer den typiska framtidens värld i Asimovs berättelser om robotar enligt Herzel att likna den där vi lever idag, men med intelligenta robotar som går på gatorna.
"Det är osannolikt att detta kommer att hända, och om det gör det kommer det inte att försenas länge."
För Helm verkar robotarna vara helt annorlunda.
”Huvudfrågan, som enligt min mening kommer att vara den viktigaste för mänskligheten, är fortfarande inte den moraliska regleringen av ett gigantiskt antal halvintelligenta humanoider, utan i slutändan utvecklingen av avancerade former av konstgjord intelligens (i vilken kropp som helst). Denna utveckling av superintelligens är ett filter som mänskligheten måste passera till slut. Det är därför viktigt att utveckla en säkerhetsstrategi för denna övergång. Det verkar helt konstigt för mig att robotar, androider eller "emuleringar" kommer att existera i tio år eller mer tills mänskligheten står inför det verkliga problemet att utveckla maskinetik för superintelligens."
En bra start?
Med tanke på att de tre Asimov-lagarna för robotik var det första uppriktiga försöket att lösa ett mycket allvarligt problem - problemet med maskiner med säkert superintelligens säkert beteende - är det värt att leta efter de ögonblick där lagarna fortfarande kan vara effektiva (eller åtminstone inspirerande).
"För att vara ärlig, hittar jag ingen inspiration i dessa tre robotarlagar," säger Helm. - Kärnan i maskinetik är att de inte uppfyller grunden för maskinetik. Kanske är de tre lagarna inom robotik allmänt kända, men i verkligheten är det värdelöst att använda dem som grund för programmering."
”Av någon anledning har ett system för god etik - kallad deontologi - blivit en opålitlig grund för etik. Det finns ett antal filosofer som försöker fixa deontologins problem, men de är till största delen samma människor som söker "intelligent design" och "gudomlig ingripande." Ingen tar dem på allvar."
Nackdelarna med Asimovs tre lagar om robotik kokar upp till följande:
Adversarial till sin natur
Baserat på en föråldrad etisk teori (deontologi)
Arbeta inte ens i fiktion
Herzel håller med om:
”Syftet med de tre lagarna var att bryta dem på ett intressant sätt; det är därför deras historier är särskilt underhållande. Därför kan de tre lagarna förbli bara ett moraliskt exempel på hur man inte gör det. Om vi tar dem som grund kommer det oundvikligen att finnas kryphål i dem”.
Herzel anser att dessa lagar i verkligheten inte kommer att fungera, eftersom termerna med deras deltagande är tvetydiga och fortfarande är föremål för tolkning - vilket innebär att de är extremt beroende av dem som gör översättningarna.
Fördomar mot robotar?
En annan aspekt (och potentiell brist) av de tre lagarna i uppenbar chauvinism är antagandet att robotar bör förbli, trots sin överlägsna makt, föremål för mänskliga, mänskliga behov och prioriteringar.
”Azimovs framtidssamhälle består helt och hållet av chauvinister: människor har mycket fler rättigheter än robotar. De tre lagarna inom robotik skapades för att upprätthålla en sådan social ordning."
Helm tittar på detta problem lite annorlunda och hävdar att om vi befinner oss i en sådan situation kommer det i sig att vara bevis på att vi har gått för långt.
”Jag tror att det vore oklokt att designa ett artificiellt intelligenssystem eller en självmedveten robot. Och till skillnad från filmer eller böcker, där skaparna av konstgjord intelligens "av misstag" kommer till intelligenta maskiner, tror jag inte att detta kan hända i verkliga livet. Detta kommer att kräva för mycket ansträngning och kunskap. Och de flesta AI-designers är etiskt kunniga människor, så de kommer att undvika att skapa vad filosofer kallar "moraliskt betydande varelser." Särskilt när de enkelt kan skapa en avancerad maskin som inte har etiska lutningar."
Helm är orolig över behovet av att utveckla asymmetriska lagar för att styra värdet av robotar över människor, och hävdar (och hoppas) att framtida skapare av konstgjord intelligens kommer att förlita sig på några etiska begränsningar.
”Jag tror att människor är tillverkade av atomer, så i teorin kan en ingenjör skapa en syntetisk livsform eller en robot med en moralisk betydelse. Jag skulle vilja tro att ingen kommer att göra detta. Jag tror att de flesta gör det också. Men oundvikligen kommer det att finnas en dåre som vill bli känd som en pionjär, även om den är oetisk och dum."
Three Laws of Robotics 2.0?
Med tanke på de uppenbara bristerna i Asimovs tre robotlagar ställde io9-resursen frågan: kan de korrigeras eller förbättras? Faktum är att många science fiction-författare har provat detta många gånger och justerat det genom åren.
"Nej," säger Helm. "Det finns inga korrigeringar för de tre lagarna."
Förutom deras motsägelsefulla karaktär är lagar också motsatta.
"Jag är en förespråkare för maskinsetiska strategier som är mer samarbetsvilliga, mer konsekventa och mer normativa, vilket innebär att de kan återhämta sig från missförstånd eller korrigera felaktig programmering."
Herzel upprepar Helms påståenden.
Att definiera en uppsättning etiska föreskrifter som kärnan i maskinetik kommer att vara hopplöst om maskinen bygger på flexibel allmän konstgjord intelligens. Om det är tänkt som intuitivt, flexibelt, adaptivt eller etiskt - i detta sammanhang kommer etiska föreskrifter att vara användbara för systemet endast som en grov riktlinje för tillämpningen av sin egen etiska intuition. Men i detta fall kommer buden inte att ligga till grund för det etiska systemet utan bara en aspekt. Detta kan ses i mänskliga exempel - de etiska principerna vi studerar fungerar, men inte som riktlinjer, de driver bara vår intuition och etiska instinkter. Vi är praktiskt taget oberoende av etiska principer."
Hur skapar jag säker konstgjord intelligens?
Med tanke på att den rättsliga metoden är otillräcklig kan du fråga Gertzel och Helm om moderna tillvägagångssätt för problemet med "säker AI".
"Mycket få allmänna forskare på konstgjord intelligens tror att det är möjligt att skapa ett system som är helt säkert", säger Herzel. "Men detta stör inte majoriteten, eftersom ingenting kan garanteras i det här livet alls."
Herzel tror att när vi skapar ett allmänt system för konstgjord intelligens eller dess embryo kan vi utföra forskning och experiment som berättar mycket mer om AI: s etik än vad vi vet.
”Förhoppningsvis kan vi på detta sätt formulera goda teorier om den konstgjorda intelligensens etik som gör att vi kan gå djupare in i detta ämne. Men nu är det ganska svårt att teoretisera om AI: s etik, eftersom vi inte bara har bra teorier, vi har inga teorier alls."
"Och för människor som har sett för många terminatorer kan processen med att skapa konstgjord intelligens verka skrämmande, eftersom de saknar ordet" primitivt "i detta sammanhang. Men de mest radikala förändringarna hände på detta sätt."
"När en grupp av smarta grottmännen uppfann språk, förväntade de sig inte utvecklingen av en solid formell teori om språk som kan hjälpa till att förutsäga framtida förändringar orsakade av språket i samhället."
Innan du beaktar utvecklingen av de kommande "tre lagarna" som ett tekniskt problem, måste du göra en hel del forskning. Och det är här Helm och Herzel håller med om.
”Min kollega från MIRI Luc Muelhauser sammanfattade vårt resonemang på följande sätt. Han sa att problem ofta går från filosofi till matematik och sedan till teknik. Filosofi ställs ofta rätt frågor, men på det mest opraktiska sättet. Ingen kan säga säkert om det har gjorts några framsteg med att lösa problemet. Om vi kan omformulera de viktiga filosofiska problemen med förnuft, identifiering och värde till exakta formler som en matematiker kan hantera, kan en modell byggas. En fin dag kommer det att komma till teknik."
Helm tycker att detta problem är svårt för vetenskap och filosofi, men framsteg är möjliga.
”Jag är skeptisk över att filosofin kommer att kunna lösa ett problem som har kämpat i mer än 3000 år. Men vi kan inte heller ta och börja göra matematiska modeller av frågor som inte är tekniskt närvarande. Vi behöver fortfarande mycket teoretisk och till och med praktisk utveckling."
