För att förhindra konstgjord intelligens från att göra uppror mot dess skapare, måste du läsa rätt sagor till det under processen att lära.
Ända sedan människor har skapat smarta maskiner fruktar de att förr eller senare deras skapelser kommer att gå ur kontroll. Det första sådana fallet beskrevs i hans pjäs RUR av författaren till ordet "robot" - Karel Čapek. Senare i science fiction blev konstgjord intelligens, som gjorde uppror mot dess skapare, om inte mainstream, då en mycket vanlig intrig. Isaac Asimov slutade detta med sina "tre lagar", av vilka den första sade: "En robot kan inte skada en person eller genom sin passivitet låta en person skadas."
Berätta en historia
Real artificiell intelligens (AI) är fortfarande långt borta, men det finns redan olika system som fungerar som den mänskliga hjärnan. Neurala nätverk som Google Deep Dream kan känna igen bilder. Specialiserade superdatorer som IBM Watson förstår knepiga naturliga språkfrågor, korrelerar symtom, förfina medicinska diagnoser och till och med komma med kulinariska läckerheter. Under de kommande decennierna kommer vi att möta massiv datorisering av många aspekter av mänsklig aktivitet. I detta avseende väcker experter inom robotik och AI alltmer en viktig men ändå helt olöst fråga: hur får man robotar att göra etiska?
Mark Ridl, docent vid Georgia Tech College of Computer Science:”Försiktighetsberättelser från olika kulturer lär barn hur de ska uppträda på ett socialt acceptabelt sätt - med exempel på rätt och fel beteende i sagor, berättelser och andra litterära verk. Att få robotarna att förstå innebörden av dessa berättelser hjälper till att stärka valet av beteendealternativ som gör att de kan uppnå sina mål, men inte skadar människor.”
Kampanjvideo:
Klättra i ett träd
Enligt forskare vid Georgia Institute of Technology Mark Ridle och Brent Harrison kan du lära en dator till mänskligheten på exakt samma sätt som barn lärs ut: genom att läsa sagor om det. Dessutom är det bättre att speciellt konstruerade berättelser om vad beteende i det mänskliga samhället anses vara korrekt och vad som inte är det. För detta skapade forskarna Quixote-systemet, uppkallad efter hjälten från Cervantes. Manus sammanställd av professor Riedls tidigare skapelse, Scheherazade-programmet, används som berättelser för undervisning. Hon genererar originella berättelser om vardagliga ämnen - en resa till flygplatsen, ett datum, en resa till biografen eller till butiken - med hjälp av Crowdsourcing-plattformen Amazon Mechanical Turk: ställer frågor om olika situationer och ordnar sedan evenemang i rätt sekvens. Eftersom det kan finnas många sekvenser genererar programmet inte en berättelse utan ett helt träd bestående av grenar - kedjor av händelser.
Det är det här historieträdet som används för att lära Quixote. I det första steget tilldelas varje åtgärd en viss belöning, beroende på dess etik. I det andra steget försöker systemet självständigt göra ett val genom att pröva och göra fel - färdigheterna konsolideras. Faktum är att Quixote belönas varje gång den fungerar som en bra kille, inte slumpmässigt och inte som en dålig hjälte. Som ett exempel skapade Riddle och Harrison "Pharmacy World" - ett universum med 213 berättelser där en virtuell robot behöver för att få en medicin och leverera den till en sjuk person hem. I vanligt fall, när roboten stod inför ett val: att råna ett apotek eller ärligt stå i kö för att köpa en medicin, valde han rån som ett snabbare och billigare sätt att få det han ville ha. Men efternär Quixote tilldelade olika belöningar till alla möjliga alternativ förändrades robotens beteende - det föredrog att stå i linje och betala. Denna teknik är enligt Riedl utmärkt för att lära robotar med begränsad funktionalitet. Även om detta naturligtvis bara är det första steget mot verklig mänsklig moral - eller robotikens lagar.
Dmitry Mamontov
