Greg Corrado, ledande programmerare för Google Brain-projektet (som skapar maskininlärning och system för artificiell intelligens och deras integration i Google-tjänster), berättade för RIA Novosti vad artificiell intelligens är, varför upproret av självförbättrande maskiner inte hotar oss och delade hans tankar om hur mänskligheten kommer att anpassa sig till livet i "intelligenta maskiner".
Under de senaste åren har Corrado och hans kollegor utvecklat nya maskinöversättningssystem, lärt Google Images bildsökmotor att känna igen katter, hundar och andra föremål och skapat ett neuralt nätverk som förbättrar fotolösningen. De arbetar för närvarande med en röstassistent för Android-telefoner.
Greg, utifrån dina publikationer började din vetenskapliga karriär inom neurofysiologi, inte i utvecklingen av artificiell intelligens. Hur hände det att AI-system blev viktiga för dig personligen och för Google i allmänhet?
- Till att börja med var jag intresserad av helt andra saker - till att börja med studerade jag fysik, och sedan bytte jag till hjärnvetenskapens område. Då verkade det för mig att hjärnan är det mest intressanta fysiska systemet, och jag ville förstå hur utvecklingen av vår hjärna ledde till uppkomsten av intelligenta och självmedvetna varelser.
Efter att ha arbetat en tid på detta sätt insåg jag att det inte var mindre intressant för mig att studera alla former av intelligens, inte bara i dess biologiska utan också i konstgjorda manifestationer. Dessutom tycktes det för mig att vi inom området konstgjord intelligens skulle kunna gå mycket snabbare än i studien av den mänskliga hjärnan.
Med Google är situationen annorlunda - företaget har faktiskt varit engagerat i konstgjord intelligens sedan starten. Själva implementeringen av sökmotorn, som tänkt av grundarna av företaget, Sergey Brin och Larry Page, kräver åtminstone någon form av konstgjord intelligens.
För oss är huvuduppgiften inte att skapa AI som någon slags produkt som vi kan packa i en låda och sälja, utan att använda sådana system för att organisera och bearbeta information. Mängden information växer ständigt, och ju mer data vi får, desto sämre ser vi den och förlorar tanken på vad som är viktigt och vad som inte är det.
Den mycket matematiska idén som beskriver djupa neurala nätverk och icke-linjära inlärningsmetoder dök upp för mer än tio år sedan, men de har blivit populära endast under de senaste två eller tre åren. Vad är orsaken till detta?
Kampanjvideo:
- Jag kan säga mer - själva principerna för att organisera dessa nätverk verkade ännu tidigare, på 60-talet av förra seklet, och de slutligen formaliserades i en matematisk form på 1980- och 1990-talet. Sedan dess har de faktiskt inte förändrats. Det enda skälet till att deras renässans händer just nu är att datorer har blivit märkbart snabbare under de senaste åren och vi har möjlighet att billigt öka sin kraft.
På nittiotalet och början av 2000-talet förstod vi inte detta, och därför betraktades neurala nätverk vid den tiden som en intressant men värdelös leksak. Men i verkligheten hade de helt enkelt inte tillräckligt med datoressurser för att kunna göra något användbart. När datamängderna och beräkningsresurserna var små, använde de enkla matematiska metoder dem mer effektivt än neurala nätverk.
Insåg vi först att djupa nätverk och maskininlärning kan vara användbara? omkring 2010 eller 2011, och det tog oss cirka fem år att testa denna idé och bevisa att den var det. Nu förstår varje person i branschen att detta är så och strävar i denna riktning.
Varje år producerar vår civilisation mer och mer data vars bearbetning snart kommer att vara omöjlig utan användning av artificiell intelligens. Kommer mänskligheten att kunna utvecklas vidare, som motståndarna till AI tror, utan att använda sådana system?
- Jag tror inte att konstgjord intelligens eller maskininlärning kan vara något bra eller dåligt - det är bara en samling av ny teknik, sättet att använda som bara kommer att bero på oss själva. Som samhälle måste vi bestämma för vad och hur de ska tillämpas - till exempel kan vi helt överge dem av någon etisk eller politisk anledning.
Jag tror personligen att en sådan lösning skulle vara extremt ineffektiv och liknande den om vi förbjöd automatiska symaskiner och tvingade alla fabriker att sy kläder för hand. Istället måste vi förstå var deras användning kommer att ge verkliga fördelar och anpassa sig till våra värderingar.
Och det verkar för mig att det finns otaliga områden där användning av både AI och maskininlärning kommer att ge enorma fördelar för samhället, av vilka många vi fortfarande inte kan föreställa oss.
Google använder idag nervnätverk i arbetet med Google Translate, Google Image Search och många andra produkter. Var kommer det huvudsakliga genombrottet i deras ansökan göras inom en snar framtid?
- När människor pratar om utvecklingen av konstgjord intelligens, föreställer de sig ofta något väldigt imponerande, vilket det verkligen inte är. Du måste förstå att vi helt enkelt försöker göra maskiner mindre dumma än de är i dag och få dem att interagera med människor på det mest naturliga sättet.
Dessutom tillåter konstgjord intelligens oss att korrigera maskinens fel och få dem att lära av dessa fel. Det finns en slags dialog mellan människa och maskin.
Jag hoppas att vi under de kommande tio åren kommer att ha ett system som möjligen arbetar med telefoner och andra mobila enheter, som dynamiskt kommer att interagera med ägaren och ta hänsyn till hans personlighetsegenskaper och eventuella specifika önskemål.
Till exempel ber du en sådan assistent att hjälpa dig att nå en punkt på kartan. När han erbjuder dig en rutt kan du be honom lägga den närmare parken eller uppfylla andra önskemål, och systemet kommer att förstå dig och uppfylla dina önskemål. Vi vill att kommunikation med sådana system ska gå så naturligt som möjligt för en person.
Under senare år har forskare i allt högre grad talat om skapandet av självförbättrande system för konstgjord intelligens, som många seriösa forskare, till exempel Stephen Hawking, anser vara mycket farliga för människor. Är det verkligen?
- I själva verket har självförbättrande konstgjord intelligens ännu inte skapats. Ur teknisk synvinkel är det möjligt att sådana system en dag kommer att dyka upp, men hittills existerar de inte, och det är troligt att de inte kommer att visas inom en överskådlig framtid.
Till exempel finns det idag robotar som arbetar på monteringslinjer och monterar maskiner och andra komplexa tekniska enheter. Dessa robotar samlades på samma linje med deltagande av samma robotar, men det betyder inte att robotarna har förbättrat sig själva. Detsamma gäller för maskininlärningstekniker - vi använder dem för att analysera data, inklusive andra system för artificiell intelligens, men de kan fortfarande inte förbättra sig utan mänsklig kreativitet.
AlphaGo-systemet, till exempel, kan en mycket begränsad form av självinlärning, men det kan inte radikalt förändra sin arkitektur och göra sig radikalt annorlunda, till exempel anpassad för att lösa andra problem. Det som finns idag är bara en liten del av vad som behöver göras för att skapa självinlärningssystem, och resten av vägen är ännu inte täckt.
Därför anser jag personligen att skapandet av konstgjord intelligens idag mer och mer liknar konst än teknik eller vetenskap, och ledare i vår bransch överrasker ofta sig själva och kollegor med sina oväntade upptäckter och fynd. I allmänhet kan vi säga att skapandet av AI idag är människans exklusiva privilegium.
Kan sådana system användas för att lösa de mest ovanliga uppgifterna - till exempel som en "hjärna" för rovers eller sonder som självständigt skulle studera avlägsna planeter och världar?
- I princip är detta mycket möjligt, och det verkar för mig att i framtiden kommer konstgjord intelligens att användas för att bedriva forskning i rymden eller på havsbotten, där direkt kontroll av tekniken är omöjlig av en eller annan anledning. AI-system hjälper sådana rovers eller robotar att lösa vissa rutinmässiga uppgifter och undvika faror, men verklig vetenskaplig forskning kommer fortfarande att utföras av människor.
Endast en person kan ställa in specifika vetenskapliga uppgifter och bestämma hur man löser dem. Vi kan säga roboten - "komma närmare denna krater och försöka hitta vita stenar i den", men roboten själv kan i princip inte förstå varför dessa bergarter är av intresse för oss. Mannen sätter uppgifter mycket bra och letar efter sätt att lösa dem, och maskiner har ännu inte en sådan möjlighet. I detta fall kan robotar bara vara assistenter, men inte forskare.
Denna fråga är direkt relaterad till det faktum att många människor inte förstår vad konstgjord intelligens är, och tror att forskare skapar en komplett analog av en person med hans sinne, känslor och andra funktioner. Varför händer det här?
- Det verkar för mig att detta är en konsekvens av det faktum att människor inte förstår varför konstgjord intelligens alls finns. De tror att vi skapar maskiner som människor. Jag avvisar helt detta och säger att vi skapar det inte för att ersätta en person utan komplettera hans kapacitet.
Till exempel använder jag en dator varje dag, och det finns saker som jag och den kan göra på egen hand - lägga till eller multiplicera siffror. Datorn gör det snabbare, och jag uppskattar det också av den anledningen. Därför kan jag utföra "arbetsdelningen" genom att överlämna beräkningarna till datorn och göra mer än jag skulle ha kunnat göra utan hans hjälp. Och det verkar för mig att det är kärnan i konstgjord intelligens.
Idén att skapa en fullständig analog av en person, verkar jag, är förankrad i antingen science fiction eller filosofi. Filosofer har länge tänkt på om vi kan skapa maskiner som ser ut som människor, men denna fråga har inget att göra med om sådana "konstgjorda människor" kommer att vara användbara för oss, och om det är möjligt alls.
Därför är det bättre ur praktiken att skapa intelligens som kompletterar vårt eget sinne och utvidgar dess kapacitet och inte kopierar det.
Redan idag finns det system som liknar maskiner med en autopilot, där människoliv beror på konstgjord intelligens. Måste vi skapa grundläggande nya juridiska normer för att definiera ansvaret och vem kommer att ansvara för AI: s handlingar?
- Det här är en mycket viktig fråga. Låt mig genast betona att jag inte är en advokat, men det verkar som om det redan har funnits exempel på liknande problem tidigare. Till exempel har det under många århundraden funnits lagar som avgör vem som är ansvarig för det faktum att någons häst sparkade en främling, en hund attackerade en främling, en maskin bröt och skadade en arbetare eller någon annan händelse inträffade.
Vi, det verkar för mig, måste använda denna erfarenhet när vi bestämmer ansvaret för beteenden hos artificiell intelligenssystem. Följaktligen återstår det bara att diskutera hur vi kan anpassa dessa principer för att avgöra hur vi ska interagera med autonoma maskiner och andra enheter av denna typ.
Jag är mer än säker på att denna diskussion kommer att vara väldigt het och lång, men det verkar för mig att det inte kommer att kräva införande av några helt nya juridiska normer och principer. Naturligtvis föreslår vissa människor att betrakta AI-system som”personligheter” och så vidare, men för mig personligen är detta något väldigt konstigt och obegripligt.
Futurologer och några av dina kollegor förutspår att den fortsatta utvecklingen av AI kommer att lämna många människor som arbetar med skickligt men rutinmässigt arbete - revisorer, förare, tjänstemän - utan arbete. Finns det här problemet och hur kan det lösas?
- Naturligtvis finns det här problemet. Mina föräldrar och morföräldrar var bokförare, och min mormor började med penna och papper och slutade med miniräknare, och min mor bytte från miniräknare till kalkylblad på en dator. Alla dessa förändringar har radikalt förändrat hur revisorer arbetar, men själva kärnan i yrket har inte förändrats från detta - revisorer har inte försvunnit, men samtidigt började de arbeta bättre, snabbare och bättre.
Det verkar för mig att något liknande kommer att hända med konstgjord intelligens. Innehållet i många yrken kommer att förändras, men deras väsen kommer att förbli densamma, vissa av dem kan till och med försvinna, men ett sådant öde kommer bara att drabbas av en liten del av dem.
Dessutom kunde något liknande hända, som hände med webbdesignområdet i slutet av 1990-talet - före tillkomsten och spridningen av Internet kunde ingen ha föreställt sig att någon kunde göra sådana saker. Å andra sidan är det dumt och fel att ta upp denna fråga lätt och tro att ingenting kommer att förändras. Du måste förstå att dessa tekniker kommer att förändra världen, att du måste anpassa sig till dem och hjälpa andra att anpassa sig till dem.
