"Rise of the Machines", "The Terminator Returns" … Mycket science fiction bygger på det faktum att datorer blir så smarta att de förstår att de kommer att ha det bättre utan någon person. Sagor? Hur man ser ut. År 2050 kan en typisk hemmadator bearbeta lika mycket information som alla människor på jorden sätter ihop.
Men 2050 är under förutsättning att maskiner kommer att utvecklas gradvis. Det fungerar inte så. Vårt förhållande till den elektroniska världen går framåt i stora språng. En gång - en mus fästes i bilen. En gång - Internet dök upp. En gång - det fanns smartphones med surfplattor.
Nästa genombrott kommer när datorn kan förstå människor. Smarttelefoner har redan appar som Siri och Cortana som kan ha en enkel konversation med oss. Men problemet är att datorn ska förstå, inte vad vi säger, utan vad vi menar! Det enklaste exemplet: frasen”Han lämnade mig”, som sagt av en tårfärgad kvinna och en mans chef har helt andra betydelser.
Så: så snart maskiner lär sig att känna igen nyanserna av mänskligt tal, å ena sidan, kommer våra händer att vara bundna i bokstavlig och figurativ mening. Jag pratade med datorn och det gjorde allt. Å andra sidan, närmar vi oss inte en farlig linje, tar vi bort den sista barriären i kommunikation mellan människor och själfritt järn?
Jag har länge velat prata om detta med en berömd forskare, chef för språkforskning vid ABBYY, chef för avdelningarna för beräkningslingvistik vid Ryska statsuniversitetet för humaniora och Moskva Institutet för fysik och teknik, Vladimir Selegey. Men när jag berättade för honom min apokalyptiska rädsla, rynkade han i pannan.
”Ja, science fiction är full av mörka förutsägelser om hur mänskliga tränade maskiner kommer att klara sig utan. Men det är inte klart för mig varför en ökning av mängden kunskap inbäddad i program kommer att provocera en dator att fatta beslut utan att be om en person?
Problemet är faktiskt inte att datorn kommer att lära sig att göra utan människor, utan att människor kommer att vilja klara sig utan att lösa vissa problem. Här är Tjernobyl …
Kampanjvideo:
Och vad har Tjernobyl att göra med det?
- En kärnreaktor är en mycket komplex fysisk modell. Det verkar som om alla styrparametrar på reaktorn är kända, allt följer strikta fysiska lagar och beslutsfattande kan helt anförtros datorn. Men…
1986, en vecka efter olyckan, deltog jag på ett seminarium om användning av artificiell intelligens i industrin. Även då var det uppenbart att vi har allvarliga risker genom att anlita beslutsfattande till en dator. Det är vanligt att program innehåller fel. Till och med satelliterna har programvarufel.
Det vill säga att en person är mer pålitlig än en dator, även om han "tänker" mycket snabbare?
- En person, förutom allt annat, har motivation. Han löser sina problem - utbildning, fortplantning, karriär, han vet hur man känner …
Men kan någon listig programmerare skriva ett program som skulle lära en aggressionmaskin …
- Du kan försöka göra till exempel en militär robot som kommer att fatta beslut av sig själv, analysera vad den ser och hör. Och det kommer att vara väldigt farligt. Men inte för att roboten plötsligt kommer att ha en önskan att förstöra, som skriven av science fiction-författare. Men eftersom en programmerares misstag kan försummelse av vissa faktorer leda till oförutsägbart robotbeteende.
Men hittills är vi mycket långt ifrån förmågan att skapa självinlärningsprogram som kan generera helt ny kunskap. Grovt sett flytta oberoende från multiplikationstabellen till förmågan att lösa komplexa ekvationer.
Under andra hälften av det tjugonde århundradet var futuristiska förutsägelser inom vetenskapsområdet mycket populära. Allt om datorns intelligens kom in i mjölken. Ingen förutspådde Internet, den otroliga tillgången till information, mobiltelefoner. Men alla pratade om tänkande datorer.
Till exempel i slutet av 60-talet uppträdde vårt första schacksystem KAISA framgångsrikt vid världsmästerskapet bland datorer. Man trodde att för att en maskin skulle slå en person, var det nödvändigt att simulera algoritmerna för ett mänskligt spel. Att lägga sinnet, intellektet, den mycket mystiska intuitionen som får schackspelaren att fatta rätt beslut.
Idag slår datorn en person. Men han lärdes aldrig intuition. En miljard spelade spel, all erfarenhet av spelet, alla beslut som någonsin har fattats av schackspelare har laddats in i hans minne. Och de lärde dem att använda detta när de valde den optimala spelplanen, vilket gav dem en enorm hastighet av uppräkning och utvärdering av alternativ. Datorn slår världsmästarna, men får ingen nöje av den. Allt är helt annorlunda än människor.
Men du är en av dem som bara lär datorn att "slå på huvudet"
- Vi försöker bara lära program att”förstå” texter så att de kan hämta information från dem, samla den och generalisera den. Så att människor får kunskap filtrerad, utvald från miljarder källor. Detta är mycket svårt, eftersom en person själv inte vet så bra hur hans språkförmåga är ordnad, som hans förståelse för andra människor bygger på.
Statistisk maskinöversättning är nu populär. Datorn förstår inte alls vad den översatta texten handlar om, den vet bara hur man hittar de mest troliga varianterna av att översätta små fragment (med några få ord) och analysera de enorma volymerna av mänskliga översättningar som lagras i dess minne. Generellt sett är texten tydlig. Men det skulle vara lätt att fatta ett ansvarsfullt beslut på grundval av en sådan översättning.
Okej, kan datorn översätta instruktionerna för mig?
- Instruktioner? Är det farligt.
- Ja till ett enkelt kylskåp!
- Även till kylskåpet! Jag skulle vilja att våra program ska översätta, försöka förstå texten, välja mellan alternativ baserade på kunskap och inte bara för att denna korrespondens oftast finns i vår databas.
Okej, låt oss säga att du har löst problemet och skapat ett system tack vare vilka datorer kommer att lära sig att förstå nyanserna i vårt tal och till och med översätta det noggrant till ett annat språk. Och då hotar en ny fara människor - det behöver inte tänkas. Det kommer inte att behöva utbilda minne, hjärna. Behöver information - snälla, Wikipedia. Du måste prata med en utlänning - översättare …
- Ju högre nivå av intelligens och kunskap hos en person, desto mer användbar för honom den nästa "smarta assistenten". Och ju lägre, desto fler möjligheter verkar inte tänka alls. Datorteknologier leder till samhällets polarisering. Grovt sett ledde inte räknemaskinens tillkomst till matematikernas degeneration. Men hos några av skolbarnen var det uppenbart en minskning av den redan låga förmågan.
- Du vet, för mig är en allvarlig indikator på en minskning av utbildningsnivån antalet människor som skriver analfabeter eller inte kan uttrycka sina tankar och känslor utan att använda kompis
- Ja, folk började skriva mindre kompetent. Helt enkelt för att det i allmänhet är mindre läsning av redigerade texter och mycket mer av sådana resurser där stavningen är mycket oskarp. Gjorde detta folk bedövare? Antagligen inte.
Ser du en koppling mellan det faktum att en person uttrycker analfabeter sina tankar på sitt modersmål och det faktum att han har blivit dumare?
”Jag skulle inte gå så långt. Även om det är uppenbart: eftersom barn började läsa mindre uppstod vissa problem med överföring av kunskap och kultur mellan generationer. Det är problem. Idag ser vi att ett modernt skolbarn med samma grad av betyg som för 30 år sedan känner litteratur sämre.
Här! …
”… Men å andra sidan vet han många andra saker mycket bättre, som ingen trodde att de kunde veta.
Är detta en naturlig process?
- Ja. Dessutom kan kunskap för första gången i mänsklighetens historia inte överföras från de äldre till de yngre, som har hänt i århundraden. Det fanns en överföring av kunskap från de yngre till de äldste, vilket tidigare inte alls kännetecknade den mänskliga kulturen. Ett barn lär pappa eller mamma att arbeta på en dator, med en mobiltelefon, är en källa till olika kunskaper för sina föräldrar. Och ännu fler barn reser världen över. Mycket ofta är de en källa till geografisk och kulturell kunskap.
Lyssna, men här började allt med datorer. De befriade människor från behovet av att memorera de grundläggande grammatikreglerna
- Bara i början av 90-talet arbetade jag i ett team som utvecklade ett av de första stavningskontrollsystemen för det ryska språket. Var det bra eller skadligt att göra detta? Mycket användbart ur min synvinkel. Detta system möjliggör snabbare skapande av dokument. Och sedan beror allt på personens ansvar. Vem sa att efter bilen behöver du inte kontrollera alls? Systemet hjälper bara till att göra det mycket effektivare.
Men vi litar på datorn
- Det betyder bara att personen som skapade programmet inte informerade dig om att det finns många fenomen som maskinen inte kan verifiera. Förhandling, till exempel.
Ny teknik leder tyvärr ofta till att traditionella färdigheter förloras. Jag har gjort reparationer i lägenheten. Jag ville installera träfönster, som installerades tidigare. Men detta visade sig vara omöjligt. Alla installerar dubbelglasade fönster. Människor slutar tyvärr göra många saker med sina händer. Vad man ska göra, det är så livet fungerar. Tyvärr.
Så du är en konformist?
- Inte. Jag tror att det inte är bra att göra absolut skadliga saker. Men när du har både vinst och förlust måste du bedöma riskerna … Om du tillverkar medicin tror du inte att inte bara bra människor utan också dåliga människor kommer att överleva till följd av dess användning.
I vårt fall, samtidigt med utvecklingen av teknologier, är det nödvändigt att utbilda dem som använder dem. De negativa konsekvenserna av ny teknik återspeglas främst på dem som inte gör sitt jobb särskilt bra på någon teknisk nivå.
Ta till exempel medicin. Vi vill hjälpa läkaren att fatta ett beslut, vi tar ett dataanalyssystem baserat på analysen av ett stort antal pålitliga diagnoser gjorda av de bästa läkarna. Det ger en professionell möjlighet att vända sig till en större kunskapsvolym än han själv har. Men det slutliga beslutet är hans, inte datorn! För en dålig läkare är allt annorlunda - han litar på det han inte kan kontrollera på ett tillförlitligt sätt. Men i genomsnitt, med tillkomsten av sådan teknik, verkar det som om medicinen fortfarande blir bättre, inte sämre.
Vi var övertygade om att det kommer att vara mer fördelaktigt än skada från det intellektuella systemet att förstå en person med en dator. Men när kommer hon att dyka upp?
- Det här är en mycket svår uppgift som inte kan lösas omedelbart. Det är nödvändigt att lära datorkunskaperna om språk och kunskap om världen, slutsatser och jämförelse av värden. Något vi vet hur man gör nu, något kommer att ta år. Vi behöver till exempel tillförlitliga uppgifter om språkanvändning med hänsyn till individuella och sociala skillnader. Och dessa skillnader är mycket betydande. Till exempel gjorde vi ett speciellt projekt för regionala skillnader i det ryska språket. Samlade en ordlista, där nästan 10 tusen ord, som är normen för invånare i endast vissa regioner i vårt land
Vilka är vi?
”Det här är ett gemensamt projekt som heter språken i ryska städer, med ABBYY-specialister, språkforskare, entusiaster från olika delar av Ryssland och rysktalande länder. Vi analyserade språket i regionala medier, sociala nätverk, dekret och beslut från lokala myndigheter. Och detta är bara en liten del av den kunskap som behöver läras till en dator!
Vad är den grundläggande skillnaden mellan din inställning till översättning och de system som Google använder till exempel?
- Statistiska system bygger inte språkliga strukturer. De letar efter översättningsmatcher för små fragment med 5-7 ord. Men språket är så ordnat att de relaterade orden ofta ligger mycket längre, och om denna koppling inte beaktas uppstår fel. Men mycket ofta är sådana detaljer viktiga i översättningen, vars försummelse helt kan förändra innebörden. För att ta hänsyn till allt är det nödvändigt att under analysen identifiera hela systemet med språkliga förbindelser mellan ord, det som kallas strukturen för en mening. Vi översätter inte meningar från språk till språk, vi försöker identifiera den semantiska strukturen i meningen och sedan syntetiserar denna struktur med hjälp av ett annat språk.
Men dessa semantiska strukturer används inte bara och inte så mycket för maskinöversättning. De behövs också för att effektivt lösa problemen med intelligent sök- och informationsanalys, som är viktigare idag för ABBYY som kommersiellt företag. Till exempel är de nyligen släppta första lösningarna för företagsmarknaden baserade på dessa tekniker: de låter dig bara söka och analysera data i det enorma flödet av information som lagras i organisationer.
Och vilket språk, ur din synvinkel, är svårare att förstå?
- Det är allmänt accepterat att desto svårare är de språk där du behöver lära dig mer regler. Men när det gäller datorförståelse är detta inte fallet.
Något som är svårt för en person, till exempel ett rikt böjningssystem på ryska eller litauiska, förenklar uppgiften för en dator i vissa analyssteg.
Till exempel är det kinesiska språket mycket svårt eftersom det inte finns någon morfologi i det, och därmed den stora mängden oklarhet som datorn står inför. För datoranalys av det kinesiska språket är det därför mycket viktigt att använda kunskap om världen, viktigare än till exempel när man analyserar språk med en utvecklad morfologi.
Vi lyckades arbeta med ryska, tyska, engelska, franska, spanska, kinesiska. Språkanalys är indelad i etapper. Vissa stadier har specificitet, svårigheter för ett språk, andra för ett annat. Men i huvudsak är teknologierna vi arbetar med på alla språk.
Enligt din åsikt, när kommer dagen då vi kommer att kunna få en snabb och förståelig översättning på datorn parallellt med vår konversation. Låt oss säga att vi pratar nu, och omedelbart få en utskrift av vår konversation på spanska?
- Det är möjligt snart. Jag tror inte det om två år. Men … Vad behövs för att lösa detta problem? Vi måste förbättra våra talanalyssystem. Vi kan ännu inte ta en spontan konversation, separera den från bruset och få önskad text. Och det går framsteg i denna riktning varje år.
Men samtidigt kommer det att finnas sådana saker som maskinen inte kan tolka otvetydigt. Och här beror noggrannheten i förståelse och översättning av tillgången till kunskapssystemet om världen, på mekanismerna för logisk slutsats.
Men i alla fall kommer faran för ett fullständigt förtroende för ett sådant program att kvarstå. Det är ett misstag att tro att man säger om fem år kan du diktera ett brev till en dator, det kommer att översätta det, skicka det till din affärspartner, och allt kommer att gå bra. Ingen garanterar att maskinen inte kommer att missa "inte" någonstans eller göra andra misstag, varefter ditt affärsförhållande kan betraktas som komplett.
Det vill säga, en person som controller bör fortfarande vara?
- Visst. Att lita på teknik blindt är farligt.