Akademiker Alexander Kuleshov berättade för Rusnano om hur nära mänskligheten är att skapa maskiner som förbättrar sig själva, vad deras skapande kommer att leda till och om Stephen Hawking hade rätt och fruktade de problem som intelligenta maskiner utgör.
Alexander Kuleshov är en av de ledande ryska specialisterna i skapandet av neurala nätverk, artificiell intelligens och komplexa informationsbehandlingssystem. Nu är han chef för Skolkovo Institute of Science and Technology, och fram till februari i år var han chef för Institute for Information Transmission Problems of the Russian Academy of Sciences.
I fredags höll akademikern Kuleshov en föreläsning inom det statliga företagets "Rusnano" väggar, där han berättade för publiken, inklusive Anatoly Borisovich Chubais, om framstegen inom området för att skapa artificiell intelligens de senaste åren och hur AI-teknologier kommer att förändra vårt samhälle genom några år.
"Alien" eller mänsklig intelligens?
”Varför får artificiell intelligens och smart databehandling så mycket uppmärksamhet idag? Vad hände? Faktum är att data alltid har bearbetats. Sedan Galileos tid har resultaten av vetenskapliga experiment bearbetats (matematiskt). Vad har hänt idag som har drivit detta problem fram?”, Började Skoltech-rektorn sin berättelse.
Som akademikern Kuleshov konstaterar har mängden data som människor och datorer arbetar med i dag förändrats - nu samlar, lagrar och bearbetar datorprogram terabyte och petabyte data, vars bearbetning med traditionella informationsanalyssystem är extremt svår.
Människor, till exempel operatörer av kärnkraftverk eller flygplanpiloter, har tillgång till dussintals eller till och med hundratals skärmar med olika diagnostisk information, som var och en nästan inte betyder något i sig, och kommer inte att hjälpa till att hitta ett fel i utrustningsdriften, men kombinationen med nästan 100 % kommer sannolikt att möjliggöra lösning av problemet redan innan det når ett kritiskt stadium.
Naturligtvis fortsätter forskaren att en person inte kan övervaka 50 skärmar samtidigt, vilket ger upphov till behovet av att skapa system som analyserar dessa data och bara visar på en skärm det som verkligen är viktigt för att fatta beslut och övervaka situationen.
Kampanjvideo:
”Helt nya matematiska system som har dykt upp för analys av sådana” stora data”har vuxit bortom dem, och de är tillämpliga på analys av all information med hjälp av tekniska medel. I själva verket skulle de ha varit nya på 1600-talet och skulle ha varit användbara för forskare på den tiden. Men jag betonar att allt detta visade sig exakt i våg av ny teknik, fortsätter Kuleshov.
Mycket av diskussionen kring dessa tekniker, som akademikern konstaterar, härrör från det faktum att det finns en skillnad mellan det ryska ordet "intellekt" och det engelska ordet intelligens, vilket får många deltagare i dessa tvister att tro att artificiell intelligens borde vara någon form av antropomorf konstruktion som liknar och imiterar. egenskaper hos mänsklig intelligens. Enligt Kuleshov visar de senaste 25-30 åren av forskning att detta tillvägagångssätt är felaktigt och inte leder till meningsfulla resultat som kan tillämpas i praktiken.
”Antropomorfism och likhet med naturen är populära termer, men ingenting har någonsin fungerat under de senaste århundradena. Till exempel ritade Leonardo da Vinci mekaniska hästar, Daedalus och Icarus försökte flyga som fåglar, men ingenting fungerade någonsin - idag finns det inga mekaniska hästar som springer runt våra gator, och vi flyger annorlunda. Det är detsamma med hjärnan - de försöken att förstå hur hjärnan fungerar och att göra detsamma i datorn har misslyckats helt, tillägger föreläsaren.
Alla dessa misslyckade försök att göra handgjorda analoger av nervceller och ansluta dem till en slags hjärna, liksom andra tillvägagångssätt som imiterar arbetet i det mänskliga nervsystemet och hur vi fattar beslut och analyserar information, ledde till det faktum att frasen under 90-talet "Artificiell intelligens" bland matematiker har blivit ett smutsigt ord på grund av dessa orimliga förväntningar, som bar antropomorfa idéer om neurala nätverk och artificiell intelligens.
Intelligensdjup
I själva verket började renässansen av utvecklingen av "artificiell intelligens" mycket nyligen, i slutet av 2000-talet, när ett antal amerikanska och ryska matematiker och programmerare föreslog och implementerade AI-algoritmer, som senare blev kända som "deep learning" och "mångfaldsbaserat lärande" -metoder.
”I slutändan började folk glömma neurala nätverk, det blev klart att ingenting fungerade med dem, och alla missade på något sätt publiceringen 2005 av artikeln av Hinton och Krizhevsky, som nu avgör vår framtid. Jag deltog också i dessa 'begravningar', men det visade sig att det inte var så enkelt, förklarar forskaren.
Som det visade sig uppför sig enkla neurala nätverk, kombinerade i kaskader och komplexa system med olika ordnade nätverk, annorlunda än vad forskare förväntade sig. Och som praxis har visat kan de lösa de uppgifter som tidigare var utanför artificiell intelligens, inklusive taligenkänning, fotografier av människor, olika föremål och till och med förutsäga uppdelningar och katastrofer.
”En helt unik situation har uppstått - ingen idag kan säga hur djupa neurala nätverk fungerar. Den amerikanska försvarsbyrån DARPA är redo att utfärda ett miljon dollarpris för att förklara hur de fungerar, men jag tror att detta pris kommer att förbli obefordrat de närmaste 30-40 åren. Jag känner mycket seriösa matematiker som kämpar med detta problem utan minsta framgång. Vi kan säga att vi har återvänt till naturfilosofins dagar - det finns en viss metod som fungerar fantastiskt bra, men vi kan inte förklara varför, säger Kuleshov.
Djupa neurala nätverk, säger forskaren, har länge kommit in och gått förbi människor inom många kunskapsområden och har kunnat identifiera och urskilja saker som en vanlig, otränad person helt enkelt inte kan göra. De senaste versionerna av sådana neurala nätverk gör färre misstag än människor som är utbildade för att lösa de problem som sådana AI-system kommer att ansvara för i framtiden.
Till exempel har forskare redan skapat neurala nätverk som kan beskriva vad som händer i fotografier och videor inte värre än en person gör. Sådana algoritmer kan hjälpa blinda eller döva att förstå vad som händer runt dem och vad de inte kan höra eller se, och specialtjänster kan använda sådana nätverk för att söka efter terrorister eller misstänkta i videoövervakningsarkiv eller under operativt arbete på flygplatser och andra trånga platser.
”Det finns cirka 70 miljoner designtekniker i världen idag, och statistik visar att endast 20% av deras produkter är någon form av ny utveckling. De återstående 80% skapades antingen redan av andra ingenjörer eller är mindre ändringar av befintliga modeller. Att bygga ett AI-system som kan hitta vad du behöver kommer att drastiskt minska den tid och resurser som vanligtvis spenderas på att utveckla dem. Det finns inga sådana system ännu, men om 1-2 år kommer de att visas, fortsätter akademikern.
Enligt honom är ett annat exempel på sådana system ett program som utvecklats av doktorander i Kuleshov, vilket gör det möjligt att avgöra om en person har Alzheimers sjukdom eller inte genom att studera fotografier av hans hjärna som erhållits med en magnetisk resonansbildsskanner.
Endast 200 MR-bilder av människor som lider av denna sjukdom räckte för ryska forskare att "lära" artificiell intelligens att skilja mellan friska och sjuka hjärnor med 90% noggrannhet. På liknande sätt har ryska matematiker lärt sig att hitta sår i människans mage genom hans elektrokardiogram.
I samarbete och på begäran från RSC Energia har Kuleshov och hans kollegor skapat en revolutionerande ny algoritm för styrning av ISS-motorerna, vilket kommer att minska bränslekostnaderna för att upprätthålla stationens höjd med cirka 40 gånger jämfört med det nuvarande programmet som skapats av amerikanska forskare för att ersätta det gamla ryska systemet och fem gånger bättre än NASAs kommande program.
Det nya systemet, baserat på Diversity Learning-teknik, kommer att testas ombord på stationen nästa år. Ett annat AI-system, skapat av ryska matematiker och programmerare, arbetar redan på Russian Railways och hjälper till att avgöra vilka haverier som bör repareras för att minimera resurskostnaderna.
Liknande program, enligt forskaren, används ibland för de mest oväntade ändamålen - till exempel används AI, skapad för att göra flygplanvingar, av Louis Vuitton för att skapa hudblekningskrämer.
”Vidareutveckling av dessa tekniker kommer att förändra människors liv radikalt. Tänk dig att du lämnar ett utländskt hotell, du fotograferas av misstag av turister, den här bilden kommer in i sökmotorn, den "beräknar" dig på dessa bilder och på fem minuter vet din chef om det. Som ett resultat blir det mycket svårt för dig att övertyga honom om att du åkte på en 'lokal' affärsresa, förklarar Kuleshov.
Förstärkt arkaisk verklighet
De första exemplen på denna”nya, underbara värld” finns idag - det är AI-systemet AlphaGo, som slog världsmästaren i Go i år. Som Kuleshov förklarar är det det första exemplet på en unik klass av maskiner som kan lösa oberäknliga problem och förbättra sig själva.
”Go skiljer sig från schack genom att det här spelet helt enkelt är omöjligt att beräkna matematiskt. Antalet möjliga drag i Go överstiger antalet atomer i universum, det är omöjligt att dumt räkna rörelserna i den. Om du har en kraftfull dator i schack kommer du att slå vem som helst, både Kasparov och Karjakin. Detta är omöjligt i Go, eftersom ingen dator kan göra det. Och det neurala nätverket kunde lösa detta problem, säger forskaren.
Det viktigaste kännetecknet för AlphaGo från alla andra AI-system är att detta program kan spela med sig själv och förbättra sig själv, anpassa sig till motståndaren och hitta absolut icke-triviala och oväntade sätt för en person att slå honom.
”Varför jag slutar med detta är det första steget in i en helt mystisk framtid. Hur föddes AlphaGo? Först samlade dess skapare en databas med 30 miljoner olika spelpositioner och utbildade det primära neurala nätverket på den. Sedan duplicerade de det och det andra nätverket började spela från det första. Och som ett resultat uppstod, efter flera miljarder iterationer, något tredje som en person inte längre kontrollerar. Det är inte klart var det kom ifrån - detta är resultatet av viss självkonstruktion. Ingen vet hur det händer, betonar Kuleshov.
Födelsen av AlphaGo och dess seger, enligt akademikern, öppnar dörren till ett helt nytt utrymme där mänskligheten kommer in mycket snabbt. Och inte allt i denna värld kommer att vara användbart och trevligt för mänskligheten i allmänhet och individer i synnerhet.
”Det är uppenbart att de sociala förändringarna från detta kommer att bli enorma. Antalet halvkvalificerade arbetare minskar redan som shagreen läder, och framväxten av AI som kan lösa dessa problem kommer att beröva dem deras jobb. Alla dessa ingenjörer, taxichaufförer, piloter, sjuksköterskor, arbetare - miljontals människor - kommer att behöva försvinna, och endast 1% kan, som nuvarande studier visar, anpassa sig till nya verkligheter och omskola sig, säger forskaren.
Enligt honom”är vi på väg till helt monsterliga sociala konsekvenser av utvecklingen av system för artificiell intelligens. Vi kan inte nu bedöma deras skala, som människor mitt i en orkan eller på höjden av en revolution. Nu måste pengar investeras snarast i utbildning, eftersom människor med genomsnittlig kvalifikation blir helt onödiga."
Som rektorn i Skoltech konstaterar kan världen idag mata hela mänskligheten, men den kan inte ockupera den. Denna arbetslöshet och brist på syfte i livet kan redan påverka Europas och andra utvecklade länder och ge upphov till olika radikala rörelser som IS och andra förbjudna extremistiska och religiösa grupper.
”Detta är en medveten arkivering av livet, skapandet av en situation där jag kommer att känna mig nödvändig. I helvete med honom att jag lever sämre, men jag lever inte som alla andra. Känslan av att du ständigt får snabbmat gratis och får sneakers var sjätte månad, men samtidigt att du inte behövs för någonting, är faktiskt hemskt. Och denna känsla kommer bara att växa med utvecklingen av AI och robotik, fortsätter Kuleshov.
En märkbar del av detta problem är relaterat till det faktum att en person helt enkelt inte har tid att "utvecklas" efter AI - generationer av människor förändras vart 25: e år, och tekniska revolutioner inträffar med ett intervall på 5-6 år. Därför, som rektorn konstaterar, kommer antalet "onödiga" människor ständigt att växa, och endast massutbildning kan hjälpa till att undvika en social explosion och uppkomsten av en ny våg av ludditer.
”Vad vi är på väg mot har inget namn ännu, och jag vet inte ens vad jag ska kalla det. Kanske kan de kallas "obemannade intelligenta system". Dessa är i grunden nya system som genererar sig själva, och vi är väldigt nära tiden när de börjar tränga in i våra liv, avslutar forskaren.
