Specialister inom skapandet av konstgjord intelligens på mänsklig nivå måste idag lösa inte bara vetenskapliga, utan också etiska problem. Vilka är utmaningarna för forskare? Hur kan man skydda mänskligheten från potentiella hot som skapas av skapandet av ett superkraftigt sinne och förbli mänskligt i den nya världen? Professor vid Institutet för intelligenta cybernetiska system vid National Research Nuclear University "MEPhI" (IIKS NRNU MEPhI) Alexey Samsonovich berättade om detta till korrespondenten till projektet "Social Navigator" av MIA "Ryssland idag" Anna Kurskaya.
- Alexey Vladimirovich, vårt samtal äger rum inom ramen för den internationella konferensen "Biologiskt inspirerade kognitiva arkitekturer" BICA 2019. Vilka diskussionsämnen i dag kommer fram i samband med skapandet av konstgjord intelligens på mänsklig nivå?- Konferensen gjorde det möjligt för oss att återigen inse de viktigaste utmaningarna inom skapandet av nästa generations konstgjord intelligens, som borde bli en lika partner och människovän. För det första är utmaningen att skapa mänsklig intelligens på mänsklig nivå som kan utnyttja känslor i beslutsfattande och beteendegenerering. I synnerhet kommer denna kvalitet att göra det möjligt för maskinen att skapa långsiktiga sociala band, liknande dem mellan nära och kära. Det kommer också att tillåta henne att motivera sina handlingar och beslut, välja mål och ett sätt att lära sig. Emotionell intelligens är nyckeln till att svara på andra utmaningar. Det är inte begränsat till förmågan att känna igen och uttrycka känslor, som idag upptas av de flesta forskare som arbetar inom detta område. Även om båda dessa processer är nödvändiga,det är mycket viktigare och svårare att förstå sambandet mellan det ena och det andra, som emotionell intelligens ger. För det andra måste den intelligenta agenten förstå sammanhanget för vad som händer. Detta innebär att han, på grundval av den information som finns tillgänglig för honom, självständigt måste generera och kontinuerligt uppdatera det globala scenariot för det förflutna och framtiden, bestämma sin roll i det och sedan på denna grund sätta specifika mål för sig själv och utveckla planer för att uppnå dem. I den vetenskapliga litteraturen kallas denna förmåga vanligen "berättande intelligens" (den bör inte förväxlas med program som fungerar enligt ett manus eller berättelse som tidigare skrivits av en person).att han självständigt måste generera och kontinuerligt uppdatera det globala scenariot för det förflutna och framtiden på grundval av den information som finns tillgänglig för honom, bestämma hans roll i det, och sedan på denna grund, sätta specifika mål och utveckla planer för deras resultat. I den vetenskapliga litteraturen kallas denna förmåga vanligen "berättande intelligens" (den bör inte förväxlas med program som fungerar enligt ett manus eller berättelse som tidigare skrivits av en person).att han självständigt måste generera och kontinuerligt uppdatera det globala scenariot för det förflutna och framtiden på grundval av den information som finns tillgänglig för honom, bestämma hans roll i det och sedan på denna grundval sätta specifika mål och utveckla planer för att uppnå dem. I den vetenskapliga litteraturen kallas denna förmåga vanligen "berättande intelligens" (den bör inte förväxlas med program som fungerar enligt ett manus eller berättelse som tidigare skrivits av en person).eller berättelse).eller berättelse). - Finns det en tredje utmaning?
- Det kommer att vara implementeringen av aktivt lärande av konstgjord intelligens, som, liksom en person, utvecklar ett värdesystem som motiverar inlärningsprocessen, själv bildar mål och en färdplan för inlärning och väljer medel (till exempel experiment för att testa hypoteser, söka tillgängliga resurser eller frågor till en person) och använder sitt eget initiativ dessa medel för att uppnå målet. Samtidigt måste maskinen kunna självständigt utvecklas från barns nivå till vuxens nivå och vidare till superintelligens.
Detta tredje område kan kallas "intelligens på mänsklig nivå" för att skilja det från "djupt lärande" och andra typer av maskininlärning som är populära idag. Enligt min förståelse kommer inlärningsintelligens på mänsklig nivå vara möjligt genom emotionell och berättande intelligens.
Vilken forskning gör du nu? Hur fortsätter ditt arbete med att skapa virtuella mänskliga assistenter och modellering av emotionell intelligens?
- Vi arbetar med att modellera mänsklig emotionell intelligens med målet att utveckla socialt kompatibla virtuella mänskliga assistenter baserade på våra modeller.
Vi överväger ett brett utbud av specifika uppgifter och forskningsområden. Till exempel är detta skapandet av en virtuell partner i ett videospel; virtuell koordinator eller moderator; virtuell kreativ assistent för kompositören, koreografen, designern, assistenten till insiktsproblemlösaren; en virtuell lyssnare (i framtiden - en virtuell samtalspartner); såväl som ett virtuellt husdjur, jämförbart med ett riktigt vad gäller dess sociala och emotionella egenskaper.
Resultaten är svåra att presentera i detalj här, men de finns i våra öppna publikationer. För all bredd av våra försök och framgångar behöver vi ett genombrott i en riktning: att bevisa det praktiska värdet av den allmänna modellen för mänsklig emotionell intelligens, förkroppsligad i en intellektuell agent.
Nyligen har vårt BICA Lab vid Institutionen för cybernetik vid NRNU MEPhI berikats med nya forskningsmetoder, inklusive en experimentell plattform baserad på virtuell och blandad verklighet (med spårning av ämnets ögons riktning), samt elektromyografi och automatisk analys av ansiktsuttryck, vilket gör att vi kan registrera känslor av ämnen nedsänkta i ämnen virtuella miljöer. Det mesta av vårt arbete görs nu med hjälp av denna teknik. EEG och fMRI används också i vissa experiment.
Kampanjvideo:
Vårt omedelbara övergripande mål är att förfina och empiriskt validera Ebica Socio-Emotional Cognitive Architecture (eBICA) och skapa effektiva demonstrationer baserade på den. Detta arbete utförs på NRNU MEPhI med ekonomiskt stöd från Russian Science Foundation-bidrag nr 18-11-00336.
Nyligen tillkännagav Elon Musks start Neuralink utvecklingen som i framtiden skulle kunna göra en person till en cyborg som kan kontrollera en dator med tankens kraft. Hur lovande är den här forskningsgränsen för dig?
- Enligt min förståelse bör artificiell intelligens å ena sidan vara en lika partner och människovän, och å andra sidan en förlängning av normal eller ersättning av förlorade mänskliga förmågor, inklusive medel baserade på ett direkt gränssnitt med den mänskliga hjärnan.
I detta fall kan en person bokstavligen använda en dator eller mikrochip som en del av hjärnan. Båda är riktade mot det goda och bör kontrolleras helt av dess skapare. Jag önskar Elon Musk all framgång.
Hur stort är behovet av att utveckla medel för att motverka artificiell intelligens?
- Jag tror att verktyg för konstgjord intelligens under vår tid kommer att förbli under kontroll av en person, bara om det beror på deras service av en person och ger dem allt de behöver. Om någon kan vända dem mot en person, är det bara personen själv. Då bör frågan om att konfrontera dessa människor övervägas.
Det är ingen hemlighet att militären först behöver konstgjord intelligens. Idag, som tidigare, skapas nya sätt att attackera och försvara. Men det speciella med vår tid är att de båda inkluderar artificiell intelligens. I detta avseende är behovet av att utveckla konfrontationsmedel stort och för vissa länder är det en prioritering ur ekonomisk synvinkel.
Vad väntar oss efter skapandet av konstgjord intelligens, överlägsen människan? Kommer vi att samexistera med maskiner eller kommer vi att förena oss i någon form av en enda helhet?
- Konstgjord intelligens kommer att bli och blir redan en integrerad del av människans civilisation. Samtidigt är två sätt fortfarande möjliga: arvet av våra värderingar, ambitioner och ideal genom artificiell intelligens eller deras ersättning med "maskinvärden", som inte bara omfattar maskiner, utan också till människor. Vilken av dessa två vägar som realiseras är upp till oss.
Vad innebär det att förbli mänskligt i en tid av artificiell intelligens?
- Att förbli mänskligt i en tid av artificiell intelligens innebär att implementera den första vägen.
