Trots utbredd uppmärksamhet på utvecklingen av konstgjord intelligens finns det flera människor i världen som tror att potentialen för betydligt förbättrad mänsklig intelligens (AI) är mycket högre. Frågan om vad som kommer först förblir öppen, men det tros att en tekniskt avancerad hjärna kan vara lika kraftfull (och uppriktigt sagt lika farlig) som AI.
Mannen som art har utvecklat sitt tänkande under många årtusenden. Eller åtminstone försökte göra det. I försöket att övervinna sina kognitiva begränsningar har människor använt allt de kan, från skriftliga, språkliga och meditativa tekniker till moderna nootropics.
Varför, istället för att försöka utveckla allmän konstgjord intelligens (AGI) eller till och med artificiell superintelligens (ISI), skulle det inte vara bättre att fokusera på den mänskliga hjärnan och dess fortfarande långt ifrån helt olåst potential? När allt kommer omkring kan en betydande förbättring i sinnet - vare sig genom genetik, cybernetik eller krafter från externa enheter - leda till samma resultat som vi förväntar oss av skapandet av avancerad AI.
Gizmodo-portalen bestämde sig för att kontakta futurologen Mikhail Anisimov, bloggaren av portalen Accelerating Future och medstiften av evenemanget Singularity Summit och ta reda på de troliga utsikterna för utvecklingen av riktningen för att förbättra den mänskliga hjärnan. Anisimov tar denna fråga mycket allvarligt och anser att vi borde vara försiktiga med AI lika mycket som AI.
Michael, när vi talar om ökande intelligens, vad menar vi egentligen med detta? Pratar vi om att skapa nya Einsteins? Eller är det något ännu mer ambitiöst?
Det verkliga målet med AI-riktningen är snarare att skapa "super-Einsteins", människor mycket smartare än någon person som någonsin har bott på jorden. Och för att uppnå detta mål måste flera viktiga steg vidtas.
Det första steget är att skapa en direkt neuralkoppling med information. Tänk på det som en slags "telepatisk Google-sökning".
Nästa är utvecklingen av hjärn-datorgränssnitt, vilket kommer att förbättra arbetet hos den del av hjärnan som är ansvarig för visuell uppfattning. Detta kommer att förbättra inte bara vår vision utan också avsevärt öka effektiviteten i informationsbearbetningen. Föreställ dig att du nästan omedelbart kan skapa ett komplicerat schema av ett objekt i din hjärna i detalj, eller att du nu kan memorera det schema du har sett i detalj. Förstärkning krävs också i andra områden i den sensoriska cortex som är ansvarig för beröring och hörsel.
Kampanjvideo:
Det tredje steget är att förstärka den prefrontala cortex. Detta är den heliga gralen för UI-forskning - förbättrar effektiviteten i uppfattningen och integrationen av sensorisk information i koncept. Slutresultatet blir uppkomsten av människor som kan visa nästan omöjliga intellektuella förmågor. Vi pratar till exempel om förmågan att kontrollera andra människor med förnuftens kraft, förstå alla vinnande positioner på aktiemarknaden eller till exempel skapa uppfinningar som kan förändra världen på nästan en dag. Nu kan detta tyckas omöjligt, precis som våra moderna framgångar verkade omöjliga för stenålders människor. Men denna möjlighet är verkligen verklig.
Ser vi fram emot de kommande tio åren, var kommer AI att utvecklas? Kan den mänskliga hjärnan verkligen konkurrera med den?
Den mänskliga hjärnan kan verkligen inte förändras för mycket. När allt kommer omkring är det redan resultatet av sju miljoner år av evolutionär optimering och finjustering, som jag måste erkänna var mycket framgångsrik med tanke på dess begränsningar. Och försök att "överklocka" det, som regel, leder till att det misslyckas, om vi överväger frågan, åtminstone ur ett exempel på effekterna åtföljt av amfitaminberoende.
Trailer för filmen Area of Darkness
Kemikalier kan inte förbättra en persons kognitiva förmåga. Och allt som ges till förmån för effektiviteten hos de nuvarande "hjärnacceleratorerna" ser faktiskt extremt kontroversiellt och tveksamt ut. Verklig framgång kommer att kräva användning av hjärnimplantat som ansluter till miljontals neuroner. Detta i sin tur kommer att kräva miljoner små elektroder och ett särskilt kontrollsystem för att synkronisera dem alla. Nuförtiden har den mest avancerade dator-hjärngränssnittsdesignen cirka 1000 sådana anslutningar i bästa fall. Med andra ord måste den moderna utvecklingen skalas upp mer än tusenfaldigt för att uppnå något riktigt intressant. Även om vi tar hänsyn till den exponentiella tillväxten kommer det att ta minst 15 till 20 år för att uppnå några resultat.
Utvecklingen av UI baseras främst på framsteg i utvecklingen av nanoproduktion. Och resultaten från ingenjörer som arbetar med hjärn-datorgränssnitt, till exempel Ed Boyden, Massachusetts Institute of Technology, beror helt på framsteg i denna riktning. Med tanke på den försumbar utvecklingsnivån för produktionsteknologier på atomnivå ser självmontering av nano-nivå ut som det mest uppenbara sättet att utveckla gränssnitt mellan hjärnan och datorer med miljontals elektroder. Nano-nivå självmontering, det bör noteras, är inte en atomiskt noggrann tillverkningsmetod, men den är tillräckligt exakt enligt standarderna för grundläggande tillverkning och fotolitografi.
Vilka är några potentiella psykologiska biverkningar för personer med betydligt förbättrad intelligens? Kan de i allmänhet betraktas som människor ur denna synvinkel?
En av de vanligaste biverkningarna är vansinne. Den mänskliga hjärnan är en otroligt fininställd maskin. Och varje förändring i dess arbetssätt leder till vad vi vanligtvis kallar "galenskap." Det finns många olika typer av sinnessjukdomar, mycket mer än beteendemönster i sunt förnuft. Till exempel kan gömd sinnessjukhet ur den yttre miljön synas ganska friskt beteende, därför kommer vi troligtvis att möta svårigheter att identifiera sådana individer som lider av sinnessjukdom.
Även med fullständig förnuft kan olika biverkningar uppstå, inklusive kramper, överbelastning av information, och eventuellt känslor av egomani och total främling. Smarta människor tenderar att känna sig mer främmande från världen omkring dem, så att veta att du är den smartaste på planeten kommer att förstärka denna effekt många gånger.
De flesta väldigt smarta människor är inte så sällskapliga och glada, som till exempel den amerikanska forskaren Richard Feynman eller som den moderna Neil DeGrasse Tyson. Hemingway sa en gång: "En intelligent person tvingas ibland bli berusad för att uthärda kommunikation med dårar." Men vad händer när alkoholförgiftningen inte längre räcker för att upprätthålla kamratskap och ömsesidig kärlek? Detta kan leda till förlust av empati, vilket i slutändan leder till psykopati.
Så vad kommer först? Förstärkt eller konstgjord intelligens?
Det är mycket svårt att förutsäga. Det finns en stor önskan att förbättrad intelligens kommer att visas före AI. Alla dessa konstverk och spel där huvudpersonen har ett sådant användargränssnitt är till stor del ansvariga för denna önskan. Det bör emellertid förstås att förspänningen gentemot användargränssnittet faktiskt inte underlättar arbetet med teknisk komplexitet. Men personligen tror jag att UI kommer att komma tidigare.
Hur som helst är båda riktningarna mycket svåra att genomföra. Vi ser kanske inte någon förrän 2060-, 2070-talet eller till och med senare. I slutändan kommer båda riktningarna att utveckla sina mål. Om du tänker på det finns det inget överraskande i intelligensen nu, så behovet av att förbättra det är oerhört enormt. Och antagligen kommer det att kräva ett globalt uppror av Luddites (deltagare i de spontana protesterna under första kvartalet på 1800-talet mot införandet av maskiner under den industriella revolutionen i England - red.) För att stoppa framstegen inom teknisk utveckling, vilket kommer att leda oss till önskade resultat.
Vilka är fördelarna och nackdelarna med dessa två olika utvecklingsmetoder?
Den största fördelen med att välja AI-utvecklingsvägen ligger i de oproportionerligt billigare och enklare utvecklingsprocesserna. AI på papper och i kod har redan utvecklats. Det återstår bara att montera det korrekt. Den viktigaste forskningen om UI är i sin tur helt enkelt olaglig. Allvarlig forskning om UI kommer att kräva mycket sofistikerade experiment inom neurokirurgi och hjärnimplantat. Hjärnimplantat kan i sin tur misslyckas och orsaka kramper, sinnessjukdom eller till och med död. Att förbättra mänsklig intelligens när det gäller ett kvalitetssätt för självförbättring handlar inte bara om att ta några piller för att få supermakter. Här måste du verkligen experimentera med hjärnimplantat om du vill uppnå seriösa resultat.
Merparten av forskningen på detta område är starkt kontrollerad och otroligt dyr. Alla experiment med djur är alltid dyra. Till exempel har Theodor Berger arbetat med en hippocampal implantat för att återställa och förbättra minnesprestanda under många år. 2004 genomfördes de första testerna med levande vävnad, men sedan dess har nyheterna varit mycket sällsynta. Varje par år finns det naturligtvis några anteckningar i nyheterna, men jag är väldigt skeptisk till slutresultatet. Titta nu på den utvecklingsnivå vi har kunnat uppnå i utvecklingen av konstgjord intelligens!
Ser AI säkrare ut än AI när det gäller förutsägbarhet och kontroll? Vilket är viktigare att skapa första, AI eller superkraftig AI?
Förbättrad intelligens ses som mer oförutsägbar och okontrollerbar jämfört med superkraftig AI. Och på lång sikt ser det faktiskt ännu farligare ut. Jag skrev nyligen en artikel som reflekterar över den globala politiska omvandlingen som utlöses av massiv kraft koncentrerad i händerna på en liten grupp människor med AI eller exklusiv tillgång till molekyltillverkning. I det myntade jag uttrycket "Maximilian", vilket betyder "det bästa av det bästa", för att beskriva en mycket inflytelserik ledare som själv använder förbättrad underrättelseteknik för att lyfta sig själv över alla andra.
Kognitivt förbättrad Reginald Barkley från Star Trek: The Next Generation i avsnitt X
Nyckelpunkten för mitt resonemang i artikeln är att när du förbättrar intelligensen måste du ta itu med människor, och en person, som du vet, är ofullkomlig. Det kan visa sig att människor med förbättrad intelligens, kanske, kommer att behålla en viss nivå av mänsklig moral, men troligen kommer de att börja använda all sin kraft i hedonistiska syften och, eventuellt, även för folkmord.
Konstgjord superintelligens kan i sin tur skapas från grunden och helt enkelt tvingas följa en uppsättning av sina egna motiv (som också kommer att inbäddas i den), som har en bra start, stabilitet och har positiv feedback.
Folk ställer frågan: "Skulle ISI avvisa dessa motivationer?" Nej, det kommer han inte, för dessa motiv kommer att utgöra kärnan i hans värderingar, om de naturligtvis är korrekt programmerade. Det finns inget "spöke i bilen" som kan ignorera eller avvisa förprogrammerade motiv.
Filosofen Nick Bostrom har gjort en fantastisk analys i sitt arbete The Will of the Superintelligence. Den viktigaste tanken i det är att själviska mål inte kan visas på egen hand om systemet med viktiga uppgifter för AI ursprungligen är en uppsättning osjälviska mål och om själva kärnan i maskinens existens är att upprätthålla denna osjälviskhet. Evolution har visat att själviska mål spelar en viktig roll i överlevnaden, särskilt om vi tar hänsyn till de evolutionskonstruktionsbegränsningar som levande organismer har, men det betyder inte att vi själva inte kan programmera ointresserade agens från början?
Vilka svårigheter (tekniska, medicinska eller etiska) står i vägen för utveckling?
Den största utmaningen ligger i att utveckla lämplig produktionsteknologi. Nu är vi inte ens nära detta. En annan fallgrop är uppgiften att ta reda på vad exakt varje enskild neuron är ansvarig för och bestämma den exakta platsen för dessa neuroner i en enda person. Återigen har vi inte ens kommit nära det.
För det tredje måste vi utveckla ett snabbt sätt att testa de många teorierna om hjärnfunktion. Ed Boyden kallar detta för "screeningskretsar för neuralt nätverk med hög kapacitet." Den mest lämpliga och uppenbara lösningen på denna fråga kan på något sätt vara att skapa en medvetslös människa och experimentera med den utan att samvets- eller moraliska dilemmaer slingras. Men jag har en känsla av att de här idéerna möts med fientlighet av de flesta etiska kommittéer.
I avsaknad av en sådan möjlighet måste vi hitta ett sätt att skapa en enastående detaljerad modell av den mänskliga hjärnan. Och vi talar inte om dagens hårda försök med "hjärnmodellering" -projektet kring vilket det finns så mycket hype. Vi pratar om en ny nivå utan motstycke, som vi inte kommer att kunna nå förrän 2050-2080. Oxford-analys visar att det handlar mer om 2080-talet. Allt ser nu naturligtvis ut som förmögenhet på kaffegrunder, men ändå närmare verkligheten.
NIKOLAY KHIZHNYAK
