Anledningen till att denna (och andra) artikel kom fram är enkel: kanske är artificiell intelligens inte bara ett viktigt diskussionsämne utan det viktigaste i framtidens sammanhang. Den som till och med kommer in i kärnan i potentialen för artificiell intelligens inser att detta ämne inte kan ignoreras. En del - och bland dem Elon Musk, Stephen Hawking, Bill Gates, inte de mest dumma människorna på vår planet - tror att artificiell intelligens utgör ett existentiellt hot mot mänskligheten, som kan jämföras i skala med den fullständiga utrotningen av oss som art. Tja, luta dig tillbaka och pricka i för dig själv.
”Vi är på väg mot förändringar som kan jämföras med det mänskliga livets ursprung på jorden” (Vernor Vinge).
Vad innebär det att vara på väg mot en sådan förändring?
Det verkar inte vara något speciellt. Men du måste komma ihåg att det att vara på en sådan plats i diagrammet betyder att du inte vet vad som är till höger för dig. Du borde känna något så här:
Känslor är helt normala, flygningen går bra.
Kampanjvideo:
Framtiden kommer
Föreställ dig att en tidsmaskin transporterade dig till 1750, en tid då världen upplevde ständiga strömavbrott, kommunikation mellan städer innebar kanonskott och all transport kördes på hö. Låt oss säga att du kommer dit, tar någon och tar med dem till 2015, visar hur det är här. Vi kan inte förstå hur det skulle vara för honom att se alla dessa glänsande kapslar flyga längs vägarna; prata med människor på andra sidan havet; titta på sportspel tusen kilometer bort; hör en musikföreställning inspelad för 50 år sedan; spela med en magisk rektangel som kan ta ett foto eller fånga ett levande ögonblick; bygg en karta med en paranormal blå prick som anger dess plats; titta på någons ansikte och kommunicera med honom många kilometer bort, och så vidare. Allt detta är oförklarlig magi för nästan tre hundra år gamla människor. För att inte tala om Internet, den internationella rymdstationen, Large Hadron Collider, kärnvapen och allmän relativitet.
En sådan upplevelse kommer inte att vara förvånande eller chockerande för honom - dessa ord förmedlar inte hela essensen av mental kollaps. Vår resenär kan dö helt.
Men det finns en intressant punkt. Om han går tillbaka till 1750 och blir avundsjuk på att vi ville se hans reaktion till 2015, kan han ta en tidsmaskin med honom och försöka göra detsamma med, säg 1500. Han kommer att flyga dit, hitta en person, plocka upp honom 1750 och visa allt. Killen från 1500 kommer att bli chockad över måttet - men troligen inte att dö. Även om han naturligtvis kommer att bli förvånad är skillnaden mellan 1500 och 1750 mycket mindre än mellan 1750 och 2015. En person från 1500 kommer att bli förvånad över några ögonblick från fysiken, kommer att bli förvånad över vad Europa har blivit under imperialismens hårda häl, rita en ny världskarta i hans huvud … Men vardagen 1750 - transport, kommunikation etc. - kommer troligen inte att överraska honom till döds.
Nej, för att en kille från 1750 ska ha samma kul som vi måste han gå mycket längre - kanske ett år som detta år 12 000 f. Kr. e., redan innan den första jordbruksrevolutionen födde de första städerna och begreppet civilisation. Om någon från världen av jägare-samlare, från den tid då människan ännu mer var en annan djurart, såg de enorma mänskliga imperierna 1750 med sina höga kyrkor, fartyg som korsade haven, deras koncept att vara "inuti" en byggnad, allt denna kunskap - han skulle sannolikt ha dött.
Och sedan, efter döden, skulle han ha avundats och ville göra detsamma. Skulle återvända för 12 000 år sedan, vid 24 000 f. Kr. skulle ha tagit en person och tagit honom i god tid. Och en ny resenär skulle säga till honom: "Tja, det är bra, tack." För i detta fall en person från 12 000 f. Kr. e. man skulle behöva gå tillbaka 100 000 år och visa de lokala aboriginernas eld och språk för första gången.
Om vi behöver transportera någon in i framtiden för att bli förvånad till döds, måste framstegen gå ett visst avstånd. Point of Death Progress (TPP) måste nås. Det vill säga, om TSP tog 100 000 år vid jägarsamlare, inträffade nästa stopp redan 12 000 f. Kr. e. Efter det var framstegen redan snabbare och radikalt förvandlade världen 1750 (ungefär). Sedan tog det ett par hundra år, och här är vi.
Denna bild - där mänskliga framsteg rör sig snabbare när tiden går - kallar futuristen Ray Kurzweil lagen om accelererande återgång till mänsklig historia. Detta händer eftersom mer avancerade samhällen har förmågan att flytta framsteg i snabbare takt än mindre utvecklade samhällen. Folket på 1800-talet visste mer än folket på 1400-talet, så det är inte förvånande att framstegen under 1800-talet var snabbare än på 1400-talet och så vidare.
I mindre skala fungerar det också. Back to the Future släpptes 1985 och det förflutna var 1955. I filmen, när Michael J. Fox återvände 1955, blev han överraskad av TV-nyheten, läskpriset, brist på kärlek till gitarrljud och variationer i slang. Det var naturligtvis en annan värld, men om filmen filmades idag och det förflutna var 1985, skulle skillnaden vara mycket mer global. Marty McFly, tillbaka i tiden från persondatorns dagar, skulle Internet, mobiltelefoner vara mycket mer irrelevanta än Marty, som gick till 1955 från 1985.
Allt detta beror på lagen om snabbare avkastning. Den genomsnittliga framstegstakten mellan 1985 och 2015 var snabbare än hastigheten från 1955 till 1985 - för i det första fallet var världen mer utvecklad, den var mättad med de senaste 30 åren.
Ju fler prestationer desto snabbare förändringar sker. Men borde det inte lämna oss några tips för framtiden?
Kurzweil föreslår att framstegen under hela 1900-talet kunde ha gjorts på bara 20 år på en utvecklingsnivå 2000 - det vill säga år 2000 var framstegshastigheten fem gånger snabbare än den genomsnittliga framstegstakten för 20-talet. Han tror också att framstegen under hela 1900-talet motsvarade periodens framsteg från 2000 till 2014, och framstegen under ytterligare 20-talet kommer att motsvara perioden fram till 2021 - det vill säga på bara sju år. Efter några decennier kommer alla framsteg under 1900-talet att ske flera gånger om året, och sedan på bara en månad. I slutändan kommer lagen om accelererande avkastning att leda oss till den punkten att framsteg under hela 2000-talet kommer att vara 1000 gånger större än framstegen under 20-talet.
Om Kurzweil och hans anhängare har rätt kommer 2030 att överraska oss på samma sätt som killen från 1750 skulle ha förvånat vår 2015 - det vill säga nästa TSP tar bara ett par decennier - och världen 2050 kommer att vara så annorlunda än den moderna att vi knappast ta reda på. Och detta är inte fantasi. Detta anser många forskare som är smartare och mer utbildade än du och jag. Och om du tittar på historien kommer du att förstå att denna förutsägelse följer av ren logik.
Varför då, när vi står inför uttalanden som "världen om 35 år kommer att förändras utan erkännande", rycker vi skeptiskt på axlarna? Det finns tre skäl till vår skepsis kring framtida förutsägelser:
1. När det gäller historia tänker vi i raka linjer. När vi försöker visualisera framstegen under de kommande 30 åren tittar vi på framstegen under de föregående 30 som en indikator på hur mycket som sannolikt kommer att hända. När vi tänker på hur vår värld kommer att förändras under 2000-talet tar vi framstegen under 1900-talet och lägger till den till år 2000. Samma misstag som vår kille från 1750 gör när han får någon från 1500 och försöker överraska honom. Vi tänker intuitivt linjärt när vi ska vara exponentiella. I grund och botten bör en futurist försöka förutsäga framstegen under de kommande 30 åren, inte titta på de föregående 30 utan att döma av den nuvarande nivån på framsteg. Då blir prognosen mer exakt, men ändå vid grinden. För att tänka rätt på framtiden måste du se att saker rör sig i mycket snabbare takt än de rör sig nu.
2. Banan för den senaste historien är ofta förvrängd. För det första verkar även en brant exponentiell kurva linjär när du ser små delar av den. För det andra är exponentiell tillväxt inte alltid smidig och enhetlig. Kurzweil tror att framsteg rör sig i serpentinkurvor.
En sådan kurva går igenom tre faser: 1) långsam tillväxt (tidig fas av exponentiell tillväxt); 2) snabb tillväxt (explosiv, sen fas av exponentiell tillväxt); 3) stabilisering i form av ett specifikt paradigm.
Om du tittar på den sista historien kan den del av S-kurvan du befinner dig i för närvarande dölja hastigheten på framsteg från din uppfattning. En del av tiden mellan 1995 och 2007 spenderades på den explosiva utvecklingen av Internet och introducerade Microsoft, Google och Facebook för allmänheten, födelsen av sociala nätverk och utvecklingen av mobiltelefoner och sedan smartphones. Detta var den andra fasen i vår kurva. Men perioden 2008-2015 var mindre störande, åtminstone på teknikfronten. De som tänker på framtiden idag kan ta de senaste åren att mäta den totala framstegstakt, men de ser inte den större bilden. Faktum är att en ny och kraftfull fas 2 kan bryggas nu.
3. Vår egen erfarenhet gör oss griniga gamla människor när det gäller framtiden. Vi baserar våra idéer om världen på vår egen erfarenhet, och den här upplevelsen har för oss självklart satt tillväxttakten i det senaste förflutna. Våra fantasier är också begränsade eftersom de använder vår erfarenhet för att förutsäga - men oftare har vi helt enkelt inte verktygen för att noggrant förutsäga framtiden. När vi hör förutsägelser för framtiden som strider mot vår vardagliga uppfattning om hur saker fungerar, anser vi dem instinktivt naiva. Om jag sa till dig att du kommer att leva för att vara 150 eller 250 år gammal och kanske inte kommer att dö alls, kommer du instinktivt att tänka att "det här är dumt, jag vet från historien att alla under denna tid dog". Så är det: ingen levde för att se sådana år. Men inte ett enda flygplan flög före uppfinningen av flygplan.
Medan skepsis verkar rimlig för dig är det alltså oftare än inte fel. Vi bör acceptera att om vi beväpnar oss med ren logik och väntar på de vanliga historiska sicksackarna, måste vi erkänna att väldigt, väldigt mycket måste förändras under de kommande decennierna. mycket mer än intuitivt. Logiken dikterar också att om de mest avancerade arterna på planeten fortsätter att göra jättehopp framåt, snabbare och snabbare, kommer hoppet någon gång att vara så svårt att det drastiskt kommer att förändra livet som vi känner det. Något liknande hände under evolutionens process, när människan blev så smart att han helt förändrade livet för alla andra arter på planeten Jorden. Och om du spenderar lite tid på att läsa vad som händer nu inom vetenskap och teknik, kanske du gör detbörja se vissa ledtrådar om vad nästa jättehopp kommer att bli.
Vägen till superintelligens: vad är AI (artificiell intelligens)?
Som så många på denna planet är du van att tänka på artificiell intelligens som en dum science fiction-idé. Men på sistone har många seriösa människor visat oro över denna dumma idé. Vad är fel?
Det finns tre skäl som leder till förvirring kring termen AI:
1. Vi associerar AI med filmer. "Stjärnornas krig". "Terminator". "A Space Odyssey of 2001". Men precis som robotar är AI i dessa filmer fiktion. Således spänner Hollywood-band ut nivån på vår uppfattning, AI blir bekant, bekant och naturligtvis ondskan.
2. Detta är ett brett tillämpningsområde. Det börjar med en miniräknare i din telefon och utvecklar självkörande bilar till något långt i framtiden som kommer att revolutionera världen. AI står för alla dessa saker, och det är förvirrande.
3. Vi använder AI varje dag, men ofta inser vi inte ens det. Som John McCarthy, uppfinnaren av termen "artificiell intelligens" 1956, "när det fungerar, kallar det ingen AI längre." AI har blivit mer som en mytisk förutsägelse om framtiden än något riktigt. Samtidigt finns det i detta namn en smack av något från det förflutna som aldrig blev verklighet. Ray Kurzweil säger att han hör människor som associerar AI med fakta från 80-talet, vilket kan jämföras med att "hävda att internet dog tillsammans med dotcoms i början av 2000-talet."
Låt oss vara tydliga. Sluta först tänka på robotar. Roboten som är behållaren för AI efterliknar ibland den mänskliga formen, ibland gör den inte, men AI är själva datorn inuti roboten. AI är en hjärna, och en robot är en kropp, om den alls har en kropp. Till exempel är Siris programvara och data artificiell intelligens, den kvinnliga rösten är personifieringen av denna AI, och det finns inga robotar i detta system.
För det andra har du förmodligen hört termen "singularitet" eller "teknisk singularitet". Denna term används i matematik för att beskriva en ovanlig situation där de vanliga reglerna inte längre fungerar. I fysik används den för att beskriva den oändliga och täta punkten i ett svart hål eller den ursprungliga punkten för Big Bang. Återigen fungerar fysikens lagar inte i den. 1993 skrev Vernor Vinge en berömd uppsats där han använde termen på ett ögonblick i framtiden när intelligensen i våra teknologier överträffar vår egen - vid vilken tidpunkt livet som vi känner det kommer att förändras för alltid, och de vanliga reglerna för dess existens kommer inte längre att fungera. … Ray Kurzweil förfinade denna term ytterligare genom att påpeka att singulariteten kommer att uppnås när lagen om accelererande rekyl når en extrem punkt,när den tekniska utvecklingen rör sig så snabbt att vi slutar märka dess prestationer, nästan oändligt snabbt. Då kommer vi att leva i en helt ny värld. Men många experter har slutat använda denna term, så låt oss inte använda den ofta.
Slutligen, medan det finns många typer eller former av AI som härrör från det breda begreppet AI, beror huvudkategorierna av AI på kalibern. Det finns tre huvudkategorier:
1. Smalt fokuserad (svag) artificiell intelligens (AI). UII är specialiserat på ett område. Bland dessa AI finns det de som kan slå världsmästaren i schack, men det är allt. Det finns en som kan erbjuda det bästa sättet att lagra data på din hårddisk, och det är det.
2. Allmän (stark) artificiell intelligens. Ibland kallas även AI på mänsklig nivå. AGI refererar till en dator som är lika smart som en person - en maskin som kan utföra alla intellektuella handlingar som är inneboende i en person. Att skapa AGI är mycket svårare än AGI, och det har vi inte kommit till ännu. Professor Linda Gottfredson beskriver intelligens som "i allmänhet, psykisk potential, som bland annat inkluderar förmågan att resonera, planera, lösa problem, tänka abstrakt, förstå komplexa idéer, lära sig snabbt och lära av erfarenhet." AGI ska kunna göra allt detta lika enkelt som du gör.
3. Artificiell superintelligens (ISI). Oxford-filosofen och AI-teoretikern Nick Bostrom definierar superintelligens som "intelligens som är mycket smartare än de bästa mänskliga sinnena inom praktiskt taget alla områden, inklusive vetenskaplig kreativitet, allmän visdom och sociala färdigheter." Artificiell superintelligens inkluderar både en dator som är lite smartare än en person och en som är biljoner gånger smartare i någon riktning. ISI är anledningen till det växande intresset för AI, liksom det faktum att orden "utrotning" och "odödlighet" ofta förekommer i sådana diskussioner.
Numera har människor redan erövrat den allra första etappen av AI-kalibern - AI - på många sätt. AI-revolutionen är en resa från AGI till AGI till ISI. Denna väg kanske vi inte överlever, men det kommer definitivt att förändra allt.
Låt oss titta närmare på hur de ledande tänkarna inom området ser denna väg och varför denna revolution kan ske snabbare än du kanske tror.
Var är vi i den här strömmen?
Fokuserad artificiell intelligens är maskinintelligens som är lika med eller överstiger mänsklig intelligens eller effektivitet för att utföra en specifik uppgift. Några exempel:
”Bilar är fulla av ICD-system, från datorer som bestämmer när det låsningsfria bromssystemet ska fungera, till en dator som bestämmer parametrarna för bränsleinsprutningssystemet. Googles självkörande bilar, som för närvarande testas, kommer att innehålla robusta AI-system som känner och reagerar på världen runt dem.
- Din telefon är en liten ICD-fabrik. När du använder kartappen, får du rekommendationer för att ladda ner appar eller musik, kolla morgondagens väder, prata med Siri eller göra något annat - du använder AI.
- Ditt skräppostfilter via e-post är en klassisk typ av AI. Det börjar med att ta reda på hur man skiljer skräppost från användbara e-postmeddelanden och lär sig sedan när det hanterar dina e-postmeddelanden och preferenser.
- Och den här besvärliga känslan, när du igår letade efter en skruvmejsel eller en ny plasma i en sökmotor, och idag ser du erbjudanden från hjälpsamma butiker på andra webbplatser? Eller när det sociala nätverket rekommenderar att du lägger till intressanta människor som vänner? Allt detta är AI-system som arbetar tillsammans, bestämmer dina preferenser, hämtar data om dig från Internet, kommer närmare och närmare dig. De analyserar miljontals människors beteende och drar slutsatser baserat på dessa analyser för att sälja stora företags tjänster eller förbättra deras tjänster.
- Google Translate är ett annat klassiskt AI-system som är imponerande bra på vissa saker. Det gör också röstigenkänning. När ditt plan landar identifieras inte terminalen för det av någon person. Biljettpriset är detsamma. Världens bästa pjäser, schack, backgammon, bulldozer och andra spel representeras idag av snävt fokuserad artificiell intelligens.
- Google Search är en gigantisk AI som använder otroligt smarta metoder för att rangordna sidor och bestämma SERP.
Och det är bara i konsumentvärlden. Sofistikerade IRD-system används ofta i militär-, tillverknings- och finansindustrin; i medicinska system (tänk IBMs Watson) och så vidare.
Vägen från AGI till AGI: varför är det så svårt?
Ingenting avslöjar komplexiteten i mänsklig intelligens mer än att försöka skapa en dator som är lika smart. Att bygga skyskrapor, flyga ut i rymden, Big Bangs hemligheter är allt nonsens jämfört med att upprepa våra egna hjärnor eller åtminstone bara förstå det. Den mänskliga hjärnan är för närvarande det mest komplexa objektet i det kända universum.
Du kanske inte ens misstänker vad svårigheten är att skapa AGI (en dator som kommer att vara smart som en person i allmänhet och inte bara inom ett område). Att bygga en dator som kan multiplicera två tio-siffriga nummer på en delad sekund är en bit kaka. Att skapa en som kan titta på en hund och en katt och berätta var hunden är och var katten är är oerhört svårt. Skapa en AI som kan slå en stormästare? Gjort. Försök nu få honom att läsa ett stycke från en sex år gammal bok och inte bara förstå orden utan också deras betydelse. Google spenderar miljarder dollar på att försöka göra detta. Med komplexa saker - som beräkningar, beräkning av finansmarknadsstrategier, översättning av språk - klarar datorn det enkelt men med enkla saker - vision, rörelse, perception - nej. Som Donald Knuth uttryckte det,”AI gör nu nästan alltsom kräver "tänkande" men inte klarar vad människor och djur gör utan att tänka."
När du tänker på orsakerna till detta inser du att saker som verkar vara enkla för oss att göra bara verkar så eftersom de har optimerats för oss (och djur) under hundratals miljoner år av evolution. När du når ut till ett föremål utför muskler, leder, axlar, armbågar och händer omedelbart långa kedjor av fysiska operationer, synkrona med vad du ser, och rör din arm i tre dimensioner. Det verkar enkelt för dig, eftersom den perfekta programvaran i din hjärna är ansvarig för dessa processer. Det här enkla tricket gör proceduren för att registrera ett nytt konto genom att ange ett skämtskrivet ord (captcha) enkelt för dig och fan för en skadlig bot. För vår hjärna är detta inte svårt: du behöver bara kunna se.
Å andra sidan är att multiplicera ett stort antal eller spela schack nya aktiviteter för biologiska varelser, och vi hade inte tillräckligt med tid att förbättra oss i dem (inte miljoner år), så det är inte svårt för en dator att besegra oss. Tänk bara på det: Vill du hellre skapa ett program som kan multiplicera stora siffror, eller ett program som känner igen bokstaven B i sina miljontals stavningar, i de mest oförutsägbara teckensnitten, för hand eller med en pinne i snön?
Ett enkelt exempel: när du tittar på detta inser du och din dator att det är alternerande rutor i två olika nyanser.
Men om du tar bort det svarta, beskriver du omedelbart hela bilden: cylindrar, plan, tredimensionella vinklar, men en dator kan inte.
Han kommer att beskriva vad han ser som en mängd tvådimensionella former i olika nyanser, vilket i princip är sant. Din hjärna gör massor av arbete med att tolka djup, skuggspel, ljus i en bild. På bilden nedan ser datorn ett tvådimensionellt vit-grå-svart collage, när det i verkligheten finns en tredimensionell sten.
Och allt vi precis har skisserat är toppen av isberget när det gäller att förstå och bearbeta information. För att nå samma nivå med en person måste en dator förstå skillnaden i subtila ansiktsuttryck, skillnaden mellan nöje, sorg, tillfredsställelse, glädje och varför Chatsky är bra, och Molchalin inte är det.
Vad ska man göra?
Det första steget för att bygga AGI: ökad datorkraft
En av de nödvändiga sakerna som måste hända för att AGI ska bli möjligt är att öka kraften i datorhårdvara. Om ett artificiellt intelligenssystem ska vara lika smart som hjärnan, måste det matcha hjärnan i rå datorkraft.
Ett sätt att öka denna förmåga är genom det totala antalet beräkningar per sekund (OPS) som hjärnan kan producera, och du kan bestämma detta antal genom att ta reda på den maximala OPS för varje hjärnstruktur och sätta ihop dem.
Ray Kurzweil drog slutsatsen att det är tillräckligt att göra en professionell uppskattning av OPS för en struktur och dess vikt relativt hela hjärnans vikt och sedan multiplicera proportionellt för att få den övergripande uppskattningen. Det låter lite tvivelaktigt, men han gjorde det många gånger med olika uppskattningar av olika områden och kom alltid med samma nummer: cirka 10 ^ 16 eller 10 kvadrillioner OPS.
Den snabbaste superdatorn i världen, Kinas Tianhe-2, har redan överträffat detta nummer: den kan utföra cirka 32 kvadriljoner per sekund. Men "Tianhe-2" tar upp 720 kvadratmeter utrymme, förbrukar 24 megawatt energi (vår hjärna förbrukar bara 20 watt) och kostar 390 miljoner dollar. Vi talar inte om kommersiell eller utbredd användning.
Kurzweil föreslår att vi bedömer dators hälsa efter hur många OPS du kan köpa för 1000 USD. När det antalet når den mänskliga nivån - 10 kvadrillioner OPS - kan AGI mycket väl bli en del av våra liv.
Moores lag - den historiskt tillförlitliga regeln om att dators maximala datorkraft fördubblas vartannat år - innebär att utvecklingen av datorteknik, liksom människans rörelse genom historien, växer exponentiellt. Om vi ställer det i linje med Kurzweils tusen dollarregel har vi nu råd med 10 biljoner OPS för 1 000 dollar.
Den exponentiella tillväxten av datorer: 20-21-talet. Till höger finns en bildregel och till den - hjärnan hos en insekt, en mus, en person och alla människor; vänster - beräkningar per sekund för $ 1000; nedan - år.
Datorer för 1 000 dollar kringgår hjärnan hos en mus i sin datorkraft och är tusen gånger svagare än människor. Detta verkar som en dålig indikator tills vi kommer ihåg att datorer var en biljon gånger svagare än den mänskliga hjärnan 1985, en miljard 1995 och en miljon 2005. År 2025 borde vi ha en prisvärd dator som konkurrerar med datorkraften vår hjärna.
Således är den råa kraften som krävs för AGI redan tekniskt tillgänglig. Inom tio år kommer det att lämna Kina och sprida sig över hela världen. Men datorkraft ensam räcker inte. Och nästa fråga: hur ger vi intelligens på mänsklig nivå med all denna kraft?
Det andra steget för att skapa AGI: ge det intelligens
Den här delen är ganska knepig. I sanning vet ingen riktigt hur man gör en maskin intelligent - vi försöker fortfarande ta reda på hur man skapar ett sinne på mänsklig nivå som kan berätta för en katt från en hund, isolera en B ritad i snön och analysera en andra klassens film. Det finns dock en handfull framåtblickande strategier där ute, och vid ett tillfälle borde en av dem fungera.
1. Upprepa hjärnan
Det här alternativet är som att forskare är i samma klassrum med ett barn som är väldigt intelligent och bra på att svara på frågor; och även om de flitigt försöker förstå vetenskapen, kommer de inte ens nära att komma ikapp med det smarta barnet. Till slut bestämmer de: i helvete skriver vi bara bort svaren på hans frågor. Det är vettigt: vi kan inte bygga en superkomplex dator, så varför inte ta en av universums bästa prototyper som grund: vår hjärna?
Den vetenskapliga världen arbetar hårt för att ta reda på hur våra hjärnor fungerar och hur evolutionen skapade en så komplex sak. Enligt de mest optimistiska uppskattningarna kommer de att kunna göra det först 2030. Men när vi förstår alla hjärnans hemligheter, dess effektivitet och kraft, kan vi inspireras av dess metoder för att skapa teknik. Till exempel är en av datorarkitekturerna som efterliknar hjärnans arbete ett neuralt nätverk. Hon börjar med ett nätverk av transistor "nervceller" som är anslutna till varandra genom in- och utgång, och vet ingenting - som en nyfödd. Systemet "lär sig" genom att försöka slutföra uppgifter, känna igen handskriven text och liknande. Förbindelserna mellan transistorerna stärks om svaret är korrekt och försvagas om svaret är felaktigt. Efter många cykler av frågor och svar bildar systemet smarta neurala väv,optimerad för specifika uppgifter. Hjärnan lär sig på ett liknande sätt, men på ett mycket mer komplext sätt, och när vi fortsätter att studera det, upptäcker vi otroliga nya sätt att förbättra neurala nätverk.
Ännu mer extrem plagiering innebär en strategi som kallas full hjärnemulering. Syfte: Att skära en riktig hjärna i tunna skivor, skanna var och en av dem, rekonstruera sedan 3D-modellen med hjälp av programvara och översätt den sedan till en kraftfull dator. Då kommer vi att ha en dator som officiellt kommer att kunna göra allt som hjärnan kan göra: den behöver bara lära sig och samla in information. Om ingenjörer lyckas kan de efterlikna en riktig hjärna med så otrolig noggrannhet att när hjärnan laddats ner till en dator kommer hjärnans verkliga identitet och minne förbli intakt. Om hjärnan tillhörde Vadim innan han dog kommer datorn att vakna i rollen som Vadim, som nu kommer att vara en AGI på mänsklig nivå, och vi kommer i sin tur att göra Vadim till en otroligt intelligent ISI.som han förmodligen kommer att bli nöjd med.
Hur långt är vi från att helt efterlikna hjärnan? I sanning emulerade vi bara hjärnan hos en millimeter flatmask, som totalt innehåller 302 nervceller. Den mänskliga hjärnan innehåller 100 miljarder nervceller. Om du försöker komma till det här numret verkar värdelöst för dig, tänk på den exponentiella tillväxttakten. Nästa steg kommer att vara emuleringen av myrans hjärna, då kommer det att finnas en mus och sedan är en människa inom räckhåll.
2. Försök att följa evolutionens spår
Om vi bestämmer oss för att det smarta barns svar är för komplicerade för att kunna avskrivas, kan vi försöka följa hans fotspår när det gäller inlärning och examensförberedelser. Vad vet vi? Det är fullt möjligt att bygga en dator så kraftfull som en hjärna - utvecklingen av våra egna hjärnor har bevisat detta. Och om hjärnan är för komplex för att efterlikna, kan vi försöka efterlikna evolutionen. Poängen är att även om vi kan efterlikna hjärnan, kan det vara som att försöka bygga ett flygplan genom att göra löjliga handsvängningar som efterliknar fåglarnas vingar. Ofta lyckas vi skapa bra maskiner med en maskininriktad metod snarare än en exakt efterlikning av biologi.
Hur simulerar jag evolution för att bygga AGI? Denna metod som kallas "genetiska algoritmer" borde fungera ungefär så här: det måste finnas en produktiv process och dess utvärdering, och den kommer att upprepa sig om och om igen (på samma sätt "biologiska varelser" existerar "och" utvärderas "av deras förmåga att reproducera). En grupp datorer kommer att utföra uppgifter, och den mest framgångsrika av dem kommer att dela sina egenskaper med andra datorer, "output". De mindre framgångsrika kommer nådelöst att kastas i historiens soptunna. Genom många, många iterationer kommer denna naturliga urvalsprocess att ge bättre datorer. Utmaningen ligger i att skapa och automatisera avels- och utvärderingscykler så att utvecklingsprocessen fortsätter av sig själv.
Nackdelen med att kopiera evolutionen är att det tar evolution miljarder år att göra något, och vi behöver bara några decennier för att göra det.
Men vi har många fördelar, till skillnad från evolutionen. För det första har den inte gåvan av framsynthet, det fungerar av en slump - det ger till exempel värdelösa mutationer - och vi kan kontrollera processen inom ramen för de uppsatta uppgifterna. För det andra har evolutionen inget mål, inklusive önskan om intelligens - ibland i miljön vinner en viss art inte på bekostnad av intelligens (eftersom den senare förbrukar mer energi). Vi å andra sidan kan sikta på att öka intelligensen. För det tredje, för att kunna välja intelligens, måste evolutionen göra ett antal förbättringar från tredje part - som att omfördela energiförbrukningen i celler - vi kan bara ta bort överskottet och använda el. Utan tvekan kommer vi att vara snabbare än evolutionen - men återigen är det inte klart om vi kan överträffa den.
3. Lämna datorer för sig själva
Detta är den sista chansen när forskare är helt desperata och försöker programmera ett program för självutveckling. Denna metod kan dock visa sig vara den mest lovande av alla. Tanken är att vi skapar en dator som kommer att ha två grundläggande färdigheter: att utforska AI och koda förändringar i sig - vilket gör att den inte bara kan lära sig mer utan också att förbättra sin egen arkitektur. Vi kan utbilda datorer till att vara deras egna datortekniker så att de kan utvecklas själv. Och deras huvudsakliga uppgift blir att ta reda på hur man blir smartare. Vi kommer att prata om detta mer detaljerat.
Allt detta kan hända mycket snart
Snabba framsteg inom hårdvaru- och programvaruexperiment går parallellt, och AGI kan dyka upp snabbt och oväntat av två huvudskäl:
1. Exponentiell tillväxt är intensiv, och vad som verkar vara en snigeltakt kan snabbt utvecklas till sju ligahopp - den här gifen illustrerar detta koncept väl:
När kommer datorer att överträffa människor i tänkande? Volymen i Lake Michigan (i flytande uns) är lika med volymen på våra hjärnor (vid operationer per sekund). Datorkraft fördubblas var 18: e månad. I denna takt ser du inga resultat på länge, men då kommer allt att hända direkt.
2. När det gäller programvara kan framsteg verka långsamma, men då ändrar ett genombrott omedelbart framstegshastigheten (bra exempel: under den geocentriska världsbildens dagar hade människor svårt att beräkna universums arbete, men upptäckten av heliocentrism gjorde allt mycket lättare). Eller när det gäller en dator som förbättrar sig själv kan saker och ting verka extremt långsamma, men ibland skiljer bara en ändring av systemet det från tusenfaldig effektivitet jämfört med en mänsklig eller en tidigare version.
Vägen från AGI till ISI
Vid någon tidpunkt kommer vi definitivt att få AGI - allmän artificiell intelligens, datorer med en allmän mänsklig intelligensnivå. Datorer och människor kommer att leva tillsammans. Eller så kommer de inte.
Poängen är att AGI med samma nivå av intelligens och processorkraft som människor fortfarande kommer att ha betydande fördelar jämfört med människor. Till exempel:
Utrustning
Hastighet. Hjärnneuroner fungerar vid 200 Hz, medan moderna mikroprocessorer (som är betydligt långsammare än vad vi får när AGI skapas) arbetar med en frekvens på 2 GHz, eller 10 miljoner gånger snabbare än våra nervceller. Och hjärnans interna kommunikation, som kan röra sig med en hastighet av 120 m / s, är betydligt sämre än datorns förmåga att använda optik och ljusets hastighet.
Storlek och förvaring. Hjärnans storlek begränsas av storleken på våra skallar, och den kan inte bli större, annars tar intern kommunikation med en hastighet av 120 m / s för lång tid att resa från en struktur till en annan. Datorer kan expandera till vilken fysisk storlek som helst, använda mer hårdvara, öka RAM, långtidsminne - allt detta ligger utanför våra möjligheter.
Pålitlighet och hållbarhet. Inte bara datorminne är mer exakt än mänskligt minne. Datortransistorer är mer exakta än biologiska nervceller och är mindre benägna att försämras (och de kan verkligen bytas ut eller repareras). Människors hjärnor tröttnar snabbare, medan datorer kan arbeta oavbrutet 24 timmar om dygnet, 7 dagar i veckan.
programvara
Möjlighet till redigering, modernisering, ett bredare utbud av möjligheter. Till skillnad från människans hjärna kan ett datorprogram enkelt korrigeras, uppdateras eller experimenteras med. Områden där mänskliga hjärnor är svaga kan också uppgraderas. Programvaran för mänsklig vision är utmärkt utformad, men ur teknisk synvinkel är dess kapacitet fortfarande mycket begränsad - vi ser bara i det synliga ljusets spektrum.
Kollektiv förmåga. Människor är överlägsna andra arter när det gäller stor kollektiv intelligens. Från och med utvecklingen av språk och bildandet av stora samhällen, som går igenom uppfinningarna av skrivning och tryckning, och nu drivs av verktyg som Internet, är människors kollektiva intelligens en viktig anledning till varför vi kan kalla oss själva evolutionskronan. Men datorer kommer fortfarande att bli bättre. Det globala nätverket av konstgjorda intelligenser som arbetar med ett program, ständigt synkroniserande och självutvecklande, gör att du omedelbart kan lägga till ny information i databasen, var du än får den. En sådan grupp kommer också att kunna arbeta för ett mål som helhet, eftersom datorer inte lider av de speciella åsikter, motivation och egenintresse som människor gör.
AI, som sannolikt kommer att bli AGI genom programmerad självförbättring, kommer inte att se”intelligens på mänsklig nivå” som en viktig milstolpe - denna milstolpe är bara viktig för oss. Han kommer inte ha någon anledning att stanna på denna tvivelaktiga nivå. Och med tanke på fördelarna som även AGI på mänsklig nivå kommer att ha, är det ganska uppenbart att mänsklig intelligens kommer att bli en kort blixt för den i loppet efter intellektuell överlägsenhet.
Denna utveckling av händelser kan överraska oss väldigt, väldigt mycket. Faktum är att, ur vår synvinkel, a) det enda kriteriet som gör att vi kan bestämma kvaliteten på intelligensen är intelligensen hos djur, som är lägre än vårt som standard; b) för oss är de smartaste människorna ALLTID smartare än de dumaste. Mer eller mindre så här:
Medan AI bara försöker nå vår utvecklingsnivå ser vi hur det blir smartare närmar sig djurets nivå. När han kommer till den första mänskliga nivån - Nick Bostrom använder termen "landsidiot" - blir vi glada: "Wow, han är redan som en idiot. Häftigt! " Det enda är att i det allmänna spektrumet av människors intelligens, från byidiot till Einstein, är intervallet litet - därför kommer AI plötsligt att bli smartare än Einstein efter att AI kommer till idiotens nivå och blir AGI.
Och vad händer härnäst?
Explosion av intelligens
Jag hoppas att du tyckte det var intressant och roligt, för från och med det ögonblicket blir ämnet vi diskuterar onormalt och läskigt. Vi bör pausa och påminna oss om att varje fakta som nämns utöver är verklig vetenskap och verkliga förutsägelser för framtiden, gjorda av de mest framstående tänkarna och forskarna. Kom bara ihåg.
Så som vi antydde ovan inkluderar alla våra moderna modeller för att uppnå AGI alternativet när AI förbättrar sig själv. Och så snart han blir AGI blir även de system och metoder som han växte upp med smart nog att förbättra sig själv - om de vill. Ett intressant koncept framträder: rekursiv självförbättring. Det fungerar så här.
Ett visst AI-system på en viss nivå - säg byidioten - är programmerat för att förbättra sin egen intelligens. Efter att ha utvecklat - säg till Einsteins nivå - börjar ett sådant system utvecklas redan med Einsteins intellekt, det tar mindre tid att utvecklas och sprången inträffar mer och mer. De gör att systemet kan överträffa varje person, blir mer och mer. När det utvecklas snabbt stiger AGI till himmelska höjder i sin intelligens och blir ett superintelligent ISI-system. Denna process kallas en explosion av intelligens, och det är det tydligaste exemplet på lagen om accelererande avkastning.
Forskare argumenterar för hur snabbt AI kommer att nå AGI - de flesta tror att vi kommer att få AGI till 2040, på bara 25 år, vilket är mycket, mycket litet enligt standarderna för teknikutveckling. Att fortsätta den logiska kedjan är det inte svårt att anta att övergången från AGI till ISI också kommer att ske extremt snabbt. Mer eller mindre så här:
”Det tog decennier innan det första AI-systemet nådde sin lägsta nivå av allmän intelligens, men det hände äntligen. Datorn kan förstå världen runt som en fyraårig person. Plötsligt, bokstavligen en timme efter att ha nått denna milstolpe, producerar systemet en stor fysikteori som förenar allmän relativitet och kvantmekanik, som ingen människa kan göra. Efter en och en halv timme blir AI ISI, 170 000 gånger smartare än någon människa."
Vi har inte ens rätt termer för att beskriva superintelligens av denna storlek. I vår värld betyder "smart" en person med en IQ på 130, "dum" - 85, men vi har inga exempel på människor med en IQ på 12 952. Våra härskare är inte utformade för det.
Mänsklighetens historia berättar oss tydligt och tydligt: tillsammans med intellektet kommer kraft och styrka. Detta innebär att när vi skapar artificiell superintelligens kommer det att vara den mest kraftfulla varelsen i livets historia på jorden, och alla levande varelser, inklusive människor, kommer att vara helt i dess makt - och detta kan hända om tjugo år.
Om våra magra hjärnor kunde uppfinna Wi-Fi, kan något smartare än oss hundra, tusen, en miljard gånger lätt beräkna positionen för varje atom i universum vid varje given tidpunkt. Allt som kan kallas magi, vilken kraft som tillskrivs en allsmäktig gud - allt detta står till förfogande för ISI. Att skapa teknik för att vända åldrandet, behandla alla sjukdomar, stoppa hunger och till och med döden, kontrollera vädret - allt kommer plötsligt att bli möjligt. Ett omedelbart slut på allt liv på jorden är också möjligt. De smartaste människorna på vår planet är överens om att så snart artificiell superintelligens dyker upp i världen kommer den att markera Guds utseende på jorden. Och en viktig fråga kvarstår.
Baserat på material från waitbutwhy.com, sammanställning av Tim Urban. Artikeln använder material från verk av Nick Bostrom, James Barratt, Ray Kurzweil, Jay Niels-Nilsson, Stephen Pinker, Vernor Vinge, Moshe Vardy, Russ Roberts, Stuart Armstrog och Kai Sotal, Susan Schneider, Stuart Russell och Peter Norvig, Theodore Modis Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Författare: Ilya Khel
Del två: utrotning eller odödlighet?
