Väntar du på att framtiden kommer? Och förgäves, säger forskaren och författaren Sam Harris.
Superhuman artificiell intelligens är en tidsfråga, enligt Sam Harris, en Stanford-examen och doktorsexamen i neurovetenskap från University of California, Los Angeles. Fem av Harris böcker har blivit bästsäljare i New York Times. "Det är ganska svårt att föreställa sig att de inte kommer att förstöra oss eller tvinga oss att förstöra varandra," säger han.
Hur förbereder vi oss för detta? Enligt Sam är vår nuvarande inställning till denna fråga - universellt stöd och förväntan - felaktigt bristfällig.
”Om du och jag på något sätt liknar dig, kommer du, sannolikt, också att vara intresserad av att drömma om dessa saker. Men denna inställning är i grunden fel eftersom den borde oroa dig,”konstaterar han. Dessa fraser är en del av hans TED-samtal om konstgjord intelligens.
"Det verkar som om vi inte kan reagera tillräckligt på alla faror som väntar oss i framtiden."
Oundviklighet med övermänsklig AI
Enligt Sam, om mänsklighetens framsteg inte stör ett nytt världskrig, jordens kollision med en asteroid eller någon annan oväntad katastrof, kommer en övermänsklig konstgjord intelligens att skapas. Harris logik är som följer:
Kampanjvideo:
1. Vi gillar smarta saker.
2. Smarta saker är användbara eftersom de underlättar livet. (upp till en viss punkt)
3. Så länge vi har möjlighet att göra saker smartare kommer vi att göra det.
Vid någon tidpunkt kommer vår smarta programvara att nå en sådan utvecklingsnivå att den självständigt kan skapa ännu smartare programvara - och sedan kommer vi att sluta. Strävan efter digital intelligens kommer att leda till självreplikation, och den mänskliga hjärnan kommer att bli ett biologiskt råd.
Superhuman AI inom en snar framtid
Sam identifierar två mest troliga vägar för den logiska utvecklingen av övermänsklig AI:
1. Oberoende evolution. Den här vägen liknar förhållandet mellan människor och myror. Du hatar inte myror. Du kan till och med försöka att inte kliva på dem om du ser. De kan knappt skada dig. Men om de kommer i din väg, till exempel, om de klättrar in i ditt hus, kommer du att förstöra dem. AI kan behandla oss på samma sätt.
2. Samarbetsutveckling. Kanske med hjälp av hjärnimplantat (neuroproteser) gjorda av ambitiösa företag som Kernel, kan vi slå samman det övermänskliga sinnet med vårt eget.”Troligen är detta det enda säkra och lämpliga sättet för oss. Men du måste vidta alla försiktighetsåtgärder innan du ansluter något till huvudet, säger Harris.
Konstgjord intelligens, du och jag, mind rangeFör att göra det lättare för oss att förstå hur snart AI kommer att bli smartare än människor föreslår Sam att presentera en kurva som visar nivån på intelligensutvecklingen. Här är vi med dig. Här är hönorna, ett par steg bakom. Är vi långt ifrån den långa änden av kurvan? Okänd. Och kanske är vi inte den art som är avsedd att ta reda på. Harris är övertygad om att konstgjord intelligens kommer att utforska ytterligare delar av denna kurva så snabbt som möjligt för optimeringsändamål.”Troligt är vi inte i toppen av utvecklingen av intelligens eller ens någonstans i närheten. Det är viktigt att förstå detta, eftersom det sätter oss i riskzonen och gör våra missuppfattningar om risken så farliga, säger han. Sams tal tar inte hänsyn till sannolikheten för att vi redan lever i någon form av simulering, som Elon Musk ofta diskuterar.(Elon fruktar också den okontrollerade utvecklingen av AI och lanserade OpenAI-initiativet för att lösa många av de problem som Sam talar om.) Sam vägrar att spekulera i att kanske kombinationen av konstgjord och mänsklig intelligens är en ny etapp i vår evolution, eller att att vi kommer att förvandlas till cyborgs, enligt en expert från University of Israel, Yuval Noah Harari. Dessutom tror Harris inte att det är möjligt att förhindra uppkomsten av övermänsklig konstgjord intelligens - denna händelse kommer säkert att komma. Men hur exakt detta kommer att hända, hur vi kommer att förbereda oss för det och hur avgörande vi kommer att vara är frågor som forskaren uppmuntrar att tänka på så snart som möjligt: ”Stuart Russell har en stor analogi. Han föreslår att vi föreställer oss att vi har fått ett meddelande från en utomjordisk civilisation, som säger:”Jordens invånare,vi kommer fram till din planet om 50 år. Gör dig redo. " Skulle vi bara räkna månaderna och vänta på den angivna timmen efter det? Vi skulle känna behovet av att agera starkare än nu. " Alexey Zenkov