Stephen Hawking fortsätter "korståget" mot artificiell intelligens (AI).
Under den efterlängtade Ask Me Everything on Reddit-kampanjen skrev han att arbetet med att utveckla ett AI-säkerhetsprotokoll bör göras nu, inte i en avlägsen framtid.
”Vårt mål borde inte vara att skapa abstrakt konstgjord intelligens, utan att skapa användbar intelligens,” skrev den berömda fysikern. avancerad AI”.
Hawking har använt berömmelse för att stödja AI-säkerhetsrörelsen sedan 2014, då han tillsammans skrev en redaktion med andra forskare som varnade för det existentiella hotet som avancerade maskiner utgör för mänskligheten.
Andra kända tekniska personligheter, Elon Musk och Steve Wozniak, har gått med i Hawking. Tidigare i detta undertecknade alla tre ett öppet brev där det krävdes ett förbud mot autonoma vapen eller stridsrobotar.
Förväntningarna om att mänskligheten snart kommer att skapa konstgjord intelligens har funnits sedan 50-talet och har ännu inte rättfärdigat sig. Men de flesta AI-forskare tror att maskiner som är lika intelligenta som människor kommer att dyka upp under detta århundrade.
Foto: ANDREW COWIE / AFP
Kampanjvideo:
Hawking varnar för att framställningen av artificiell intelligens i science fiction-filmer snedvrider den verkliga faran för maskiner. Filmer som The Terminator visar demoniska mördningsrobotar som försöker förstöra mänskligheten av skäl som verklig konstgjord intelligens inte hade. De gör det också lättare att mildra potentiell AI-risk (som att inte bygga cyborgs).
”Det verkliga hotet från AI är inte att det är ont, utan att det är mycket kapabelt. Konstgjord superintelligens är mycket bra på att utföra sina uppgifter.
Om hans uppgifter inte sammanfaller med vårt, kommer vi att ha problem, - skrev Hawking, - du hatar knappt myror, men om du är ansvarig för ett grönt energiprojekt, och området där myren ligger måste översvämmas, är myrorna lyckliga. Låt oss inte låta mänskligheten befinna sig i dessa myrors position."
Nick Bostrom, en AI-filosof, fantaserar om världsscenarier när ett program börjar fungera i fel riktning. Till exempel får artificiell intelligens uppgiften att utveckla en plan för att skydda miljön, och för att lösa ekologiproblemet beslutar den att förstöra mänskligheten.
Elon Musk har redan åtagit sig 10 miljoner dollar till AI-säkerhetsforskning för att förhindra att destruktiv konstgjord intelligens som Skynet dyker upp i Terminator. Men Hawking vill att människor ska ändra sin övergripande uppfattning om AI.
”Berätta för dina elever att inte bara tänka på hur man skapar AI, utan också hur man säkerställer att det används för användbara ändamål,” sa Hawking till läraren som föreläser om konstgjord intelligens. antingen den bästa eller värsta händelsen i mänsklig historia. Därför är det viktigt att allt går som det ska."
