Två miljardärer som har gjort sina förmögenheter online, Tesla och Space X-ägaren Elon Musk och Facebook-grundaren Mark Zuckerberg, har kommit in i en frånvarande tvist om farorna med artificiell intelligens.
Båda entreprenörerna är övertygade om att skapandet av fullgod konstgjord intelligens (AI) är en fråga om en nära framtid. Men Musk tror att det är dags för mänskligheten att tänka på att reglera utvecklingen på detta område, och Zuckerberg är övertygad om att konstgjord intelligens avsevärt kommer att förbättra människors liv.
I mitten av juli talade Elon Musk med guvernörerna i de amerikanska staterna och uppmanade myndigheterna att fundera över att införa lagstiftningsbegränsningar för utveckling inom AI-området.
Zuckerberg svarade på frågan om farorna med AI när han chatta med Facebook-användare. Han frågades stumt om han trodde att Musks rädsla var giltiga. Facebook-skaparen sa att han inte förstod hur Musk allvarligt kunde kräva en pågående avmattning.
Han svarade med att tweeta”Jag pratade om detta med Mark. Han har en begränsad förståelse av denna fråga :
Present Tense publicerar fullt ut de två miljardärernas tal.
"Tills vi ser robotar gå på gatorna och döda människor, vet vi inte hur vi ska reagera." Elon Musks rädsla
Kampanjvideo:
Jag har tillgång till det allra senaste i AI. Och jag tycker att människor verkligen borde vara bekymrade över den här frågan. Jag vet hur det låter, men tills folk ser robotar gå på gatorna och döda människor, vet de inte hur de ska reagera.
Det verkar orealistiskt. Jag tror att vi verkligen behöver oroa oss för AI. Och jag tror att detta är ett sällsynt fall när vi i våra lagstiftningsbegränsningar måste vara före kurvan och inte fatta beslut senare, när det är för sent.
Vanligtvis fungerar restriktioner så här: till en början händer en hel del dåliga saker, samhället protesterar, och efter många år finns det tillsynsorgan för denna bransch. Företag som inte gillar extern kontroll motstår, och det tar mycket lång tid. Tidigare har detta redan lett till dåliga konsekvenser, men utgör inte ett grundläggande hot mot mänsklighetens existens.
AI är en grundläggande risk för människans existens. Och detta är den typen av risk som varken bilolyckor eller planolyckor eller problem med droger eller dålig mat någonsin har haft. De var inte ett hot. Kanske var de för specifika människor, men de utgör inte en risk för hela samhället.
AI är ett grundläggande existensiellt hot mot civilisationen, och jag tror inte att människor är helt medvetna om detta. Ja, det är inte kul att vara begränsad. Men inom bilindustrin kontrolleras vi av Transportdepartementet och många andra. Och varje land har tillsynsorgan. Inom rymdindustrin kontrolleras vi av Federal Aviation Administration. Men om du frågar en vanlig person, "Hej, du vill bli av med civil luftfart, och bara hoppas att tillverkarna inte sparar på planet, eftersom vinsten har sjunkit detta kvartal," kommer personen att säga, "Naturligtvis inte." Låter so-so.
Jag tror att även mycket liberalt sinnade människor fortfarande skulle säga: "Låt oss hålla ett öga på flygplanstillverkarna, vi måste se till att de gör bra flygplan." Trevliga bilar, sånt. Så tillsynsmyndigheterna har en roll att spela. Naturligtvis är jag emot strikt kontroll. Men jag tror att vi borde skynda oss med AI.
Naturligtvis kommer denna [uppfinning av AI] att leda till arbetsförluster, eftersom robotar kan göra allt bättre än oss. Det är bättre än oss alla. Ja. Jag vet inte vad jag ska göra åt det. Detta är det värsta problemet för mig. Ja, jag är faktiskt säker på att vi kommer att behöva statlig kontroll, för på det sättet kan vi säkerställa allmän säkerhet.
Företag har bråttom, de måste ha tid att göra AI, annars blir de konkurrenskraftiga. Om din konkurrent har bråttom att göra AI, och du inte är det, kommer han att förstöra dig. Och företag säger: "Vi vill inte dö, det ser ut som vi också behöver skapa AI."
Och det är här kontrollerna ska komma in: "killar, ni behöver alla sakta ner och se till att det är säkert." Om granskarna är övertygade om att det är säkert kan du fortsätta arbeta. I annat fall sakta ner. Men revisorerna måste göra detta för alla som gör det, annars kommer aktieägarna att säga: "Hej, varför utvecklar du inte AI snabbare än dina konkurrenter? Det skulle vara nödvändigt!"
Jag tror att detta är den största risken som vi tar som en civilisation. Jag tror att statens roll är att ta hand om samhället och uppmärksamma vad som hotar det. Därför begränsningarna. Först måste du lära dig så mycket som möjligt för det för att förstå problemets natur, att observera framstegen och otroliga prestationer inom AI-fältet.
Förra året, i ett spel som var svårt att vinna, och där människor trodde att datorn aldrig skulle slå den bästa mänskliga spelaren, eller att det skulle hända 20 år från och med nu, förra året AlphaGo, skapat av DeepMind, företaget köpt av Google slog världens bästa go-spelare. Och nu kan hon spela med 150 spelare samtidigt och besegra dem alla.
Detta är en imponerande framsteg, och det kommer att dyka upp allt oftare. Robotik, till exempel. Det finns robotar som lär sig att gå från början i timmar. Snabbare än någon art. Men det farligaste - och det här är svårast att förstå - eftersom det inte är något fysiskt, det är intelligens.
Det verkar, väl, vad kan kraftfull [konstgjord] intelligens göra på webben? Tja, till exempel börja ett krig. Till exempel genom att skapa falska nyheter, falska pressmeddelanden och e-postadresser och helt enkelt manipulera information. Pennan är mäktigare än svärdet.
Som ett exempel - jag vill betona, jag tror inte att detta verkligen hände, jag säger detta rent hypotetiskt - kommer du ihåg att det malaysiska planet som sköts ned över gränsen mellan Ryssland och Ukraina? Detta har ökat friktionen mellan Ryssland och EU kraftigt.
Föreställ dig om du hade artificiell intelligens och dess mål var att maximera värdet på en aktieportfölj, ett sätt skulle vara att köpa försvarsaktier, korta konsumentlager och starta ett krig.
Hur kunde han göra det? Hacka Malaysia Airlines, flygplansrutteservrar, plotta rutter över en krigszon och skicka sedan ett anonymt meddelande om att "ett fiendens flyg flyger över dig."
"All teknik kan användas för skada och gott." Mark Zuckerbergs optimism
Jag har ganska stark tro på detta. Jag är väldigt optimistisk. Jag är en optimistisk person i allmänhet. Jag tror att vi kan skapa saker som gör världen till en bättre plats, och jag är särskilt optimistisk när det gäller AI. Jag tror att jag bara inte förstår människor som alltid är skeptiska och ständigt skrämmer med dessa scenarier från den förestående slutet av världen. Jag tycker att det här är väldigt dåligt och ansvarslöst, för de närmaste fem till tio åren kommer AI att kunna förbättra och förbättra livskvaliteten.
Om du är orolig för människors säkerhet och hälsa hjälper AI redan till att bättre diagnostisera sjukdomar och att välja läkemedel för människor beroende på vad de är sjuka med och hur de kan botas bättre. Många människor kommer att få bättre vård än någonsin tidigare.
När det gäller självkörande bilar är de säkrare än bilar som körs av människor. Det är bara en tidsfråga. Bilolyckor är fortfarande en av de viktigaste dödsorsakerna. Och om de kunde elimineras med hjälp av AI, skulle det förbättra människors liv kraftigt.
När jag hör resonemanget, "Åh, du vet, AI kommer att skada människor i framtiden", tror jag att all teknik kan användas för både skada och gott. Och du måste vara försiktig när du skapar något, du måste vara försiktig och fundera över hur det kommer att tillämpas.
Men när människor insisterar på att bromsa AI-processen, tycker jag att det är mycket kontroversiellt. Det är verkligen svårt för mig att förstå detta, för om du är emot AI, är du emot säkrare maskiner som inte kommer att få olyckor, mot möjligheten att bättre diagnostisera sjukdomar. Och jag förstår bara inte hur vissa människor kan göra det utan list. Så jag är i allmänhet mycket mer optimistisk när det gäller denna [AI-skapelse] än kanske många människor är.
