Oroat över utvecklingen av konstgjord intelligens som skapats av honom, Google utvecklar en "knapp" som kan stänga av AI i händelse av fara och hot mot en person. Denna nyhet, som sändes av reportrar i juni 2016, gav bränsle till oro för de framtida relationerna mellan robotar och människor.
Under 2016 rapporterade auktoritära västerländska publikationer att Google utvecklade en "stor röd knapp" för att stoppa AI i händelse av att artificiell intelligens hotar mänskligheten. Enligt journalister har specialister från Google-divisionen Deep Mind samarbetat med forskare från Oxford University. 400 miljoner pund har avsatts för forskning. "Om agenten (AI) arbetar i realtid under mänsklig kontroll, behöver operatören en stor röd knapp som kan tryckas på för att förhindra oönskade åtgärder från agenten", förklarar onlinepublikationerna.
Tidigare publicerades ett dokument med titeln "Safely Interruptible Agents" på webben. Dess författare är Lauren Orso från Deep Mind och Stuart Armstrong från Oxford University. Dokumentet beskriver ett eventuellt framtida grannskap med människor med konstgjord intelligens och motsätter sig mänsklighetens önskemål och ambitioner som den fantastiska Skynet och Terminator. Detta verkar inte galen med tanke på att för äldre och största amerikanska advokatbyrå Baker & Hostetler inte så länge sedan "anlitade" en robotadvokat för att hjälpa till i förfarandet. Konstgjord intelligens drivs av IBM Watson superdatorn. När det gäller Deep Mind var tidigare den verkliga nyhetshjälten den konstgjorda intelligensen som utvecklats av företaget Alpha Go, som slog en av de starkaste go-spelarna, Grandmaster Lee Sedol. Denna seger var orsaken till att Sydkoreas kraftiga uppsving att utveckla sin egen konstgjord intelligens och avsätta betydande medel från budgeten för detta. Det bör tilläggas att chefen för Deep Mind, Demis Hassabis, uppmanade människor att vara försiktiga med informationen som släppts till allmänheten. I sitt Twitter-konto konstaterade han att företaget, trots rykten som vandrar på Internet, ännu inte förutspår framtiden för den konstgjorda intelligensen från Alpha Go.”När vi bestämmer oss kommer vi att göra ett officiellt uttalande,” förklarade företagets chef.företaget förutspår ännu inte framtiden för den konstgjorda intelligensen Alpha Go.”När vi bestämmer oss kommer vi att göra ett officiellt uttalande,” förklarade företagets chef.företaget förutspår ännu inte framtiden för den konstgjorda intelligensen Alpha Go.”När vi bestämmer oss kommer vi att göra ett officiellt uttalande,” förklarade företagets chef.
Europamästare Fan Hui som spelar go / wikipedia.
Elon Musk: "Vi är redan cyborgs"
Oro för kommande komplikationer i förhållandet mellan robotar och människor växer. Dessutom är det de viktigaste anhängare av vetenskapliga och tekniska framsteg som talar om denna ångest. Till exempel Elon Musk, som tillkännagav i augusti 2014 att tekniken för artificiell intelligens är "farligare än kärnvapen." Och några månader senare, när han talade med studenter vid Massachusetts Institute of Technology, kallade skaparen av Tesla och SpaceX AI "det största hotet mot vår existens." Samtidigt, i slutet av 2015, grundade Musk själv det ideella forskningsföretaget OpenAI och förklarade dess mål med behovet av att öppna processen för att skapa artificiell intelligens. "Om du har en 'knapp' som kan göra dåliga saker i världen, vill du inte dela den," förklarade Musk.
I slutet av maj 2016 talade Elon Musk på ett årligt Recode-konferens om ett visst projekt, eller kanske bara tanken på "neural spets", vilket skulle minska risken för mänskligheten att bli en favoritleksak i robotens järnhänder. "Till exempel har du det limbiska systemet, hjärnbarken, och detta är det tredje systemet, det digitala lagret som fungerar bra med din kropp. Eftersom hjärnan fungerar i symbios med det limbiska systemet, så kommer detta digitala lager att fungera i harmoni med resten av kroppen, säger Musk. Detta neurala system bör öka nivån på mottagning och överföring av information av en person, förmågan att bearbeta den. "Vi är redan cyborgs," sade Musk och förklarade att Internet, mobiltelefoner och andra prylar i själva verket har utvecklat superkrafter hos människor.”Men vi är begränsade i att ta emot och överföra information. Särskilt i programmet ",Musk till. Människor kan ta emot och tolka en ganska stor mängd information, men att generera denna information är mycket svårare. En person kan bara tala snabbt, skriva snabbt eller skriva. "Neural spets", genom att ansluta en person till ett digitalt kommunikationssystem, skulle kunna övervinna denna biologiska begränsning. Musk utarbetade inte om detta "spets" skulle implanteras i kroppen eller odlas naturligt, till exempel genom genredigering, men konstaterade att det kunde passera "genom vener och artärer" som ger vägar för neuroner.kunde övervinna denna biologiska begränsning. Musk utarbetade inte om denna "spets" skulle implanteras i kroppen eller odlas naturligt, till exempel genom genredigering, men konstaterade att den kunde passera "genom vener och artärer" som ger vägar för neuroner.kunde övervinna denna biologiska begränsning. Musk utarbetade inte om denna "spets" skulle implanteras i kroppen eller odlas naturligt, till exempel genom genredigering, men konstaterade att den kunde passera "genom vener och artärer" som ger vägar för neuroner.
Kampanjvideo:
Men det finns också en motsatt synvinkel. Alfabetet (Google) styrelsens ordförande Eric Schmidt var i en intervju med Tech Insider skeptisk till anförandena från både Elon Musk och hans kollega Stephen Hawking, som också tidigare varnade för AI: s eventuella hegemoni.”Stven Hawking är verkligen ett geni, men han är inte en datorekspert. Elon är också en underbar person, men han är också mer en fysiker än en datavetare, säger Schmidt. Om ett potentiellt framtidsscenario, där robotar förstör mänskligheten, uttalade han följande:”Ett sådant scenario beskriver helt enkelt scenariot där datorer blir så smarta att de på något sätt på grund av, säger, ett fel i programmet, beslutar att förstöra mänskligheten. Min fråga till dig är denna: tror du inteatt folk kommer att märka detta och börja stänga av datorer? Vi kommer att ha ett lopp mellan människor som stänger av datorer och AI frustrerande försöker flytta till en enhet som ännu inte har stängts av. Och så vidare tills den sista datorn. Och vi kan inte stänga av det. Det är en film, en film. Det aktuella läget i världen stöder inte ett sådant scenario."
Storskalig robotisering
Neil Jacobstein, medordförande för NASA: s Singularity University, berättade för PCmag att globala företag har investerat mer än 3 miljarder dollar i AI-forskning mellan 2011 och 2015. Förutom stora investerare, inklusive Facebook och Google, finns det också ett antal mindre kända nystartade företag. Till exempel är Brighterion engagerad i användning av konstgjord intelligens i molnanalys och industriell IoT, Feedzai utbildar robotar för att upptäcka bedrägerier i banktransaktioner, Experfy använder AI för att effektivt lösa affärsproblem hos köpmän, och så vidare. Det vill säga, omfattningen av utvecklingen av konstgjord intelligens i världen är nu inte begränsad till ett dussin stora aktörer på IT-marknaden - den är mycket större. I sin intervju fortsatte Jacobstein väsentligen Musks tankar,insisterar också på behovet av att utveckla den mänskliga hjärnan för att motverka den syntetiska.”Vi har alla samma problem. Hjärnan är begränsad i hastighet, minne, bandbredd och förspänningar, säger Neil Yakobstein.
Enligt forskaren går trenden i utvecklingen av AI nu mot skapandet av en artificiell neocortex (en ny cortex, som utgör det mesta av cortex hos människor, i motsats till lägre däggdjur) och hippocampus. Således kommer robotens hjärna att vara som en människa, bara många gånger kraftigare och snabbare.”AI blir kraftfullare och vi måste bestämma hur vi ska agera inom ramen för den pågående samutvecklingen. Både när det gäller de uppgifter som vi ställer för konstgjord intelligens, och när det gäller hur vi vill bygga våra relationer utan att förlora mänskligt självkänsla,”förklarade Yakobstein. Enligt forskaren kommer initieringen mellan människor och robotar att vara en "elitprocess", men sedan kommer den in i vardagen, som mobiltelefoner en gång gjorde. "Genom en smartphone får din hjärna tillgång till all kunskap om världen och kraftfull konstgjord intelligens,bearbetning av digital information. Du har redan en symbios med AI,”avslutade Jacobstein.
Kött av kött
Det kan dock visa sig att hotet mot mänskligheten inte kommer från en uppsättning av körtlar och ledningar, utan från organiskt "kött från kött." I slutet av maj 2016 blev det världsvetenskapliga samfundet fascinerat av det förflutna "hemliga mötet i Harvard", vars deltagare vill skapa ett konstgjort mänskligt genom och följaktligen personen själv från början. Detaljerna om mötet på sidorna till Live Science berättades av Harvard University-examen, molekylärbiolog som specialiserat sig på genredigering, Jeff Bessen. Det visade sig att vi inte talar om något av Frankenstein. Mer än 130 forskare, industriister och etiker samlades på Harvard för att diskutera Human Genome Project (HGP). Namnet är i själva verket en hänvisning till ett liknande projekt,som ett resultat av det under 2003 var det möjligt att fullständigt sekvensera det mänskliga genomet. Projektet inleddes 1990 under ledning av James Watson under regi av US National Health Organization, och dess mål var att bestämma sekvensen av nukleotider som utgör DNA och identifiera 20-25 tusen gener i det mänskliga genomet.
Skapandet av genomet har sin egen historia. 2010 dekrypterade den amerikanska biologen John Craig Venter det första genomet av en mikroorganism - bakterierna Haemophilus influenzae - och meddelade skapandet av en konstgjord cell. Venter introducerade världens första konstgjorda organism, en syntetisk bakterie med namnet Cynthia. Sedan dess har forskare systematiskt försökt gå vidare i forskningen, inklusive organisatören av Harvard-mötet - den amerikanska genetikern Jeff Bouquet, som var den första som skapade en funktionell eukaryotisk kromosom i jäst.
Men sådant arbete kostar. Skapandet av en syntetisk bakterie för samma Venter kostade mer än $ 40 miljoner och tog år av arbete. Experter tror att produktionen av ett mänskligt genom under nuvarande förhållanden kostar cirka 90 miljoner dollar. Men om verksamheten "sätts i drift" och den beprövade tekniken tillämpas, kan 2036 detta belopp minskas till 100 tusen $. Dessutom finns det ett industriellt problem - kapaciteten hos alla laboratorier som är verksamma i världen är enligt Jeff Bessen idag inte tillräckligt för att skapa ett mänskligt genom.
Från lärande till skapande
Som nämnts av Jeff Bessen, på Harvard-mötet krävde forskare en övergång från att läsa genomet till att skapa det från byggstenarna av DNA. Enligt idéerna från HGP: s masterminds, inklusive genetikern George Church, hans amerikanska kollega Jeff Bouquet och bioteknikadvokat på Autodesk Nancy Kelly, är det möjligt att "fullständigt syntetisera det mänskliga genomet i en cellinje." Processen att skapa konstgjorda DNA, enligt Jeff Bessen, liknar processen för offsettryck - det viktigaste är att sätta allt i rätt ordning. Resultatet är kemiskt identiskt med den naturliga makromolekylen. Världsmarknaden för syntetiserat DNA (vi talar om den befintliga skapandet av enskilda DNA-element, inte ett komplett genom) beräknas nu till cirka en miljard dollar per år. En konstgjord makromolekyl har praktiska tillämpningar:detta är odlingen av mänskliga organ för transplantation, skapandet av immunitet mot virus, onkologiska sjukdomar, skapandet av nya läkemedel och så vidare. Deltagare i Harvard uttryckte hopp om att deras arbete skulle hjälpa "att utveckla säkrare, billigare och effektivare terapi."
Den hemliga gloria kring detta möte kan lätt förklaras: projektet är tillräckligt etiskt komplicerat och det är inte känt hur forskarnas idéer kommer att uppfattas av allmänheten. I synnerhet har nu arrangörerna faktiskt lagt ned veto mot alla kommentarer om mötet innan den officiella publiceringen av mötesresultaten.
Det finns verkligen många frågor för HGP. "Hur bra kommer det att vara att studera och sedan skapa Einstein-genomet?" - Bedövad bioingenjör från Stanford Drew Andy. Dr. Church och bioingenjör Andy har förresten arbetat tillsammans länge - tillsammans skapade de företaget Gen9, vars specialisering är tydlig från namnet. Vissa experter tror att affärsmännens deltagande i mötet och den påstådda privata finansieringen av projektet i slutändan kommer att leda till "privatisering av genetisk modifieringsteknik." Det har också föreslagits att forskare kläcker underjordiska planer för att klona människor med syntetiskt DNA. Enligt Jeff Bessen kan den kemiska produktionen av det mänskliga genomet - insamlingen av genetiska instruktioner som finns i varje cell - verkligen ge ny betydelse för uttrycket "provrörsbaby."”Om en sådan teknik fanns,alla människors genom kan dechiffreras och sedan syntetiseras på begäran av någon, varnar Bessen.
Kloner från framtiden
Rädslan är inte riktigt ogrundad. Kinesiska forskare, som presenterade ett "klonfabrik" -projekt i slutet av 2015, meddelade senare att de var beredda att klona människor. Kinas Boyalife-grupp kommer att bygga världens största kloningsanläggning i samarbete med Sydkoreas Sooam Biotech Research Foundation och den kinesiska vetenskapsakademin i Tianjin, norra Kina. Produktionen av klonade kor kommer enligt forskare år 2020 att uppgå till en miljon per år. I framtiden avser "klonfabriken" också att producera racinghästar och polishundar med specialiserade förmågor (ökad luktkänsla och sökning). Ett annat intresseområde för företaget är kloning av primater för medicinska experiment. Därför blev uttalandet från ledningen för den framtida fabriken om dess beredskap att flytta från primater till människor logiskt.”Tekniken finns redan. Om det officiellt är tillåtet tror jag inte att någon kommer att klara det bättre än Boyalife,”sa Xu Xiaochong, verkställande direktör för den framtida fabriken, till reportrar. Han betonade att företaget inte har genomfört några experiment inom mänsklig kloning.
Och ändå, trots behovet att ta itu med etiska frågor, är skapandet av det mänskliga genomet enligt Bessen fortfarande en rördröm.”Idag finns det inget effektivt sätt att transplantera ett artificiellt genom till en mänsklig cell. Till och med de mest imponerande framstegen i detta avseende, såsom Dr. Bouquet "jäst" -projekt, är hundratals gånger mindre i skala än den nuvarande utmaningen. Att tillverka genomet av fruktflugan eller nematoden är tio gånger enklare och säkrare när det gäller etik, det kan svara på samma frågor som de vill få genom att syntetisera det mänskliga genomet,”tror molekylärbiologen.
Harvards "sista måltid", sade han, avslöjade ett annat problem inom modern vetenskap - konservatismen. Journalister lärde sig projektet på Internet, i sociala nätverk. Officiell information har en lång väg att gå. "När mina kollegor och jag väntade i sex månader på publiceringen av den nödvändiga vetenskapliga publikationen," tillägger Bessen. Enligt forskaren måste hans kollegor nu kritiskt hitta en balans mellan kontrollen av publikationer och journalisters rätt att göra sitt jobb, vilket i slutändan påverkar vetenskaplig information.
Alexander Kornev
