Politiker och kapitalister har tradition på fredag eftermiddag att dumpa mycket nyheter för att dölja de dåliga nyheterna bland dem. Så det var lite konstigt att Elon Musk, grundare av Tesla, en elfordonstillverkare, och Sam Altman, ordförande för den kända tekniska inkubatoren Y Combinator, avslöjade sitt nya AI-tema företag i slutet av en veckolång AI-konferens i Montreal i december förra året.
Det fanns ett skäl för OpenAI: s introduktion vid den sena timmen. Inte för att ingen tittade. För att alla tittade. När några av de starkaste företagen i Silicon Valley kände att vinden blåste, började de erbjuda enorma summor pengar till den nyligen uppvuxna OpenAI AI-talangen för att hålla dessa genier hemma. I sista minuten växte förslagen - några som lades fram på själva konferensen - så stora att Musk och Altman var tvungna att försena tillkännagivandet av den nya starten. "Summan har nått kanten av sinnessjukhet," säger Wojciech Zaremba, en forskare som gick med i OpenAI efter praktikplatser på Google och Facebook och var bland dem som fick stora erbjudanden klockan 23.00.
Hur många dollar är galenskapens gräns? För två år sedan, när marknaden för de senaste maskininlärningsteknologierna började värmas upp, sa Microsoft Research VP Peter Lee att kostnaden för topp AI-forskare har överskridit kostnaden för en topp quarterback i National Football League - och det är under normala omständigheter, inte när de största företagarna Silicon Valley försöker tappa den bästa talangen. Zaremba säger att när OpenAI samlades erbjöds det två till tre gånger marknadsvärdet.
OpenAI uppfyllde inte dessa förslag. Men han erbjöd något annat: förmågan att göra forskning uteslutande fokuserad på framtiden, snarare än produkter och kvartalsvinster, och i slutändan dela upp mest - om inte alla - av forskningen bland vem som helst så önskar. Det stämmer: Musk, Altman och företag har avsett att ge bort vad som kan vara den mest transformativa tekniken under 2000-talet och ge bort det gratis.
Zaremba säger att förslag på randen av sinnessjukhet faktiskt avskräcker honom - trots den enorma respekten för företag som Google och Facebook. Han ansåg att pengarna kanaliserades för att förhindra skapandet av OpenAI, vilket ytterligare förstärkte hans engagemang för en generös start. "Jag insåg," säger Zaremba, "att OpenAI är det bästa stället för mig."
Känner du ironin i hjärtat av den här historien? Medan världens största teknikföretag försöker behålla sina forskare lika hårt som NFL-team försöker behålla sina stjärnkvartbackar, vill forskarna själva bara dela sina insikter. I den sofistikerade världen av AI-forskning drivs de ljusaste sinnen inte bara av nästa produktcykel eller vinst, eller inte alls besatt av dem. De vill göra AI bättre, och det är omöjligt att göra AI bättre när du håller din senaste utveckling för dig själv.
OpenAI släppte nyligen den första bunten AI-programvara, en verktygssats för att bygga artificiell intelligenssystem baserad på teknik som kallas förstärkningslärande, en av de viktigaste teknikerna som ledde till skapandet av AlphaGo, Googles AI som överraskade världen med sina kapaciteter. gå spel. Med denna uppsättning verktyg kan du bygga system som öppnar upp en ny generation av robotar, spela Atari-spel och ja, slå världsmästarna på Go.
Kampanjvideo:
Men leksaker är bara början. OpenAI är en miljardollsuppdrag för att driva AI så långt som möjligt. På det sätt som företaget samlades och vad det är för planer kan du se nästa nya innovationsvåg. Vi vet ännu inte om OpenAI kommer att vara den viktigaste drivkraften för dessa förändringar. Men krafterna bakom skapandet av denna ganska ovanliga start visar att nästa generation av AI inte bara kommer att förändra tekniken, utan också hur tekniken utvecklas.
Konstgjord intelligens finns överallt
Silicon Valley har en passion för överdrift. Fet klingande uttalanden bör alltid uppfyllas med ett saltkorn. Men inom området för konstgjord intelligens sker verkligen förändringar. Inom företag som Google och Facebook hjälper djupinlärningstekniker redan Internet-tjänster att identifiera ansikten i foton, känna igen röstkommandon på smartphones och svara på frågor på Internet-sökningar. Och samma teknik kan lösa många andra problem i framtiden. Det kan hjälpa maskiner att lära sig förstå naturligt språk - som vi människor är vana vid att prata och skriva. Det kan hjälpa till att utveckla en ny ras av robotar, låta automat inte bara utföra sina uppgifter, utan också att lära sig i farten. Och vissa tror att detta i slutändan kommer att ge maskiner något som sunt förnuft - förmågan att tänka verkligen som en person.
Och tillsammans med sådana löften föds djup ångest. Musk och Altman är bekymrade över att om människor kan skapa AI: er som gör stora saker, kan de bygga AI: er som gör fruktansvärda saker. De är inte ensamma i sin rädsla. Även om detta kan låta intuitivt, tror Musk och Altman också att det bästa sättet att bekämpa skadlig AI inte är att begränsa tillgången till artificiell intelligens utan att utöka den. Det är denna ambition som leder till ett team av unga och intelligenta idealister.
OpenAI dök upp en kväll förra sommaren i ett privat rum på Rosewood Hotel i Silicon Valley, ett exklusivt stadshotell som bokstavligen sitter i mitten av riskkapitalistvärlden. Elon Musk ätit lunch med Ilya Sutskever, som då var på Google Brain, ett företag som utvecklar djupa neurala nätverk - artificiella intelligenssystem som kan lära sig att utföra uppgifter genom att analysera enorma mängder digital data, inklusive att känna igen foton och skriva e-post, lära sig från korrespondens. Suckever var en av huvudutvecklarna för projektet.
Ilya Sutskever
Sam Altman, vars Y Combinator hjälpte till med att forma företag som Airbnb, Dropbox och Coinbase, mäklade mötet och sammanförde flera AI-forskare och unga men erfarna företagsbyggare Greg Brockman, tidigare Chief Technology Officer på nystartade Stripe, ett annat företag Y Combinator. Det var en eklektisk grupp. Men alla hade ett mål: att skapa en ny typ av AI-laboratorium som kunde fungera utanför kontrollen av inte bara Google, utan alla andra. "Det bästa jag kunde föreställa mig som en utmaning," säger Brockman, "är att flytta mänskligheten mot att skapa verklig AI längs en säker väg."
Musk var där på grund av hans långa vänskap med Altman - och eftersom AI är kritisk för framtiden för sina olika företag och för framtiden som helhet. Tesla behöver AI om den vill bygga självkörande bilar. SpaceX, ett annat av Musks företag, behöver AI för att ta människor ut i rymden och hålla dem säkra och sunda där. Men Musk är också en av de första (och högst) som varnar för att en dag mänskligheten skulle kunna tappa kontrollen över system som är tillräckligt kraftfulla för att lära sig på egen hand.
Det var ett problem: många tillräckligt skickliga för att lösa alla dessa problem som redan arbetat på Google (liksom Microsoft, Facebook, Baidu och Twitter). Och ingen vid den middagen var helt säker på att dessa forskare kunde lockas till en ny start, även om Musk och Altman stod bakom det. Och åtminstone en nyckelspelare var redo att lämna fartyget. "Jag förstod riskerna", säger Suckever, "men jag visste också att det skulle vara intressant att prova."
Bryt cirkeln
Uppmuntrad av samtal med Musk, Altman och andra på Rosewood beslutade Brockman snart att bygga laboratoriet som de alla hade i åtanke. Med ett starkt engagemang för projektet förde han in Yoshua Bengio, en forskare från University of Montreal och en av grundarna till den djupa lärarrörelsen. Två andra branschpionjärer - Jeff Hinton och Jan Lecun - arbetar på Google respektive Facebook, men Bengio strävade efter ett liv i den akademiska världen, någonstans utanför räckhåll för industriella tentakler. Han skissade ut en lista över de bästa forskarna på området och under de kommande veckorna kontaktade Brockman alla han kunde, inklusive flera andra.
Många av dessa forskare välkomnade idén, men var försiktiga med möjligheten till ett sådant språng. I ett försök att bryta cirkeln valde Brockman de tio upptäcktsresande som han ville se mest och uppmanade dem att tillbringa lördagen med vin, snacks och konversation i en vinkällare i Napa Valley. För Brockman var till och med en resa till Napa katalysatorn för projektet. "Detta är ett underskattat sätt att föra samman människor, särskilt ibland när du inte har någonstans att rusa för att nå ditt mål," säger han. "Du måste åka dit, men du måste också prata." Och när de kom till vinet kvarstod den atmosfären. Som Suckever säger, "vinet var sekundärt i konversationen."
Greg Brockman
I slutet av dagen bjöd Brockman in alla tio forskare att gå med i labbet och gav dem tre veckor att tänka på. I slutet av terminen var nio ledare. Och de stannade kvar i den, trots de stora erbjudandena från jättarna i Silicon Valley. "Jag fick ett mycket attraktivt erbjudande att stanna, så beslutet var inte lätt", säger Suckever från Google, hans tidigare arbetsgivare. "Slutligen bestämde jag mig för att gå till OpenAI, delvis på grund av den mycket starka gruppen människor, och naturligtvis mest på grund av deras uppdrag."
Den djupa lärarrörelsen startade i akademin. Det är först nyligen som företag som Google, Microsoft och Facebook har beslutat att ta itu med detta område, eftersom framstegen inom brute beräkningskraft har gjort dessa djupa neurala nätverk till verklighet, inte bara en teoretisk möjlighet. Människor som Hinton och LeCune har lämnat akademin på Google och Facebook på grund av de stora resurserna för dessa företag. Men förblev nära kopplat i samarbete med andra fältets teoretiker. Men som LeCun förklarar, kräver forskning om djup inlärning det fria idéflödet. "När du undersöker i hemlighet," säger han, "faller du tillbaka."
Som ett resultat har stora företag nu mycket av sin AI-forskning till sitt förfogande. Detta är ett stort trumfkort, speciellt för Google, som länge har hållit tekniken för sitt onlineimperium en hemlighet. För inte så länge sedan öppnade Google källkoden för programvarumotorn som kör sina neurala nätverk. Men mycket återstår under lås och nyckel i detta lopp för framtiden. Brockman, Altman och Musk försöker driva tanken om öppenhet ytterligare genom att säga att de inte vill att ett eller två stora företag ska kontrollera framtiden för konstgjord intelligens.
Gränser för öppenhet
Det låter allt bra. Men för alla OpenAIs idealism kan forskare befinna sig i samma förhållanden som tvingade dem att arbeta på gamla jobb. Öppenhet har sina gränser. Och den långsiktiga visionen om AI är inte det enda intresset för detta spel. OpenAI gör inte välgörenhetsarbete. Musks företag kommer att dra stor nytta av uppstartens arbete, och även Altmans Y Combinator. "Det finns säkert några konkurrerande poäng," säger Lecun. - Det är en ideell organisation, men den har en nära relation med Y Combinator. Och folk kommer att få betalt för att arbeta i den här branschen."
Laboratoriet betalar inte samma astronomiska löner som Google och Facebook tillhandahöll AI-forskare, sa Brockman. Men han säger också att labbet "vill betala dem väl" och erbjuder ersättning i form av aktieoptioner, först på Y Combinator och senare eventuellt på SpaceX (som till skillnad från Tesla är ett privat företag).
Brockman insisterar dock på att OpenAI inte tillhandahåller specialbehandling av närstående företag. OpenAI är ett forskningsinitiativ, inte ett konsultföretag. Ändå har OpenAIs idealism sina begränsningar. Företaget kanske inte öppnar koden för allt det producerar, även om det slutliga målet fortfarande är att distribuera det mesta, oavsett om det är vetenskapliga artiklar eller internettjänster.”Öppning är inte nödvändigtvis det bästa alternativet. Du måste ge näring åt idén, se vart den leder och sedan publicera, säger Brockman. - Vi kommer att producera mycket öppen källkod. Men vi kommer också ha mycket saker som inte är redo att släppas ännu."
Suzkever tillägger också att OpenAI kan gå så långt som att patentera en del av sitt arbete. "Vi kommer inte att patentera någonting snart," säger Brockman. "Men vi är redo att ändra taktik på lång sikt, om vi tror att det kommer att bli bättre för världen." Exempelvis kan OpenAI göra proaktiv patentering för att avskräcka andra från att få patent.
Vissa kan se patent som ett motiv för vinst. Men det är hela poängen med patent.
Problemet med superintelligens
När Musk och Altman presenterade OpenAI, beskrev de också projektet som ett sätt att neutralisera hotet om skadlig superintelligens. Naturligtvis kan sådan superintelligens vara resultatet av OpenAI: s arbete, men de insisterar på att varje hot kommer att mildras genom att göra tekniken tillgänglig för alla. "Vi tror att det är mycket mer troligt att en mängd AI kan stoppa slumpmässiga dåliga skådespelare," säger Altman.
Men inte alla inom detta område tror på ett sådant resultat. Nick Bostrom, en Oxford-filosof som, precis som Musk, varnade för farorna med AI, påpekar att om du delar din forskning utan begränsningar kan "dåliga skådespelare" fånga dem innan alla är säkra på att de är säkra. "Om du har en knapp som gör världens skit," säger Bostrom, "vill du förmodligen inte ge alla tillgång till den." Om OpenAI å andra sidan beslutar att hålla tillbaka forskning för att förhindra att skurkarna får åtkomst till den, frågar Bostrom: hur kommer detta att skilja sig från Google eller Facebook?
Han säger ja, OpenAI: s ideella status kan eller inte ändra saker. Projektets verkliga styrka, säger han, är att det kan verifieras av Google och Facebook.”Det kommer att kunna minska sannolikheten för att superintelligens kommer att monopoliseras. Det kommer att kunna ta bort ett av de möjliga orsakerna till att vissa individer eller grupper har tillgång till bättre AI än alla andra."
I ett nyligen verk förklarar filosofen att huvudeffekten av ett initiativ som OpenAI - ett initiativ för att fritt dela vad som görs - är att påskynda framstegen inom artificiell intelligens, åtminstone på kort sikt. Och det kan påskynda framstegen på lång sikt, förutsatt att det finns en högre nivå av insyn än vad som skulle vara kommersiellt optimalt.
"Det kan hända att en filantropiskt motiverad FoU-investerare allvarligt kan påskynda framstegen genom att driva öppen vetenskapspolitik," säger han.
Hur Xerox PARC
I början av januari samlades nio av Brockmans forskare i sin lägenhet i San Francisco. Projektet var så nytt att de inte ens hade whiteboards. (Föreställ dig.) De köpte några samma dag och fick jobba.
Brockman säger att OpenAI kommer att börja med att utforska förstärkningslärande, ett maskinbaserat sätt att lära sig problem genom att upprepa dem om och om igen, spåra vilka metoder som ger de bästa resultaten. En annan viktig utmaning är det så kallade "unsupervised learning" - skapandet av maskiner som verkligen kan lära sig själv utan mänsklig hjälp. I dag beror djup inlärning på noggrant märkta data. Om du vill lära ett neuralt nätverk att känna igen bilder av katter måste du mata det ett visst antal exempel - och dessa exempel bör märkas som foton med katter. Sådan utbildning utförs med hjälp av människor. Men som många andra forskare planerar OpenAI att bygga neurala nätverk som kan lära sig utan noggrant urval av data.
"Om du har en riktigt bra undervisningsmetodik utan lärare kan maskiner lära av all kunskap på Internet - som en människa, bara titta runt - eller genom att läsa böcker," säger Brockman.
Han ser OpenAI som den moderna inkarnationen av Xerox PARC, ett teknikforskningslaboratorium som fanns på 1970-talet. Precis som PARC: s öppna och fria forskning har gett upphov till allt från grafiska användargränssnitt och laserutskrift till objektorienterad programmering, vill Brockman och hans team dyka in i det som tidigare var science fiction. PARC ägs av Xerox, men matades av många andra företag, inklusive Apple, eftersom människor som Steve Jobs välkomnade sin forskning. Brockman vill att alla välkomnar OpenAI-forskning.
I hopp om att nudga denna dynamik, rekryterade Brockman och företaget flera andra anmärkningsvärda forskare, inklusive Ian Goodfellow, en annan äldre medarbetare i Google Brain-teamet. Brockman säger att PARC i princip samlade ett gäng smarta människor och beslutade att se vad som hände. "Du behöver en delad vision utan central kontroll."
Brist på kontroll är avgörande för idealet. Om du tar med tillräckligt många människor i det kollektiva målet, kommer slutresultatet att vinna över vad du i hemlighet har kokt upp. Men om AI blir lika kraftfullt som lovat, kommer ekvationen att förändras. Vi behöver försäkran om att den nyfundna AI kommer att hålla sig till samma egalitära ideal som ledde till dess skapelse i första hand. Musk, Altman och Brockman tror på människor, i mängden. Och om de har rätt, kommer en publik inte en dag att vara helt mänsklig.
ILYA KHEL