Det brittiska företaget Cambridge Analytica hjälpte Donald Trump att vinna det amerikanska presidentvalet med hjälp av Big Data-teknik och personlig online-annonsering. Innan dess arbetade samma företag med Brexit-supportrar i Storbritannien och har nu tecknat ett kontrakt med den franska nationella fronten. Stämmer det att oväntade omröstningsresultat i olika länder inte är ett misslyckande av sociologi, utan en seger för en ny typ av sociologi? Samtalspartneren till Radio Liberty Michal Kosinski, vars forskning indirekt är relaterad till Cambridge Analyticas verksamhet, tror att detta är en överdrift, men Big Data-teknologier och en minskning av privatlivet lovar världen globala förändringar.
Tillbaka i slutet av september, mitt i valet och talade i New York på Concordia-toppmötet, ett årligt evenemang för inflytelserika politiker och affärsmän från hela världen, talade Cambridge Analytica-grundaren Alexander Nix om hur den nya tekniken har förbättrat effektiviteten i kampanjen för Trumps republikanska nominering, Ted Cruz., i början av loppet, nästan okänd kandidat. Nix talade om hur till exempel människor med olika temperament ska presentera en kandidats åsikt om lagen om fri distribution av vapen på olika sätt: rädda människor med en hög nivå av neurotism kan tänka på vapen som en källa till säkerhet, och rika konservativa extroverts kan visas en bild av en ankajakt.
Senare hjälpte Cambridge Analytica Trump själv, och enligt Nyx, för en relativt blygsam belöning totalt cirka 15 miljoner dollar. Genom att analysera de uppgifter som alla Internetanvändare lämnar i nätverket lyckades företagets specialister hitta icke-uppenbara anslutningar och mönster (till exempel att människor som föredrar amerikansk-tillverkade bilar är Trump-väljare) och använder dem för att rikta in reklam på Internet, för att anpassa meddelanden. utgående från den republikanska kandidatens högkvarter. Invånare i Little Haiti-kvartalet i Miami fick information om Hillary Clintons vägran att delta i lättnaden från jordbävningen i Haiti, afroamerikaner - en video där Clinton jämför svarta män med rovdjur. Trump-volontärer fick en detaljerad profil över husens invånare,där de skulle genomföra direkt kampanj.
Det är svårt att säga hur stor påverkan Cambridge Analyticas arbete har haft på resultatet av det amerikanska valet, men denna kampanj är inte det enda exemplet på att vinnarna är de som anlitade företaget. Till exempel började den radikala supportern till Brexit Nigel Farage 2015 använda Cambridge Analytica. Den schweiziska upplagan Das Magasin, som nyligen publicerade en utredning av Cambridge Analyticas verksamhet (du kan läsa den på ryska här), säger att företaget nu har fått ett kontrakt med den franska nationella fronten, dessutom några politiska krafter i Schweiz, Tyskland och kanske Italien.
En av hjältarna i publikationen Das Magasin är Michal Kosinski, en forskare av polskt ursprung, tidigare biträdande chef för Center for Psychometrics vid Cambridge University, och för närvarande biträdande professor vid Stanford University i USA. Under flera år har Kosinski och hans kollegor i Cambridge utvecklat ett system som, baserat på användarens aktivitet på ett socialt nätverk, sammanställer en detaljerad psykologisk profil för en person. Systemet kan inte bara beskriva karaktärsdrag utan också förutsäga bland annat kön, sexuell läggning, hudfärg och till och med politiska preferenser för användaren.
Schweiziska journalister säger att Kosinski i början av 2014 kontaktades av en kollega, Alexander Kogan, som bjöd in de unga forskarna att tillämpa den modell han skapat för att analysera flera miljoner profiler av amerikanska medborgare på begäran av ett visst företag. När det blev klart senare kopplades detta företag till Cambridge Analytica. Kosinski vägrade att samarbeta, men de metoder Cambridge Analytica använde under folkomröstningen i Storbritannien och det amerikanska presidentvalet är åtminstone mycket lik de modeller som uppfanns av Michal Kosinski.
Radio Liberty ringde Kosinski i Kalifornien och frågade honom vad exakt kan sägas om en person på hans "digitala spår", hur mycket att lita på de högljudda uttalandena från Cambridge Analytica, om kriget för integritet är förlorat och om konstgjord intelligens är farligare än Donald Trump.
- Vad är psykometri? Vad gör du som forskare?
Kampanjvideo:
”Psykometri i sig är en gammal vetenskap, jag tror att den är två eller tre årtusenden gamla. I huvudsak är detta vetenskapen om psykologiska mätningar, försök att etablera så exakt som möjligt olika psykologiska aspekter, personlighet, intellektuella förmågor, lycka, tendens till depression, och så vidare. Traditionellt gjordes sådana mätningar med hjälp av frågeformulär, psykologiska test, men relativt nyligen insåg jag och några andra psykometriker att de kan göras genom att bedöma en persons digitala fotavtryck - och då kan inga frågor ställas, inga enkäter och tester behövs. Och detta är ett revolutionerande ögonblick. Vikten av Cambridge Analytica-berättelsen, som Das Magasin skrev om, är inte riktigt att företaget hjälpte Trump i valloppet. Detta är ett kommersiellt företag, de har teknik, de vill tjäna pengar, allt är klart här. Det som är viktigt äratt om du tidigare ville komponera någons psykologiska profil, var du tvungen att be personen fylla i ett frågeformulär, ta ett test - och ämnet förstod väl att just nu, just nu, mäter någon hans psykologiska egenskaper. Och nu kan du göra samma sak, men personen inser inte att hans mest intima funktioner utvärderas och mäts just nu av någon. Titta bara på det digitala fotavtrycket: inlägg på sociala medier, gilla, webbhistorik, sökhistorik. Baserat på dessa data kan ett otroligt korrekt psykologiskt porträtt sammanställas. Å ena sidan verkar det som något läskigt, å andra sidan kan det vara mycket användbart. Till exempel kan någon Internet-plattform föreslå det mest lämpliga jobbet för din karaktär och förmågor, eller rekommendera en film,som du säkert kommer att gilla. Det här är normalt. Men när du öppnar din Facebook-sida och ser annonser där som är personligen riktade, riktade till dig baserat på din detaljerade psykologiska profil, som sammanställdes utan din kunskap och samtycke, är detta inte längre mycket normalt.
- Så, personligen, kan du göra min kompletta psykologiska profil med kunskap om mitt namn, baserat på fotavtrycket som jag lämnade på Internet?
”Jag är en forskare och skulle bara inte göra det. Om du frivilligt hjälpte min forskning och tillhandahöll dina uppgifter, skulle jag gärna ta med dem i min databas, anonymisera den och lovar att aldrig sälja eller överföra till någon. Men många företag samlar naturligtvis ständigt information om dig utan att fråga och använda den, till exempel för riktad annonsering.
- Denna information är naturligtvis inte lagrad på ett ställe - ett företag känner till min geolokationsinformation, ett annat - finansiella transaktioner, det tredje - gillar på Facebook. Kan allt detta sättas ihop?
- Tja, först och främst är detta vanligtvis inte nödvändigt. Vanligtvis räcker det med en sak för att bygga en korrekt profil - till exempel dina intressen på Facebook eller din surfhistorik från din webbläsare. För det andra utbyter företag som samlar in information om dig vanligtvis med varandra eller helt enkelt säljer den på den allmänna datamarknaden. Det finns projekt som Acxiom som sätter samman allt och säljer det till företag som Cambridge Analytica. Du kan bara komma och säga - jag behöver data om 10 miljoner amerikaner från en sådan region och de kommer gärna att sälja denna information. För det tredje är det inte alls nödvändigt att ha enskild användardata för att driva en kampanj med personlig inriktning. Du kan använda den så kallade beteendeinriktningen. Du kan till exempel inte be Facebook att visa vissa annonser för alla människor,benägna att en viss typ av beteende. Men du kanske har en modell som kopplar denna typ av beteende med någon form av psykologisk profil, och du kan till och med bygga den här modellen helt ärligt - du betalade flera tiotusentals människor en liten avgift för att fylla i frågeformuläret. Och när modellen är byggd, frågar du den: hur hittar jag känslomässiga extroverts? Modellen svarar - inga problem, det är de som gillade sådana och sådana tio böcker, sådana och sådana tio filmer och sådana och sådana tio musiker. Nu går du till Facebook igen med din annons, bara du behöver inte längre be om att visa den för känslomässiga extroverts, vilket Facebook inte skulle göra. Istället ber du att visa annonser för dem som har en specifik uppsättning av likes. Som ett resultat visar det sig att du inte hade några personuppgifter,men du körde personlig riktad annonsering.
- Finns det företag som försöker sammanställa en psykologisk profil för hela mänskligheten, åtminstone alla som lämnar digitala spår?
- Knappt någon tänker i sådana globala kategorier, men till viss del Facebook, Google, Microsoft, Visa, Mastercard, samma Acxiom är engagerade i detta. Och all denna information handlas i stor utsträckning på marknaden.
- Det vill säga, någonstans på marknaden säljs till exempel min psykologiska profil, och den är otroligt korrekt. Du sa i en kommentar för Das Magazin att bara några gilla på Facebook räcker för att systemet känner igen dig bättre än din närmaste vän. Är det verkligen så?
- Ja, det var en intressant studie om detta. Tio likes (intressen) räcker för att systemet bättre känner igen din personlighet än en arbetskollega, och 230-240 gillar datorn kommer att veta mer om dig än din make.
”Men vad betyder det egentligen att veta mer?
”Det betyder att om du ber datorn att fylla i ett psykologiskt frågeformulär för dig kommer det att göra mindre misstag än din fru.
- Det här är svaret på frågor som "Är du rädd för mörkret"?
- Ja, typiska frågor om psykologiska frågeformulär. Så verkligen, någonstans på marknaden kan du köpa mycket exakt information om din personlighet, inklusive din politiska partiskhet, din religiositet, din sexuella läggning, din IQ. Du kan grovt förstå vad som är känt om dig enligt dina intressen på Facebook med webbplatsen Applymagicsauce.com, men detta är naturligtvis långt ifrån den fullständiga bilden.
- Låt oss vända oss till historien med Cambridge Analytica. Säg mig, du har verkligen inget med det här företaget att göra?
- Nej, och aldrig haft det. Jag hörde om dess existens från pressen.
- Alexander Kogan, som enligt Das Magazin erbjöd Cambridge Analytica psykologisk profileringsteknologi, var din kollega?
- Ja, han var min kollega, eller snarare, han var biträdande professor vid psykologavdelningen vid Cambridge University vid den tiden då jag var doktorand där. Men våra vägar divergerade för länge sedan, han grundade ett litet företag och, såvitt jag förstått från pressen, sålde Cambridge Analytica-data, och jag stannade kvar i den akademiska världen.
- Kan vi anta att Cambridge Analytica använder de modeller du har utvecklat?
- Jag skulle säga att de använder liknande modeller, men, förstår du, för att utveckla en sådan modell, behöver du inte särskilt djup vetenskap, det finns ingen magi i den. Alla med grundläggande programmeringsfärdigheter, lite pengar och en dator som är ansluten till internet kan göra detta - det är faktiskt det som gör problemet så stort. De mest vanliga statistiska metoderna används här, inget särskilt. Huvudtanken med mina publikationer är att det är enkelt, det är bara viktigt att ändra fokus: för psykometri behövs inte längre frågeformulär och tester, det räcker med att ha en digital fotavtryck från en person. Och detta ger enorma fördelar, du kan förbättra marknadsföring, karriärplanering, metoder för psykologisk hjälp och mycket mer. Men samma teknik kan användas mot människor. Jag är säker på att Alexander Kogan var medveten om min forskning och,även om jag bara kan bedöma detta utifrån journalernas rapporter, gjorde han exakt vad jag föreslog och sålde resultatet till Cambridge Analytica. Jag har sagt många gånger och tydligt angett i mina artiklar att jag inte ville inspirera någon att göra den här typen av aktivitet, dessutom är jag säker på att människor var engagerade i digital psykologisk profilering långt före mig, de talade helt enkelt inte om det lika aktivt som Cambridge Analytica. Jag kräver bara att det utvecklas policyer och förfaranden som skulle avgöra den etiska användningen av denna teknik.att människor hade gjort digital psykologisk profil långt före mig, de pratade bara inte om det lika aktivt som Cambridge Analytica. Jag kräver bara att det utvecklas policyer och förfaranden som skulle avgöra den etiska användningen av denna teknik.att människor hade gjort digital psykologisk profil långt före mig, de pratade bara inte om det lika aktivt som Cambridge Analytica. Jag kräver bara att det utvecklas policyer och förfaranden som skulle avgöra den etiska användningen av denna teknik.
- Tror du att Cambridge Analytica verkligen skulle kunna påverka resultaten från det amerikanska presidentvalet?
- Ärligt talat, jag vet inte. Det är uppenbart att Cambridge Analytica är intresserad av att trumpetera sin framgång så högt som möjligt, men i slutändan bestäms valresultatet inte av Big Data-metoder, utan av kandidater, och dessutom, som det nu är särskilt tydligt, väljare som inte går till valurnorna. Kanske var Cambridge Analyticas aktivitet det allra sista halm som förutbestämde slutresultatet, men troligtvis vet inte Alexander Nix själv med säkerhet. Å andra sidan måste vi vara medvetna om att det finns teknik, och det är nästan omöjligt att försvara sig mot den. Du kan sluta använda Facebook, men du kommer fortfarande att skriva e-postmeddelanden. Bestäm dig för att använda duvpost - du kan inte göra utan kreditkort. Kanske kan länder anta lagar som begränsar sådan praxis,men det kanske inte fungerar heller. Förresten, jag vet inte med säkerhet, men jag hörde att det Cambridge Analytica gjorde för Trump var i strid med gällande amerikansk lag, och därför gjorde de direkt analys av uppgifterna i Storbritannien. Du vet, jag är en vetenskapsman, jag gör psykometrik, jag är ingen expert på politik, demokrati och frihet, men det verkar för mig att vi måste acceptera det faktum att det inte finns någon integritet kvar. I stället för att engagera sig i en annan kamp för integritet är det värt att erkänna att kriget redan har gått förlorat, och det är bättre att se till att världen blir en gynnsam miljö för en person som saknar privatliv. Du vet, jag är en vetenskapsman, jag gör psykometrik, jag är ingen expert på politik, demokrati och frihet, men det verkar för mig att vi måste acceptera det faktum att det inte finns någon integritet kvar. I stället för att engagera sig i en annan kamp för integritet är det värt att erkänna att kriget redan har gått förlorat, och det är bättre att se till att världen blir en gynnsam miljö för en person som saknar privatliv. Du vet, jag är en vetenskapsman, jag gör psykometrik, jag är ingen expert på politik, demokrati och frihet, men det verkar för mig att vi måste acceptera det faktum att det inte finns någon integritet kvar. I stället för att engagera sig i en annan kamp för integritet är det värt att erkänna att kriget redan har gått förlorat, och det är bättre att se till att världen blir en gynnsam miljö för en person som saknar privatliv.
- Det är nyfiken i vilken utsträckning att bygga en psykologisk profil genom att använda personlig inriktning kan påverka den verkliga världen.
- Ur en vetenskaplig synvinkel är det svårt att argumentera om detta, eftersom det är svårt att inrätta experiment. Det vill säga, om du säljer någon form av duschgel kan du jämföra antalet klick, men det är mycket svårt att till exempel utvärdera effektiviteten av Big Data-metoder i en politisk kampanj, som är mer som en varumärkesreklam än en försäljningskampanj. Vi gjorde några experiment, inte med politiker, eftersom jag tror att det är oetiskt, men med specifika konsumentprodukter, och det visade sig att personlig inriktning, det vill säga att använda ett enskilt reklammeddelande baserat på en psykologisk profil, fördubblar effektiviteten av reklam. Och detta är ett otroligt resultat, vanligtvis är kampen att öka effektiviteten med cirka tre procent, och till och med detta sparar företag hundratals miljoner dollar. Och sedan två gånger!
- Det är konstigt att du inte har blivit miljardär ännu.
- Jag har redan ett underbart liv. Förresten, det finns många psykologiska verk som bevisar att lycka inte kräver så mycket pengar, ja, du behöver naturligtvis tillräckligt för en semester. I själva verket är allt förmodligen inte så enkelt som det verkar för mig som forskare, jag är bara redo att tala om dessa saker öppet, medan andra arbetar med riktiga projekt utan att berätta för någon någonting.
- För mig verkar idén om psykologisk profilering baserad på ett digitalt fotavtryck ganska naturlig, jag är säker på att många människor redan använder den i reklam. Vår värld kanske redan har förändrats mycket, vi märker det inte riktigt ännu.
- Förmodligen, och jag välkomnar snarare dessa förändringar. Vi hade uppfinningar och mer fruktansvärda än Big Data, vi hanterade kärnenergi - vi kan på något sätt hantera detta, men förmodligen inte utan uppoffringar. Som jag sa verkar det som om kriget för integritet redan har gått förlorat, vi lever i en värld efter privatliv, vilket innebär att det är värt att investera för att säkerställa att alla har lika rättigheter och möjligheter, så att ingen vill dölja någonting. Förhoppningsvis kan mer tolerans lösa problemet med brist på integritet.
- Men problemet är inte bara att andra lär sig alla människors hemligheter och börjar behandla honom annorlunda, utan också att ett kraftfullt verktyg för manipulation har dykt upp.
- Med detta borde utbildning enligt min mening klara sig. Det är lätt att manipulera de som vet lite, som läser lite, som reser lite. En sådan person kan sägas att det inte finns något krig i Syrien, och faktiskt alla syrare är blodiga brottslingar, och han kommer lätt att tro på det.
- Enligt min mening kan utbildade människor också manipuleras med exempelvis fåfänga och kön.
”Jag tror inte det. Så du känner förmodligen din fru ganska väl, gör det det lätt för dig att manipulera henne?
- Jag vet inte, jag har förmodligen helt enkelt inte ett sådant mål, men det kommer säkert att finnas många människor som skulle vara intresserade av att manipulera mig så effektivt som möjligt så att jag går och röstar till exempel för Putin.
- Naturligtvis kommer det att finnas, och detta händer hela tiden, all reklam, all marknadsföring är manipulation av den här typen, och jag ser inte vad vi kan göra åt det. Ändå är det svårt att manipulera utbildade, öppensinnade och glada människor. Och det är för sent att ge upp Facebook, e-post, kreditkort, och det är helt enkelt dumt. Facebook är en underbar sak, så jag har pratat mycket i mitt liv om riskerna med att använda det, men jag använder det själv och med nöje, och jag skulle till och med betala för det om jag var tvungen att göra det.
- Förresten, erbjöds du ett jobb på Facebook?
- Ja det är sant. Jag har det bra med mitt jobb på universitetet, men för en beteendeforskare som vill ändra människors liv till det bättre är en karriär på ett företag som Facebook eller Google ett bra sätt att gå. Jag kom med modeller och studerar dem, och om jag jobbade på Facebook kunde jag faktiskt använda dem för att förändra miljoner människors liv, och det är inte alls nödvändigt att sälja dem något.
- Det är skrämmande att du kan förändra miljoner människors liv med ett par klick.
- För att påverka miljontals människor brukade du verkligen vara en auktoritär diktator, men nu kan du vara en ingenjör som arbetar för ett internetföretag. Men detta är inte skrämmande. Alla dessa algoritmer - Googles sökningar, rekommendationssystem och så vidare - är baserade på den mest grundläggande matematiken, men det gäller enorma mängder data. Och i slutändan förstår ingen hur allt egentligen fungerar, inte ens utvecklarna själva. Här i Ryssland finns det några lagar som alla anser vara dåliga, men det är uppenbara lagar som kan korrigeras. Och datalgoritmer självlära sig och blir så komplexa att om de fungerar på något sätt är det inte klart vad och var de ska fixas.
- Är vi så långt från det ögonblick då vissa sådana utan kontroll, otillgängliga för vårt förståelsessystem kommer att ordna ett kärnkraftkrig?
- Du vet, hittills har Donald Trump mycket fler möjligheter och chanser att förstöra mänskligheten än Big Data, men i framtiden … Titta, det finns duvor och myror, tror du att de vet att världen styrs av människan? Gissar de att Donald Trump kan trycka på den röda knappen? Självklart inte. Det är värt att komma ihåg detta, eftersom när konstgjord intelligens börjar regera världen kanske vi väl inte märker det på samma sätt. När allt kommer omkring kan vi inte längre förstå och analysera datamängderna som vi själva producerar - och vi måste lita på datorn. Du kanske frågar maskinen: kan du förutsäga något baserat på dessa data? Hon kommer att svara: ja, naturligtvis. Du frågar: hur gör du det? Hon kommer att säga: Jag är ledsen, men du förstår inte. Och allt detta är redan en verklighet. Du vet att amerikanska domstolar använder datorsystem,beslutar om prövning för fångar? Datorer bestämmer sig för att ge dig kredit eller inte. Datorn landar ett plan, vilket är bra, eftersom människor lätt kan orsaka problem. 800 Boeing 787 passagerares liv är i händerna på en dator, inte en person, och det är dagens verklighet.
