Tekniska företag har tyst studerat dina bilder för att förbättra deras ansiktsigenkänningssystem. Och så gjorde de det.
Ansiktsigenkänning är en kraftfull teknologi som allvarligt hotar medborgerliga friheter. Det är också en blomstrande verksamhet. Idag säljer många nystartade och tekniska jättar ansiktsigenkänningssystem till hotell, detaljhandlare och till och med skolor och sommarläger. Denna verksamhet blomstrar tack vare nya algoritmer som kan identifiera människor med mycket större noggrannhet än för fem år sedan. För att förbättra deras algoritmer har de tränats på miljarder ansikten, ibland utan någons tillstånd. Därför är chansen god att ditt ansikte är en del av ett "träningssats" i ett av dessa system eller finns i en kunddatabas för ett företag.
Informationsinsamlingsmetoder som används av företag kan överraska konsumenterna. Till exempel har företag i minst tre fall fått miljoner bilder via smarttelefonfoto-appar. Nu är ansiktsigenkänningssystemet dåligt reglerat, så människor har nästan inget sätt att begränsa användningen av deras ansikten för kommersiella ändamål.
År 2018 identifierade en kamera ansikten på passagerare som skyndade sig ner i ett plan nära Washington, Columbia. Men i själva verket var både planet och passagerarna en del av en simulering skapad av National Institute of Standards and Technology (NIST) för att visa hur data kunde samlas in "i fältet". Ansikten som används i detta experiment kommer att ingå i en NIST-tävling där företag från hela världen testar sina ansiktsigenkänningssystem.
I simuleringen av flygplanssituationen enades volontärerna om att använda ansikten. Detta var fallet i de tidiga stadierna av ansiktsigenkänningssystem - forskare försökte konsekvent inkludera människor i sina uppsättningar. Nu är det osannolikt att affärer inte stör sig själv och frågar tillåtelse.
Enligt Market Research Future kommer företag (inklusive ledare som Face ++ och Kairos) att sträva efter att vara nummer 1 i en bransch som växer 20% årligen för att nå 9 miljarder dollar i volym fram till 2022. Affärsmodellen för dessa spelare är baserad på licensierad programvara för ett växande antal kunder - från brottsbekämpande myndigheter till universitet - som använder den i sin egen utveckling.
I tävlingen är vinnarna de produkter vars algoritmer kan upptäcka ansikten exakt och utan fel. Som med all konstgjord intelligens innebär det att man bygger ett ansiktsigenkänningssystem att samla in en stor mängd data för träning. Även om företag kan använda myndighets- och universitetsgodkända uppgifter (som Yale Facial Database), är dessa utbildningssatser tillräckligt små för att inte innehålla mer än några tusen ansikten.
Kampanjvideo:
Dessa officiella kit har också andra nackdelar. Många saknar rasdiversiteten och olika förhållanden - skuggor, hattar, kosmetika - som förändrar en persons uppfattning i den verkliga världen. Ett naturligt ansiktsigenkänningssystem kräver fler bilder. Mycket mer.
”Hundra räcker inte, tusen räcker inte. Vi behöver miljoner bilder. Om du inte utbildar systemet för att känna igen människor med glasögon och olika hudfärger, uppnår du inte bra resultat, säger Peter Trepp, chef för FaceFirst, ett Kalifornienbaserat företag som hjälper återförsäljare att identifiera brottslingar i sina butiker.
Ansökan om detta
le. Notera tvingade appen den att skicka sponsrade länkar till alla användarkontakter, en taktik känd i Silicon Valley som "tillväxthacking." Användare klagade också på datastöld.
"Omedelbart efter installationen samlar applikationen alla telefoner från listan över kontakter och börjar skicka dem … Och sedan laddar den ner alla dina foton och kopierar dem till molnlagret," skrev Greg Miller, ägare till en fotostudio i Texas, i en översyn 2015 på Facebook.
Fyra år senare blev Miller förskräckt över att upptäcka att hans fotografier fortfarande var lagrade på EverRoll, men nu ett företag med ett ansiktsigenkänningssystem.
"Nej, jag visste inte om det och jag håller inte helt med det," klagade Miller till Fortune.”Den här typen av övervakning är ett verkligt problem. Sekretess är borta och det skrämmer mig mycket."
Doug Ely, VD för Ever AI, hävdar att företaget inte överför information från sin databas någonstans, och bilderna används bara för att träna systemet. Han tillade också att företaget är besläktat med ett socialt nätverk som kan överges när som helst. Eli förnekade att Ever AI avsåg att bli ett ansiktsigenkänningsföretag från början och sa att appavstängningen var ett ledningsbeslut. Ever AIs kunder använder nu sina uppgifter för sina egna ändamål, inklusive hantering av personalidentifieringssystem, detaljhandel, samt telekommunikation och brottsbekämpning.
Ever AI är inte det enda ansiktsigenkänningsföretag som en gång erbjöd en fotograferingsapp. Orbeus, en San Francisco-baserad startup som köpts av Amazon 2016 (vilket inte tillkännagavs), erbjöd också den populära PhotoTime-lagringen.
Enligt en före detta anställd i Orbeus låg startens överklagande till Amazon i dess artificiella teknik och dess stora mängd fotografier av människor på offentliga platser.
”Amazon letade efter sådana möjligheter. De köpte allt och stängde sedan ansökan, säger en anställd som ville förbli anonym, med hänvisning till ett icke-avslöjande avtal.
PhotoTime existerar inte längre, även om Amazon fortsätter att sälja en annan Orbeus-produkt känd som varumärket Rekognition. När det gäller företag och brottsbekämpning används det som ett ansiktsigenkänningssystem.
Amazon vägrade att avslöja information om huruvida Orbeus foto-appen användes för att träna Rekognition, och uppgav bara att den tog data från olika källor. Företaget tillade att det inte använder användardata från Prime-appen för att utbilda identitetssystem.
Real Networks är ett annat företag som använder appar för att utbilda sitt system. Baserat i Seattle och en gång känt för sin videospelare från 90-talet, är företaget nu fokuserat på att känna igen barns ansikten i skolorna. Samtidigt erbjuder företaget en familj-app som heter RealTimes, som kritiker säger samlar in data om användarnas ansikten.
”Med applikationen kan du skapa videopresentationer från foton. Föreställ dig att mamma skickar en sådan presentation till mormor, och systemet använder dessa foton för träning. Det låter läskigt, säger Claire Gavry, professor vid Georgetown University, som publicerade en artikel som har haft en stor inverkan på ansiktsigenkänningstekniken.
Real Networks bekräftade att appen användes för att förbättra ansiktsigenkänningen, men tilllade att andra informationskällor användes.
I alla fall där företag använde data från sina egna fotoapplikationer för att utbilda sina system, bad de inte om användartillstånd, utan fick doldt samtycke genom användaravtal.
Men detta är redan ganska mycket jämfört med vad andra företag gör. Enligt Patrick Grother, som driver NIST-tävlingen, är det okej för företag som samlar in ansiktsdata för att skriva program som "tar" bilder från sajter som SmugMug eller Tumblr. I dessa fall antas inte ens användarrättigheter.
Denna självhjälpsstrategi framhölls i en ny NBC News-rapport som beskrev hur IBM laddade ner över en miljon ansiktsbilder från Flickr som en del av en AI-studie. (John Smith, som övervakar teknik för artificiell intelligens i IBM: s forskningsavdelning, sa att "personuppgifter är skyddade" och att arbetet pågår med dem som vill ta bort personlig information från databasen).
Allt detta väcker frågor om skyddet av personuppgifter från de företag som samlar in dem och behovet av statlig kontroll på detta område. Detta ämne kommer bara att bli mer allvarligt med den fortsatta spridningen av ansiktsigenkänningssystem i samhället, liksom i stora och små företag.
Från butiker till skolor
Ansiktsigenkänningssystem är inte nya. De enklaste versionerna av sådana program har funnits sedan 1980-talet, då amerikanska matematiker började definiera ansikten som en serie numeriska värden och använde probabilistiska modeller för att hitta matchningar. Tampa, Florida säkerhet använde det vid Super Bowl 2001, och det har använts på kasinon i flera år. Men mycket har förändrats under de senaste åren.
"Ansiktsigenkänningssystemet genomgår något som en revolution," säger Patrick Grother och tillägger att förändringen är mest märkbar i den ökande kvaliteten på bilder.”Den underliggande tekniken har förändrats. Den gamla utvecklingen har ersatts av nya, mycket effektivare system."
Ansiktsigenkänningsrevolutionen drevs av två faktorer som kraftigt har förändrat och utökat omfattningen av artificiell intelligens teknik. Den första är uppkomsten av djup inlärning, ett mönsterigenkänningssystem som i princip liknar den mänskliga hjärnan. Den andra är ett rekordöverskott av data som kan lagras och analyseras till låg kostnad med hjälp av molnberäkning.
Inte överraskande var de första företagen som utnyttjade denna utveckling fullt ut var Google och Facebook. 2014 släppte den senare ett program som heter DeepFace, vilket med en noggrannhet på 97,24% kan bestämma att två ansikten tillhör samma person - människor visar ett liknande resultat i ett sådant test. Ett år senare uppnådde Google med sitt FaceNet-program 100% noggrannhet (enligt säkerhetsföretaget Gemalto).
Idag, tack vare en stor del för åtkomst till stora databaser med ansiktsdata, är dessa och andra tekniska jättar (som Microsoft) ledande i ansiktsigenkänningen. Men fler och fler nystartade företag visar höga resultat och strävar också efter att uppta sin nisch på den växande marknaden för ansiktsidentifieringsprogram.
Det finns mer än ett dussin sådana företag bara i USA, inklusive Kairos och FaceFirst. Enligt marknadsundersökare från PitchBook vinner Silicon Valley snabbt dragkraft i sektorn med betydande investeringar under de senaste åren. PitchBook uppskattar den totala investeringen under de senaste tre åren till 78,7 miljoner dollar. Dessa är inte fantastiska siffror enligt Valley-standarder, men de återspeglar förtroendet hos riskkapitalister att några få start-up-företag snart kommer att växa till stora företag.
Riskkapitalaktivitet inom ansiktsigenkänningsindustrin i USA.
Nya affärsmodeller fokuserade på ansiktsigenkänning dyker fortfarande upp. Detta märks särskilt i licensierad företagsprogramvara. Enligt Crunchbase är de årliga intäkterna för företag som Ever AI och FaceFirst blygsamma, från 2 miljoner till 8 miljoner dollar. Amazon och andra tekniska jättar avslöjar inte sådana siffror.
Under en lång tid var de mest intresserade användarna av ansiktsigenkänningssystem brottsbekämpande myndigheter. Men nu använder många företag, inklusive WalMart, sådana program för att få mer information om shopparna i sina butiker.
Till exempel erbjuder Kalifornien-baserade FaceFirst sina system till hundratals återförsäljare, inklusive begagnade butiker och apotek. Enligt företagets VD använder många kunder tekniken för att upptäcka stöld, men ett växande antal försöker använda den för andra ändamål, inklusive att hitta VIP-klienter och identifiera anställda.
Under en lång tid var de mest intresserade användarna av ansiktsigenkänningssystem brottsbekämpande myndigheter.
Det verkar som om Amazon också letar efter ett brett spektrum av sina aktiviteter för möjligheter att tillämpa ansiktsigenkänningssystem. Förutom att arbeta med polisstationer, hjälper detaljgiganten hotell att påskynda incheckningsprocesser, enligt olika källor.
"Företag från hela världen kommer till Amazon och säger:" Det här är precis vad vi vill göra. " Och du förstår att detta är ett underbart område. Alla är intresserade av det, säger en anonym källa som gick med i Amazon när man köpte Orbeus, ett ansiktsigenkänningsföretag.
För Amazon har denna aktivitet inte varit utan motstridiga konsekvenser. I juli förra året testade American Civil Liberties Union (ACLU) företagets system genom att jämföra ansikten från alla medlemmar i kongressen till en databas över brottslingar. Testet visade 28 falska matchningar, med de flesta fel på grund av hudfärgen på deltagarna i experimentet. Som ett resultat krävde unionen ett förbud mot användning av ansiktsigenkänningssystemet vid brottsbekämpande organ. Emellertid insisterade Amazon på att sälja systemet till poliser och USA: s invandring och tullmyndighet.
Sedan bad några medlemmar av kongressen, inklusive rep. Jerrold Nadler och senator Ron Weeden, revisionsbyrån undersöka användningen av ansiktsigenkänningsprogramvara. Ledande företag är också oroliga för dessa system. I synnerhet begärde Microsofts president Brad Smith i december reglering av sådan teknik på statsnivå.
Men även när oro växer växer användningen av ansiktsigenkänningssystem bara när företag hittar mer och mer användningsområden för dem. Exempelvis erbjuder Real Networks, en app-utvecklare för familjefotografering, sin programvara till skolor över hela landet gratis. Företaget talar om hundratals skolor som sina kunder. I en intervju med tidningen Wired sa verkställande direktören för Rob Net, Rob Net, att han startade projektet som en opartisk lösning på tvister om skolesäkerhet och vapenkontroll. Företagets webbplats positionerar för närvarande denna produkt som en teknik som gör det möjligt för evenemangsarrangörer att "känna igen varje fan, klient, anställd eller gäst", även om deras ansikte är dolda.
Den unika tekniken känner igen ansikten även i färg eller intensiv makeup. Systemet skiljer och identifierar ansikten i olika ljusförhållanden.
Real Networks är inte det enda företag som riktar sig till barnens marknad. En Texas-baserad startup som heter Waldo erbjuder liknande teknik som hundratals skolor, liksom barnsportliga ligor och sommarläger. I praktiken innebär detta att man använder sådana system för att skanna bilder tagna av videokameror eller officiella fotografer, och vidare matcha barnens ansikten med en databas med bilder från föräldrarna. Föräldrar kan alltid vägra att delta.
Enligt Waldo VD Rodney Rice tar skolor tiotusentals fotografier varje år, och få av dem hamnar i årliga album. Ansiktsigenkänning, sade han, är ett effektivt sätt att sprida resterna till dem som behöver dem.
"För priset på popcorn eller brunt papper kan du beställa dessa bilder för dina barns morföräldrar," säger Rice och förklarar att Waldo har ingått ett avtal om delning av intäkter med offentliga skolor. För närvarande används företagets tjänster i mer än 30 stater i USA.
Ökningen av Waldo och FaceFirst visar hur företag normaliserar ansiktsigenkänning som verkade som science fiction tills nyligen. Och med spridningen av sådan teknik kommer fler företag att samla in bilder av dina ansikten - antingen för att träna algoritmer eller för att hitta kunder och brottslingar - även om risken för fel och missbruk bara ökar.
Framtiden för ditt ansikte
2017 släpptes ett avsnitt av den techno-dystopiska serien Black Mirror, där en upprörd mamma oroar sig för en fuskig ung man som tillbringar tid med sin dotter. För att ta reda på vem det är, laddar hon upp ett foto av honom till en konsumentidentifieringstjänst. Programmet visar snabbt hans namn och arbetsplats, och kvinnan går för att hantera honom.
Det en gång fiktiva scenariot verkar nu ganska verkligt. Medan de flesta oro för ansiktsigenkänning har handlat om användningen av denna teknik i statliga organisationer, utgör dess användning bland kommersiella företag och till och med individer (i stil med "Black Mirror") uppenbara risker för personuppgifter.
När fler företag börjar sälja ansiktsigenkänningssystem och våra ansikten tar sig in i fler databaser kan mjukvaran få popularitet bland voyeurs och stalkers. Återförsäljare och hyresvärdar kan använda den för att identifiera oönskade kunder och hyresgäster för att tyst förneka bostäder och tjänster.
"Vem som helst med en videokamera i ett tättbefolkat område kan börja samla bilddatabaser och sedan använda den här analytiska mjukvaran för att se om bilderna de fångar matchar dina data," säger Jay Stanley, analytiker på ACLU.
Det finns också en risk för hackerattacker. Andrei Barisevich från Gemini Advisors, ett cybersäkerhetsföretag, säger att han har sett profiler till salu stulna från Indiens nationella biometriska databas på darknet-webbplatser. Han märkte inte sådan information om amerikanerna, men tillade: "Det är bara en tidsfråga." Läcka kunddata från ett hotell eller butik kan hjälpa brottslingar att bedriva bedrägeri eller identitetsstöld.
Eftersom tekniken distribueras utan mycket statlig kontroll ligger ansvaret för att begränsa dess missbruk enbart hos mjukvaruleverantörerna. I en intervju med Fortune sa verkställande direktörerna för nystartade ansiktsigenkänningar att de var beredda för sådana hot. Vissa, inklusive vd för FaceFirst, beskrev spridningen av sådana system i Kina som farlig.
Ledare föreslog också två metoder för att begränsa missbruk. Den första är att arbeta nära med köparna av programvaran för att säkerställa att den används korrekt. Till exempel säger Ever AIs Doug Eli att hans företag har en högre standard än Amazon, som han hävdar tillhandahåller dess rekognitionsverktyg till nästan vem som helst.
Som svar på en fråga om övergreppskontroll lämnade Amazon ett tidigare utgivet uttalande från Matt Wood, som driver konstgjord intelligens hos Amazon Web Services. Wood påpekar att det är företagets policy som förbjuder skadlig och olaglig verksamhet.
En annan möjlig garanti för datasäkerhet är användningen av tekniska åtgärder för att säkerställa omöjligt att hacking av databaserna med "front" -data.
Rodney Rice, VD för Waldo, säger att ansikten lagras som alfanumeriska hashes. Detta innebär att även i händelse av dataläckage kommer konfidentialitet inte att äventyras, eftersom en hackare inte kommer att kunna dekryptera hasherna och använda dem. Denna synpunkt stöds av andra.
Rice fruktar att lagstiftningens definition av reglerna för användning av "ansikts" -teknologier skulle kunna göra mer skada än nytta. "Det är löjligt att lämna ett barn för att ta reda på det och skapa regler."
Samtidigt använder vissa ansiktsigenkänningsprogramvara nya tekniker som kan minska behovet av big data för utbildning. Detta är till exempel fallet med Kairos, en front-up-start från Miami som bland annat arbetar med ett brett utbud av hotell. Enligt Stephen Moore, chef för säkerheten vid företaget, skapar Kairos "syntetiska" ansikten för att simulera ett brett spektrum av känslor och belysning. Sådana "konstgjorda ansikten" minskar användningen av ansiktsdata från den verkliga världen när man skapar teknikprodukter.
Alla dessa åtgärder - övervakning av systemanvändare, starkt dataskydd och verktyg för syntetiskt lärande - kan mildra vissa av de integritetsproblem som är förknippade med affärsanvändning av våra ansikten. Samtidigt tror FaceFirsts Trepp att ångesten kommer att minska när man tittar närmare på systemet. Han hävdar till och med att ansiktsigenkänningsscenerna i sci-fi-filmen Minority Report från 2002 börjar känna sig normal.
”Millennials är mycket mer villiga att dela information. Denna värld [från Minority Report] närmar sig vår”, säger han. - Om du gör allt rätt, tror jag att människor kommer att gilla det, och det kommer att bli en positiv upplevelse. Det blir inte så skrämmande."
Andra, inklusive ACLU, är mindre optimistiska. Trots den växande diskussionen kring teknik finns det praktiskt taget ingenting vid denna punkt som begränsar användningen av ditt ansikte. De enda undantagen är i tre stater - Illinois, Texas och Washington DC - som kräver en viss grad av samtycke innan du använder någon annans ansikte. Dessa lagar används egentligen inte i praktiken utom i Illinois, där konsumenterna kan vidta rättsliga åtgärder för att upprätthålla denna rättighet.
Illinois lagen är för närvarande föremål för en högprofil överklagad rättegång som involverar Facebook, som hävdar att digital genomsökning inte är föremål för begränsningar för att få ansikten. Under 2017 lanserade Facebook och Google en misslyckad lobbykampanj för att övertyga Illinois lagstiftare att slappna av lagen. I slutet av januari stöttades förespråkare av lagen av högsta domstolen i Illinois när den utsåg att konsumenterna kan stämma obehörig användning av deras biometri, även om ingen verklig skada har gjorts.
Andra stater tillåter också möjligheten att anta sina egna biometriska lagar. På federal nivå har lagstiftare uppmärksamt detta hittills. Det kan dock förändras, eftersom senatorerna Brian Schatz och Roy Blount införde lagstiftning denna månad som skulle kräva företag att få tillstånd innan de använder ansiktsigenkänning på offentliga platser eller delar ansiktsdata med någon tredje part.
Claire Garvey, en forskare i Georgetown, stöder lagar för att kontrollera dessa system. Men hon säger att lagstiftare har haft svårt att hålla jämna steg med tekniken.
”En av utmaningarna med ansiktsigenkänning är deras otroligt snabba antagning tack vare de befintliga databaserna. Våra ansikten tändes mycket, säger hon. "Till skillnad från fingeravtryck, som länge har haft regler för datainsamling, finns det fortfarande ingen regler för ansiktsigenkänningsteknologier."
Av Jeff John Roberts
Översatt av: Ekaterina Egina
Redigerad av: Sergey Razumov