Kampanjen för presidentvalet i USA har officiellt påbörjats, vilket i sin tur innebär ett överflöd av konstiga och lumska sätt på vilka tekniken snedvrider politik. Ett av de största hoten är konstgjorda personligheter som brinner för politiska tvister. Å ena sidan utvecklar tekniken för att generera text baserad på konstgjord intelligens snabbare än någonsin, å andra sidan har chatbots i sociala nätverk nästan nått perfektion. Dessa datorgenererade "människor" kommer snart att drunka verkliga mänskliga diskussioner på webben.
Textgenereringsprogramvara är tillräckligt utvecklad för att lura nästan vem som helst. Datorn är utmärkt när det gäller att skriva nyheter, särskilt på sport och ekonomi, råda kunder på investeringssajter, skriva tvingande artiklar om andra nyhetsämnen (även om det finns begränsningar).
Samtidigt finns det redan algoritmer som kan generera innehåll som inte kan skiljas från vanliga användares inlägg. Under 2017 höll FCC en offentlig debatt om sina planer för att avsluta netneutraliteten. Enastående 22 miljoner kommentarer mottogs om detta ämne. Många av dem - kanske hälften - var falska, med angriparna som använde stulna ID-uppgifter. Några av kommentarerna var oförskämd, 1,3 miljoner genererades från samma mall - vissa ord ändrades i dem för att göra meddelandena unika.
Och teknik inom detta område utvecklas aktivt. I sitt experiment använde Harvard-forskaren Max Weiss textgenererande programvara för att skapa 1 000 kommentarer som svar på regeringens Medicaid-initiativ. Alla dessa kommentarer var unika och såg ut som de var skrivna av riktiga människor som stöder en viss politisk ståndpunkt. De lyckades lura administratörerna av Medicaid.gov att tro att de var äkta rädsla för riktiga människor. Under sin undersökning avslöjade Weiss därefter kommentarerna var falska och bad att de skulle tas bort. Men en annan person eller grupp inkräktare som följer denna väg kommer troligen inte att vara lika moralisk.
Chatbots har varit med i diskussioner på sociala medier i många år. Enligt en uppskattning publicerades ungefär en femtedel av alla tweets om presidentvalet 2016 av bots, och cirka en tredjedel av omröstningen för Brexit samma år. I en rapport från Oxford University förra året fann forskare bevis på att bots används för att sprida propaganda i 50 länder. Som regel var detta enkla program som tankelöst upprepade paroler: till exempel en fjärdedel av en miljon pro-saudiska tweets "Vi tror alla på Mohammed bin Salman" efter mordet på Jamal Khashoggi 2018. Att hitta bättre bots är mycket svårare. Och att mäta effektiviteten hos dessa bots är svårt. De snedvrider alla opinionen och tron på en välgrundad politisk debatt. Faktiskt,vi är alla mitt i ett nytt socialt experiment.
Under åren har algoritmiska bots utvecklat hela personligheter. De har falska namn, falska biografier och falska fotografier, ibland datorgenererade. I stället för att sprida propaganda oändligt, skickar de bara meddelanden. Forskare kan tycka att de är bots och inte människor baserade på publiceringsmönster, men bottekniken förbättras hela tiden, överträffar försök att spåra dem. Framtidens bots kommer att vara bättre förklädda som sociala grupper av människor, propaganda kommer att vävas subtilt i tweets om ämnen relaterade till dessa sociala grupper.
Snart kan simmar som kontrolleras av programmet kunna skriva personliga brev till tidningar, i premiärministerier till valda tjänstemän, ge personliga kommentarer för offentliga regelverksprocesser och tala intelligent om politiska frågor på sociala medier. De kommer att kunna kommentera inlägg på sociala nätverk, nyhetssajter osv. Permanenta karaktärer skapas som verkar verkliga även för dem som studerar dem. De kommer att kunna presentera sig på sociala medier och skicka personliga texter. De kommer att kopiera in miljoner och skicka miljarder meddelanden, långa och korta, dygnet runt. Tillsammans kan de drunkna ut alla verkliga debatter på Internet. Inte bara på sociala medier utan överallt där det finns kommentarer.
Kanske dessa karaktärer kommer att kontrolleras av utländska inkräktare. Kanske kommer dessa att vara interna politiska grupper. Kanske kommer det att vara kandidaterna själva. Troligen kommer alla att använda det. Den viktigaste lektionen i valet 2016 om desinformation är inte att desinformation publicerades; men det är billigt och enkelt att felinformera människor. Framtida tekniska framsteg kommer att göra allt detta ännu mer prisvärd.
Kampanjvideo:
Vår framtid kommer att bli en våldsam politisk debatt där bots mestadels kommer att argumentera med andra bots. Detta är inte vad vi föreställer oss när vi berömmer marknaden för idéer eller någon demokratisk politisk process. För att en demokrati ska fungera ordentligt behövs två saker: information och representation. Konstgjorda karaktärer träffar båda sakerna.
Lösningen på problemet är ännu inte uppenbar. Vi kan försöka reglera användningen av bots - föreslagna lagar i Kalifornien kräver att bots ska identifiera sig - men detta är bara effektivt mot legitima influencer-kampanjer som annonser. Det dolda inflytandet kommer att vara mycket svårare att upptäcka. Det mest uppenbara försvaret är utveckling och standardisering av bättre autentiseringsmetoder. Om sociala nätverk är övertygade om att det finns en riktig person bakom varje konto, kommer de bättre att kunna eliminera falska personer. Men falska konton skapas redan regelbundet med data från riktiga människor utan deras kunskap eller samtycke. Vi har inte ett autentiseringssystem som skyddar integriteten och kan nå miljarder användare.
Vi kan bara hoppas att vår förmåga att identifiera konstgjorda personligheter kommer att fånga upp vår förmåga att maskera dem. Men för tillfället är angriparna alltid ett steg före.
I slutet av dagen måste alla beslut vara icke-tekniska. Vi måste erkänna begränsningarna i den politiska debatten på Internet och återigen prioritera kommunikation ansikte mot ansikte. Det är svårare att automatisera och vi vet att de människor vi pratar med är riktiga människor. Men hittills verkar denna kulturella förändring som en helt orealistisk lösning, och försök till desinformation är utbredda över hela världen och genomförs i mer än 70 länder. Detta är det normala sättet att propaganda i länder med auktoritära regimer och det blir ett sätt att genomföra en politisk kampanj.
Konstgjorda karaktärer är propagandans framtid. Och även om de kan vara ineffektiva när det gäller att föra diskussionen till en viss nämnare, kan de lätt dränka ut diskussionen helt.
BRUCE SCHNEIER är forskarstipendiat och lektor vid Harvard Kennedy School.
