En ny studie har visat att manifestation av fördomar gentemot andra inte kräver mycket intelligens och lätt kan utvecklas i konstgjorda intelligenta maskiner.
Psykologer och specialister inom informationsteknologi vid University of Cardiff och MIT har visat att grupper av autonoma maskiner kan uppvisa fördomar genom att helt enkelt definiera sådant beteende, kopiera det och ömsesidigt undervisa det.
Det kan tyckas att fördomar är ett rent mänskligt fenomen som kräver mänsklig intelligens för att bilda åsikter eller stereotyper om en person eller grupp. Även om vissa typer av datoralgoritmer redan har visat fördomar som rasism och sexism baserat på studier av offentliga register och andra data som genererats av människor, visar nytt arbete AI: s förmåga att självständigt utveckla grupper med fördomar.
Forskningen publiceras i Scientific Reports. Det är baserat på datorsimuleringar av hur partiska virtuella agenter kan bilda grupper och interagera med varandra. Under simuleringen fattar varje individ ett beslut om att hjälpa någon från sin grupp eller från en annan, beroende på den individens rykte, liksom hans egen strategi, som inkluderar deras nivåer av fördomar gentemot utomstående. Efter att ha genomfört tusentals simuleringar lär sig varje individ nya strategier genom att kopiera andra - oavsett om de är medlemmar i sin egen grupp eller hela "befolkningen".
Den relativa kumulativa frekvensen för agens egenskaper med fördomarnivån / Roger M. Whitaker.
"Efter att ha kört dessa simuleringar tusentals gånger i rad började vi förstå hur förspänning utvecklas och vilka förhållanden som krävs för att odla eller förhindra det," sa studiens medförfattare professor Roger Whitaker vid Institute for Crime and Security Research och School of Computer Science and Computer Science vid Cardiff University.”Våra simuleringar visar att partiskhet är en kraftfull naturkraft och genom evolution kan den stimuleras i virtuella befolkningar att skada bredare kontakter med andra. Skydd mot fördomade grupper kan oavsiktligt leda till bildandet av andra fördomade grupper, vilket provocerar en större delning av befolkningen. Sådana utbredda fördomar är svåra att vända.”
Forskningsuppgifterna inkluderar också individer som ökar sina nivåer av partiskhet genom att företrädesvis kopiera de som får de bästa kortsiktiga resultaten, vilket i sin tur innebär att sådana beslut inte nödvändigtvis kräver särskilda förmågor.
"Det är helt troligt att autonoma maskiner, som kan identifiera sig med diskriminering och kopiera andra, i framtiden kan vara mottagliga för fenomenen med fördomar som vi ser i samhället," fortsätter professor Whitaker.”Många AI-utvecklingar som vi ser idag involverar autonomi och självkontroll, det vill säga att enheternas beteende påverkas också av de omgivande. Nya exempel inkluderar transport och tingenes internet. Vår forskning ger en teoretisk inblick i var simulerade agenter regelbundet vänder sig till andra för resurser."
Kampanjvideo:
Forskarna fann också att under vissa förhållanden, inklusive närvaron av mer uppdelade underpopulationer i samma samhälle, är partiskhet svårare att förstärka.
”Med ett stort antal subpopulationer kan opartiska gruppföreningar samarbeta utan att utnyttjas. Det minskar också deras minoritetsstatus samtidigt som de minskar deras mottaglighet för att upprätta partiskhet. Detta kräver emellertid också omständigheter där agenter är mer fördelaktiga mot interaktioner utanför deras grupp,”avslutade professor Whitaker.
Vladimir Guillen