Hur datorer fattar konstiga beslut
Konstgjord intelligens utvecklas så snabbt att många börjar känna ångest: om det snart kommer att kunna uppleva känslor och fatta sina egna beslut. Oavsett om det är en bot, ett autonomt fordon eller en beslutsfattare inom företag och vetenskap: konstgjord intelligens penetrerar alla områden i vårt liv och vårt samhälle. Maskinhjärnor betraktas som logiska, känslomässiga och opartiska, men praxis visar att de inte alltid bestämmer allt med ett öppet sinne.
Konstgjord intelligens är nödvändig där det är viktigt att känna igen mönster i stora datamängder och fatta beslut baserat på dem. Men i framtiden kan konstgjorda intelligenssystem också användas i områden där vårt välbefinnande och till och med våra liv direkt beror på slutsatser - inom medicin, val av jobb, i utgivande av lån och i rättvisa.
Hur objektivt och moraliskt korrekt fattar konstgjord intelligens ett beslut? Kan vi verkligen lita på maskinhjärnan för att fatta sådana potentiellt viktiga beslut?
Konstgjord intelligens används på alla områden
Även nu används adaptiva algoritmer inom många områden i vårt dagliga liv. Det finns digitala assistenter för att förstå röstkommandon och frågor. På Internet hjälper webbbots att underhålla och kontrollera webbplatser så att de är svåra att skilja från människor. Även när falska nyheter och bildmanipulationer upptäcks är konstgjorda intelligenssystem involverade.
Kampanjvideo:
AI-system gör också sitt jobb inom industri, företag och till och med myndigheter. De optimerar och kontrollerar produktionsprocesser, reglerar logistiken för containerhamnar och stora lager eller upprätthåller bokföringsregister. Försäkringsbolag och banker har redan de första intelligenta programmen för att kontrollera inlämnade ansökningar eller fatta beslut om betalningar. På Ikea, Deutsche Telekom och många andra företag, UNICEF eller bibliotek, är virtuella assistenter involverade i kundservice.
Stor mängd data behandlas för träning
Allt detta är möjligt tack vare AI-systemens förmåga att snabbt analysera enorma mängder data, att identifiera mönster och korrelationer. Till exempel lär sig algoritmen från otaliga bilder av husdjur med matchande namn. Efter en träningsperiod kan systemet välja helt nya fotografier av önskad art. Den känner igen skillnaderna på egen hand.
Många andra AI-system använder text som grund för inlärning. De bedömer sammanhanget i vilket ett ord står och studerar dess semantiska betydelse, liksom förhållanden med liknande ord eller synonymer. Dessa semantiska relationer översätter program till matematiska uttryck och lär sig till och med komplexa semantiska sammanhang.
Det är bara tack vare denna förmåga som konstgjord intelligens till exempel kan utvärdera medicinska data och medicinska journaler och dra slutsatser om kliniska bilder från dem. Baserat på dessa resultat används AI-system redan som diagnostiska hjälpmedel, de kan känna igen olika typer av cancer, tecken på Alzheimers sjukdom, självmordsförhållanden och farliga sockernivåer i diabetes.
Men lika attraktivt som det låter, mer och mer AI har en stor nackdel. Ju ytterligare artificiell intelligens penetrerar praktiskt taget alla områden i vårt samhälle, desto större blir de potentiella konsekvenserna av dess beslut. Den ekonomiska eller professionella framtiden för en person, eller till och med hans liv, beror på hans bedömning.
AI-lösningar som kan kosta liv
Om en AI till exempel feldiagnoserar i medicin utan att ifrågasättas, kan patienten genomgå fel behandling eller till och med dö. Militären använder ett autonomt vapensystem som fattar fel beslut. Till exempel kan AI inte skilja en flyktande vän från en fiende, den oskyldiga dör.
AI-algoritmer används redan vid domstolar i USA. De förutspår sannolikheten för återfall för brottslingar i domstol. Deras bedömning påverkar ofta domstolens beslut och följaktligen den dömdes straff.
Om AI beslutar om lån
På samma sätt kan ett beslut inom finans och försäkring påverka om en person får ett lån eller inte. Dessa system tränas vanligtvis med databaser.
Och här letar AI efter mönster: vilka människor brukar betala tillbaka sina lån och vilka inte? Han utvecklar sina bedömningsförfaranden och fattar lämpliga beslut. I synnerhet innebär detta att personer med fel bosättning eller yrkesort inte kommer att få lån oavsett hur mycket de är villiga att betala trots dessa omständigheter.
Med en sådan ansvarsfördelning med datorer kommer en person bara att vara en assistent för verkställandet av beslut av cyberhjärnor. Och detta händer redan.
Vem ansvarar för misstag?
Ett annat problem i utvecklingen av AI: ju mer komplexa principer för beslutsfattande, desto svårare är det för människor att förstå dem. Det väcker också frågan om vem som är ansvarig för misstag.
Olycksfall när man kör bilar på autopilot har blivit vanligare: vem har skylden för att vissa situationer inte lagras i minnet eller AI drar fel slutsatser. Eller kanske gör han sina egna slutsatser? Det finns redan sådana exempel.
Att spela bots har utvecklat sina egna regler under spelet
För denna studie tillät forskarna 100 smarta bots att interagera med varandra i ett koncessionsspel. Var och en av dem måste bestämma om de donerar något till någon från sitt lag eller till en deltagare i spelet från utsidan.
Överraskande över tid har bots blivit mer och mer uteslutna från externa grupper och bara donerat till sina teammedlemmar.
Anledningen till detta: smarta bots anpassade sin spelstrategi, kopierade beteendet hos de kamrater som samlade in mest pengar och var de mest framgångsrika. Således dök upp grupper av bots som uppträdde på samma sätt och konsekvent utesluter icke-relaterade speldeltagare. Att ständigt skapa något som beräknar, analyserar och fattar beslut snabbare än det, mänskligheten kommer en dag att förlora kontrollen över skapandet, vars handlingar den inte kan hålla reda på.
Enligt forskare är detta uppenbart: konstgjord intelligens behöver inte konstgjord data för att vara partisk, det räcker med att ha andra maskiner runt sig. För till och med detta kan skapa ett gruppsinn som är känd från mänskliga samhällen. Därför bör människor med hjälp av AI överlåta beslutet till sig själva.
Vasilik Svetlana
