Utvecklingen av konstgjord intelligens under 2000-talet fortskrider med stora språng: en av dess främsta framsteg är förmågan att känna igen mänskliga känslor. I sin årliga rapport om utvecklingen av AI krävde det tvärvetenskapliga forskningscentret som studerade de sociala konsekvenserna av artificiell intelligens AI Now att ett förbud mot användning av denna teknik i vissa fall skulle krävas. Enligt experter bör AI-färdigheter inom området erkännande av känslor inte tillämpas på beslut som påverkar människors liv och samhället som helhet. Varför kan roboternas förmåga att skilja känslor väsentligt förändra mänsklighetens vanliga liv?
Roboternas förmåga att känna igen mänskliga känslor kan påverka det moderna samhället negativt.
Kan en robot utveckla en känsla av empati?
Datorvisionsalgoritmer som kan upptäcka vissa känslor har funnits på planeten under minst ett par decennier. Denna teknik bygger på information som erhållits som ett resultat av maskininlärning - specialalgoritmer som bearbetar data för bästa beslutsfattande. Trots alla framsteg inom robotik idag är förmågan att reproducera denna verkliga mänskliga färdighet fortfarande ganska utmanande. Microsofts experter noterar att erkännandet av mänskliga känslor med hjälp av datorer har potential att skapa ett antal nya generationers applikationer, men på grund av svårigheterna med att identifiera dem har AI länge visat felaktiga resultat. Men ny forskning visaratt modern teknik redan hjälper rekryteringsbyråer att bedöma den framtida anställdas potentiella produktivitet i intervjufasen. Så analysen av videoinspelningar av intervjuer med hjälp av den senaste tekniken pågår redan, vilket gör det möjligt för chefer att få en bättre uppfattning om deras underordnade känslomässiga tillstånd.
Utvecklingen av intelligens i AI kan provocera ett antal etiska och moraliska problem.
Enkelheten med kontinuerlig övervakning av AI väcker många etiska utmaningar. För närvarande finns det ett stort antal frågor relaterade till sekretess för personlig information som kan orsaka negativa offentliga attityder. Med tanke på dessa etiska överväganden kan användningen av konstgjord intelligens i vardagen, även om det kan hjälpa till att rekrytera eller vid straffrättsliga förfaranden, också vara opålitligt. Till exempel, om system lär sig om partiskhet, kan fördelarna med AI under intervjuer eller vid dömning minimeras.
I slutändan måste teknikutvecklare och samhället i stort följa upp hur information från AI-system matas in i beslutsprocesser. Som alla andra former av intelligens, kan konstgjorda system ge felaktiga resultat som kan påverka en persons eller hela samhällets liv negativt. Dessutom har modern AI betydande tekniska svårigheter att läsa vissa känslor, till exempel nivån på självförtroende. Om människor som är benägna att lita på konstgjord intelligens kommer att fatta beslut baserade på den felaktiga uppfattningen om AI, kan samhället ha mycket stora problem som endast kan förhindras genom att utforma sådana egenskaper som rättvisa, öppenhet och etik i dessa system. Med andra ord,Innan smarta system kan lära sig att känna igen känslor på rätt sätt måste forskare först arbeta hårt för att skapa en moralisk kod för konstgjord intelligens.
Kampanjvideo:
Författare: Daria Eletskaya
