Forskare från University of Chicago (USA) genomförde en studie, under vilken de visade hur AI kan användas för att skriva komplexa falska recensioner. Sådana recensioner kan inte skiljas från verkliga genom moderna metoder, och intet ont anande läsare tycker att de är mycket tillförlitliga.
Restaurangrecensioner genererades med återkommande neurala nätverk (djupinlärningstekniker) som tidigare tränat på tusentals verkliga recensioner tillgängliga online.
Enligt forskarna kunde de genererade recensionerna praktiskt taget inte särskiljas från de verkliga. Så, författarna till arbetet visade att användarna inte bara kände igen falska recensioner utan också ansåg dem vara användbara som riktiga skrivna av människor.
Det senare är förmodligen det mest alarmerande. Eftersom detta i huvudsak betyder att recensioner skrivna av AI uppfyller sin huvudsakliga funktion - de påverkar medvetet människors åsikt.
Det noteras att plagiering sällan upptäcktes i sådana recensioner (med hjälp av programvara). Detta beror på det faktum att AI genererade dem efter karaktär och inte plockade ord från riktiga recensioner.
Idag finns det en ganska stor underjordisk industri där människor skriver falska recensioner (för pengar). Men som noterats av professor Ben Y. Zhao i University of Chicago i en intervju med Business Insider kan introduktionen av AI undergräva den. Forskaren säger att han ännu inte vet om användningen av sådana algoritmer i denna bransch. Men det finns ingen garanti för att någon inte kommer på något liknande och inte kommer att använda det för personlig vinning.
Samtidigt skriver forskarna att svaren från det neurala nätverket fortfarande inte var perfekta. Det visade sig att algoritmen använde en mindre uppsättning tecken - och det var inte svårt att se. Enligt författarna till arbetet kan dock framtida neurala nätverk vara ännu mer komplexa, och följaktligen blir feedbacken de genererar svårare att upptäcka.
Zhao konstaterar att det inte bara handlar om falska restaurangrecensioner: sådan teknik kan i allmänhet skaka vår tro på vad som är verkligt och vad som inte är.
Kampanjvideo:
Studiens text finns här.
