Redigerade videor visas på Internet där människor säger vissa ord (även om de inte faktiskt sa dem) eller utför några åtgärder (även om de inte faktiskt gjorde dem). Tack vare nyutvecklingen baserad på konstgjord intelligens kommer kvaliteten på sådana videofalsningar att öka avsevärt.
Idag är tekniker för att skapa falska videor inte begränsade till rörelserna hos en persons läppar och ansikte i de ursprungliga ramarna - ett konstgjord intelligensbaserat system kan förbereda en realistisk video, där en redigerad digital bild av en person kan flytta huvudet i olika riktningar, blinka och visa känslor. Alla handlingar och ord från skådespelaren som filmats i den ursprungliga videon kommer att överföras till den falska videon.
Utvecklingsteamet jämförde den nya algoritmen med befintliga video- och fotomanipuleringssystem som Facebook och Google är involverade i. Den nya algoritmen överträffade befintliga tekniker, och deltagarna i experimentet kunde knappast bestämma filmernas äkthet.
Forskarna finansierades delvis av Google. Skaparna av systemet hoppas att den nya tekniken kommer att förbättra den virtuella verkligheten. AI behöver bara studera några minuter av källmaterialet för att börja skapa en modifierad video. Därför hävdar forskarna att högkvalitativ videoredigeringsprogramvara blir mer prisvärd.
Utvecklarna förstår att deras uppfinning kan ge upphov till vissa bekymmer i samhället.
Forskaren Justus Tees berättade för registeret att han var orolig för frågeställningens etiska sida. Resultaten av studien publicerades för att varna människor för framsteg inom manipulationstekniker, sade Tees.
Forskare återigen "varnade för faran", men fortsatte att förbättra den misstänkta tekniken. I studiens text nämndes den etiska frågan bara i förbigående: utvecklarna anser att någon borde förbättra vattenmärkesystemet eller komma med ett annat sätt att upptäcka förfalskningar av video.
Forskarna själva vill inte ta itu med den här frågan, eftersom de är upptagna med att förbättra verktyget för att skapa falska videor.
Kampanjvideo:
Anton Komarov
