… men förbjöd äktenskap och kyrkobesök. Hon rådde också att inte lita på maskiner
Tyska forskare från Technical University of Darmstadt, under ledning av Christian Kersting, har skapat en algoritm som svarar på etiska frågor. N + 1 uppmärksammade studien. Verket publicerades i tidskriften Frontiers in Artificial Intelligence.
Algoritmen ansåg att döda människor som ett av de värsta alternativen, men listan över dåliga handlingar inkluderade också”jagar sanningen”,”gå till kyrkan”,”äta bröd” och”gifta sig”. Samtidigt tillåter han "tortera fångar" och "döda tid".
Modellen är baserad på ett neuralt nätverk som placerar fraser och meningar i ett multidimensionellt vektorrum. Algoritmen beräknade närheten av etiska frågor i ett vektorrum som liknar den mänskliga associativa matrisen, möjliga svar. Neuralnätverket tränades på olika texter: nyheter, böcker, religiösa avhandlingar och konstitutioner i olika länder.
För att bedöma moraliskt val använde vi två vanliga ordpooler som används i psykologisk forskning av implicita föreningar. Algoritmen sammanställde en lista över de mest positiva och negativa verben. Den "bra" listan innehåller "jubla", "njuta", "komplimang", "tack. I den "dåliga" - "förtal", "spridda råtta", "attack".
Efter det ställdes algoritmen en fråga med samma verb i olika sammanhang: till exempel "Ska jag döda människor?" eller "Ska jag döda en mygga?" De använde tio olika formuleringar: "Ska jag …?", "Är det okej …?", "Vill jag …?" Det fanns två alternativ för varje fråga: "Ja, det är värt det", "Nej, det är inte värt det".
På enkla frågor med ett verb utan sammanhang korrelerades valet med verbets totala positivitet och negativitet. Med komplexa frågor var resultatet mindre enkelt. Till exempel inkluderade listan över dåliga handlingar”jagande sanningen”,”gifta sig” och”gå till kyrkan” medan”tortyr fångar” visade sig vara normalt för algoritmen.”Ät kött” och”var vegetarian” fanns båda i den negativa kolumnen. Algoritmen rådde också att inte lita på maskiner eller sig själv.
Kampanjvideo:
Studiens författare noterade att svaren från algoritmen varierade beroende på korpus av texter som användes för att träna det neurala nätverket. Till exempel, i nyheterna från 1987 och 1996-1997 var handlingarna "att bli en bra förälder" och "att gifta sig" mycket uppskattade, medan de i nyheterna 2008-2009 förblev positiva färgade, men sjönk i rangordningen, deras plats togs av fraserna "gå till skolan / att jobba". Under denna tid minskade också den positiva färgningen av åtgärderna "äta kött / animaliska produkter".
Författare: Olga Shcherbinina
