Vi lever i en guldålder av vetenskaplig information, omgiven av stora reserver av genetisk information, medicinsk avbildning och astronomiska data. De nuvarande kapaciteterna för maskininlärningsalgoritmer gör det möjligt för konstgjord intelligens att studera dessa data så snabbt och samtidigt mycket noggrant, vilket ofta öppnar dörren för potentiellt nya vetenskapliga upptäckter. Vi bör dock inte blint lita på resultaten av vetenskaplig forskning som bedrivs av AI, säger Rice University-forskare Genever Allen. Åtminstone inte på den nuvarande utvecklingsnivån för denna teknik. Enligt forskaren ligger problemet i det faktum att moderna AI-system inte har förmågan att kritiskt bedöma resultaten av deras arbete.
Enligt Allen kan AI-system som använder maskininlärningsmetoder, det vill säga när inlärning sker i processen att tillämpa lösningar på många liknande problem, och inte bara genom att införa och följa nya regler och förordningar, lita på att fatta några beslut. Mer exakt är det ganska möjligt att tilldela AI uppgifter för att lösa problem inom de områden där det slutliga resultatet enkelt kan kontrolleras och analyseras av personen själv. Som exempel kan vi ta, säga, räkna antalet kratrar på månen eller förutsäga efterskäl efter en jordbävning.
Allmänheten och effektiviteten hos mer komplexa algoritmer som används för att analysera mycket stora mängder data för att hitta och bestämma tidigare okända faktorer eller förhållanden mellan olika funktioner "är mycket svårare att verifiera", konstaterar Allen. Således kan omöjligt att verifiera de data som matchas av sådana algoritmer leda till felaktiga vetenskapliga slutsatser.
Ta till exempel precisionsmedicin, där specialister analyserar patientmetadata för att hitta specifika grupper av människor med liknande genetiska egenskaper för att utveckla effektiva behandlingar. Vissa AI-program som är utformade för att sikta genom genetiska data är verkligen effektiva för att identifiera grupper av patienter med liknande predisposition, till exempel för att utveckla bröstcancer. De visar sig dock vara ineffektiva när det gäller att identifiera andra typer av cancer, till exempel kolorektal. Varje algoritm analyserar uppgifterna på olika sätt, så när man kombinerar resultaten kan det ofta uppstå en konflikt i klassificeringen av patientprovet. Detta i sin tur får forskare att undra över vilken AI som i slutändan litar på.
Dessa motsägelser uppstår på grund av att algoritmer för dataanalys är utformade på ett sådant sätt att de följer instruktionerna i dessa algoritmer, som inte lämnar utrymme för beslutsamhet, osäkerhet, förklarar Allen.
Forskare gillar inte osäkerhet. Traditionella metoder för att bestämma mätosäkerheter är dock utformade för de fall där det krävs att analysera data som har valts speciellt för att utvärdera en viss hypotes. Så här fungerar inte AI-program för datalagring. Dessa program drivs inte av någon vägledande idé och analyserar bara datasätt som samlats in utan något särskilt specifikt syfte. Därför utvecklar många AI-forskare, inklusive Allen själv, nu nya protokoll som gör det möjligt för nästa generations AI-system att utvärdera deras upptäckts noggrannhet och reproducerbarhet.
Kampanjvideo:
Forskaren förklarar att en av de nya gruvmetoderna kommer att baseras på begreppet resampling. Om till exempel ett AI-system är tänkt att göra en viktig upptäckt, till exempel identifierar grupper av patienter som är kliniskt viktiga för forskning, bör denna upptäckt visas i andra databaser. Det är mycket kostsamt för forskare att skapa nya och större datasätt för att validera AI-sampling. Därför är det enligt Allan möjligt att använda en metod där "det befintliga datasättet kommer att användas, där informationen blandas slumpmässigt på ett sådant sätt att den efterliknar en helt ny databas." Och om AI om och om igen kan bestämma de karakteristiska egenskaperna som gör det möjligt att utföra den nödvändiga klassificeringen,”kommer det att vara möjligt att övervägaatt du har en riktigt verklig upptäckt i dina händer, tillägger Allan.
Nikolay Khizhnyak
