Forskare och programmerare har slutat förstå hur artificiell intelligens fattar beslut. Detta problem tillkännagavs av flera specialister vid huvudkonferensen för AI - Neural Information Processing Systems - som hölls i Long Beach (Kalifornien).
Experter som intervjuats av Quartz säger att de måste agera innan systemet blir för komplicerat.
"Vi vill inte fatta AI-beslut för givet utan att förstå deras logik," säger Jason Yosinski från Uber. "För att samhället ska acceptera maskininlärningsmodeller måste vi veta hur AI kommer fram till vissa slutsatser."
Problemet som många experter kallar”den svarta rutan” är verkligen allvarligt. Tidigare erfarenheter har visat att AI har en tendens att fatta partiska beslut och dra analogier där de inte borde. Eftersom neurala nätverk idag gradvis infiltrerar brottsbekämpning, sjukvårdssystemet, vetenskaplig forskning och algoritmerna som avgör vad du ser på ditt Facebook-nyhetsflöde, kan AI-fel vara mycket kostsamt.
Som exempel citerar Kiri Wagstaff, en AI-expert på Jet Propolusion Lab (NASA), ett uppdrag till Mars. Enheterna ligger 200 mil miles från jorden och kostar hundratals miljoner dollar, så alla fel i AI: s arbete är helt enkelt oacceptabla.
”Människor behöver veta vad AI gör och varför. Annars, hur kan de lita på honom för att kontrollera dyr utrustning?”Säger Wagstaff.
Just nu arbetar forskaren med en algoritm som sorterar bilder tagna av olika NASA-rymdskepp. Eftersom antalet bilder är i miljoner låter datorn dig sortera och markera de mest intressanta bilderna utan att spendera en enorm tid på denna process. Problemet ligger dock i det faktum att ofta bara AI ensam vet varför vissa bilder den väljer är ovanliga.
Således avslutar Wagstaff, om det finns ett fel i denna algoritm, en dag kan det missa mycket viktig information.
Kampanjvideo:
”I grund och botten ger datorn en bild och säger:" Se, det här är intressant. " Men du kan inte alltid förstå varför det är intressant: på grund av färg, form på objekt eller deras plats i rymden - du vet förmodligen inte detta, säger forskaren.
Hannah Wallach, seniorforskare på Microsoft, håller med om sina kollegas slutsatser.
”När maskininlärning blir mer utbredd och insatserna ökar kan vi inte längre se dessa system som svarta rutor. Vi måste förstå vad som händer inuti dem och vad de gör, säger forskaren.
Forskare försöker lyckligtvis hitta metoder för att förstå logiken för konstgjord intelligens. Således presenterade Google-forskaren Mitra Raghu en rapport som beskriver processen för att spåra åtgärderna för enskilda "neuroner" i ett neuralt nätverk. Genom att analysera miljoner operationer kunde hon ta reda på vilka av de konstgjorda "neuronerna" som fokuserade på missuppfattningar och stänga av dem. Detta bevisar att det inte är en sådan omöjlig uppgift att översätta neurala nätverk till en form som är tillgänglig för mänsklig förståelse.
Ett annat alternativ för att lösa problemet är att regelbundet testa de färdigheter som utvecklats av artificiell intelligens.
"Det är som skollärare som ber barn att återigen berätta om vad de förstod från lärarens förklaring," säger Wagstaff.
Med det sagt är vikten av att förstå internalen i algoritmen inte bara för att förhindra att en hypotetisk rover faller från en Martian rock; inser vad felet är, kan du göra befintliga system ännu bättre.
"Om ditt system inte fungerar och du inte vet varför, är det väldigt svårt att göra något åt det," säger Yosinski. "Om du vet vad som hände kan situationen alltid korrigeras."
Begagnade material från webbplatsen hightech.fm
