Vi väntar alla på det ögonblick då konstgjord intelligens, program, teknik lär sig att göra praktiskt samma sak, då är vi det. Det här är helt riktigt. Men hittills är det få som tror att den här processen inte kommer att vara densamma för maskiner och människor.
Till exempel upptäckte en grupp forskare från Kyushu University ett sätt att lura mönsterigenkänningsprogram genom att ändra en enda pixel i en bild. Denna pixel är placerad på ett sådant sätt att den förvirrar de nervnätverk som är ansvariga för identifiering, och de börjar misstaga hundar för katter och hästar för bilar.
Testbilderna var begränsade till bara tusen pixlar, men för högre upplösningar och miljoner pixlar fungerar regeln också. Det är bara nödvändigt att inte byta en pixel utan flera hundra.
Den andra gruppen forskare, denna gång från Massachusetts Institute of Technology, lyckades gå ännu längre. De kunde skriva ut en skulptur av en sköldpadda med en 3D-skrivare, som programmet, även från alla sidor och från alla vinklar, tog det för en gevär. Detta experiment utgör ett mycket större problem för bildigenkänningsteknologi, eftersom det hela hände i verkligheten, och programmet fick analysera objektet från alla vinklar, men det bestämde fortfarande inte dess riktiga form.
Tillsammans visar båda studierna hur robotar och program måste resa innan de når mänsklig nivå. När allt kommer omkring kan våra hjärnor inte luras genom att ersätta en till och med hundra pixlar.
Det enda synd är att källorna inte ger en förklaring av hur det visar sig lura programmet. Vad tror du? Vad är hemligheten med "trasiga pixlar" och hur kan du fuska med en 3D-modell?
Nikolay Kudryavtsev
Kampanjvideo: