Forskare vid Massachusetts Institute of Technology (MIT) har utvecklat en teknik för att lura textanalyser av konstgjord intelligens (AI), rapporterade Wired Feb.23.
Forskare har märkt att en liten förändring i en fras, som är förståelig för en person, kan lura AI. De utvecklade en algoritm för att ersätta ord med synonymer och lura AI: s igenkänningstext. Nyansen är att den attackerande algoritmen själv använder AI för att välja synonymer.
Som ett exempel är frasen "Karaktärerna, gjutna i omöjligt förvirrade situationer, helt fristående från verkligheten." ("Karaktärer spelade i otroligt motstridiga situationer är helt i kontakt med verkligheten"), vilket är en negativ recension av filmen.
Om vi ersätter orden i det med synonymer, då frasen "Karaktärerna, gjutna i omöjligt konstruerade omständigheter, är helt fristående från verkligheten" ("Karaktärer spelade under otroligt skickliga omständigheter är helt skilda från verkligheten"), anser AI att recensionen är positiv.
Andra typer av AI-system kan också bli lurade; i detta fall demonstrerades sårbarheterna främst i bild- och taligenkänningssystem.
Forskarna noterade att sådana subtila förvrängningar av data kan lura AI och användas för att attackera system, vilket blir betydande när AI sprider sig inom områdena finans, hälsovård och andra.
