Neurala nätverk är kraftfulla saker, men väldigt gluggiga. Ingenjörer vid Massachusetts Institute of Technology (MIT) har lyckats utveckla ett nytt chip som sänker energiförbrukningen i neuralnätet med 95%, vilket i teorin kan tillåta dem att arbeta även på mobila enheter med batterier. Smartphones blir smartare och smartare i dag och erbjuder fler AI-drivna tjänster som virtuella assistenter och realtidsöversättningar. Men vanligtvis behandlar neurala nätverk data för dessa tjänster i molnet, och smartphones överför bara data fram och tillbaka.
Detta är inte idealiskt eftersom det kräver en tjock kommunikationskanal och antar att känslig data överförs och lagras utanför användarens räckvidd. Men de kolossala mängder energi som krävs för att driva nervnätverk som drivs med GPU: er kan inte tillhandahållas i en enhet som drivs av ett litet batteri.
MIT-ingenjörer har utvecklat ett chip som kan minska denna energiförbrukning med 95%. Chipet minskar drastiskt behovet av att överföra data fram och tillbaka mellan chipets minne och processorerna.
Neurala nätverk består av tusentals sammankopplade konstgjorda neuroner arrangerade i lager. Varje neuron får input från flera nervceller i det underliggande lagret, och om den kombinerade ingången passerar en viss tröskel överför den resultatet till flera neuroner ovan. Styrken i sambandet mellan neuroner bestäms av vikten som fastställs under träningsprocessen.
Detta betyder att chipet för varje neuron måste extrahera ingången för en specifik anslutning och vikten av anslutningen från minnet, multiplicera dem, lagra resultatet och sedan upprepa processen för varje ingång. Mycket data reser hit och dit, och mycket energi slösas bort.
Det nya MIT-chipet eliminerar detta genom att beräkna alla ingångar parallellt i minnet med hjälp av analoga kretsar. Detta minskar avsevärt mängden data som måste förbi och resulterar i betydande energibesparingar.
Detta tillvägagångssätt kräver att anslutningarnas vikt är binär, inte ett intervall, men tidigare teoretiskt arbete har visat att detta inte kommer att påverka noggrannheten i stort, och forskarna fann att resultaten från chipet skilde sig med 2-3% från den vanliga versionen av det neurala nätverket på en vanlig dator.
Detta är inte första gången forskare skapar chips som bearbetar processer i minnet, vilket minskar strömförbrukningen i ett neuralt nätverk, men det är första gången denna strategi har använts för att driva ett kraftfullt neuralt nätverk känt för dess bildbehandling.
Kampanjvideo:
"Resultaten visar imponerande specifikationer för energieffektiv implementering av rullande operationer inom ett minnesfält," säger Dario Gil, vice president för artificiell intelligens hos IBM.
"Detta öppnar definitivt möjligheterna att använda mer sofistikerade invandrade neurala nätverk för att klassificera bilder och videor på Internet of Things i framtiden."
Och detta är intressant inte bara för FoU-grupper. Lusten att sätta AI på enheter som smartphones, hushållsapparater och alla typer av IoT-enheter driver många i Silicon Valley mot lågeffektchips.
Apple har redan integrerat sin Neural Engine i iPhone X för att driva, till exempel, ansiktsigenkänningsteknik, och Amazon ryktes att utveckla sina egna AI-chips för nästa generation av Echo digitala assistenter.
Stora företag och chiptillverkare litar också allt mer på maskininlärning, vilket tvingar dem att göra sina enheter ännu mer energieffektiva. Tidigare i år introducerade ARM två nya chips: Arm Machine Learning-processorn, som hanterar allmänna AI-uppgifter från översättning till ansiktsigenkänning, och Arm Object Detection-processorn, som till exempel upptäcker ansikten i bilder.
Qualcomms senaste mobilchip, Snapdragon 845, har en GPU och är kraftigt AI-driven. Företaget avslöjade också Snapdragon 820E, som borde fungera i drönare, robotar och industriella enheter.
Framöver utvecklar IBM och Intel neuromorfiska chips med arkitektur inspirerad av den mänskliga hjärnan och otrolig energieffektivitet. Detta kan teoretiskt göra det möjligt för TrueNorth (IBM) och Loihi (Intel) att utföra kraftfull maskininlärning med bara en bråkdel av kraften hos konventionella chips, men dessa projekt är fortfarande mycket experimentella.
Det kommer att vara mycket svårt att tvinga chips som ger liv till nervnätverk för att spara batterikraft. Men i den nuvarande innovationstakten ser denna "mycket svåra" ganska genomförbar ut.
Ilya Khel