Key takeaways
- Ny forskning från MIT-forskare pekar på vägen för att passa in neurala nätverk i små enheter.
- MCUNet tillåter djupinlärning på system med begränsad processorkraft och minne.
- Innovationen kan också möjliggöra smartare och smidigare medicinsk utrustning.
Smarta högtalare och andra enheter som utgör Internet of Things (IoT) skulle en dag kunna få det neurala nätverkskraften att göra mer med mindre, säger forskare.
Ett nytt system som heter MCUNet tillåter design av små neurala nätverk på IoT-enheter, även med begränsat minne och processorkraft. Enligt en artikel från MIT-forskare publicerad på preprint-servern Arxiv, kan tekniken ge nya möjligheter till smarta enheter samtidigt som den sparar energi och förbättrar datasäkerheten.
Undersökningen "är en av de briljanta idéerna som verkar uppenbara när du hör den", sa John Suit, rådgivande CTO på robotföretaget KODA, i en e-postintervju. "Det är ett elegant förhållningssätt till problemet. Den här forskningen är så betydelsefull eftersom de så småningom kommer att möjliggöra re altidsoptimering av neurala nätverk för alla enheter där resurserna kan kännas till algoritmen."
Vad detta verkligen visar är att kraften inte behöver vara bunden till storlek..
Stora beräkningar på små enheter
IoT-enheter körs vanligtvis på datorchips utan operativsystem, vilket gör det svårt att köra mönsterigenkänningsuppgifter som djupinlärning. För mer intensiv analys bearbetas IoT-insamlad data ofta i molnet, även om den är sårbar för hacking.
Det finns mycket som neurala nätverk kan göra för att förbättra det växande antalet IoT-enheter, men storleken har varit ett problem.
"För att flytta ner nätverken till själva enheten, vilket har visat sig vara svårt, måste du hitta ett sätt att optimera sökutrymmet för en mängd olika mikrokontroller", förklarade Suit. "Ett standardsystem eller generiskt system skulle inte fungera på grund av resurstoleranserna på IoT-enheter. Tänk mycket låg effekt, mycket små processorer när det gäller processorkraft."
Det är där MIT-forskarnas arbete kommer in.
"Hur distribuerar vi neurala nät direkt på dessa små enheter?" studiens huvudförfattare, Ji Lin, en Ph. D. student vid MIT:s avdelning för elektroteknik och datavetenskap, sa i ett pressmeddelande. "Det är ett nytt forskningsområde som blir väldigt hett. Företag som Google och ARM arbetar alla i den här riktningen."
TinyEngine to the Rescue
MIT-gruppen designade två komponenter som är nödvändiga för driften av neurala nätverk på mikrokontroller. En del är TinyEngine, som liknar ett operativsystem, men rensar ner koden till det väsentliga. En annan är TinyNAS, en sökalgoritm för neural arkitektur.
"Vi har många mikrokontroller som kommer med olika strömkapacitet och olika minnesstorlekar", sa Lin. "Så vi utvecklade algoritmen [TinyNAS] för att optimera sökutrymmet för olika mikrokontroller. Den anpassade karaktären hos TinyNAS innebär att den kan generera kompakta neurala nätverk med bästa möjliga prestanda för en given mikrokontroller - utan onödiga parametrar. Sedan levererar vi den slutliga, effektiv modell till mikrokontrollern."
Det är en elegant inställning till problemet.
Lins arbete kan översättas till att göra smartare och smidigare medicinsk utrustning.
"Vad detta verkligen visar är att makt inte behöver vara bunden till storlek, och på sjukhus, där allt rör sig snabbt i trånga utrymmen, kan det bokstavligen betyda skillnaden mellan liv och död," Kevin Goodwin, VD för EchoNous, ett företag som tillverkar AI-stödd medicinsk utrustning, sa i en e-postintervju.
Goodwin sa att hans team ägnade flera år åt att bygga och träna ett neur alt nätverk som sedan kunde användas för att kartlägga hjärtstrukturer i en ultraljudsskanning i re altid - allt i en handhållen enhet som heter KOSMOS som väger under två pund.
"Nu kan läkare enkelt flytta från rum till rum och få skanningar av diagnostisk kvalitet med AI-vägledning", tillade han. "De behöver inte skicka patienter någon annanstans för dessa skanningar eller förlora kritisk tid när de desinficerar vagnbaserade maskiner."
MCUNet är en spännande titt på en värld där små prylar kan vara smartare än någonsin. Eftersom antalet IoT-enheter växer snabbt kommer vi att leta efter allt från smarta apparater till medicinsk utrustning för att ha sina egna neurala nätverk.
