Klíčové poznatky
- Nový výzkum vědců z MIT ukazuje způsob, jak zabudovat neuronové sítě do malých zařízení.
- MCUNet umožňuje hluboké učení na systémech s omezeným výpočetním výkonem a pamětí.
- Inovace by také mohla umožnit chytřejší a agilnější lékařské přístroje.
Chytré reproduktory a další zařízení, která tvoří internet věcí (IoT), by jednoho dne mohly využít výkon neuronové sítě, aby toho dokázaly více s méně, říkají vědci.
Nový systém nazvaný MCUNet umožňuje navrhovat malé neuronové sítě na zařízeních IoT, a to i s omezenou pamětí a výpočetním výkonem. Podle článku vědců z MIT zveřejněného na předtiskovém serveru Arxiv by tato technologie mohla přinést nové možnosti do chytrých zařízení a zároveň šetřit energii a zlepšit zabezpečení dat.
Výzkum „je jedním z těch skvělých nápadů, které se zdají samozřejmé, když ho slyšíte,“řekl v e-mailovém rozhovoru John Suit, poradce CTO v robotické společnosti KODA. "Je to elegantní přístup k problému. Tento výzkum je tak významný, protože nakonec umožní optimalizaci neuronových sítí v reálném čase pro jakékoli zařízení, kde mohou být zdroje známy algoritmu."
To skutečně ukazuje, že síla nemusí být vázána na velikost..
Velké výpočty na malých zařízeních
Zařízení IoT obvykle běží na počítačových čipech bez operačního systému, takže je obtížné spouštět úlohy rozpoznávání vzorů, jako je hluboké učení. Pro intenzivnější analýzu se data shromážděná internetem věcí často zpracovávají v cloudu, i když jsou zranitelná vůči hackerům.
Je toho hodně, co by neuronové sítě mohly udělat pro zvýšení rostoucího počtu zařízení IoT, ale problémem byla velikost.
„Aby bylo možné přesunout sítě dolů do samotného zařízení, což se ukázalo jako obtížné, museli byste najít způsob, jak optimalizovat vyhledávací prostor pro různé mikrokontroléry,“vysvětlil Suit. "Standardní nebo obecný systém by nefungoval kvůli tolerancím prostředků na zařízeních IoT. Myslete na procesory s velmi nízkou spotřebou a velmi malými procesory, pokud jde o výpočetní výkon."
Tam přichází práce výzkumníků z MIT.
"Jak nasadíme neuronové sítě přímo na tato malá zařízení?" hlavní autor studie, Ji Lin, Ph. D. student na katedře elektrotechniky a informatiky MIT, uvedl v tiskové zprávě. „Je to nová oblast výzkumu, která se velmi ohřívá. Společnosti jako Google a ARM pracují tímto směrem."
TinyEngine to the Rescue
Skupina MIT navrhla dvě komponenty nezbytné pro provoz neuronových sítí na mikrokontrolérech. Jednou částí je TinyEngine, který je podobný operačnímu systému, ale omezuje kód na to nejnutnější. Dalším je TinyNAS, vyhledávací algoritmus neuronové architektury.
„Máme mnoho mikrokontrolérů, které přicházejí s různými kapacitami napájení a různou velikostí paměti,“řekl Lin. "Takže jsme vyvinuli algoritmus [TinyNAS] k optimalizaci vyhledávacího prostoru pro různé mikrokontroléry. Přizpůsobená povaha TinyNAS znamená, že dokáže generovat kompaktní neuronové sítě s nejlepším možným výkonem pro daný mikrokontrolér - bez zbytečných parametrů. Poté dodáme finální, efektivní model pro mikrokontrolér."
Je to elegantní přístup k problému.
Linova práce by mohla vést k výrobě chytřejších a agilnějších lékařských zařízení.
„Toto skutečně ukazuje, že síla nemusí být vázána na velikost, a v nemocnicích, kde se vše pohybuje rychle ve stísněných prostorách, to může doslova znamenat rozdíl mezi životem a smrtí,“Kevin Goodwin, Generální ředitel společnosti EchoNous, která vyrábí zdravotnická zařízení s podporou umělé inteligence, řekl v e-mailovém rozhovoru.
Goodwin řekl, že jeho tým strávil roky budováním a trénováním neuronové sítě, kterou by pak bylo možné použít k mapování srdečních struktur při ultrazvukovém skenování v reálném čase – to vše v ručním zařízení zvaném KOSMOS, které váží méně než dvě libry.
„Lékaři se nyní mohou snadno pohybovat z místnosti do místnosti a získávat skeny v diagnostické kvalitě s vedením AI,“dodal. "Nemusí posílat pacienty jinam na tato skenování nebo ztrácet kritický čas dezinfekcí strojů na vozíku."
MCUNet je vzrušující pohled na svět, kde mohou být malé přístroje chytřejší než kdy dříve. Vzhledem k tomu, že počet zařízení IoT rychle roste, budeme hledat vše od chytrých zařízení po lékařská zařízení, abychom měli vlastní neuronové sítě.