Energiskördande teknik ger en lovande plattform för framtida IoT-tillämpningar. Men eftersom kommunikation är mycket dyrt i dessa apparater, applikationer kommer att kräva slutsatsen "bortom kanten" för att undvika att slösa värdefull energi på meningslös kommunikation. Vi visar att applikationsprestanda är mycket känslig för inference noggrannhet. Tyvärr kräver exakt slutledning stora mängder beräkning och minne, och energibärgningssystem är hårt resursbefruktade. Dessutom fungerar energiskördande system intermittent och drabbas ofta av strömavbrott som korrumperar resultat och hindrar framsteg framåt. I detta dokument övervinns dessa utmaningar för att presentera den första fullskaliga demonstrationen av DNN:s slutsatser om ett energiskördssystem. Vi designar och implementerar Sonic, ett intermittence-aware mjukvarusystem med specialiserat stöd för DNN inference. Sonic introducerar loop fortsättning, en ny teknik som dramatiskt minskar kostnaden för att garantera korrekt intermittent utförande för loop-tunga kod som DNN inference. För att bygga ett komplett system presenterar vi ytterligare GENESIS, ett verktyg som automatiskt komprimerar nätverk för att optimalt balansera inference noggrannhet och energi, och TAILS, som utnyttjar SIMD hårdvara som finns i vissa mikrokontroller för att förbättra energieffektiviteten. Både Sonic & TAILS garanterar korrekt intermittent utförande utan någon hand-tuning eller prestandaförlust över olika kraftsystem. Över tre neurala nätverk på en kommersiellt tillgänglig microcontroller, Sonic & TAILS minska inference energi med 6,9× respektive 12,2×, över state-of-the-art. CCS-koncept • Datorsystem organisation → Inbäddad programvara.
Sonic REF använder komprimerade neurala nätverk för att utföra slutledning på en TI-MSP430FR5994 mikrocontroller.
Intelligence Beyond the Edge: Inference on Intermittent Embedded Systems
{'venue': None, 'journal': 'Proceedings of the Twenty-Fourth International Conference on Architectural Support for Programming Languages and Operating Systems', 'mag_field_of_study': ['Computer Science']}