Djupinlärning är ett lovande tillvägagångssätt för att extrahera korrekt information från rå sensordata från IoT-enheter som används i komplexa miljöer. På grund av dess flerskiktsstruktur är djupt lärande också lämpligt för den egg computing miljön. Därför, i den här artikeln, introducerar vi först djupt lärande för sakernas internet i kanten datormiljö. Eftersom befintliga edge noder har begränsad bearbetningskapacitet, utformar vi också en ny offloading strategi för att optimera prestandan för IoT djupt lärande applikationer med egg computing. I prestandautvärderingen testar vi prestandan av att utföra flera djupinlärningsuppgifter i en egg computing-miljö med vår strategi. Utvärderingsresultaten visar att vår metod överträffar andra optimeringslösningar på djupt lärande för sakernas internet. Under de senaste åren har djupinlärning blivit en viktig metod inom många informatikområden såsom synigenkänning, bearbetning av naturligt språk och bioinformatik [1, 2]. Djupt lärande är också ett starkt analytiskt verktyg för enorma mängder data. I Internet of Things (IoT), ett öppet problem är hur man tillförlitligt minera verkliga IoT-data från en bullrig och komplex miljö som förvirrar konventionella maskininlärning tekniker. Djupt lärande anses vara det mest lovande sättet att lösa detta problem [3]. Djupt lärande har införts i många uppgifter relaterade till sakernas internet och mobila applikationer med uppmuntrande tidiga resultat. Till exempel kan djupt lärande exakt förutsäga elförbrukningen i hemmet med de data som samlas in av smarta mätare, vilket kan förbättra elförsörjningen av smarta elnät [4]. På grund av dess höga effektivitet i att studera komplexa data, djupt lärande kommer att spela en mycket viktig roll i framtida IoT-tjänster. Edge computing är en annan viktig teknik för IoT-tjänster [5] [6] [7]. På grund av dataöverföring med begränsad nätverksprestanda blir den centraliserade molndatastrukturen ineffektiv för behandling och analys av enorma mängder data som samlas in från IoT-enheter [8, 9]. Som kant computing offloads datoruppgifter från det centraliserade molnet till kanten nära IoT-enheter, överförs data är enormt minskas av förbehandlingsprocedurer. Således, i den här artikeln, introducerar vi djupt lärande för sakernas internet i kanten datormiljö för att förbättra lärande prestanda samt för att minska nätverkstrafiken. Vi formulerar en elastisk modell som är kompatibel med olika djupinlärningsmodeller. Således, på grund av de olika mellanliggande datastorlek och förbehandling overhead av olika djupinlärningsmodeller, anger vi ett schemaläggningsproblem för att maximera antalet djupinlärningsuppgifter med den begränsade nätverksbandbredd och servicekapacitet kant noder. Vi försöker också att garantera kvaliteten på tjänsten (QoS) för varje djupinlärningstjänst för sakernas internet i schemaläggningen. Vi designar offline och online schemaläggning algoritmer för att lösa problemet. Vi utför omfattande simuleringar med flera djupinlärningsuppgifter och givna edge computing-inställningar. De experimentella resultaten visar att vår lösning överträffar andra optimeringsmetoder för djupt lärande för sakernas internet. De viktigaste bidragen i denna artikel sammanfattas på följande sätt. Vi introducerar först djupinlärning för IoT i egg computing-miljön. Såvitt vi vet är detta ett innovativt arbete med fokus på djupinlärning för sakernas internet med kantdator. Vi formulerar en elastisk modell för varierande djupinlärningsmodeller för IoT in edge computing. Vi utformar också en effektiv online-algoritm för att optimera servicekapaciteten hos eggdatormodellen. Slutligen testar vi djupt lärande modellen för IoT med omfattande experiment i en given kant computing miljö. Vi jämför också vår edge computing-metod med traditionella lösningar. Resten av denna artikel kan beskrivas relAted arbete I detta avsnitt introducerar vi först relaterade tekniker om djupt lärande för sakernas internet och sedan diskutera kant computing och djupt lärande. Djupt lärande håller på att bli en ny teknik för IoT-tillämpningar och IoT-system. Den viktigaste fördelen med djupt lärande över maskininlärning är bättre prestanda med stor dataskala eftersom många IoT-tillämpningar genererar en stor mängd data för bearbetning. En annan fördel är att djupinlärning automatiskt kan ta fram nya funktioner för olika problem. Vid bearbetningen av multimediainformation, prestandan av traditionell maskininlärning beror på exaktheten av de funktioner som identifieras och extraheras. Eftersom den just kan lära sig funktioner på hög nivå som mänskliga ansikten i bilder och språkord i röster, kan djupt lärande förbättra effektiviteten i behandlingen av multimediainformation. Under tiden tar djupt lärande mycket mindre tid att sluta sig till information än traditionella maskininlärningsmetoder. Därför ger utvecklingen av IoT-enheter och teknik förutsättningar för komplexa djupinlärningsuppgifter. På grund av begränsad energi- och datorkapacitet är en viktig fråga att utföra djupt lärande applikationer i IoT-enheter. Allmän kommersiell hårdvara och programvara misslyckas med att stödja högparallell databehandling i djupinlärningsuppgifter. Lane och Al. [10] föreslog nya accelerationsmotorer, såsom DeepEar och DeepX, för att stödja olika djupinlärningsprogram i de senaste mobila systemen på chips (SoCs). Från de experimentella resultaten, mobila IoT-enheter med high-spec SoCs kan stödja en del av inlärningsprocessen. Att införa djupinlärning i fler IoT-tillämpningar är en annan viktig forskningsfråga [11]. Effektiviteten av djupt lärande för IoT har utvärderats i många viktiga IoT-tillämpningar. Till exempel, vissa verk fokuserar på applikationer i bärbara IoT-enheter som används i dynamiska och komplexa miljöer som ofta förvirrar traditionella maskininlärningsmetoder. Bhattacharya m.fl. [12] föreslog en ny modell för djupinlärning för bärbara IoT-enheter som förbättrar noggrannheten i ljudigenkänningsuppgifter. De flesta befintliga djupinlärningsprogram (t.ex. taligenkänning) behöver fortfarande vara moln-assisterade. Alsheikh m.fl. [13] föreslog ett ramverk för att kombinera djuplärande algoritmer och Apache Spark för IoT-dataanalys. Inferensfasen utförs på mobila enheter, medan Apache Spark används i molnservrar för att stödja datautbildning. Denna två-lager design är mycket lik kant computing, vilket visar att det är möjligt att avlasta bearbetningsuppgifter från molnet. Edge computing föreslås för att flytta datorkapacitet från centraliserade molnservrar till edge noder nära användarens slut. Edge computing ger två stora förbättringar av den befintliga molndatorn. Den första är att kant noder kan förbehandla stora mängder data innan de överförs till de centrala servrarna i molnet. Den andra är att molnresurserna optimeras genom att möjliggöra kant noder med datorkapacitet [14]. På grund av den potential som egg computing medför kan de ovannämnda problemen med molninfrastrukturen hanteras väl. Liu m.fl. [15] föreslog det första arbetet med att införa djupinlärning i den avancerade datormiljön. De föreslog en djupt lärandebaserad ansökan om erkännande av livsmedel genom att använda nätbaserad tjänsteinfrastruktur. Deras arbete visar att spetsdatorer kan förbättra prestandan hos djupinlärningsprogram genom att minska svarstiden och minska energiförbrukningen. Men detta arbete anses mobiltelefoner som kant noder, vilket inte är lämpligt för IoT-tjänster eftersom de flesta IoT-enheter är utrustade endast med låg-spec marker. Eftersom vi fokuserar på allmänna IoT-enheter utan tillräckligt med energi tillägg och högspec-chips, är kantservrar utplaceras i IoT gateways, som har tillräcklig servicekapacitet för att utföra djupt lärande algoritmer. I detta avsnitt introducerar vi först scenariot med djupt lärande för sakernas internet och sedan presentera den kant computing ram för djupt lärande för sakernas internet. Vanligtvis, IoT-enheter genererar stora mängder data och överföra data till molnet för vidare behandling. Dessa data omfattar multimediainformation, såsom video, bilder och ljud, eller strukturerade data, såsom temperatur, vibrationer och ljusflödesinformation. Det finns många mogna tekniker för att bearbeta strukturerade data och sedan automatiskt kontrollera IoT-enheter. Traditionell multimediabehandlingsteknik, som kräver komplexa beräkningar, är inte lämplig för IoT-tjänster. Eftersom tekniken för djupinlärning förbättrar effektiviteten i behandlingen av multimediainformation, har allt fler arbeten börjat införa djupinlärning i multimedia IoT-tjänster. Videoanalys är ett viktigt IoT-program, som integrerar bildbehandling och datorseende i IoT-nätverk. Det är fortfarande en utmaning att känna igen objekt från videodata av låg kvalitet som registrerats av IoT-enheter. Eftersom djupt lärande visar mycket lovande noggrannhet i videoigenkänning, anser vi att det är ett typiskt IoT-program med djupt lärande. Således, som visas i Fig. 1, Vi använder en videoigenkänning IoT-applikation som exempel för att införa djupt lärande för IoT. Det finns flera trådlösa videokameror som övervakar miljön och känner igen föremål. De trådlösa kamerorna samlar 720p videodata Den viktigaste fördelen med djupinlärning över maskininlärning är den bättre prestandan med stor dataskala eftersom många IoT-applikationer genererar en stor mängd data för bearbetning. En annan fördel är att djupinlärning automatiskt kan ta fram nya funktioner för olika problem. 98 med en bithastighet på 3000 kb/s. Sedan överför kamerorna insamlade data till IoT-gatewayen genom allmänna WiFi-anslutningar. IoT gateways vidarebefordrar alla insamlade data till molntjänsten genom Internetkommunikation efter kodning och komprimera rå videodata. Molntjänsten känner igen objekten i insamlade videodata genom ett nätverk för djupinlärning. Ett djupt lärande nätverk har vanligtvis flera lager. Indata kommer att behandlas i dessa lager. Varje lager bearbetar de mellanliggande funktionerna som genereras av det föregående lagret och genererar sedan nya funktioner. Slutligen, de extraherade funktioner som genereras av den sista djupinlärning nätverk lager kommer att behandlas av en klassificerare och erkänns som utdata. I djupinlärningsnätverk anser vi att lagren nära ingångsdata är lägre lager; andra är högre lager. I exemplet använder vi AlexNet för att identifiera objektet i insamlade videodata. AlexNet har åtta lager där de första fem lagren är konvolutionella lager, och följande tre lager är helt anslutna lager. Vi tränar först det djupa lärnätverket med ett öppet dataset från Kaggle, som består av 25.000 hund- och kattbilder. Den djupinlärning ansökan vill upptäcka rätt djur i den korrigerade videodata. Vi använder en överföring lärteknik för att bygga klassificeringen, som ger texten "katt" eller "hund" efter att ha bearbetat alla extraherade funktioner. Djupt lärande förbättrar effektiviteten i multimediabehandling för IoT-tjänster eftersom funktioner extraheras av flera lager i stället för traditionell komplex förbehandling. Kommunikationsprestandan kommer dock att bli flaskhalsen med förbättrad processeffektivitet. Den insamlade multimedia datastorleken är mycket större än traditionell strukturerad datastorlek, men det är svårt att förbättra prestandan för nätverket för överföring av insamlade data från IoT-enheter till molntjänsten. I exemplet behöver varje kamera en bandbredd på 3 Mb/s för att uppgradera videodata, medan IoT-gateway behöver 9 Mb/s. Edge computing är en möjlig lösning på problemet med att överföra insamlade data från IoT-enheter till molnet. I IoT-nätverket finns det två lager, kantlagret och molnlagret, för att ansluta IoT-enheter och molntjänsten. Kantlagret består vanligtvis av IoT-enheter, en IoT-gateway och nätverksåtkomstpunkter i lokala nätverk. I molnskiktet ingår Internetanslutningar och molnservrar. Edge computing innebär att behandlingen utförs i kantlagret istället för molnlagret. I egg computing-miljön, eftersom endast de mellanliggande data eller resultat behöver överföras från enheterna till molntjänsten, är trycket på nätverket lättas med mindre överföring av data. Edge computing är mycket lämplig för de uppgifter där storleken på mellanliggande data är mindre än inmatningsdata. Därför är edge computing effektivt för djupinlärning uppgifter, eftersom storleken på extraherade funktioner skalas ner av filtren i djupinlärning nätverk lager. I exemplet är den mellanliggande datastorleken som genereras av det första skiktet 134  på 89 B/ram och 2300 kb/s om vi vill känna igen varje ram. Om vi bara vill bearbeta nyckelramar i videodata, storleken på de genererade mellandata är bara 95 kb/s. Som visas i bild. 2, Vi presenterar en kant computing struktur för IoT djupt lärande uppgifter. Strukturen består av två lager samt en typisk edge computing struktur. I kantlagret är kantservrar utplacerade i IoT-gateways för behandling av insamlade data. Vi tränar först de djupa nätverken i molnservern. Efter utbildningsfasen delar vi upp lärnätverken i två delar. En del innehåller de lägre lagren nära ingångsdata, medan en annan del innehåller de högre lagren nära utgångsdata. Vi distribuerar den del med lägre lager i kantservrar och den del med högre lager i molnet för avlastning bearbetning. De insamlade uppgifterna matas alltså in i det första lagret i kantservrarna. Kantservrarna laddar de mellanliggande data från de lägre lagren och överför sedan data till molnservern som indata för de högre lagren. I exemplet, om vi distribuerar det första lagret i IoT-gateway, kommer de mellanliggande data med storleken 134 × 89 × 1 B/frame att skickas till det andra lagret i molnservern för vidare behandling. Ett problem är hur man delar varje nätverk för djupinlärning. Vanligtvis är storleken på de mellanliggande data som genereras av de högre skikten mindre än den som genereras av de lägre skikten. Att placera fler lager i kantservrar kan minska mer nätverkstrafik. Serverkapaciteten för kantservrar är dock begränsad jämfört med molnservrar. Det är omöjligt att bearbeta oändliga uppgifter i kantservrar. Varje lager i ett djupt lärande nätverk kommer att ge ytterligare beräknings omkostnader till servern. Vi kan bara distribuera en del av det djupa lärnätverket till kantservrar. Samtidigt, eftersom olika djupinlärning nätverk och uppgifter har olika storlekar av mellanliggande data och beräkning overhead, effektiv schemaläggning behövs för att 99 optimera djupt lärande för IoT i kanten datorstruktur. Vi utformar en effektiv schemaläggningsstrategi för detta problem och diskuterar det i nästa avsnitt. I detta avsnitt anger vi först schemaläggning problem i kanten datorstruktur för IoT djupt lärande och sedan presentera lösningen. I en given edge computing-miljö använder vi en uppsättning E för att beteckna alla edge-servrar och e i för att beteckna en edge-server i uppsättning E. Från edge-server e i till moln-servern använder vi ett värde c i för att beteckna servicekapaciteten och b i för att beteckna nätverksbandbredden. Vi lägger också till ett tröskelvärde som betecknas av V för att undvika överbelastning av nätet eftersom det finns viss interaktionstrafik mellan kantservrarna och molnservrarna. Således är den maximala tillgängliga bandbredden mellan e i och molnservern betecknad med b i · V. Låta uppsättningen T betecknar alla djupinlärningsuppgifter och t j betecknar en djupinlärning uppgift i uppsättning T. Antalet uppgift t j's djupinlärning nätverk lager är N j. Vi antar att den reducerade datastorleken är nära ett medelvärde för varje uppgift med olika indata. Den genomsnittliga kvoten mellan den mellanliggande datastorleken som genereras av kth-skiktet (k... [1, N j ]) och den totala indatastorleken betecknas med r kj. För uppgift t j och kant server e i, tilldelad bandbredd betecknas av b ij. Låt d ij betecknar indatastorleken per tidsenhet för aktivitet t j i kanten server e i. Således överföring latency av uppgift t j i kant server e i kan betecknas d ij · r kj /b ij, om k lager av uppgift t j placeras i kant server e i. För att garantera QoS, bör överföringen latens vara mindre än ett högsta värde som anges av Q j. För uppgift t j, den beräkningsmässiga overhead för en enhet av indata efter kth skiktet betecknas med l kj. Därför, för uppgift t j, den beräknade overhead in edge server e i är l kj · d ij. Problemet med schemaläggning IoT Deep Learning Network Layers in Edge Computing: Med tanke på en kant computing struktur, försöker schemaläggning problem att tilldela maximala uppgifter i kanten datorstruktur genom att distribuera djupinlärning lager i IoT edge servrar sådan att den nödvändiga överföring latency för varje uppgift kan garanteras, betecknar med var X ij = 1 om uppgift t j är utplacerad i edge server e i; annars X ij = 0. Vi föreslår en offlinealgoritm och en onlinealgoritm för att lösa schemaläggningsproblemet. Den offline schemaläggning algoritm först får reda på k j m, som maximerar värdet av r kj · l kj, och edge server i j m, som har den största indata uppgift t j. Därefter sorterar algoritmen alla uppgifter i stigande ordning efter den största indatastorleken. Schemaläggningen distribuerar först aktivitet t j med minsta indatastorlek till kantservrar. Algoritmen passerar alla kantservrar för att kontrollera om en kantserver har tillräcklig servicekapacitet och nätverksbandbredd för att distribuera aktivitet t j. Om alla edge-servrar har tillräcklig servicekapacitet och bandbredd, distribuerar algoritmen aktivitet t j till alla edge-servrar. Om en eggserver inte har tillräckligt med uppladdningsbandbredd eller servicekapacitet, ändrar algoritmen värdet på k och tar reda på en lämplig k för att distribuera aktivitet t j i alla eggservrar. Om eggservern inte har tillräcklig servicekapacitet eller nätverksbandbredd även efter varierande k, kommer schemaläggningsalgoritmen inte att distribuera aktivitet t j i eggservrar. I värsta fall är komplexiteten hos offline-algoritmen O( på engelska) 2 · K) där K är det maximala antalet djupinlärningsnätverksskikt av varje uppgift. Eftersom antalet uppgifter är mycket större än antalet edge servrar och djupinlärning nätverk lager, komplexiteten i den föreslagna algoritmen är O( på engelska), vilket är tillräckligt bra för praktisk schemaläggning. Vi analyserar också algoritmens effektivitet och finner att det ungefärliga förhållandet är 2/V. Samtidigt utformar vi en online schemaläggningsalgoritm som bestämmer utplaceringen när uppgift t j kommer. Eftersom uppgiften schemaläggning har lite information om funktionsuppgifter, är utplaceringsbeslutet baserat på de historiska uppgifterna. Vi använder B max och B min för att beteckna den maximala och minsta bandbredd som krävs för en uppgift, respektive. Således, för uppgift t j, vi först beräkna k j m och i j m. Då definierar vi ett värde F(c ij m) ← (B min · e/B max ) I detta avsnitt beskriver vi först experimentinställningarna och sedan diskutera resultatet prestandautvärdering. I experimenten har vi två miljöer, en för insamling av data från djupinlärningsuppgifter och en för simuleringar. För att utföra djupinlärningsprogram använder vi en arbetsstation utrustad med en Intel Core i7 7770 CPU och NVIDIA Geforce GTX 1080 grafiskt kort. Vi använder Caffe som CNN-ramverk och definierar 10 olika CNN-nätverk. Vi utför 10 CNN uppgifter FIGURE 2. Edge computing struktur för IoT djupt lärande.
Det föreslagna systemet innehåller kant computing REF-kapacitet för att minska fördröjningen och göra den uppkopplade applikationen mer känslig, vilket möjliggör datakapacitet i realtid och prestandaoptimering av applikationer baserade på artificiell intelligens via sakernas Internet (AIoT).
Learning IoT in Edge: Deep Learning for the Internet of Things with Edge Computing
{'venue': 'IEEE Network', 'journal': 'IEEE Network', 'mag_field_of_study': ['Computer Science']}