Vi föreslår distribuerade djupa neurala nätverk (DDNN) över distribuerade datorhierarkier, bestående av molnet, kanten (fog) och slutenheter. Samtidigt som en DDNN kan rymma en slutledning av ett djupt neuralt nätverk (DNN) i molnet, möjliggör en DDNN också snabb och lokaliserad slutledning med hjälp av grunda delar av neurala nätverket i kanten och slutenheter. När den stöds av en skalbar distribuerad datahierarki, kan en DDNN skala upp i neural nätverk storlek och skala ut i geografisk spännvidd. På grund av sin distribuerade karaktär förbättrar DDNNs sensorfusion, systemfeltolerans och dataintegritet för DNN-applikationer. Genom att implementera en DDNN kartlägger vi sektioner av en DNN på en distribuerad datahierarki. Genom att gemensamt träna dessa avsnitt minimerar vi kommunikationen och resursanvändningen för enheter och maximerar användbarheten av extraherade funktioner som används i molnet. Det resulterande systemet har inbyggt stöd för automatisk sensorfusion och feltolerans. Som ett bevis på konceptet visar vi att en DDNN kan utnyttja den geografiska mångfalden av sensorer för att förbättra objektigenkänningsnoggrannheten och minska kommunikationskostnaderna. I vårt experiment, jämfört med den traditionella metoden att avlasta råsensordata som ska behandlas i molnet, DDNN lokalt behandlar de flesta sensordata på slutenheter samtidigt uppnå hög noggrannhet och kan minska kommunikationskostnaden med en faktor på över 20x.
En effektiv metod för att träna distribuerade djupa neurala nätverk (DDNN) över en distribuerad datorhierarki bestående av moln, kant och end-enheter föreslogs i REF.
Distributed Deep Neural Networks Over the Cloud, the Edge and End Devices
{'venue': '2017 IEEE 37th International Conference on Distributed Computing Systems (ICDCS)', 'journal': '2017 IEEE 37th International Conference on Distributed Computing Systems (ICDCS)', 'mag_field_of_study': ['Computer Science']}