Djupa konvolutionella neurala nätverk (DCNN) baserad övervakad lärande är en allmänt praktiserad metod för storskalig bildklassificering. Omskolning av dessa stora nätverk för att tillgodose nya, tidigare osedda data kräver dock höga krav på beräkningstid och energi. Även tidigare sett utbildningsprov kan inte vara tillgängliga vid tidpunkten för omskolning. Vi föreslår en effektiv utbildningsmetod och gradvis växande DCNN för att lära sig nya uppgifter samtidigt som man delar en del av basnätverket. Vår föreslagna metod är inspirerad av överföring av inlärningstekniker, även om den inte glömmer tidigare inlärda uppgifter. Ett uppdaterat nätverk, för att lära sig nya klasser, bildas med hjälp av tidigare inlärda konvolutionslager (delade från första delen av basnätverket) med tillägg av få nytillsatta konvolutionskärnor som ingår i de senare skikten av nätverket. Vi använde en "klon-och-gren" teknik med kalibrering, vilket gör att nätverket kan lära sig nya uppgifter (innehåller klasser med liknande funktioner som gamla uppgifter) en efter en utan någon prestandaförlust i gamla uppgifter. Vi utvärderade det föreslagna systemet på flera ansökningar om erkännande. Den klassificeringsnoggrannhet som uppnås genom vårt tillvägagångssätt är jämförbar med den regelbundna inkrementella inlärningsmetoden (där nätverken endast uppdateras med nya utbildningsprover, utan någon nätverksdelning), samtidigt som energieffektivitet uppnås, lagringskrav minskas, minnesåtkomst och utbildningstid. Ökat lärande, katastrofal glömska, livslångt lärande, energieffektivt lärande, nätverksdelning. SYED SHAKIB SARWAR mottog B.Sc. och M.Sc. examina i el- och elektronikteknik från Bangladesh University of Engineering and Technology (BUET), Dhaka, Bangladesh, 2012 respektive 2014. Han leder för närvarande doktorsexamen vid Purdue University under ledning av professor K Roy. Hösten 2014 började han vid Institutionen för el- och datateknik, Purdue University. Sommaren 2018 arbetade han som forskningspraktikant i Facebook Reality Labs, där han utvecklade optimeringstekniker för maskininlärning. Sedan maj 2019 har han arbetat med Facebook AR/VR som forskare. Hans primära forskning är fokus på energieffektiva algoritmer och hårdvara co-design för maskininlärning applikationer (djupt lärande) baserat på CMOS och nya enheter. Hans forskningsintresse omfattar även approximativa beräkningar inom området djupinlärning.
I REF växer nätverket stegvis över tiden och delar delar av basmodulen.
Incremental Learning in Deep Convolutional Neural Networks Using Partial Network Sharing
{'venue': 'IEEE Access', 'journal': 'IEEE Access', 'mag_field_of_study': ['Computer Science']}