Vi presenterar ett distribuerat online-lärande för att klassificera data som fångas från distribuerade och dynamiska datakällor. Vårt schema består av flera distribuerade lokala elever, som analyserar olika strömmar av data som är korrelerade till en vanlig händelse som behöver klassificeras. Varje elev använder en lokal klassificering för att göra en lokal förutsägelse. De lokala förutsägelserna samlas sedan in av varje inlärare och kombineras med hjälp av en viktad majoritetsregel för att producera den slutliga förutsägelsen. Vi föreslår en ny online-ensemble lärande algoritm för att uppdatera aggregeringsregeln för att anpassa sig till den underliggande datadynamiken. Vi bestämmer rigoröst en övre gräns för den värsta fall felklassificering sannolikheten för vår algoritm, som tenderar asymptotiskt till 0 om felklassificering sannolikheten för den bästa (okända) statiska aggregering regel är 0. Sedan utökar vi vår algoritm för att ta itu med utmaningar som är specifika för det distribuerade genomförandet och visa nya gränser som gäller för dessa inställningar. Slutligen testar vi vårt schema genom att genomföra en utvärderingsstudie på flera datamängder. Index Terms-Big data, klassificering, konceptdrift, distribuerat lärande, dynamiska strömmar, ensemble av klassificerare, maskininlärning, onlineinlärning. Dynamiska dataströmmar. Många befintliga ensemblesystem [7]– [11] förutsätter att uppgifterna genereras från en stationär distribution, dvs. att konceptet är stabilt [5]. Vårt system utvecklas och utvärderas, både analytiskt och experimentellt, med tanke på möjligheten att dataströmmarna är dynamiska, dvs de kan uppleva konceptdrift [5]. ONL: Lärande på nätet. För att hantera dynamiska dataströmmar måste vårt system lära sig aggregeringsregeln "on-the-fly". På så sätt upprätthåller eleverna en aktuell aggregeringsregel och kan följa konceptdrifterna. KOM: Låg komplexitet. Vissa system för inlärning av ensembler online, t.ex. [11]–[13], [18], behöver samla in och lagra delar av data, som senare bearbetas för att uppdatera systemets aggregeringsmodell. Detta kräver ett stort minne och hög beräkningskapacitet, vilket resulterar i höga genomförandekostnader. Olika från dessa tillvägagångssätt, i vårt system varje data behandlas endast en gång "on-arrival", vilket innebär att data inte lagras i systemet. Endast den aktuella aggregeringsmodellen hålls i minnet. Den lokala förutsägelsen för varje elev, som är den enda information som måste utbytas, består av ett binärt värde. Dessutom är vårt system skalbart till ett stort antal källor och inlärare och inlärarna kan kedjas i vilken hierarkisk struktur som helst. IND: Oberoende från lokala klassificeringar. Olika från [15], [16], [19], vårt system är allmänt och kan tillämpas på olika typer av lokala klassificeringar, såsom stöd vektor maskin, beslut träd, neurala nätverk, offline / online klassificering, etc. Denna funktion är viktig, eftersom de olika eleverna kan hanteras av olika enheter, villiga att samarbeta för att utbyta information men inte för att ändra sina egna lokala klassificeringar. Dessutom behöver vår algoritm ingen förkunskaper om de lokala klassificeringarnas prestanda, den anpassar automatiskt konfigurationen av det distribuerade systemet till den nuvarande prestandan hos de lokala klassificeringarna. DEL: Försenade etiketter, saknade etiketter och asynkrona inlärare. I distribuerade miljöer finns det många faktorer som kan påverka inlärningssystemets prestanda. För det första, eftersom det kan vara både kostsamt och tidskrävande att få information om etiketten, kan man inte förvänta sig att alla elever alltid iakttar etiketten i rätt tid. En del elever kan få etiketten med fördröjning eller inte alls. För det andra kan eleverna vara asynkrona, dvs. de kan observera data vid olika tidpunkter. I detta dokument föreslår vi först en grundläggande algoritm, med tanke på ett idealiserat scenario där ovanstående frågor inte är närvarande, och sedan utökar vi vårt system för att ta itu med ovanstående frågor. Resten av detta dokument är organiserat enligt följande. Avsnitt II innehåller en översikt över befintlig litteratur inom ensembleinlärningsteknik. I avsnitt III presenteras vår formalism, ramverk och algoritm för distribuerat lärande online. Avsnitt IV visar en gräns för sannolikheten för felklassificering av vårt system som beror på sannolikheten för felklassificering av den bästa (okända) statiska aggregeringsregeln, och av den bästa (okända) lokala klassificeringsregeln. Avsnitt V diskuterar flera tillägg till vår inlärningsalgoritm för att hantera praktiska frågor i samband med distribuerad implementering av ensemble av elever, och visar nya gränser som gäller för dessa inställningar. I avsnitt VI presenteras den empiriska utvärderingen av vår algoritm på flera datamängder. Avsnitt VII avslutar dokumentet. Luca Canzian fick B.Sc., M.Sc., och Ph.D. examina i elektroteknik från
Canzian m.fl. REF använde lokala inlärare för var och en av datakällorna och kombinerade förutsägelserna med en viktad majoritetsregel för att komma fram till den slutliga förutsägelsen.
Ensemble of distributed learners for online classification of dynamic data streams
{'venue': 'IEEE Transactions on Signal and Information Processing over Networks', 'journal': 'IEEE Transactions on Signal and Information Processing over Networks', 'mag_field_of_study': ['Mathematics', 'Computer Science']}