Konvolutionella neurala nätverk (CNN) har framgångsrikt tillämpats på många erkännande och lärande uppgifter med hjälp av ett universellt recept; utbildning en djup modell på en mycket stor datauppsättning av övervakade exempel. Detta tillvägagångssätt är dock ganska restriktivt i praktiken, eftersom det är mycket dyrt att samla in en stor uppsättning märkta bilder. Ett sätt att lösa detta problem är att hitta smarta sätt att välja bilder som ska märkas från en mycket stor samling (dvs. aktivt lärande). Vår empiriska studie tyder på att många av de aktiva lärande heuristikerna i litteraturen inte är effektiva när de appliceras på CNNs i batch-inställning. Inspirerade av dessa begränsningar definierar vi problemet med aktivt lärande som kärnval, dvs. välja en uppsättning punkter så att en modell som inlärts under den valda undergruppen är konkurrenskraftig för de återstående datapunkterna. Vi presenterar vidare ett teoretiskt resultat som karakteriserar prestandan hos en utvald delmängd med hjälp av geometrin hos datapunkterna. Som en aktiv inlärningsalgoritm väljer vi den delmängd som förväntas ge bästa resultat enligt vår karakterisering. Våra experiment visar att den föreslagna metoden avsevärt överträffar befintliga metoder i bildklassificeringsförsök med stor marginal. Nyligen har en diskret optimeringsbaserad metod (Berlind & Urner, 2015) som liknar vår presenterats för k-NN-typalgoritmer i domänskiftsinställningen. Även om vår teoretiska analys lånar vissa tekniker från dem, är deras resultat endast giltiga för k-NN. Aktiva inlärningsalgoritmer för CNNs presenteras också nyligen i (Wang et al., 2016; Stark et al., 2015). Wang m.fl. (2016) föreslår en heuristisk algoritm som direkt ger etiketter till datapunkter med stort förtroende och frågar etiketter för dem med lågt förtroende. Dessutom Stark et al. (2015) särskilda mål för erkännande av CAPTCHA-bilder. Även om deras resultat är lovande för CAPTCHA-igenkänning, är deras metod inte effektiv för bildklassificering. Vi diskuterar begränsningar av båda tillvägagångssätten i avsnitt 5.
I REF beskriver de problemet som ett centralt urvalsproblem.
Active Learning for Convolutional Neural Networks: A Core-Set Approach
{'venue': 'ICLR', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}