Vi tar itu med problemet med distans metriska lärande (DML), definieras som lärande ett avstånd som överensstämmer med en uppfattning om semantisk likhet. Traditionellt, för detta problem övervakning uttrycks i form av uppsättningar av punkter som följer en ordinal relation - en ankare punkt x liknar en uppsättning positiva punkter Y, och skiljer sig från en uppsättning negativa punkter Z, och en förlust definieras över dessa avstånd minimeras. Medan detaljerna i optimeringen skiljer sig åt, i detta arbete kallar vi kollektivt denna typ av övervakning Triplets och alla metoder som följer detta mönster Triplet-Based metoder. Dessa metoder är utmanande att optimera. En huvudfråga är behovet av att hitta informativa trillingar, som vanligtvis uppnås genom en mängd olika trick som att öka batchstorlek, hård eller halvhård trilling gruvdrift, etc. Även med dessa knep är konvergensgraden för sådana metoder långsam. I detta dokument föreslår vi att man optimerar triolförlusten på ett annat utrymme av trioler, bestående av en ankardatapunkt och liknande och olikartade proxypunkter som också är inlärda. Dessa proxies ungefär de ursprungliga datapunkter, så att en triplet förlust över proxies är en snäv övre gräns för den ursprungliga förlusten. Denna proxybaserade förlust uppför sig empiriskt bättre. Som ett resultat, proxy-förlusten förbättrar på state-of-art resultat för tre standard noll-shot lärande dataset, med upp till 15% poäng, samtidigt konvergera tre gånger så snabbt som andra triplet-baserade förluster.
ProxyNCA REF genererar en uppsättning klassproxies och optimerar avståndet av ankaret till nämnda proxies, lösa triplet komplexitet problem.
No Fuss Distance Metric Learning Using Proxies
{'venue': '2017 IEEE International Conference on Computer Vision (ICCV)', 'journal': '2017 IEEE International Conference on Computer Vision (ICCV)', 'mag_field_of_study': ['Computer Science']}