Vi föreslår en allmän informations-teoretisk metod för semi-övervakad metrisk inlärning som kallas SERAPH (SEmi-övervakad metRic leArning Paradigm med Hypersparsitet) som inte förlitar sig på det mångfaldiga antagandet. Med tanke på sannolikheten parameteriserad av ett Mahalanobis avstånd, maximerar vi dess entropi på märkta data och minimerar dess entropi på omärkta data efter entropy legalisering. För metrisk inlärning, entropi legalisering förbättrar mångfaldig legalisering genom att beakta olikhet information av omärkta data i den oövervakade delen, och därmed gör det möjligt för övervakade och oövervakade delar att integreras på ett naturligt och meningsfullt sätt. Dessutom regulariserar vi SERAPH genom spår-norm legalisering för att uppmuntra lågdimensionella projektioner i samband med avståndet metrisk. Det icke konvexa optimeringsproblemet med SERAPH kunde lösas effektivt och stabilt genom antingen en gradientprojiceringsalgoritm eller en EM-liknande iterativ algoritm vars M-steg är konvex. Experiment visar att SERAPH jämför gynnsamt med många välkända metriska inlärningsmetoder, och den lärda Mahalanobis avstånd har hög diskriminabilitet även under bullriga miljöer.
Sepapha Ref-metoden bygger också på en kartläggning från Mahalanobis avstånd till en sannolikhetsfördelning men sträcker sig till semi-övervakad metrisk inlärning baserad på legalisering.
Information-Theoretic Semi-Supervised Metric Learning via Entropy Regularization
{'venue': 'Neural Computation', 'journal': 'Neural Computation', 'mag_field_of_study': ['Mathematics', 'Computer Science', 'Medicine']}