Sammanfattning av denna webbsida: Ömsesidig information (MI) är användbar för att upptäcka statistisk självständighet mellan slumpmässiga variabler, och den har framgångsrikt tillämpats på att lösa olika maskininlärningsproblem. Nyligen infördes ett alternativ till MI som kallas squared-loss MI (SMI). Medan vanlig MI är Kullback-Leibler skillnaden från den gemensamma distributionen till produkten av marginaldistributionerna, SMI är dess Pearson divergens variant. Eftersom båda skillnaderna tillhör familjen f - divergence, har de liknande teoretiska egenskaper. En anmärkningsvärd fördel med SMI är dock att det kan approximeras från data på ett mer effektivt och numeriskt stabilare sätt än vanlig MI. I denna artikel, vi granska den senaste utvecklingen i SMI approximation baserat på direkt densitet-ratio uppskattning och SMI-baserade maskininlärning tekniker såsom oberoende testning, dimensionalitetsminskning, kanonisk beroendeanalys, oberoende komponentanalys, objekt matchning, klusterbildning, och orsakssamband.
En MI-åtgärd baserad på Pearson-divergensen övervägdes i REF som är beräkningseffektiv och numeriskt stabil.
Machine Learning with Squared-Loss Mutual Information
{'venue': None, 'journal': 'Entropy', 'mag_field_of_study': ['Mathematics', 'Computer Science']}