Wassersteins sannolikhetsmått har fått mycket uppmärksamhet från maskininlärningsgemenskapen. Till skillnad från Kullback-Leibler skillnaden, som strikt mäter förändring i sannolikhet, Wasserstein metrisk återspeglar den underliggande geometrin mellan utfall. Värdet av att vara känslig för denna geometri har bland annat visats i ordinal regression och generativ modellering. I den här artikeln beskriver vi tre naturliga egenskaper hos sannolikhetsskillnader som speglar kraven från maskininlärning: total invarians, skalkänslighet och opartiska provgradienter. Wasserstein metrisk har de två första egenskaperna men, till skillnad från Kullback-Leibler divergens, inte har den tredje. Vi tillhandahåller empiriska bevis som tyder på att detta är en allvarlig fråga i praktiken. Genom att utnyttja insikter från probabilistiska prognoser föreslår vi ett alternativ till Wasserstein-måttet, Cramér-avståndet. Vi visar att Cramér avstånd har alla tre önskade egenskaper, kombinerar det bästa av Wasserstein och Kullback-Leibler avvikelser. För att illustrera relevansen av Cramér-avståndet i praktiken designar vi en ny algoritm, Cramér Generative Adversarial Network (GAN), och visar att den presterar betydligt bättre än den tillhörande Wasserstein GAN.
I REF föreslås en ny GAN baserad på Cramér-avståndet som äger egenskaperna hos opartiska provgradienter och total invarians och skalkänslighet.
The Cramer Distance as a Solution to Biased Wasserstein Gradients
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}