Vi föreslår en metod för att optimera representationen och särskilja prov från två sannolikhetsfördelningar, genom att maximera den uppskattade effekten av ett statistiskt test baserat på den maximala genomsnittliga avvikelsen (MMD). Denna optimerade MMD tillämpas på inställningen av oövervakad inlärning genom generativa kontrariska nätverk (GAN), där en modell försöker generera realistiska prover, och en discriminator försök att skilja dessa från dataprover. I detta sammanhang kan MMD användas i två roller: för det första som en discriminator, antingen direkt på proverna, eller på egenskaperna hos proverna. För det andra kan MMD användas för att utvärdera prestandan hos en generativ modell, genom att testa modellens prover mot en referensdatauppsättning. I den senare rollen är den optimerade MMD särskilt användbar, eftersom den ger en tolkningsbar indikation på hur modellen och datadistributionerna skiljer sig åt, även i fall där enskilda modellprover inte är lätta att särskilja vare sig genom ögon eller genom klassificering.
REF fokuserar på att optimera den uppskattade kraften för kärnavstånd.
Generative Models and Model Criticism via Optimized Maximum Mean Discrepancy
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}