Vi överväger att träna ett djupt neuralt nätverk för att generera prover från en okänd distribution givet i.i.d. Uppgifter. Vi ramar in lärande som en optimering minimera ett två-prov test-informellt, ett bra generatornätverk producerar prover som orsakar ett två-prov test att misslyckas med att förkasta nollhypotesen. Som vår teststatistik med två prover använder vi en objektiv uppskattning av den maximala genomsnittliga avvikelsen, som är mittpunkten i det icke-parametriska tvåprovsprov av kärnan som föreslås av Gretton et al. [2]............................................................... Vi jämför med den kontradiktoriska nätram som infördes av Goodfellow et al. [1], där lärande är ett tvåspelarspel mellan ett generatornätverk och ett kontradiktoriskt discriminatornätverk, båda tränade för att överlista den andra. Ur detta perspektiv spelar MMD-statistiken rollen som discriminator. Förutom empiriska jämförelser bevisar vi gränser för det generaliseringsfel som uppstår genom att optimera den empiriska MMD.
Som nämns i Dziugaite et al. REF, MMD testet kan ses som att spela rollen som en motståndare.
Training generative neural networks via Maximum Mean Discrepancy optimization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}