Vi föreslår en ram för djupinlärning för modellering av komplexa högdimensionella densiteter via ickelinjär oberoende komponentskattning (NICE). Det bygger på tanken att en bra representation är en där data har en distribution som är lätt att modellera. För detta ändamål lär man sig en icke-linjär deterministisk omvandling av data som kartlägger den till ett latent utrymme för att få den omvandlade datan att överensstämma med en faktoriserad fördelning, d.v.s., vilket resulterar i oberoende latenta variabler. Vi parametriserar denna omvandling så att beräkning av bestämningsfaktorn för den Jacobian och invers Jacobian är trivialt, men vi upprätthåller förmågan att lära sig komplexa icke-linjära transformationer, via en sammansättning av enkla byggstenar, var och en baserad på ett djupt neuralt nätverk. Utbildningskriteriet är helt enkelt den exakta log-likelihood, som är dragbar, och opartiska förfäder provtagning är också lätt. Vi visar att detta tillvägagångssätt ger bra generativa modeller på fyra bilddataset och kan användas för inpainting.
I ett senare försök REF ] föreslår författarna en neural modell för modellering densiteter som kallas nonlinear Independent Component Estimation (NICE).
NICE: Non-linear Independent Components Estimation
{'venue': 'ICLR 2015', 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}