I praktiken finns det ofta uttryckliga begränsningar för vilka framställningar eller beslut som är godtagbara i en tillämpning av maskininlärning. Det kan till exempel vara ett rättsligt krav att ett beslut inte får gynna en viss grupp. Alternativt kan det vara så att representationen av uppgifter inte får ha identifierande information. Vi tar itu med dessa två relaterade frågor genom att lära oss flexibla representationer som minimerar förmågan hos en kontradiktorisk kritiker. Denna motståndare försöker förutsäga den relevanta känsliga variabeln från representationen, och så minimerar prestanda motståndaren ser till att det finns lite eller ingen information i representationen om den känsliga variabeln. Vi visar detta kontradiktoriska synsätt på två problem: att fatta beslut utan diskriminering och att ta bort privat information från bilder. Vi formulerar den kontradiktoriska modellen som ett minimax-problem och optimerar detta minimax-mål med hjälp av en stokastisk gradientalternativ min-max-optimerare. Vi visar förmåga att tillhandahålla diskriminerande fria representationer för standardtestproblem, och jämföra med tidigare moderna metoder för rättvisa, visar statistiskt signifikant förbättring i de flesta fall. Flexibiliteten hos denna metod visas genom ett nytt problem: att ta bort annoteringar från bilder, från separata utbildningsexempel på kommenterade och oannoterade bilder, och utan någon förkunskaper om formen av annotering som ges till modellen.
I REF, mekanismen realiseras som en autoencoder, och motståndaren försöker förutsäga en binär känslig variabel från latent representation.
Censoring Representations with an Adversary
{'venue': 'ICLR 2016', 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}