Den senaste tidens framsteg när det gäller representationslärande och kontradiktorisk utbildning tycks lyckas ta bort oönskade funktioner från den inlärda representationen. Vi visar att demografisk information av författare är kodad i-och kan återvinnas från-mellan representationer lärt av text-baserade neural klassificerare. Innebörden är att beslut av klassificeringsgrundare som är utbildade på textdata inte är agnostiska till och troliga villkor för demografiska attribut. När vi försöker ta bort sådan demografisk information med hjälp av kontradiktorisk utbildning, finner vi att medan den kontradiktoriska komponenten uppnår exakthet i fråga om utveckling på chansnivå under utbildningen, lyckas en post-hoc-klassificerare, som är utbildad på de kodade meningarna från den första delen, ändå uppnå betydligt högre klassificeringsnoggrannheter på samma data. Detta beteende är konsekvent över flera uppgifter, demografiska egenskaper och dataset. Vi utforskar flera tekniker för att förbättra effektiviteten hos den kontradiktoriska komponenten. Vår viktigaste slutsats är en varning: förlita dig inte på den kontradiktoriska utbildningen för att uppnå invariant representation för känsliga egenskaper.
REF visade dock att även om det är möjligt att uppnå exakthet på slumpmässig nivå för det skyddade attributet under utbildningen, kan en posthoc-klassificerare, som är utbildad på kodade ingångar, fortfarande klara av att uppnå avsevärt höga noggrannheter för de skyddade attributen.
Adversarial Removal of Demographic Attributes from Text Data
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}