Ordinslag används ofta i NLP för en mängd olika uppgifter. Det visade sig att ordinslag som härrör från textkorpora återspeglar könsfördomar i samhället. Detta fenomen är genomträngande och konsekvent över olika ord inbäddande modeller, orsakar allvarlig oro. Flera nya arbeten tar itu med detta problem och föreslår metoder för att avsevärt minska denna könsdiskriminering i ord som inbäddar sig i varandra, vilket visar på övertygande resultat. Vi hävdar dock att detta avlägsnande är ytligt. Även om partiskheten i själva verket minskas avsevärt i enlighet med den angivna biasdefinitionen, döljer den faktiska effekten för det mesta biasen och inte tar bort den. Könsfördelsinformationen återspeglas fortfarande i avstånden mellan "könsneutraliserade" ord i de fördomsfulla inbäddningarna, och kan hämtas från dem. Vi presenterar en rad experiment för att stödja detta påstående, för två fördomsfulla metoder. Vi drar slutsatsen att befintliga metoder för att undanröja partiskheter är otillräckliga och inte bör vara tillförlitliga för att tillhandahålla könsneutral modellering.
REF hävdar dock att det är svårt, om inte omöjligt, att helt undanröja partiskhet och att informationen om könsdiskriminering ofta kan återvinnas.
Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}