Den blinda tillämpningen av maskininlärning löper risken att förstärka fördomar som finns i data. En sådan fara står inför oss med ordet inbäddning, en populär ram för att representera textdata som vektorer som har använts i många maskininlärning och naturliga språkbehandlingsuppgifter. Vi visar att även ordinslag utbildade på Google News artiklar uppvisar kvinnliga/manliga könsstereotyper i en oroande utsträckning. Detta väcker oro eftersom deras utbredda användning, som vi beskriver, ofta tenderar att förstärka dessa fördomar. Geometriskt visar sig könsfördomar först fångas av en riktning i ordet inbäddning. För det andra visas könsneutrala ord vara linjärt åtskilda från könsdefinitionsord i ordet inbäddning. Med hjälp av dessa egenskaper tillhandahåller vi en metod för att modifiera en inbäddning för att ta bort könsstereotyper, såsom sambandet mellan orden receptionist och kvinna, samtidigt som man upprätthåller önskade associationer som mellan orden drottning och kvinna. Vi definierar mätvärden för att kvantifiera både direkta och indirekta könsfördomar i inbäddningar och utvecklar algoritmer för att "debiera" inbäddningen. Med hjälp av crowd-worker utvärdering samt standardriktmärken, visar vi empiriskt att våra algoritmer avsevärt minskar könsfördomar i inbäddningar samtidigt som de bevarar dess användbara egenskaper såsom förmågan att kluster relaterade begrepp och att lösa analoga uppgifter. De resulterande inbäddningarna kan användas i tillämpningar utan att förstärka könsfördomar.
Försåtliga ord inbäddade: Bolukbasi et al. REF utformar en metod för att ta bort könsfördomar från ordinslag.
Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}