Oanständiga modeller för att upptäcka språk tenderar att ha problem med att vara partisk mot identitetsord från en viss grupp människor på grund av obalanserade utbildningsdataset. Till exempel, "Du är en bra kvinna" ansågs "sexist" när den tränades på en befintlig datauppsättning. En sådan modellfördel är ett hinder för att modellerna ska vara tillräckligt robusta för praktisk användning. I detta arbete mäter vi könsfördomar på modeller som är utbildade med olika kränkande språkdatauppsättningar, samtidigt som vi analyserar effekten av olika förtränade ordinslag och modellarkitekturer. Vi experimenterar också med tre partiska begränsningsmetoder: (1) fördomsfulla ord inbäddningar, (2) könsbyte dataökning, och (3) finjustering med en större corpus. Dessa metoder kan effektivt minska könsfördomar med 90-98 % och kan utvidgas till att korrigera modellfördomar i andra scenarier.
REF mätte könsstereotyper på olika kränkande språkmodeller, samtidigt som man analyserade effekten av olika förtränade ordinslag och modellarkitekturer.
Reducing Gender Bias in Abusive Language Detection
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}