Språk används i allt högre grad för att definiera synproblem med stöd för bildsamlingar som hämtas från webben. Strukturerade förutsägelsemodeller används i dessa uppgifter för att dra nytta av korrelationer mellan co-occurring etiketter och visuell inmatning men riskerar att oavsiktligt koda sociala fördomar som finns i webbkorpora. I detta arbete studerar vi data och modeller förknippade med multimärkning av objekt och visuell semantisk rollmärkning. Vi finner att a) datauppsättningar för dessa uppgifter innehåller betydande könsfördomar och b) modeller som är utbildade på dessa datauppsättningar ytterligare förstärker befintliga förutfattade meningar. Till exempel är aktiviteten matlagning mer än 33% mer sannolikt att involvera kvinnor än män i ett träningsset, och en utbildad modell ytterligare förstärker skillnaden till 68% vid testtid. Vi föreslår att ingjuta corpus-nivå begränsningar för kalibrering av befintliga strukturerade förutsägelser modeller och designa en algoritm baserad på Lagrangian avkoppling för kollektiv inferens. Vår metod resulterar i nästan ingen prestandaförlust för den underliggande igenkänningsuppgiften men minskar omfattningen av snedförstärkning med 47,5 % respektive 40,5 % för multimärkningsklassificering respektive visuell semantisk rollmärkning.
Vanliga utbildningsdataset för multimärkning av objekt och visuell semantisk rollmärkning innehåller könsfördomar och dessutom uppvisar modeller som är utbildade på dessa partiska dataset större könsfördomar än utbildningsdataseten REF.
Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}