Den senaste forskningen har belyst sårbarheten hos moderna system för maskininlärning till partiskhet, särskilt mot segment av samhället som är underrepresenterade i utbildningsdata. I detta arbete utvecklar vi en ny, lättförståelig algoritm för att mildra de dolda, och potentiellt okända, fördomarna inom utbildningsdata. Vår algoritm smälter ihop den ursprungliga inlärningsuppgiften med en variationell autoenkoder för att lära sig den latenta strukturen i datasetet och sedan adaptivt använda de inlärda latenta distributionerna för att omvikta vikten av vissa datapunkter under träningen. Även om vår metod är allmängiltig över olika datamodaliteter och inlärningsuppgifter, använder vi i detta arbete vår algoritm för att ta itu med frågan om ras- och könsfördomar i ansiktsdetekteringssystem. Vi utvärderar vår algoritm på Pilot Parliaments Benchmark (PPB), en datauppsättning speciellt utformad för att utvärdera fördomar i datorseende system, och visa ökad övergripande prestanda samt minskad kategorisk fördomar med vårt fördomsfulla tillvägagångssätt.
För att avslöja djup inlärningsfördomar, Alexander et al. REF utvecklar en algoritm för att mildra dolda fördomar inom träningsdata.
Uncovering and Mitigating Algorithmic Bias through Learned Latent Structure
{'venue': None, 'journal': 'Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society', 'mag_field_of_study': ['Computer Science']}