Med den utbredda användningen av AI-system och tillämpningar i vår vardag är det viktigt att ta hänsyn till rättvisa frågor när man utformar och konstruerar dessa typer av system. Sådana system kan användas i många känsliga miljöer för att fatta viktiga och livsförändrande beslut; därför är det viktigt att se till att besluten inte återspeglar diskriminerande beteende mot vissa grupper eller befolkningar. Vi har nyligen sett arbete inom maskininlärning, bearbetning av naturligt språk och djupinlärning som tar itu med sådana utmaningar i olika subdomäner. Med kommersialiseringen av dessa system blir forskarna medvetna om de förutfattade meningar som dessa tillämpningar kan innehålla och har försökt ta itu med dem. I denna undersökning undersökte vi olika verkliga tillämpningar som har visat fördomar på olika sätt, och vi listade olika källor till fördomar som kan påverka AI-tillämpningar. Vi skapade sedan en taxonomi för rättvisa definitioner som maskininlärning forskare har definierat för att undvika den befintliga bias i AI-system. Dessutom undersökte vi olika domäner och subdomäner i AI som visar vad forskare har observerat med avseende på orättvisa resultat i de senaste metoderna och hur de har försökt ta itu med dem. Det finns fortfarande många framtida riktningar och lösningar som kan vidtas för att minska problemet med fördomar i AI-system. Vi hoppas att denna undersökning kommer att motivera forskare att ta itu med dessa frågor inom en snar framtid genom att observera befintligt arbete inom sina respektive områden.
En undersökning om fördomar i maskininlärning finns i REF.
A Survey on Bias and Fairness in Machine Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}