Nyligen har det funnits en växande oro i den akademiska världen, industriforskningslaboratorier och de vanliga kommersiella medierna om fenomenet som kallas maskinfördomar, där utbildade statistiska modeller-okända för sina skapare växer för att återspegla kontroversiella samhälleliga asymmetrier, såsom kön eller rasfördomar. Ett betydande antal Artificial Intelligence verktyg har nyligen föreslagits att vara skadligt partisk mot vissa minoritet, med rapporter om rasistiska kriminella beteende prediktorer, Apples Iphone X misslyckas med att skilja mellan två olika asiatiska människor och den nu ökända fallet med Google bilder "av misstag klassificera svarta människor som gorillor. Även om en systematisk studie av sådana förutfattade meningar kan vara svår, tror vi att automatiserade översättningsverktyg kan utnyttjas genom könsneutrala språk för att ge ett fönster in i fenomenet könsfördomar i AI. I den här artikeln börjar vi med en omfattande lista över anställningar från USA:s arbetsbyrå (BLS) och använder den för att bygga meningar i konstruktioner som "He/She is an Engineer" (där ''Engineer'' ersätts av anställningsläget av intresse) på 12 olika könsneutrala språk som ungerska, kinesiska, yoruba och flera andra. Vi översätter dessa meningar till engelska med hjälp av Google Translate API, och samla in statistik om frekvensen av kvinnliga, manliga och könsneutrala pronomen i den översatta utdata. Vi visar sedan att Google Translate uppvisar en stark tendens till manliga standard, särskilt för områden som vanligtvis förknippas med obalanserad könsfördelning eller stereotyper som STEM (Science, Technology, Engineering and Mathematics) jobb. Vi körde denna statistik mot BLS data för frekvensen av kvinnligt deltagande i varje jobbposition, där vi visar att Google Translate misslyckas med att reproducera en verklig distribution av kvinnliga arbetstagare. Sammanfattningsvis ger vi experimentella bevis för att även om man inte förväntar sig i princip en 50:50 pronomenal könsfördelning, Google Translate avkastning manliga förfall mycket oftare än vad som skulle förväntas av demografisk data ensam. Vi tror att vår studie kan belysa fenomenet maskinfördomar och hoppas att den kommer att sätta igång en debatt om behovet av att utöka nuvarande statistiska översättningsverktyg med fördomsfulla tekniker – som redan finns i den vetenskapliga litteraturen. Neural Computing och tillämpningar https://doi.org/10.1007/s00521-019-04144-6( 0123456789().-volV) (0123456789(). ,-volV)
I REF visas det att Googles översättningssystem kan lida av könsfördomar genom att göra meningar tagna från US Bureau of Labor Statistics till ett dussin språk som är könsneutrala, inklusive yoruba, ungerska och kinesiska, översätta dem till engelska, och visar att Google Translate visar favorisering mot män för stereotypa fält som STEM jobb.
Assessing gender bias in machine translation: a case study with Google Translate
{'venue': 'Neural Computing and Applications', 'journal': 'Neural Computing and Applications', 'mag_field_of_study': ['Computer Science', 'Mathematics']}