למה בינה מלאכותית עלולה להוביל לאפליה?
תרופות רבות במשך שנים פותחו ונבדקו על בסיס גברים לבנים
טל שוסטר, דוקטורנט ישראלי ב-MIT שהצליח לפתח כלי AI שיודע לחזות סרטן 5 שנים מראש מבלי להפלות בין נשים בעלות צבע עור שונה, התייחס גם הוא לסוגיה. בנוגע לגורם המרכזי שעלול להוביל למקרים של אפליה בשימוש בבינה מלאכותית או למידת מכונה אמר כי אפליה בפיתוח תרופות או טכנולוגיות הוא עניין מטריד, אך חשוב להבין שהיא התחילה הרבה לפני השימוש בלמידת מכונה. "תרופות רבות במשך שנים פותחו ונבדקו על בסיס גברים לבנים בשנות העשרים אך הופצו לאוכלוסיות אחרות. כמו כן, לדוגמה, הסיכוי לפציעה חמורה של נשים מתאונות דרכים גבוה יותר משל גברים בגלל שמכוניות ואמצעי הבטיחות פותחו עבור מבנה גוף של גברים".
בינה מלאכותית עלולה להוביל לאפליה כיוון שרבים מהנתונים שעליהם היא מתבססת מושפעים מהטיות קיימות בחברה.