instruction: Nevezzen meg egy példát arra a helyzetre, amikor egy mesterséges intelligencia rendszer elfogult döntést hozott.
output: Az egyik példa arra a helyzetre, amikor egy mesterséges intelligenciával működő rendszer elfogult döntést hozott, az az eset, amikor a vállalatok mesterséges intelligencia technológiát használnak az álláspályázók önéletrajzainak szűrésére. Egyes mesterséges intelligencia rendszerekről kiderült, hogy kizárják a képzett nők és színesbőrűek önéletrajzait, mivel a rendszereket fehér férfiak által benyújtott önéletrajzokon "képezték ki", akik történelmileg aránytalanul sok magas rangú pozíciót töltöttek be. Ennek eredményeképpen az AI-rendszer állandósította a meglévő egyenlőtlenségeket és előítéleteket. Ez a probléma széles körű kritikát váltott ki az ilyen rendszerek használatával kapcsolatban, és számos vállalat lépéseket tett az algoritmikus előítéletek csökkentése érdekében.