Abstract-Vi anser att problemet med ett neuralt nätverk som krävs för att klassificera bilder (eller andra ingångar) utan att implicit använda ett "skyddat koncept", det är ett begrepp som inte bör spela någon roll i beslutet om nätverket. Vanligtvis inkluderar dessa begrepp information såsom kön eller ras, eller annan kontextuell information såsom bildbakgrunder som implicit kan återspeglas i okända korrelationer med andra variabler, vilket gör det otillräckligt att helt enkelt ta bort dem från inmatningsfunktionerna. Att göra exakta förutsägelser är med andra ord inte tillräckligt bra om dessa förutsägelser bygger på information som inte bör användas: förutsägande prestanda är inte det enda viktiga måttet för inlärningssystem. Vi tillämpar en metod som utvecklats i samband med domänanpassning för att ta itu med detta problem med att "vara rätt av rätt anledning", där vi ber en klassificeringsgivare att fatta ett beslut på ett sätt som är helt "agnostiskt" för ett givet skyddat koncept (t.ex. kön, ras, bakgrund etc.), även om detta implicit kan återspeglas i andra attribut via okända korrelationer. Efter att ha definierat begreppet "agnostisk modell", visar vi hur Domain-Adversarial Neural Network kan ta bort oönskad information från en modell med hjälp av en lutning reversering lager.
Begreppet agnostiskt neuralt nätverk som det används i det nuvarande arbetet infördes i REF.
Right for the Right Reason: Training Agnostic Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}