Neurala nätverk är känsliga för kontradiktoriska exempel: små, noggrant utformade störningar kan orsaka nätverk att felklassificera ingångar på godtyckligt valda sätt. Vissa studier har dock visat att kontradiktoriska exempel som skapats enligt de vanliga metoderna inte är toleranta mot små transformationer: till exempel kan zoomning på en kontradiktorisk bild orsaka att den klassificeras korrekt igen. Detta väcker frågan om kontradiktoriska exempel är ett problem i praktiken, eftersom många verkliga system fångar bilder från flera skalor och perspektiv. Detta dokument visar att kontradiktoriska exempel kan göras robusta för distribution av transformationer. Vårt tillvägagångssätt producerar enstaka bilder som samtidigt är kontradiktoriska under alla transformationer i en vald distribution, vilket visar att vi inte kan förlita oss på transformationer som omskalning, översättning och rotation för att skydda mot kontradiktoriska exempel.
I REF införs ett tillvägagångssätt för att generera 3D- kontradiktoriska exempel (över en vald fördelning av omvandlingar).
Synthesizing Robust Adversarial Examples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}