Neurala nätverksbildklassificeringar är kända för att vara sårbara för kontradiktoriska bilder, d.v.s. naturliga bilder som har modifierats av en kontradiktorisk perturbation som är särskilt utformad för att vara omärklig för människor men som ändå lurar klassifieraren. Inte bara kan kontradiktoriska bilder genereras enkelt, men dessa bilder kommer ofta att vara kontradiktoriska för nätverk som är utbildade på osammanhängande delmängder av data eller med olika arkitekturer. Motståndsbilder representerar en potentiell säkerhetsrisk samt en allvarlig maskininlärning utmaning-det är tydligt att sårbara neurala nätverk uppfattar bilder mycket annorlunda från människor. Med tanke på att praktiskt taget alla bildklassificeringsdata består av JPG-bilder utvärderar vi effekten av JPG-komprimering på klassificeringen av kontradiktoriska bilder. För Fast-Gradient-Sign perturbations av liten magnitud, fann vi att JPG komprimering ofta vänder nedgången i klassificering noggrannhet i stor utsträckning, men inte alltid. Eftersom omfattningen av perturbationer ökar, JPG rekompression ensam är otillräcklig för att vända effekten.
Dziugaite m.fl. REF undersökte effekten av JPEG-komprimering på kontradiktoriska bilder.
A study of the effect of JPG compression on adversarial images
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}