Djupt lärande har framträtt som en stark och effektiv ram som kan tillämpas på ett brett spektrum av komplexa inlärningsproblem som var svåra att lösa med hjälp av traditionella maskininlärningsmetoder tidigare. Under de senaste åren har djupt lärande utvecklats radikalt på ett sådant sätt att det kan överträffa prestanda på mänsklig nivå på ett antal uppgifter. Som en följd av detta används djupt lärande i stor utsträckning i de flesta av de senaste dagliga tillämpningarna. Säkerheten i systemen för djupinlärning är dock sårbar för skapade kontradiktoriska exempel, som kan vara omärkliga för det mänskliga ögat, men kan leda till att modellen felklassificeras. På senare tid har olika typer av motståndare baserat på sin hotmodell utnyttjat dessa sårbarheter för att äventyra ett system för djupt lärande där motståndare har höga incitament. Därför är det oerhört viktigt att ge robusthet till djupt lärande algoritmer mot dessa motståndare. Det finns dock bara några få starka motåtgärder som kan användas i alla typer av attackscenarier för att utforma ett robust djupinlärningssystem. I detta dokument försöker vi ge en detaljerad diskussion om olika typer av kontradiktoriska attacker med olika hotmodeller och även utveckla effektiviteten och utmaningarna med de senaste motåtgärderna mot dem.
I REF diskuterar författarna olika typer av kontradiktoriska attacker och motåtgärder mot dem.
Adversarial Attacks and Defences: A Survey
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}