Dataförgiftning är en attack på maskininlärning modeller där angriparen lägger till exempel till utbildning som för att manipulera beteendet hos modellen vid testtid. Den här tidningen undersöker förgiftningsattacker på nervnät. De föreslagna attackerna använder "renmärkning"; de kräver inte att angriparen har någon kontroll över märkningen av träningsdata. De är också riktade; de kontrollerar klassificeringsgivarens beteende på en specifik testinstans utan att försämra den övergripande klassificeringsprestandan. Till exempel kan en angripare lägga till en till synes ofarlig bild (som är korrekt märkt) till en utbildning som för en ansiktsigenkänning motor, och kontrollera identiteten på en utvald person vid provtillfället. Eftersom angriparen inte behöver kontrollera märkningen funktion, gift kunde föras in i utbildningen uppsättningen helt enkelt genom att lämna dem på nätet och väntar på dem att skrotas av en datainsamling bot. Vi presenterar en optimeringsbaserad metod för att tillverka gifter, och visar att bara en enda giftbild kan styra klassificering beteende när överföring lärande används. För fullständig end-to-end utbildning, presenterar vi en "watermarking" strategi som gör förgiftning pålitlig med hjälp av flera ( och 50) förgiftade utbildningsfall. Vi demonstrerar vår metod genom att generera förgiftade grodbilder från CIFAR-datasetet och använda dem för att manipulera bildsorterare.
Även en enda giftig bild kan äventyra en modell när överföring lärande används REF.
Poison Frogs! Targeted Clean-Label Poisoning Attacks on Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}