Abstrakt. Många maskininlärningssystem förlitar sig på data som samlas in i det vilda från opålitliga källor, utsätta inlärningsalgoritmer för dataförgiftning. Angripare kan injicera skadliga data i träningsdatauppsättningen för att subvertera inlärningsprocessen, vilket äventyrar prestandan hos algoritmen som producerar fel på ett riktat eller urskillningslöst sätt. Label flipping attacker är ett speciellt fall av dataförgiftning, där angriparen kan styra etiketter som tilldelats en bråkdel av träningspunkterna. Även om angriparens kapacitet är begränsad, har dessa attacker visat sig vara effektiva för att avsevärt försämra systemets prestanda. I detta dokument föreslår vi en effektiv algoritm för att utföra optimal märkning av förgiftningsattacker och en mekanism för att upptäcka och omvärdera misstänkta datapunkter, vilket minskar effekten av sådana förgiftningsattacker.
Märkningssanering har också föreslagits som en mekanism för att identifiera och på nytt märka misstänkta utbildningspunkter REF.
Label Sanitization against Label Flipping Poisoning Attacks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}