Säkerhetsproblem är avgörande i ett antal tillämpningar för maskininlärning, särskilt i scenarier som handlar om mänsklig aktivitet snarare än naturfenomen (t.ex. informationsrankning, skräppostdetektering, malware upptäckt, etc.). Det kan förväntas i sådana fall att inlärningsalgoritmer kommer att behöva hantera manipulerade data som syftar till att hindra beslutsfattandet. Även om vissa tidigare arbete tog itu med hanteringen av skadliga data i samband med övervakad lärande, mycket lite är känt om beteendet hos anomali detektionsmetoder i sådana scenarier. I detta bidrag, 1 vi analysera prestandan av en viss metod -online centroid anomali detektion - i närvaro av motstående buller. Vår analys behandlar följande säkerhetsrelaterade frågor: formalisering av inlärnings- och attackprocesser, härledning av en optimal attack, analys av dess effektivitet och begränsningar. Vi härleder gränser på effektiviteten av en förgiftning attack mot centroid anomali under olika förhållanden: avgränsade och obundna procent av trafiken, och avgränsade falska positiva hastighet. Våra gränser visar att även om en förgiftningsattack effektivt kan iscensättas i det oöverskådliga fallet, kan det göras godtyckligt svårt (en strikt övre gräns för angriparens vinst) om yttre begränsningar används på rätt sätt. Vår experimentella utvärdering av verkliga HTTP och utnyttja spår bekräftar att våra teoretiska gränser och praktiska skyddsmekanismer är snäva.
Teoretisk online centroid anomali detektion analys har diskuterats i REF.
Security Analysis of Online Centroid Anomaly Detection
{'venue': None, 'journal': 'arXiv: Machine Learning', 'mag_field_of_study': ['Mathematics', 'Computer Science']}