Djupt lärande har i stort sett utnyttjats av stora molnleverantörer som Google, AWS, Baidu, för att erbjuda olika datorseenderelaterade tjänster, inklusive automatisk bildklassificering, objektidentifiering och olaglig bilddetektering. Även om många av de senaste verken har visat att modeller för klassificering på djupet är sårbara för kontradiktoriska exempel, är molnbaserade tjänster för att upptäcka bilder mer komplexa än klassificering och det finns lite litteratur om kontradiktoriska exempelattacker på detektionstjänster. I denna uppsats fokuserar vi främst på att studera säkerheten hos verkliga molnbaserade bilddetektorer. Specifikt, (1) baserat på effektiv semantisk segmentering, föreslår vi fyra olika attacker för att generera semantik-medvetna kontrariska exempel via endast interagera med black-box API:er; och (2) vi gör det första försöket att genomföra en omfattande empirisk studie av black-box attacker mot verkliga molnbaserade bilddetektorer. Genom utvärderingar på fem populära molnplattformar, inklusive AWS, Azure, Google Cloud, Baidu Cloud och Alibaba Cloud, visar vi att vår IP-attack har en framgångsgrad på cirka 100%, och semantiska segmenteringsbaserade attacker (t.ex. SP, SBLS, SBB) har en framgångsgrad på över 90% bland olika detektionstjänster, såsom våld, politiker och upptäckt av pornografi. Vi diskuterar möjliga försvar för att ta itu med dessa säkerhetsutmaningar i molnbaserade detektorer.
REF gör det första försöket att genomföra en omfattande empirisk studie av black-box attacker mot verkliga molnbaserade bilddetektorer såsom våld, politiker och pornografi upptäckt.
Adversarial Examples versus Cloud-based Detectors: A Black-box Empirical Study
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}