Abstract-Google har nyligen infört Cloud Vision API för bildanalys. Enligt demonstrationswebbplatsen klassificerar API:et "snabbt bilder i tusentals kategorier, upptäcker enskilda objekt och ansikten i bilder, och hittar och läser tryckta ord som finns i bilder." Det kan också användas för att "upptäckta olika typer av olämpligt innehåll från vuxen till våldsamt innehåll". I detta dokument utvärderar vi robustheten hos Google Cloud Vision API till inmatning perturbation. I synnerhet visar vi att genom att lägga till tillräckligt med buller till bilden, API genererar helt olika utgångar för den bullriga bilden, medan en mänsklig observatör skulle uppfatta dess ursprungliga innehåll. Vi visar att attacken är konsekvent framgångsrik, genom att utföra omfattande experiment på olika bildtyper, inklusive naturliga bilder, bilder som innehåller ansikten och bilder med texter. Till exempel, med hjälp av bilder från ImageNet dataset, fann vi att lägga till ett genomsnitt på 14,25% impulsbuller är tillräckligt för att lura API. Våra resultat visar på API:ets sårbarhet i kontradiktoriska miljöer. Till exempel kan en motståndare kringgå ett bildfiltreringssystem genom att lägga till buller till olämpliga bilder. Vi visar sedan att när ett bullerfilter appliceras på ingångsbilder genererar API:et mestadels samma utgångar för återställda bilder som för originalbilder. Denna observation tyder på att molnvision API kan enkelt dra nytta av bullerfiltrering, utan att behöva uppdatera algoritmer bildanalys.
REF utvärderar robustheten hos Google Cloud Vision API till inmatning perturbation, de visar att lägga till ett genomsnitt på 14,25% impulsbuller är tillräckligt för att lura API och när ett bullerfilter tillämpas på inmatningsbilder, API genererar mestadels samma utgångar för återställda bilder som för originalbilder.
Google's Cloud Vision API is Not Robust to Noise
{'venue': '2017 16th IEEE International Conference on Machine Learning and Applications (ICMLA)', 'journal': '2017 16th IEEE International Conference on Machine Learning and Applications (ICMLA)', 'mag_field_of_study': ['Computer Science']}