Även om djupt lärande är anmärkningsvärt framgångsrikt i fråga om perceptuella uppgifter, visade det sig också vara sårbart för negativa störningar av inputen. Dessa perturbationer betecknar buller som läggs till den ingång som genererades specifikt för att lura systemet samtidigt som den är kvasi-omärklig för människor. Mer allvarligt, det finns även universella störningar som är input-agnostic men lura nätverket på majoriteten av indata. Medan det senaste arbetet har fokuserat på bildklassificering, detta arbete föreslår attacker mot semantiska bildsegmentering: vi presenterar en strategi för att generera (universal) kontraversariella perturbationer som gör att nätverket ger en önskad målsegmentering som utgång. Vi visar empiriskt att det finns knappt märkbara universella bullermönster som resulterar i nästan samma förutsagda segmentering för godtyckliga ingångar. Dessutom visar vi också förekomsten av universellt buller som tar bort en målklass (t.ex. alla fotgängare) från segmenteringen samtidigt som segmenteringen oftast förblir oförändrad annars.
På samma sätt, i REF, författare hantverk universella störningar som kan påverka mål segmentering output.
Universal Adversarial Perturbations Against Semantic Image Segmentation
{'venue': '2017 IEEE International Conference on Computer Vision (ICCV)', 'journal': '2017 IEEE International Conference on Computer Vision (ICCV)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}