Röstgränssnitt blir allmänt accepterade som inmatningsmetoder för en mängd olika enheter. Denna utveckling drivs av snabba förbättringar av automatisk taligenkänning (ASR), som nu utför på samma sätt som mänskligt lyssnande i många uppgifter. Dessa förbättringar baserar sig på en pågående utveckling av djupa neurala nätverk (DNN) som beräkningskärna av ASR. Nya forskningsresultat visar dock att DNN:er är sårbara för negativa störningar, vilket gör det möjligt för angripare att tvinga transkriptionen till en skadlig utgång. I den här artikeln introducerar vi en ny typ av kontradiktoriska exempel som bygger på psykoakustiskt gömställe. Vår attack utnyttjar egenskaperna hos DNN-baserade ASR-system, där vi utökar det ursprungliga analysförfarandet med ytterligare ett backpropagation steg. Vi använder denna backpropagation för att lära oss graden av frihet för den kontrariska perturberingen av ingångssignalen, d.v.s. tillämpar vi en psykoakustisk modell och manipulerar den akustiska signalen under trösklarna för mänsklig perception. För att ytterligare minimera perceptibiliteten av perturbationer, använder vi tvingad anpassning för att hitta den bästa passande temporal anpassning mellan det ursprungliga ljudprovet och den skadliga mål transkription. Dessa tillägg tillåter oss att bädda in en godtycklig ljudingång med en skadlig röstkommando som sedan transkriberas av ASR-systemet, med ljudsignalen fortfarande knappt kan särskiljas från den ursprungliga signalen. I en experimentell utvärdering angriper vi det toppmoderna taligenkänningssystemet Kaldi och bestämmer den bästa parametern och analysinställningen för olika typer av indata. Våra resultat visar att vi är framgångsrika i upp till 98 % av fallen med en beräkningsinsats på mindre än två minuter för en tio sekunders ljudfil. Baserat på användarstudier, fann vi att ingen av våra mål transkriptioner var hörbara för mänskliga lyssnare, som fortfarande förstår det ursprungliga talinnehållet med oförändrad noggrannhet.
De kontradiktoriska prov som genereras av detta arbete är kvasi-kännbara och motiverar ett separat arbete REF för att minimera konceptibiliteten hos de kontrariska perturbationer som använder psykoakustiskt gömställe.
Adversarial Attacks Against Automatic Speech Recognition Systems via Psychoacoustic Hiding
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Engineering']}