Inferens med hjälp av djupa neurala nätverk är ofta outsourcad till molnet eftersom det är en computationally krävande uppgift. Detta ger dock upphov till en grundläggande förtroendefråga. Hur kan en klient vara säker på att molnet har utfört slutledning korrekt? En lat molnleverantör kan använda en enklare men mindre exakt modell för att minska sin egen beräkningsbelastning, eller ännu värre, illvilligt ändra den slutsats resultat skickas till kunden. Vi föreslår SafetyNets, ett ramverk som gör det möjligt för en opålitlig server (molnet) att förse en klient med ett kort matematiskt bevis på riktigheten av inferens uppgifter som de utför på uppdrag av kunden. Specifikt, SafetyNets utvecklar och implementerar en specialiserad interaktiv bevis (IP) protokoll för kontrollerbar utförande av en klass av djupa neurala nätverk, dvs, de som kan representeras som aritmetiska kretsar. Våra empiriska resultat på tre- och fyralagers djupa neurala nätverk visar att kostnaderna för SafetyNets för både klienten och servern är låga. SafetyNets upptäcker eventuella felaktiga beräkningar av det neurala nätverket av den opålitliga servern med hög sannolikhet, samtidigt som man uppnår toppmodern noggrannhet på MNIST-siffran igenkänning (99,4%) och TIMIT taligenkänningsuppgifter (75,22%).
REF använder ett interaktivt bevis för att bevisa riktighet, men är endast tillämpligt på neurala nätverk som kan uttryckas som en aritmetisk krets.
SafetyNets: Verifiable Execution of Deep Neural Networks on an Untrusted Cloud
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}