Djupinlärning (DL) definierar ett nytt datadrivet programmeringsparadigm som konstruerar den interna systemlogiken hos ett skapat neuronnätverk genom en uppsättning träningsdata. Vi har sett ett brett antagande av DL i många säkerhetskritiska scenarier. En uppsjö av studier har dock visat att de toppmoderna DL-systemen lider av olika sårbarheter som kan leda till allvarliga konsekvenser när de tillämpas på verkliga tillämpningar. För närvarande mäts testlämpligheten hos ett DL-system vanligtvis med testdatas noggrannhet. Med tanke på begränsningen av tillgängliga testdata av hög kvalitet kan god noggrannhet hos testdata knappast ge tilltro till testlämpligheten och allmänheten hos DL-system. Till skillnad från traditionella programvarusystem som har tydlig och kontrollerbar logik och funktionalitet, gör bristen på tolkningsbarhet i ett DL-system system systemanalys och feldetektering svårt, vilket skulle kunna hindra dess verkliga driftsättning. I detta dokument föreslår vi DeepGauge, en uppsättning kriterier för multigranularity testing för DL-system, som syftar till att göra en mångfacetterad beskrivning av testbädden. Den fördjupade utvärderingen av våra föreslagna testkriterier visas på två välkända datauppsättningar, fem DL-system, och med fyra toppmoderna kontradiktoriska attacktekniker mot DL. Den potentiella nyttan av DeepGauge kastar ljus över konstruktionen av mer generiska och robusta DL-system. • Programvara och dess ingenjörskonst → Testning och felsökning av programvara; • Teori om beräkning → Adversariellt lärande;
Ett nyligen utfört arbete DeepGauge Ref mäter testkvaliteten och formaliserar en uppsättning testkriterier för DNN.
DeepGauge: Multi-Granularity Testing Criteria for Deep Learning Systems
{'venue': 'DeepGauge: Multi-Granularity Testing Criteria for Deep Learning Systems. In Proceedings of the 33rd ACM/IEEE International Conference on Automated Software Engineering (ASE 18), September 3-7, 2018, Montpellier, France', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}