Maskininlärningsmodeller är notoriskt svåra att tolka och felsöka. Detta gäller särskilt neurala nätverk. I detta arbete introducerar vi automatiserade mjukvarutesttekniker för neurala nätverk som är väl lämpade för att upptäcka fel som endast förekommer för sällsynta ingångar. Speciellt utvecklar vi täckningsstyrda fuzzing (CGF) metoder för neurala nätverk. I CGF, slumpmässiga mutationer av ingångar till ett neuralt nätverk vägleds av en täckning metrisk mot målet att tillfredsställa användarspecificerade begränsningar. Vi beskriver hur snabb approximativa närmaste grannalgoritmer kan ge denna täckning metriska. Vi diskuterar sedan tillämpningen av CGF till följande mål: hitta numeriska fel i utbildade neurala nätverk, generera meningsskiljaktigheter mellan neurala nätverk och kvantiserade versioner av dessa nätverk, och övervinna oönskade beteende i teckennivå språkmodeller. Slutligen släpper vi ett open source-bibliotek kallat TensorFuzz som implementerar de beskrivna teknikerna.
TensorFuzz REF föreslog den första ramen för täckningsstyrda fuzzing för neurala nätverk.
TensorFuzz: Debugging Neural Networks with Coverage-Guided Fuzzing
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}