Djupa neurala nätverk (DNN) har nyligen uppnått state-of-the-art prestanda på en mängd olika mönster-erkännande uppgifter, främst visuella klassificeringsproblem. Med tanke på att DNN nu kan klassificera objekt i bilder med nästan mänsklig prestanda uppstår naturligtvis frågor om vilka skillnader som finns mellan komputer och mänsklig vision. En nyligen genomförd studie [30} visade att man ändrar en bild (t.ex. av ett lejon) på ett sätt som är omärkligt för människor kan få en DNN att märka bilden som något helt annat (t.ex. Att felmärka ett lejon till ett bibliotek). Här visar vi ett relaterat resultat: det är lätt att producera bilder som är helt oigenkännliga för människor, men som toppmoderna DNNs anser vara igenkännliga objekt med 99.99% förtroende (t.ex. Märkning med säkerhet att vitt brus statiskt är ett lejon). Specifikt tar vi konvolutionella neu ral nätverk utbildade för att peiform väl på antingen ImageNet eller MNIST dataset och sedan hitta bilder med evolutionära algoritmer eller lutning stigning som DNNs märka med stort förtroende som tillhör varje dataset klass. Det är möjligt att producera bilder som är helt oigenkännliga för mänskliga ögon och som DNN med stor säkerhet tror är välbekanta objekt, som vi kallar "skumbilderna" (mer allmänt,skumma ex späckar). Våra resultat kastar ljus över intressanta skillnader mellan människans syn och aktuella DNN, och väcker frågor om allmänheten i DNN datorseende.
REF beskriver en evolutionär algoritm för att generera bilder bestående av 2D-mönster som av DNN klassificeras som gemensamma objekt med stort förtroende (ofta 99 %).
Deep neural networks are easily fooled: High confidence predictions for unrecognizable images
{'venue': '2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}