Tolkning av djupa neurala nätverk kan möjliggöra nya tillämpningar för prediktiv modellering där både noggrannhet och tolkningsbarhet krävs. I den här artikeln undersöker vi vikten av ett djupt neuralt nätverk för att tolka de statistiska interaktioner det fångar. Vår viktigaste observation är att alla inmatningsfunktioner som interagerar med varandra måste följa starkt viktade vägar till en gemensam dold enhet innan den slutliga utgången. Vi föreslår ett nytt ramverk, som vi kallar Neural Interaktion Detector (NID), som identifierar meningsfulla interaktioner av godtycklig ordning utan en uttömmande sökning på en exponentiell lösning utrymme av interaktionskandidater. Empirisk utvärdering av både syntetiska och verkliga data visade effektiviteten hos NID, som detekterar interaktioner mer exakt och effektivt än den senaste tekniken. I detta avsnitt identifierar och kvantifierar vi inflytelserika statistiska interaktioner som modelleras av ett neuralt nätverk. Vi hänvisar ofta till statistiska interaktioner som "funktionsinteraktioner" när de statistiska interaktionerna av intresse är mellan olika funktioner. Genom den icke-additiva definitionen av en funktion interaktion och den matematiska formuleringen av ett neuralt nätverk, alla interaktioner i det neurala nätverket skapas på dolda enheter, och deras inflytande förökas lager för lager till den slutliga utgången, som visas i figur 1. Vi studerar och kvantifierar först dessa två steg, sedan diskuterar vi nätverksarkitektursöverväganden för att förbättra interaktionsdetekteringen.
Tsang m.fl. REF upptäckte statistiska interaktioner genom att tolka de inlärda vikterna i neurala nätverk.
Detecting Statistical Interactions from Neural Network Weights
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}