Vi introducerar strukturerade förutsägelser energinät (SPEN), en flexibel ram för strukturerade förutsägelser. En djup arkitektur används för att definiera en energifunktion av kandidatetiketter, och sedan förutsägelser produceras genom att använda backpropagation för att iterativt optimera energin med avseende på etiketterna. Denna djupa arkitektur fångar beroenden mellan etiketter som skulle leda till svåråtkomliga grafiska modeller, och utför strukturinlärning genom att automatiskt lära sig diskriminerande egenskaper hos den strukturerade produktionen. En naturlig tillämpning av vår teknik är multi-märkning klassifikation, vilket traditionellt har krävt strikta förutfattade antaganden om samspelet mellan etiketter för att säkerställa tractionabel inlärning och förutsägelse. Vi kan tillämpa SPENs på flermärkta problem med betydligt större etikettuppsättningar än tidigare tillämpningar av strukturerade förutsägelser, samtidigt som vi modellerar högorderinteraktioner med minimala strukturella antaganden. På det hela taget ger djupt lärande anmärkningsvärda verktyg för inlärningsegenskaper i indata till ett förutsägelseproblem, och detta arbete utvidgar dessa tekniker till inlärningsegenskaper i strukturerade resultat. Våra experiment ger imponerande prestanda på en mängd olika benchmarking-klassificeringsuppgifter, visar att vår teknik kan användas för att ge tolkningsbar strukturinlärning och belysa grundläggande kompromisser mellan feedforward och iterativ strukturerad förutsägelse.
Strukturerade förutsägelse energinät (SPEN) REF ta detta tillvägagångssätt och kan fånga beroenden som skulle leda till svåråtkomliga grafiska modeller.
Structured Prediction Energy Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}