Strukturerade förutsägelse energinätverk (SPENs) är en enkel, men ändå uttrycksfull familj av strukturerade förutsägelser modeller (Belanger & McCallum, 2016 ). En energifunktion över kandidat strukturerade utgångar ges av ett djupt nätverk, och förutsägelser bildas genom gradient-baserad optimering. Detta dokument presenterar end-to-end lärande för SPENs, där energifunktionen är discriminativt tränad genom back-propagating genom gradient-baserad förutsägelse. I vår erfarenhet är tillvägagångssättet betydligt mer exakt än den strukturerade SVM-metoden av Belanger & McCallum (2016), eftersom det gör det möjligt för oss att använda mer sofistikerade icke-konvexa energier. Vi tillhandahåller en samling tekniker för att förbättra hastigheten, noggrannheten och minneskraven för end-to-end SPENs, och demonstrera kraften i vår metod på 7-Scenes bild denoisering och CoNLL-2005 semantiska roll märkning uppgifter. I båda är inexakt minimering av icke-konvexa SPEN-energier överlägsen baslinjemetoder som använder förenklade energifunktioner som kan minimeras exakt.
Belangare m.fl. REF införde en end-to-end inlärningsmetod för SPENs, där en energifunktion minimeras genom back-förökning med hjälp av gradient-baserad förutsägelse.
End-to-End Learning for Structured Prediction Energy Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}