Strukturerade förutsägelser innebär en grundläggande avvägning mellan behovet av modellkomplexitet för att öka den prediktiva effekten och de begränsade beräkningsresurserna för slutsatser i de exponentiellt stora utgående utrymmen som sådana modeller kräver. Vi formulerar och utvecklar den strukturerade förutsägelsen Cascade arkitektur: en sekvens av allt mer komplexa modeller som gradvis filtrerar utrymmet för möjliga utgångar. Den viktigaste principen i vår strategi är att varje modell i kaskaden är optimerad för att noggrant filtrera och förfina det strukturerade utdatautrymmet för nästa modell, vilket påskyndar både inlärning och slutsatser i nästa lager av kaskaden. Vi lär oss kaskader genom att optimera en ny konvex förlustfunktion som styr avvägningen mellan filtreringseffektiviteten och noggrannheten hos kaskaden, och ger generaliseringsbegränsningar för både noggrannhet och effektivitet. Vi utökar också vårt förhållningssätt till intractable modeller med hjälp av träd-nedbrytning ensembler, och ger algoritmer och teori för denna inställning. Vi utvärderar vår strategi för flera storskaliga problem, uppnå state-of-the-art prestanda i handstil erkännande och mänskliga pose erkännande. Vi finner att strukturerade förutsägelser kaskader möjliggör enorma uppfarter och användning av tidigare intractable funktioner och modeller i båda inställningarna.
I problem som taligenkänning och maskinöversättning, inference innebär typiskt en heuristisk sökning genom det stora utrymmet för möjliga utgångar, och kaskadidén kan användas för att gradvis filtrera uppsättningen outputs under övervägande REF.
Structured Prediction Cascades
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}