Abstract Discriminative tekniker, såsom villkorade slumpmässiga fält (CRF) eller struktur medveten maximal-marginal tekniker (maximal marginal Markov nätverk (M 3 N), strukturerad utgång stöd vektor maskiner (S-SVM)), är state-of-the-art i förutsägelsen av strukturerade data. Men för att uppnå goda resultat kräver dessa tekniker fullständig och tillförlitlig grundsanning, som inte alltid finns tillgänglig i realistiska problem. Dessutom är utbildning av antingen CRF:er eller marginalbaserade tekniker kostnadskrävande, eftersom körtiden för nuvarande utbildningsmetoder inte bara beror på utbildningens storlek utan också på egenskaperna hos det produktionsutrymme som utbildningsproven tilldelas. Vi föreslår en alternativ modell för strukturerad output förutsägelse, Joint Kernel Support Estimation (JKSE), som är ganska generativ till sin natur eftersom den bygger på att uppskatta den gemensamma sannolikhetstätheten för prover och etiketter i träningssetet. Detta gör den tolerant mot ofullständiga eller felaktiga etiketter och öppnar också möjligheten att lära sig i situationer där mer än en utmatningsetikett kan anses vara korrekt. Samtidigt undviker vi typiska problem med generativa modeller eftersom vi inte försöker lära oss den fullständiga gemensamma sannolikhetsfördelningen, utan vi modellerar bara dess stöd i en gemensam reproducerande kärna Hilbert utrymme. Till följd av detta är JKSE-utbildning möjlig genom en anpassning av det klassiska SVM-förfarandet i en klass. Det resulterande optimeringsproblemet är konvext och effektivt lösbart även med tiotusentals träningsexempel. En särskild fördel med JKSE är att träningshastigheten endast beror på träningssetets storlek och inte på etikettens totala storlek. Ingen slutsats steg under utbildning krävs (som M 3 N och S-SVM skulle) inte heller har vi beräkna en partition funktion (som CRFs gör). Experiment på realistiska data visar att vår metod för lämpliga kärnfunktioner fungerar effektivt och robust i situationer som diskriminerande tekniker har problem med eller som är ogenomförbara för dem.
Lampert och Blaschko REF föreslog att den gemensamma kärnan skulle användas direkt för strukturerad förutsägelse av en alternativ modell kallad gemensam kärnstödsuppskattning (JKSE).
Structured prediction by joint kernel support estimation
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}