Standardmetoder för maximal marginalstrukturerade förutsägelser saknar en enkel probabilistisk tolkning av inlärningssystemet och prediktionsregeln. Därför kan dess unika fördelar som dubbel gleshet och kärntrick inte lätt förenas med fördelarna med en probabilistisk modell som Bayesian legalisering, modellgenomsnitt, och tillåter dolda variabler. I detta dokument presenterar vi en ny och allmän ram som kallas Maximum Entropy Diskriminering Markov Networks (MaxEnDNet), som integrerar dessa två tillvägagångssätt och kombinerar och utökar sina meriter. Viktiga innovationer av denna modell inkluderar: 1) Den generaliserar den yttre Markov nätverks förutsägelse regel baserad på en punkt uppskattning av vikter till en Bayesian-stil uppskattning som integrerar över en inlärd fördelning av vikterna. 2) Det utvidgar den konventionella principen om maximal entropidiskriminering när det gäller att lära sig klassificeringsregeln till att omfatta ett nytt strukturellt paradigm för maximal entropidiskriminering när det gäller att lära sig distributionen av Markovnätverk. 3) Det subsumerar den välkända och kraftfulla Maximum Margin Markov nätverk (M 3 N) som ett specialfall, och leder till en modell som liknar en L 1 -regularized M 3 N som samtidigt är primal och dual sparse, eller andra typer av Markov nätverk genom att koppla in olika tidigare fördelningar av vikterna. 4) Den erbjuder en enkel inferensalgoritm som kombinerar befintlig variationsinferens och konvex-optimering baserad M 3 N-lösare som subrutiner. 5) Det erbjuder en PAC-bayesian stil generalization bundit. Detta arbete utgör det första lyckade försöket att kombinera Bayesianskt lärande (baserat på generativa modeller) med strukturerat maximal marginalinlärning (baserat på en diskriminativ modell) och överträffar ett brett spektrum av konkurrerande metoder för strukturerad in-/utputinlärning på både syntetiska och verkliga OCR- och webbdataextraheringsdata.
PoMEN modellen bygger på maximal entropi diskriminering Markov Networks (MaxEnDNet) REF, som subsumerar SSVM.
M L ] 1 8 Ja n 20 09 Maximum Entropy Discrimination Markov Networks