De flesta nuvarande statistiska modeller för bearbetning av naturligt språk använder endast lokala funktioner för att möjliggöra dynamisk programmering i slutänden, men detta gör att de inte fullt ut kan redogöra för den långa avståndsstruktur som är allmänt förekommande i språkanvändning. Vi visar hur man löser detta dilemma med Gibbs provtagning, en enkel Monte Carlo metod som används för att utföra ungefärlig inferens i faktoriserade probabilistiska modeller. Genom att använda simulerad glödgning i stället för Viterbi-avkodning i sekvensmodeller som HMMs, CMMs och CRFs, är det möjligt att införliva icke-lokal struktur samtidigt bevara dragbar inferens. Vi använder denna teknik för att förstärka ett befintligt CRF-baserat informationsextraktionssystem med långdistansmodeller för beroende, säkerställande av etikettkonsistens och krav på extraktionsmallskonsistens. Denna teknik resulterar i en felminskning på upp till 9 % jämfört med toppmoderna system på två etablerade uppgifter för informationsutvinning.
I Ref föreslogs en metod med icke-lokal struktur för informationsutvinning.
Incorporating Non-Local Information Into Information Extraction Systems By Gibbs Sampling
{'venue': 'Annual Meeting Of The Association For Computational Linguistics', 'journal': None, 'mag_field_of_study': ['Computer Science']}