Vi introducerar segmentala återkommande neurala nätverk (SRNNs) som definierar, med tanke på en ingångssekvens, en gemensam sannolikhetsfördelning över segmenteringar av indata och märkningar av segmenten. Representationer av inmatningssegmenten (dvs. sammanhängande undersekvenser av inmatningen) beräknas genom kodning av deras beståndsdelar med hjälp av dubbelriktade återkommande neurala nät, och dessa "segment inbäddningar" används för att definiera kompatibilitetspoäng med utmatningsetiketter. Dessa lokala kompatibilitetspoäng är integrerade med hjälp av ett globalt semi-Markov villkorat slumpmässigt fält. Både helt övervakad utbildning – där segmentgränser och etiketter observeras – och delvis övervakad utbildning – där segmentgränser är latenta – är okomplicerade. Experiment om handstilsigenkänning och gemensam kinesisk ordsegmentering/POS-märkning visar att jämfört med modeller som inte uttryckligen representerar segment som BIO-märkningssystem och tidsklassificering (CTC) får SRNN betydligt högre noggrannhet.
Ref föreslår segmentella återkommande neurala nätverk (SRNN).
Segmental Recurrent Neural Networks
{'venue': 'ICLR 2016', 'journal': 'arXiv: Computation and Language', 'mag_field_of_study': ['Computer Science']}