ABSTRACT Distant övervakning för relation utvinning är en uppgift att erkänna semantiska relationer mellan enheter i en stor mängd ren text svagt övervakas av externa kunskapsbaser, vilket kan gynna många NLP-tillämpningar, såsom kunskapsgrafik slutförande och frågesvar. Även om det avsevärt minskar de dyra kostnaderna för datamärkning, lider det hårt av bullriga etiketter. I detta dokument föreslår vi en multi-head Self-attention Network (MSNet)-baserad denoiseringsmetod för relationsextraktion. Mer specifikt kodar vi ord, enheter och deras positioner information i kontextuella inbäddningar via en multi-head själv-attention mekanism, sedan extrahera de diskriminerande mening funktioner med max pooling operation. MSNet kan fånga den inneboende strukturen av en mening och modell relationen mellan två ord utan hänsyn till deras avstånd. Dessutom antar vi en ny metod för förtroendeinlärning på etiketten för att korrigera de bullriga etiketterna. En latent etikett förutsägs steg för steg under utbildningen som mark-sanning enligt en läroplan funktion av etikett förtroende. Denna märkning denoiseringsmekanism gradvis införlivar den erhållna latent etikett av lätt relationsmönster i senare latent etikett förutsägelse av hårda mönster, vilket gör latent etikett konsekvent lärande mer tillförlitlig. För att verifiera effektiviteten av vår föreslagna metod, förutom den allmänt använda PCNN-baserade arkitekturen, utför vi också experimentet på BiLSTM-modellen som en jämförelse. Resultaten visar att vårt tillvägagångssätt kan överträffa de toppmoderna systemen på den populära utvärderingsdatauppsättningen. INDEX TERMS Relation extrahering, avlägsen övervakning, multi-head själv-attention, märkning denoising.
Därefter föreslås ett nätverk baserat på flera huvudpersoners självbetjäningsteknik REF för att ta itu med problemet med märkningsutjämning.
MSnet: Multi-Head Self-Attention Network for Distantly Supervised Relation Extraction
{'venue': 'IEEE Access', 'journal': 'IEEE Access', 'mag_field_of_study': ['Computer Science']}