Kunskapsdiagram är viktiga resurser för många artificiell intelligens uppgifter men ofta lider av ofullständighet. I detta arbete föreslår vi att använda förtränade språkmodeller för kunskapsgrafikkomplettering. Vi behandlar tripletter i kunskapsgrafer som textsekvenser och föreslår ett nytt ramverk som heter Knowledge Graph Bidirective Encoder Representationer från Transformer (KG-BERT) för att modellera dessa tripletter. Vår metod tar enhet och relation beskrivningar av en trippel som ingång och beräknar poängfunktion av trippeln med KG-BERT språkmodellen. Experimentella resultat på flera kunskapsdiagram visar att vår metod kan uppnå toppmodern prestanda i trippelklassificering, länkförutsägelse och relationsförutsägelseuppgifter.
KG-BERT REF tar enhets- och relationsbeskrivningar av en trippel som ingångs- och beräkningsfunktion för trippeln med BERT.
KG-BERT: BERT for Knowledge Graph Completion
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}