Vektor rymd modeller av ord i NLPword inbäddningar-har nyligen visat sig tillförlitligt koda semantisk information, erbjuder funktioner som att lösa proportionella analoga uppgifter som man:woman::king:queen. Vi studerar hur väl dessa fördelningsegenskaper för över till liknande lärda phoneme inbäddningar, och om phoneme vektor utrymmen anpassa sig till artikulatoriska distinkta funktioner, med hjälp av flera metoder för att erhålla sådana kontinuerliga-rymd representationer. Vi visar en statistiskt signifikant korrelation mellan distinkta funktionsrymder och vektorrymder inlärda med wordcontext PPMI+SVD och word2vec, vilket visar att många distinkta funktionskontraster implicit förekommer i fonemdistributioner. Dessutom gör dessa distribuerade representationer att vi kan lösa proportionella analoga uppgifter med fonemes, såsom p är att b som t är till X, där lösningen är att X = d. Denna effekt är ännu starkare när en övervakning signal läggs till där vi extraherar foneme representationer från inbäddande skikt av ett återkommande neuralt nätverk som tränas för att lösa ett ord böjning uppgift, dvs... En modell som görs medveten om ordrelativitet.
Därefter, låt oss undersöka begreppet samband mellan distinkta funktioner utrymme och telefon inbäddning utrymme för att utvärdera telefon inbäddningar som föreslås av REF.
Sound Analogies with Phoneme Embeddings
{'venue': None, 'journal': None, 'mag_field_of_study': ['Computer Science']}