Ordinslag är ett kraftfullt tillvägagångssätt för att fånga semantisk likhet mellan termer i ett ordförråd. I denna uppsats utvecklar vi exponentiella familjeinbäddningar, en klass av metoder som utvidgar idén om ordinslag till andra typer av högdimensionella data. Som exempel studerade vi neuraldata med realvärderade observationer, räkna data från en marknadskorgsanalys och betygsdata från ett filmrecommendation system. Huvudidén är att modellera varje observation beroende på en rad andra observationer. Denna uppsättning kallas sammanhang, och hur sammanhanget definieras är ett modellering val som beror på problemet. Språkligt sett är sammanhanget de omgivande orden; i neurovetenskapen är sammanhanget nära nervceller; i marknadskorgdata är sammanhanget andra objekt i kundvagnen. Varje typ av inbäddningsmodell definierar sammanhanget, den exponentiella familjen av villkorliga fördelningar och hur de latenta inbäddningsvektorerna delas över data. Vi härleder inbäddningarna med en skalbar algoritm baserad på stokastisk lutning nedstigning. På alla tre applikationer-neural aktivitet av zebrafish, användares shopping beteende, och film betyg-vi fann exponentiell familj inbäddning modeller för att vara mer effektiv än andra typer av dimensionsreduktion. De rekonstruerar bättre hållna data och hittar intressant kvalitativ struktur.
Nyligen utvidgade REF idén om ordinslag till andra typer av data.
Exponential Family Embeddings
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}