Djupa generativa modeller har haft framgång med att modellera kontinuerliga data. Det är dock fortfarande svårt att fånga upp representationerna för diskreta strukturer med formell grammatik och semantik, t.ex. datorprogram och molekylära strukturer. Hur man genererar både syntaktiskt och semantiskt korrekta data är fortfarande till stor del ett öppet problem. Inspirerad av teorin om kompilator där syntax och semantik kontroll görs via syntax-riktad översättning (SDT), föreslår vi en ny syntax-directed variational autoencoder (SD-VAE) genom att införa stokastiska lata attribut. Detta tillvägagångssätt omvandlar offline SDT check till on-the-fly genererad vägledning för att begränsa dekoder. Jämfört med de senaste metoderna genomdriver vårt tillvägagångssätt begränsningar av utdatautrymmet så att utdata inte bara blir syntaktiskt giltiga, utan också semantiskt rimliga. Vi utvärderar den föreslagna modellen med tillämpningar inom programmeringsspråk och molekyler, inklusive rekonstruktion och program/molekyloptimering. Resultaten visar hur effektivt det är att införliva syntaktiska och semantiska begränsningar i diskreta generativa modeller, vilket är betydligt bättre än dagens moderna metoder.
Syntax-directed VAE (SD-VAE) som innehåller både syntaktiska och semantiska begränsningar av SMILES via attribut grammatik REF.
Syntax-Directed Variational Autoencoder for Structured Data
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}