Vi tar itu med problemet med att skapa en ordlek mening med ett par homofoner (t.ex., "dött" och "dött"). Kontrollerad textgenerering är olämplig på grund av bristen på en stor corpus av ordlekar, och även om en sådan corpus existerade, imiterar är i strid med att generera nytt innehåll. I detta dokument föreslår vi en oövervakad strategi för att skapa ordlekar med hjälp av en corpus av ohygglig text och vad vi kallar den lokalt globala surprisalprincipen: vi antar att det i en ordlek finns ett starkt samband mellan ordleken (t.ex. "dött") och det avlägsna sammanhanget, liksom ett starkt samband mellan det alternativa ordet (t.ex. "dött") och det omedelbara sammanhanget. Denna kontrast skapar förvåning och därmed humor. Vi omedelbart denna princip för pungenerering på två sätt: (i) som en åtgärd baserad på förhållandet mellan sannolikheter enligt en språkmodell, och (ii) en hämta-och-redigera metod baserad på ord som föreslås av en hoppa-gram modell. Human utvärdering visar att vår hämtning-och-redigering metod genererar ordlekar framgångsrikt 31% av tiden, vilket tredubblar framgången för en neural generation baslinje.
I REF föreslås en retriever-and-edit pipeline för att generera en mening med ordleken.
Pun Generation with Surprise
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}