Vi anser att en enkel och övergripande representation för permutation-invariant funktioner i sekvenser (eller set funktioner). Vårt tillvägagångssätt, som vi kallar Janossy pooling, uttrycker en permutationsinvariant funktion som genomsnittet av en permutationskänslig funktion som tillämpas på alla omordningar av ingångssekvensen. Detta gör att vi kan utnyttja den rika och mogna litteraturen på permutationskänsliga funktioner för att konstruera nya och flexibla permutations-invarianta funktioner. Om den utförs naivt, Janossy pooling kan vara beräkningsmässigt oöverkomlig. För att möjliggöra beräkningsförmåga överväger vi tre typer av approximationer: kanoniska order av sekvenser, funktioner med k-orderinteraktioner och stokastiska optimeringsalgoritmer med slumpmässiga permutationer. Vårt ramverk förenar en mängd olika befintliga arbeten i litteraturen, och föreslår möjliga modellering och algoritmiska förlängningar. Vi utforskar några i våra experiment, som visar bättre prestanda jämfört med nuvarande toppmoderna metoder.
REF konstruerade nya permutationsinvarianta funktioner för indata i variabel storlek, och föreslog vissa approximationer.
Janossy Pooling: Learning Deep Permutation-Invariant Functions for Variable-Size Inputs
{'venue': 'ICLR 2019', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}