I detta dokument studerar vi problemet med att utforma objektiva funktioner för maskininlärning problem definierade på ändliga uppsättningar. I motsats till traditionella objektiva funktioner definierade för maskininlärning problem som fungerar på finita dimensionella vektorer, de nya objektiva funktioner som vi föreslår fungerar på ändliga uppsättningar och är invarianta till permutationer. Sådana problem är utbredda, allt från uppskattning av befolkningsstatistik, via anomali upptäckt i piezometer data av valldammar (Jung et al., 2015) till kosmologi (Ntampaka et al., 2016; Ravanbakhsh et al., 2016a). Vårt huvudteorem karakteriserar permutationen invarianta objektiva funktioner och ger en familj av funktioner som varje permutation invariant objektiv funktion måste tillhöra. Denna familj av funktioner har en särskild struktur som gör det möjligt för oss att utforma en djup nätverksarkitektur som kan fungera på uppsättningar och som kan användas på en mängd olika scenarier, inklusive både oövervakade och övervakade inlärningsuppgifter. Vi demonstrerar tillämpligheten av vår metod på populationsstatistik uppskattning, punktmoln klassificering, ange expansion, och bild taggning.
(2) Djupinlärning på uppsättningar I motsats till traditionella tillvägagångssätt som fungerar på vektorer med fasta dimensioner eller matriser, kräver djupinlärningsuppgifter som definieras på uppsättningar vanligtvis inlärningsfunktioner för att vara permutationsinvariant och kunna bearbeta ett godtyckligt antal element i en uppsättning REF ).
Deep Sets
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}