Ett neuralt nätverk (NN) är en parameteriserad funktion som kan ställas in via lutningsnedstigning för att approximera en märkt insamling av data med hög precision. En Gaussian process (GP), å andra sidan, är en probabilistisk modell som definierar en fördelning över möjliga funktioner, och uppdateras i ljuset av data via reglerna för probabilistic inference. GPs är probabilistiska, dataeffektiva och flexibla, men de är också beräkningsintensiva och därmed begränsade i deras tillämplighet. Vi introducerar en klass av neural latent variabla modeller som vi kallar neurala processer (NPs), som kombinerar det bästa av båda världarna. Liksom GPs definierar NPs distributioner över funktioner, är kapabla till snabb anpassning till nya observationer, och kan uppskatta osäkerheten i sina förutsägelser. I likhet med NN är de nationella kontaktpunkterna beräkningseffektiva under utbildning och utvärdering, men de lär sig också att anpassa sina föregångare till data. Vi demonstrerar NP:s prestanda på en rad olika inlärningsuppgifter, inklusive regression och optimering, och jämför och kontrasterar med relaterade modeller i litteraturen.
En annan inference-baserad metod är Neural Process REF som använder tåg-barheten av neurala nätverk för att modellera en Gaussian-Process-liknande fördelning över funktioner för att uppnå osäkerhet kvantifiering i få-shot lärande.
Neural Processes
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}