Icke-linjära dimensionsreduktionstekniker som multiple learning algoritmer har blivit ett vanligt sätt att bearbeta och analysera högdimensionella mönster som ofta har fäst ett mål som motsvarar värdet av en okänd funktion. Deras tillämpning på nya punkter består i två steg: först inbädda den nya datapunkten i det låga dimensionsutrymmet och sedan uppskatta funktionsvärdet på testpunkten från sina grannar i det inbäddade utrymmet. Men att hitta den låga dimensionen representation av en testpunkt, även om lätt för enkla men ofta inte kraftfulla nog förfaranden som PCA, kan vara mycket mer komplicerat för metoder som förlitar sig på någon form av eigenanalys, såsom Spectral Clustering (SC) eller Diffusion Maps (DM). Likaså, när en målfunktion ska utvärderas, medelvärde metoder som närmaste grannar kan ge instabila resultat om funktionen är bullriga. Således är utjämningen av målfunktionen med avseende på den inneboende, lågdimensionella representation som beskriver den geometriska strukturen hos de undersökta uppgifterna en utmanande uppgift. I detta papper föreslår vi Auto-adaptiv Laplacian Pyramids (ALP), en förlängning av standard Laplacian Pyramids modell som innehåller en modifierad Leave One Out korsvalidering (LOOCV) förfarande som undviker den stora kostnaden för standard LOOCV och erbjuder följande fördelar: (i) det väljer automatiskt den optimala funktionsupplösningen (stopptid) anpassad till data och dess buller, (ii) det är lätt att tillämpa eftersom det inte kräver parameterisering, (iii) det inte överpassar träningssetetet och (iv) det lägger inga extra kostnader jämfört med andra klassiska interpolation metoder. Vi illustrerar numeriskt ALP: s beteende på ett syntetiskt problem och tillämpa det på beräkning av DM projektion av nya mönster och till utvidgningen till dem * a.  En viktig utmaning inom datautvinning och maskininlärning är en korrekt analys av en given datauppsättning, särskilt för att förstå och arbeta med funktioner som definieras över den. I synnerhet har mångahanda inlärningsalgoritmer blivit ett vanligt sätt att bearbeta och analysera högdimensionella data och den så kallade "diffusionsanalys" gör att vi kan hitta den mest lämpliga geometrin för att studera sådana funktioner [25]. Dessa metoder bygger på konstruktionen av en diffusionsoperatör som är beroende av datans lokala geometri, som sedan används för att bädda in de högdimensionella punkterna i ett lägre dimensionerat utrymme som bibehåller deras geometriska egenskaper och förhoppningsvis gör det lättare att analysera funktioner över den. Å andra sidan kan det vara svårt att utvidga funktionerna i ett sådant inbäddat utrymme för nya datapunkter, antingen på grund av bullret eller förekomsten av områden med låg densitet som gör att antalet tillgängliga utbildningspunkter är otillräckligt. Det är också svårt att ställa in grannskapets storlek för nya, osynliga punkter som det måste göras enligt det lokala beteendet hos funktionen. De klassiska metoderna för funktionsförlängning som Geometriska Harmonics [8] har parametrar som måste ställas in noggrant, och dessutom finns det ingen robust metod för att välja rätt område i inbäddningen för funktionsutjämning och utvärdering. Ett första försök att förenkla dessa tillvägagångssätt var Laplacian Pyramids (LP), en flerskalig modell som genererar en utjämnad version av en funktion på ett iterativt sätt genom att använda Gaussiska kärnor av minskande bredder [21]. Det är en enkel metod för att lära funktioner från en allmän uppsättning av koordinater och kan också tillämpas för att förlänga inbäddning koordinater, en av de stora utmaningarna i spridningsmetoder. Nyligen [1] införde en geometrisk PCA-baserad utvidgning av urvalet för att lägga till nya punkter till en uppsättning konstruerade inbäddningskoordinater. Ett naivt sätt att utvidga målfunktionen till en ny datapunkt kan vara att hitta punktens närmaste grannar (NN) i det inbäddade utrymmet och i genomsnitt deras funktionsvärden. NN-metoden för datalyftning jämfördes [12] med LP-versionen som föreslogs i [21], och denna senaste metod var bättre än NN. Buchman m.fl. [3] beskrev också ett annat, punktmässigt adaptivt tillvägagångssätt, som kräver att man ställer in närmaste områdesradieparameter för varje punkt. Ändå, och som det ofta är i maskininlärning, när vi tillämpar den tidigare LP-modellen, kan vi överpassa data om vi försöker förfina för mycket förutsägelsen under träningsfasen. I själva verket är det svårt att bestämma när man ska sluta träna för att få god generaliseringsförmåga. Ett vanligt tillvägagångssätt är att tillämpa korsvalidering (CV) [13, kap. 9] metod för att få ett valideringsfel och för att stoppa när detta fel börjar öka. En extrem form av CV är Leave One Out CV (LOOCV): en modell är byggd med alla 1 arXiv:1311.6594v2 [cs.AI]
Fernandez m.fl. REF föreslog en förlängning av Laplacian Pyramider modell som innehåller en modifierad Leave One Out Cross Validation (LOOCV), men undviker den stora beräkningskostnaden för standard en.
Auto-adaptative Laplacian Pyramids for High-dimensional Data Analysis
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}