Vi introducerar skalbara djupa kärnor, som kombinerar de strukturella egenskaperna hos djupinlärningsarkitekturer med den icke-parametriska flexibiliteten hos kärnmetoder. Specifikt omvandlar vi ingångarna från en spektral blandningsbaskärna med en djup arkitektur, med hjälp av lokal kärninterpolering, inducerande punkter och struktur som utnyttjar (Kronecker och Toeplitz) algebra för en skalbar kärnrepresentation. Dessa slutna formkärnor kan användas som drop-in-ersättningar för standardkärnor, med fördelar i uttryckskraft och skalbarhet. Vi lär oss gemensamt egenskaperna hos dessa kärnor genom den marginella sannolikheten för en Gaussisk process. Slutledning och inlärningskostnad O(n) för n-utbildningspoäng och förutsägelser kostar O(1) per testpunkt. På en stor och mångsidig samling av applikationer, inklusive ett dataset med 2 miljoner exempel, visar vi förbättrad prestanda över skalbara Gaussiska processer med flexibla kärninlärningsmodeller och fristående djupa arkitekturer.
Deep Kernel Learning Ref ger ett alternativ som tar itu med skalbarhetsproblem samtidigt som fördelarna med strukturella egenskaper hos djupinlärningsarkitekturer möjliggörs.
Deep Kernel Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}