Vi föreslår en skalbar divergensbedömningsmetod baserad på hashing. Betrakta två kontinuerliga slumpvariabler X och Y vars densiteter har avgränsat stöd. Vi anser att en särskild lokalitet känslig slumpmässig hasch, och anser förhållandet mellan prover i varje hash bin med icke-noll antal Y prover. Vi bevisar att det viktade medelvärdet av dessa kvoter över alla hash bins konvergerar till f-divergences mellan de två provuppsättningarna. Vi visar att den föreslagna estimatorn är optimal både när det gäller MSE-hastighet och beräkningskomplexitet. Vi härleder MSE-priserna för två familjer av smidiga funktioner; Hölder jämnhetsklassen och olika funktioner. Det bevisas särskilt att om densitetsfunktionerna har avgränsat derivat upp till ordningen d/2, där d är provets dimension, kan den optimala parametriska MSE-hastigheten för O(1/N ) uppnås. Den beräkningsmässiga komplexiteten visas vara O(N ), vilket är optimalt. Såvitt vi vet är detta den första empiriska divergensskattaren som har optimal beräkningskomplexitet och uppnår den optimala parametriska MSE-skattningshastigheten.
I REF utvecklade författarna en allmän uppskattning av skillnader baserat på lokal känslighetskänslig hashing (LSH).
Scalable Hash-Based Estimation of Divergence Measures
{'venue': '2018 Information Theory and Applications Workshop (ITA)', 'journal': '2018 Information Theory and Applications Workshop (ITA)', 'mag_field_of_study': ['Mathematics', 'Computer Science']}