Abstract-Medan Kolmogorov komplexitet är det accepterade absoluta måttet på informationsinnehållet i ett enskilt ändligt objekt, behövs ett liknande absolut begrepp för förhållandet mellan ett individuellt dataprov och en individuell modell som sammanfattar informationen i data, till exempel en ändlig uppsättning (eller sannolikhetsfördelning) där dataprovet vanligtvis kom från. Den statistiska teori som bygger på sådana relationer mellan enskilda objekt kan kallas algoritmisk statistik, i motsats till klassisk statistisk teori som behandlar samband mellan probabilistiska ensembler. Vi utvecklar algoritmisk teori om statistik, tillräcklig statistik och minimal tillräcklig statistik. Denna teori är baserad på tvådelade koder som består av koden för statistiken (modellen sammanfattar regelbundenheten, den meningsfulla informationen, i uppgifterna) och modellen-till-data-koden. I motsats till situationen i den probabilistiska statistiska teorin är det algoritmiska förhållandet mellan (minimal) tillräcklighet ett absolut samband mellan den individuella modellen och det individuella dataprovet. Vi skiljer mellan implicita och explicita beskrivningar av modellerna. Vi ger karakteriseringar av algoritmiska (Kolmogorov) minimal tillräcklig statistik för alla dataprover för båda beskrivning lägen-i explicit läge under vissa begränsningar. Vi stärker och utvecklar också tidigare resultat på "Kolmogorov struktur funktion" och "absolut icke-stokastiska objekt" - de sällsynta objekt för vilka de enklaste modellerna som sammanfattar deras relevanta information (minimal tillräcklig statistik) är minst lika komplexa som objekten själva. Vi visar en nära relation mellan de probabilistiska begreppen och de algoritmiska: (i) i båda fallen finns det en "information icke-öka" lag; (ii) det visas att en funktion är en probabilistisk tillräcklig statistik iff det är med hög sannolikhet (i lämplig mening) en algoritmisk tillräcklig statistik.
Den senaste tidens arbete REF kan betraktas som en omfattande undersökning av tillräcklig statistik för finita uppsättningar modeller och modeller för beräkningsbar sannolikhetstäthetsfunktion.
Algorithmic Statistics
{'venue': 'IEEE Transactions on Information Theory, Vol. 47, No. 6, September 2001, pp 2443-2463', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science', 'Physics']}