Abstract-I detta arbete, vi ger en beräkningsbar uttryck för Kullback-Leibler divergensen lim ( ) mellan två tidsinvariant finit-alfabet Markov källor av godtycklig ordning och godtyckliga initiala fördelningar som beskrivs av sannolikhetsfördelningen och, Respektive. Vi illustrerar det numeriskt och undersöker dess konvergensgrad. De viktigaste verktygen som används för att erhålla Kullback-Leibler divergensen och dess konvergenshastighet är teorin om icke-negativa matriser och Perron-Frobenius-teorin. På samma sätt ger vi en formel för Shannon entropy rate lim ( ) av Markov källor och undersöka dess konvergens.
I REF härleds ett uttryck för Kullback-Leibler (KL) divergensen när de två distributionerna är Markovkedjor av godtycklig ordning, vilket är ett specialfall av formuleringen här.
The Kullback-Leibler divergence rate between Markov sources
{'venue': 'IEEE Transactions on Information Theory', 'journal': 'IEEE Transactions on Information Theory', 'mag_field_of_study': ['Computer Science', 'Mathematics']}