Markovo grandinė
Markovo grandinė – Markovo procesas X = X ( t ) , t ∈ T {\displaystyle X={X(t),t\in T}} , kurio būsenų aibė χ {\displaystyle \chi } yra baigtinė arba skaičioji; čia T = 0 , 1 , . . . {\displaystyle T={0,1,...}} (diskrečiojo laiko Markovo grandinė) arba T = [ 0 , ∞ ) {\displaystyle T=[0,\infty )} (tolydžiojo laiko Markovo grandinė). Šis procesas remiasi principu, jog praeitis yra nereikšminga numatant ateitį, svarbi tiktai esamojo laiko informacija. Pavadinta pagal Andrejų Markovą. Yra ir tolydaus laiko Markovo grandinės. Markovo grandinė yra seka X1, X2, X3, … atsitiktinių kintamųjų. Šių kintamųjų įgaunamų reikšmių sritis vadinama būsenų intervalu (angl. state space), Xn reikšmė yra proceso būsena laiko momentu n. Jeigu Xn+1 sąlyginės tikimybės pasiskirstymas praeities būsenų intervale yra funkcija tiktai nuo Xn, tuomet: P ( X n + 1 = x | X 0 , X 1 , X 2 , … , X n ) = P ( X n + 1 = x | X n ) , {\displaystyle P(X_{n+1}=x|X_{0},X_{1},X_{2},\ldots ,X_{n})=P(X_{n+1}=x|X_{n}),\,} kur x yra kažkuri proceso būsena. Aprašyta savybė nusako Markovo savybę.