马尔可夫提出马尔科夫链之后,用矩阵来表示一个系统的变化,这是连续时间参数马尔可夫链理论。
其中的每一个量都是每一个参数从一个状态到另一个状态的概率。
所以这个柯尔莫哥洛夫开始研究这个方程随时间变化后,自己想要的哪个状态参数的量。
马尔可夫说:“从我的这个系统方程里,最有趣的就是那种状态才会发生,而那种状态永远都不会出现。”
柯尔莫哥洛夫说:“需要推到哪个是随时间变化而变化的,哪个是随时间变化都不会变的。”
马尔可夫说:“然后再去研究哪个是随时间概率会加强的,哪个是随时间概率会减弱的。哪个是随时间改变毫无规律而变化的甚至是瞬间变化的。”
马尔可夫链X={Xt:t>=0},P(t)=[Pij(t)],Q=[qij],i,j属于S,当S为有限状态空间。
向前方程P`(t)=P(t)Q。
向后方程P`(t)=QP(t)。