【复杂网络】关于复杂网络中的动力学系统重构的文献资料整理( 四 )


(2000)试图通过变量的关联来解决方向性的概念,提出了传递熵的概念,将其定义为条件互信息 。利用引入马尔可夫屏蔽的三个变量之间的延迟来调节互信息,因此,通过时间延迟来调节方向性 。
实际上,可以使用条件熵之间的差来计算传递熵( ):
上图显示了我们感兴趣的信息流,即传递熵,它可以用数学公式表示为: T Y → X ( t ) = I ( X t : Y t ? 1 ∣ X t ? 1 ) = H ( X t ∣ X t ? 1 ) ? H ( X t ∣ X t ? 1 , Y t ? 1 ) T_{Y\ X}(t)=I(X_t:Y_{t-1}|X_{t-1})=H(X_t|X_{t-1})-H(X_t|X_{t-1},Y_{t-1}) TY→X?(t)=I(Xt?:Yt?1?∣Xt?1?)=H(Xt?∣Xt?1?)?H(Xt?∣Xt?1?,Yt?1?)
将上述公式中熵的定义替换掉,得到: T Y → X ( t ) = ∑ p ( x t , x t ? 1 , y t ? 1 ) ? log ? 2 p ( x t ∣ x t ? 1 , y t ? 1 ) p ( x t ∣ x t ? 1 ) T_{Y\ X}(t)=\sum p(x_t, x_{t-1}, y_{t-1}) \ast \log_2{\frac{p(x_t|x_{t-1},y_{t-1})}{p(x_t|x_{t-1})}} TY→X?(t)=∑p(xt?,xt?1?,yt?1?)?log2?p(xt?∣xt?1?)p(xt?∣xt?1?,yt?1?)?
传递熵可以视为 的非参数等效,其差异也适用于非线性分类变量 。原则上,两者之间的互信息都是对称的(无方向性),但是实验引入的时间延迟可以建立方向性 。
传递熵由于考虑的是变量间的信息量传递,而不需要假定变量间具有特定形式的关系,因此具有比-因果性更好的适用性,尤其是对于非线性系统 。
传递熵可以衡量两个时间序列之间的联系,也就是说如果把X的历史信息引入进来,会比只用Y的历史信息能更好地提供关于Y的未来信息 。实际上我们马上会看到,这种思想和后面讲的格兰杰因果检验的思想异曲同工 。可以证明,当把传递熵应用到线性向量自回归模型上的时候,传递熵就变成了格兰杰因果检验的度量 。
这篇文章将传递熵用于神经回路的重构:
Model-Freeoffrom[2012]O. , D. , J. , T.
3. 格兰杰因果检验( )方法
格兰杰因果检验是最早提出的一种著名的因果推断方法,用于判断两个随机变量之间是否存在着因果箭头 。它的基本思想是,如果引入了X变量对预测Y变量是否可以进行性能提升 。更具体的,如果根据Y自己的历史和X的历史数据能够比仅根据Y自己的历史数据更好地预测Y的未来,那么就说X是Y的因,Y是X的果 。
更严格的数学表达可以用下面的式子: P [ Y ( t + 1 ) ∈ A ∣ T ( t ) ] ≠ P [ Y ( t + 1 ) ∈ A ∣ T ? X ( t ) ] \{P}[Y(t+1)\in A|\{T}(t)]\ne \{P}[Y(t+1)\in A|\{T}_{-X}(t)] P[Y(t+1)∈A∣T(t)]=P[Y(t+1)∈A∣T?X?(t)]
这是提出Test的原始论文:
byand Cross-[1969]C. W. J.
和给出了关于此方法的历史、发展、局限的很好综述:
格兰杰因果检验页面:
上的介绍:
下面这篇文章将格兰杰因果检验方法应用于气候系统中
from timein EarthRunge,, Erik Bollt.et al. (2019)
这篇文章综述了此方法失效的情形:
Aof the -[2015]M.
目前,该方法已被应用于大量的经济、社会、神经科学领域中 。
另外,下面这篇文章很好地展示了格兰杰因果方法可以用于非线性系统:
andof Pulse-[2013]D. Zhou, Y. Xiao, Y. Zhang, Z. Xu, D. Cai
4. 相空间重构方法
当我们利用时间序列数据重构吸引子通常都是根据Taken定理,可参考:
in[2006]F.
用Taken定理做重构,主要的想法就是利用已有的时间序列数据,来直接构成原始的相空间中的轨迹 。例如,我们的动力系统是一个三维的系统,d ( x , y , z ) d t = f ( x ( t ) , y ( t ) , z ( t ) ) \frac{d(x,y,z)}{dt}=f(x(t),y(t),z(t)) dtd(x,y,z)?=f(x(t),y(t),z(t)),并假设我们仅能够获得一个变量的时间序列数据 x ( 1 ) , x ( 2 ) , . . . , x ( t ) , . . x(1),x(2),...,x(t),.. x(1),x(2),...,x(t),.. 。那么,利用这一个时间序列,我们就能够重构出原始的三维动力学在相空间中的轨迹 。基本思想就是利用一个三阶延迟的序列,比如 s ( t ) = ( x ( t ? 1 ) , x ( t ? 2 ) , x ( t ? 3 ) ) , s ( t ? 1 ) = ( x ( t ? 4 ) , x ( t ? 5 ) , x ( t ? 6 ) ) , . . . s(t)=(x(t-1),x(t-2),x(t-3)), s(t-1)=(x(t-4),x(t-5),x(t-6)), ... s(t)=(x(t?1),x(t?2),x(t?3)),s(t?1)=(x(t?4),x(t?5),x(t?6)),... 。这个新序列 s ( t ) s(t) s(t)就是一个三维空间中的轨迹,那么它在三维空间中的轨迹将与原始的三维动力学相空间中的轨迹同胚(拓扑等价) 。