线性差分方程介绍
线性微分方程是连续的,即变量t是连续的,需要求的是未知函数$y(t)$;线性差分方程是离散的,变量t的取值只能为整数,需要求的是未知序列$y_t$。
差分(difference),即相邻两个数据之间的差,也就是变化量,用$Delta $来表示
$Delta y_t = y_{t+1} – y_t$
$Delta y_t$被定义为一阶差分,二阶差分定义如下
$Delta^2 y_t = Delta(Delta y_t) = Delta y_{t+1} – Delta y_t = (y_{t+2} – y_{t+1}) – (y_{t+1} – y_t) = y_{t+2}-2y_{t+1} + y_t$
如此类推,n阶差分中包含的项为$y_t,y_{t+1},…,y_{t+n}$,最高与最低项的下标相差$n$。
线性差分方程类比到线性微分方程的式子,
$L[y_t] = Delta^n y_t + A_1Delta^{n-1}y_t +cdot cdot cdot+ A_{n-1}Delta y_t + A_ny_t$
式子当中的$Delta t = 1$,因此省略了。把差分拆开后组合,得到
$L[y_t] = y_{t+n} + B_1y_{t+n-1}+ cdot cdot cdot + B_{n-1} y_{t+1} + B_n y_t $
同样的,最高与最低项下标相差$n$。
二阶线性差分方程求解例子[1]
下面的例子可以当作二阶线性差分方程求解的范例,从这些例子可以一步步深入了解线性差分方程。
二阶齐次线性差分方程(2nd-order Homogeneous Linear Difference Equation)
设有线性方程如下
$u_n = u_{n-1}+u_{n-2}$
其中$u_0 = 1,u_1 = 1$,求$u_n$。
解:
把u_n相关项移到等号左边:
$u_n – u_{n-1} –u_{n-2} = 0$
此时,等式右边为0,表明该方程为齐次(Homogeneous)。
假设:
$u_n = Aomega ^n$
那么:
$Aomega ^n – Aomega ^{n-1} – Aomega^{n-2} = 0$
等式两边同时除去$Aomega^{n-2}$:
$omega^2 - omega - 1 = 0$
上面是一个一元二次方程,其两个根分别为:
$omega_1 = frac{1+sqrt{5}}{2} , omega_2 = frac{1-sqrt{5}}{2}$
任意$A_1$代入$u_n = A_1omega_1^n$,都满足$u_n-u_{n-1}-u_{n-2} = 0$。
任意$A_2$代入$u_n = A-2omega_2^n$,都满足$u_n-u_{n-1}-u_{n-2} = 0$。
因此我们这里得到一个通解:
$color{red}{u_n = A_1omega_1^n + A_2 omega_2^n}$
把这个通解代入到$u_n-u_{n-1}-u_{n-2}$看是否得到0:
$(A_1omega_1^n + A_2 omega_2^n) – (A_1omega_1^{n-1} + A_2 omega_2^{n-1}) – (A_1omega_1^{n-2} + A_2 omega_2^{n-2}$
整理后,得到:
$A_1omega_1^{n-2}(omega_1^2-omega_1-1) + A_2omega_2^{n-2}(omega_2^2 – omega - 1)$
因为括号内的部分等于0,所以式子等于0。
把$omega_1,omega_2$的值代入通解,得到:
$u_2 = A_1left( frac{1+sqrt{5}}{2} ight)^n + A_2left( frac{1-sqrt{5}}{2} ight)^n$
在忽略初始条件的时候我们得到上述通解,下面我们结合初始条件来求$A_1,A_2$的值…
$left{egin{matrix}
u_0 = & A_1 + A_2 & = 1 \
u_1 = & frac{A_1(1+sqrt{5}) + A_2(1-sqrt{5})}{2} & = 1
end{matrix}
ight.$
解得:
$left{egin{matrix}
A_1 &=& frac{1+sqrt{5}}{2sqrt{5}} \
A_2 &=& -frac{1-sqrt{5}}{2sqrt{5}}
end{matrix}
ight.$
把$A_1,A_2$代入通解,得:
$u_n = frac{1+sqrt{5}}{2sqrt{5}}left( frac{1+sqrt{5}}{2} ight)^n - frac{1-sqrt{5}}{2sqrt{5}}left( frac{1-sqrt{5}}{2} ight)^n$
整理得到最终结果:
$u_n = frac{1}{sqrt{5}}left[ left( frac{1+sqrt{5}}{2} ight)^{n+1} - left( frac{1-sqrt{5}}{2} ight)^{n+1} ight]$
二阶齐次线性差分方程II
设有线性方程如下
$u_n = pu_{n+1} + qu_{n-1}$
初始值为$u_0 = 0, u_l = 1$,并且$p+q = 1$,求$u_n$
解:
把所有$u_n$相关项转移到等号左边:
$pu_{n+1} – u_n + qu_{n-1} = 0$
假设:
$u_n = Aomega^n$
得到:
$pAomega^{n+1} – Aomega^n + qAomega^{n-1} = 0$
$pomega^2 – omega + q = 0$
$pomega^2 – (p+q)omega + q = 0$
$(omega-1)(pomega -q) = 0$
解得两个根为:
$omega_1 = 1 , omega_2 = frac{q}{p}$
得到通解:
$color{red}{u_n = A_1(1)^n + A_2 left( frac{q}{p} ight)^n}$
代入$pu_{n+1}-u_n+qu_{n-1}$检查该通解是否等于0:
$left[pA_1(1)^{n+1}+pA_2left(frac{q}{p} ight )^{n+1} ight ]-left[pA_1(1)^{n}+pA_2left(frac{q}{p} ight )^{n} ight ]+left[pA_1(1)^{n-1}+pA_2left(frac{q}{p} ight )^{n-1} ight ]$
整理得到:
$A_1[p-1+q]+A_2left(frac{q}{p} ight )^{n-1}left[pleft(frac{q}{p} ight )^2-frac{q}{p}+q ight ]$
由于$p +q = 1$,因此上面的式子等于:
$0 + A_2left(frac{q}{p}
ight )^{n-1}left[ frac{q^2}{p} - frac{q}{p} + q
ight]
=A_2left(frac{q}{p}
ight )^{n-1}left[ frac{q}{p}(q-1)+q
ight ]
=A_2left(frac{q}{p}
ight )^{n-1}left[frac{q}{p}(-p)+q
ight ] =0$
上面已经得到了通解,下面通过初始条件求$A_1,A_2$的值…
当$q eq p$时:
$left{egin{matrix}
u_0 &= &A_1+A_2 &=0 \
u_l &= &A_1+A_2left(frac{q}{p}
ight )^l &=1
end{matrix}
ight.$
解方程组得到
$A_1 = –A_2 = frac{-1}{left( frac{q}{p} ight)^l - 1}$
那么所求的解为
$u_n = frac{-1}{left( frac{q}{p} ight)^l - 1} + frac{ left( frac{q}{p} ight)^n }{left( frac{q}{p} ight)^l - 1}$
整理后得到
$u_n = frac{left( frac{q}{p} ight)^n -1 }{left( frac{q}{p} ight)^l -1}$
当$p = q$时:
$omega_2 = frac{q}{p} = 1 = omega_1$
即得到重根。此时,把根代入初始条件式子,得到
$left{egin{matrix}
u_0 &= &A_1+A_2 &=0 \
u_l &= &A_1+A_2 &=1
end{matrix}
ight.$
毫无疑问,上面的式子是不成立的,因此在出现重根的时候,表明我们的初始假设$u_n = Aomega^n$是错的,所以需要尝试其它的假设:
$u_n = (A_1+A_2n)omega^n$
把该假设的式子代入差分方程得到:
$egin{align*}
0
&=pu_{n+1}-u_n+qu_{n-1} \
&=p(A_1+A_2(n+1))omega^{n+1} + (A_1+A_2n)omega^n + q(A_1+A_2(n-1))omega^{n-1}\
&=p(A_1+A_2(n+1))omega^2 + (A_1+A_2n)omega + q(A_1+A_2(n-1))\
&=p(A_1+A_2n+A_2)omega^2 + (A_1+A_2n)omega + q(A_1+A_2n-A_2)\
&=A_1(pomega^2-omega+q) + A_2n(pomega^2-omega+q) + A_2(pomega^2-q)
end{align*}$
可以发现原来的重根$omega = 1$可以使得上面等式成立,因此$omega=1$就是新假设的根。因此通解为
$color{red}{u_n = (A_1+A_2n)(1)^n}$
现通过初始条件求$A_1$、$A_2$
$left{egin{matrix}
u_0 &= &A_1+A_2 imes 0 &=0 \
u_l &= &A_1+A_2 imes l &=1
end{matrix}
ight.$
解得:
$left{egin{matrix}
A_1 =0 \
A_2 = frac{1}{l}
end{matrix}
ight.$
代入通解得到
$u_n = frac{n}{l}$
二阶非齐次线性差分方程(2nd-order Inhomogeneous Linear Difference Equation)
设有线性方程如下:
$v_n = 1+pv_{n+1}+qv_{n-1}$
其中$v_0 = v_l = 0$,$p+q = 1$
解:
把所有$v$相关项移到等号左边,其余项移到等号右边:
$pv_{n+1} – v_n + qv_{n-1} = -1$
如果等号右边为0,那么该方程就是齐次的(Homogeneous),如我们前面两小节求解的方程,否则该方程就是非齐次的(Inhomogeneous),如我们这一小节求解的方程。
在求解非齐次方程的时候,首先我们假设该方程是齐次的,那么就能得到:
$color{red}{v_n = A_1(1)^n + A_2left(frac{q}{p} ight)^n} qquad provided quad p eq q$
不过由于该方程实际上是非齐次的,所以我们应该加上一个附加项:
$v_n = color{red}{A_1(1)^n + A_2left(frac{q}{p} ight)^n} + color{blue}{f(n)}$
上述的$v_n$理应使得$pv_{n+1} – v_{n} + qv_{n-1} = -1$成立。
那么把上述$v_n$代入原方程,得到:
$egin{align*}
pv_{n+1}-v_n+qv_{n-1}
&=pleft{A_1(1)^{n+1}+A_2left(frac{q}{p}
ight )^{n+1}+f(n+1)
ight } \
&- left{A_1(1)^{n}+A_2left(frac{q}{p}
ight )^n+f(n)
ight }\
&+qleft{A_1(1)^{n-1}+A_2left(frac{q}{p}
ight )^{n-1}+f(n-1)
ight } \
&=pu_{n+1} - u_n + qu_{n-1} + pf(n+1) - f(n) + qf(n-1)\
&= pf(n+1) - f(n) + qf(n-1)\
&=-1
end{align*}$
剩下的只有等式左边的$f(n)$相关项以及等式右边的多项式。$f(n)$展开的一般形式为
$displaystyle{ sum_{k=0}^{m}B_kn^k = B_{0} + B_1n+B_2n^2+cdotcdotcdot+B_mn^m}$
实际上$f(n)$需要根据等式右边的多项式进行选择,如:等式右边的多项式最高次项为$n^2$,那么则可以假设$f(n) = a+bn+cn^2$。而本例子中,等式右边为常数-1,那么我们可以假设:
$color{blue}{f(n) = a}$
即有
$pf(n+1) – f(n) + qf(n-1) = pa -a+qa = -1$
因此
$a = frac{-1}{p-1+q}$
由于有初始条件$p+q = 1$,因此$a = frac{-1}{p-1+q}$不存在,这就表明$f(n) = a$假设不成立。接下来可以假设:
$color{blue}{f(n ) = a + bn}$
即
$egin{align*}
& quad pf(n+1)-f(n)+qf(n-1) \
&=p(a+b(n+1))-(a+bn)+q(a+b(n-1)) \
&=a(p-1+q)+bn(p-1+q)+b(p-q)\
&=b(p-q)\
&=-1
end{align*}$
表明$a$可以取任意值,我们取$a = 0$;$b = frac{-1}{p-q}$,这需要$p eq q$。
如果$p = q$,则上面的假设不成立,那么需要进一步假设:
$color{blue}{f(n) = a + bn + cn^2}$
即
$egin{align*}
& quad pf(n+1)-f(n)+qf(n-1)\
&=p(a+b(n+1)+c(n+1)^2)-(a+bn+cn^2)+q(a+b(n-1)+c(n-1)^2) \
&=a(p-1+q)+bn(p-1+q)+b(p-q) + cn^2(p-1+q)+cn(2-2)+c(p+q)\
&=0+0+0+0+0+c(p+q)\
&=c \
&=-1
end{align*}$
表明$a,b$可以取任意值,我们取$a = 0,b=0$;$c = -1$,这是当$p=q$的情况。
综合上述结果:
$left{egin{matrix}
v_n &= &color{red}{A_1+A_2left(frac{q}{p}
ight )^n} - color{blue}{frac{n}{p-q}} &,&p
eq q \
v_n &= &color{red}{A_1+A_2}-color{blue}{n^2} &,&p=q
end{matrix}
ight.$
最后就是根据初始条件求出$A_1,A_2$了(略)。
二阶线性差分方程的表达及其求解方法
本节的目的在于通过上述例子总结出二阶线性差分方程求解的步骤,看完上面的例子就能理解各个步骤的意义了。
一般的二阶线性差分方程的表达式
二阶线性差分方程的一般表达式如下:
$ay_{t+2} + by_{t+1} + cy_t = x(t) qquad tin N^+$
一般来说,等式右边多为常数。
$ay_{t+2} + by_{t+1} + cy_t = d$
当$d=0$时,当前方程为齐次(homogeneous),否则为非齐次(inhomogeneous)。
线性差分方程的解的结构
线性差分方程的解分为两个部分:
$y(t) = y_h(t) + y_p(t)$
其中 $y_h(t)$为通解(general solution),又称为齐次解(homogeneous solution);$y_p(t)$称为特解(particular solution)。
二阶线性差分方程的求解过程
二阶齐次线性差分方程
求解齐次线性差分方程得到的解被称为通解,又称为齐次解
-
假设
$y_t = Aomega^t$
-
把该假设代入原差分方程,整理后得到一元二次方程:
$aomega^2+bomega+c = 0$
-
解一元二次方程得到两个根:
$omega_{1,2} = frac{-bpmsqrt{b^2-4ac}}{2a}$
-
如果两个根不相等,则
$y_t = A_1omega_1^t + A_2omega_2^t$
-
如果两个根相等(重根),则
$y_t = (A_1+A_2n)omega^t$
-
通过初始条件求出$A_1,A_2$。
二阶非齐次线性差分方程
非齐次线性差分方程的解分为通解以及特解两部分。
-
令等式右边等于0,得到二阶齐次线性差分方程:
$ay_{t+2} + by_{t+1} + cy_t = 0$
求解该齐次方程,得到通解$y_h(t)$。
-
观察方程等式右边的式子,进行相应特解假设,我们这里的等式右边为常数$b$,因此假设特解为:
$y_p(t) = D$
如果等式右边为$t^k$,我们按理应该假设
$y_p(t) = D_0t^k + D_1t^{k-1}+cdotcdotcdot+D_k$
-
如果上述假设不成立,则需要在重新对特解进行假设,假设时增加一个阶:
$y_p(t) = D Rightarrow y_p(t) = D_0t+D_1$
-
重复上一步骤直到得到正确的特解。
-
通解与特解相加得到$y_t$:
$y(t) = y_h(t) + y_p(t)$
-
通过初始条件求出$A_1,A_2$。
上面讨论的是非重根以及重根的情况,实际上$omega = frac{-bpmsqrt{b^2-4ac}}{2a}$可能会由于$b^2-4ac<0$而得到共轭复数的情况,二阶线性差分方程中的根/特征值的讨论中有较为详细的描述。
N阶线性差分方程的表达与解[2]
表达式
N阶线性差分方程表示呈如下形式:
$A_0y_t+A_1y_{t-1}+cdotcdotcdot+A_{N-1}y_{t-N+1}+A_Ny_{t-N} = B_0x_t+B_1x_{t-1}+cdotcdotcdot+B_{M-1}x_{t-M+1}+B_{M}x_{t-M}$
或写成:
$displaystyle{ sum_{k=0}^{N}A_ky_{t-k} = sum_{r=0}^{M}B_rx_{t-r} }$
齐次解
等式左边用于求齐次解(通解),在求齐次解的时候我们会假设$y_t = Comega^t$,然后代入原方程求根$omega$。
如果求得有N个不同的$omega$,即$omega$非重根时
$y_t = C_1omega_1^t + C_2omega_2+cdotcdotcdot+C_Nomega_N^t = displaystyle{sum_{k=1}^NC_komega_k^t}$
如果求得的根中有K个相同的根$omega_1$,即K次重根时
$egin{align*}y_t &= (D_1t^{K-1}+D_2t^{K-2}+cdotcdotcdot+D_{K-1}t+D_K)omega_1^t+C_2omega_2^t+C_3omega_3^t+cdotcdotcdot+C_{N-K+1}omega_{N-K+1}^t \ &= sum_{m=1}^{K}D_mt^{K-m}omega_1^t+sum_{n=2}^{N-K+1}C_nomega_n^t end{align*}$
如果求得的根中存在共轭根$omega_{1,2}=hpm iv = Re^{pm j heta}$,那么$y_t$的会存在虚数部分,虚数部分为:
$C_1(h+iv)^t+C_2(h-iv)^t = C_1R^tcos(t heta)+iC_2R^tsin(t heta)$
如果有K个重复的共轭根,那么虚数部分如下:
$(P_1t^{K-1}+P_2t^{K-2}+cdotcdotcdot+P_{K-1}t+P_{K})R^tcos(t heta)+i(Q_1t^{K-1}+Q_2t^{K-2}+cdotcdotcdot+Q_{K-1}t+Q_{K})R^nsin(t heta)$
特解
等式右边的项用于求特解。$x(t)$在离散时间信号系统中被称为激励(excitation),一般为已知式子,把激励代入等式右边即得到自由项,不过似乎我们常见的右边的项都是比较简单的。自由项存在多种形式,不同的形式对应不同特解。
-
自由项为$t^k$的多项式
如果$omega eq 1$,特解为:
$y_p(t) = D_0t^k+D_1n^{k-1}+cdotcdotcdot+D_k$
如果有K个$omega = 1$的重根
$y_p(t) = t^K(D_0t^k+D_1n^{k-1}+cdotcdotcdot+D_k)$
-
自由项为$a^n$
如果$a eq omega$,
$y_p(t) = Da^t$
如果有K个重根$omega_1$,且$a = omega_1$
$y_p(t) = (D_0t^K+D_1n^{K-1}+cdotcdotcdot+D_K)a^t$
-
自由项为$sint heta$或者$cost heta$
$y_p(t) = D_1sint heta+D_2cost heta$
-
自由项为$alpha^t(A_1sint heta+A_2cost heta)$
如果$omega eq alpha e^{pm i heta}$
$y_p(t) = alpha^t(D_1sint heta+D_2cost heta)$
如果$omega = alpha e^{pm i heta}$
$y_p(t) = t^Kalpha^t(D_1sint heta+D_2cost heta)$
※这一小节关于特解部分可能会有些错误,不过由于这并不是我们要讨论的重点,所以不去求证了…
参考文献:
[1] CAM.AC.UK : Difference Equations
[2] CCNU:常系数线性差分方程的求解