1、1第七章 多元随机过程的建模与谱估计7.1 多元随机过程的表示维 平 稳 随 机 向 量 过 程 由 个 平 稳 随 机 过 程 构 成l )(nYl(7-1)Tlnyny)(,)(,21其 二 阶 性 能 由 均 值 向 量(7-2)yyY lE,)(21和 协 方 差 矩 阵(7-3)lyTYY mCmnmCji)()( 决 定 ， 其 中 是 随 机 过 程 和 的 协 方 差 ， 即jiy )(yij， (7-4)(jiji y ji1,维 白 噪 声 向 量 ：l)(nW(7-5)0,)(,0mCW其 中 为 常 数 矩 阵 。 若 白 噪 声 向 量 的 个 分 量 互 不 相 关
2、 ， 则 其 协 方 差 矩 阵 是 对 角 矩 阵 ，n即(7-6),221lwwdiag一 般 ， 我 们 总 是 将 原 随 机 向 量 减 去 均 值 向 量 估 计 ， 构 成 一 个 零 均 值 的 、 新 的 随 机 向 量 。然 后 对 新 的 随 机 向 量 进 行 各 种 分 析 。 不 失 一 般 性 ， 我 们 总 是 可 以 假 设 随 机 向 量 是 零 均 值 的 。 此时 ， 协 方 差 矩 阵 与 互 相 关 矩 阵 相 同 ， 即 是)(mCY)(mRY(7-7)() mRnyEnE YlyljiT ji 其 中 ， 是 随 机 过 程 和 的 互 相 关
3、函 数 。Rjiy(yij性 质 ： ）(7-8)()TYY【 证 明 ： 显 然 ， ， 得,()(ijjiyyR, , ,()()ij ji ijTYlylylYmmRm】2） 是 非 负 定 的(0)R【 证 明 ： 用 不 全 为 零 的 实 数 ， 作 随 机 过 程ia1()()()l TiznynY则 有 2(0)()(0)T TTZ YREaYaEnaRa当 且 仅 当 。,(0)ZYR】27.1 向 量 过 程 的 模 型 表 示 与 谱 向 量 过 程 的 模 型 与 功 率 谱用 维 过 程 模 型 描 述 的 随 机 向 量 过 程 表 示 为()ARp(7-9)1()
4、()()(pYnAAYnW其 中 (k)是 维 向 量 过 程 ， i 为 阶 参 数 矩 阵 ， (k)是 维 白 噪 声 。记, (7-10)11(,) ppzIzz 11(,)Hpz则 (1)式 可 改 写 为或 (7-11),()AYnW(),)Ynn向 量 过 程 ( ) 的 功 率 谱 密 度 函 数 矩 阵 为(7-12)1,(,)(,)(),jjjTjWj jSepeSpeA其 中 是 常 数 矩 阵 当 (k)的 各 分 量 互 不 相 关 时 ， ( )是 对 角 矩 阵()jWSe(7-13) 221,jWlediag 向 量 过 程 的 模 型 与 功 率 谱ARM用
5、维 过 程 模 型 描 述 的 随 机 向 量 过 程 表 示 为(,)pq(7-14)10()()1pqYnAYnBBW 其 中 是 维 向 量 ， (k)是 维 白 噪 声 ， 为 阶 参 数 矩 阵 。()Yk ,ij记(7-15)110111,(),(,)(,)pqApzIzzqHpB 则 (7-11)式 可 改 写 为或 (7-16)1(,)(,pzYnBzWn1(,)(YHpzWn向 量 过 程 的 功 率 谱 密 度 函 数 矩 阵 为k(7-17)1 1,)(),(,)()(,)j jj jj jSepqeSqeAeBAe 其 中 是 维 白 噪 声 的 协 方 差 矩 阵 。
6、()jWe显 然 ， 如 果 我 们 获 得 了 过 程 模 型 参 数 及 维 白 噪 声 的 协 方 差 矩 阵 的 估 计 ， 也 就 获 得 了过 程 功 率 谱 的 估 计 。 前 面 讨 论 的 标 量 过 程 的 、 建 模 与 谱 估 计 可 以 推 广 到 多变 量 过 程 。7.2 向 量 过 程 的 建 模 过 程 的 方 程()ARpY对 (1)式 右 乘 ， 并 取 期 望)Tnm1()()()TTpEAYnmEWnYm3得(7-18)1()()()()YYpYWYRmAARm由 因 果 性 质 ,得(7-19),0WXYQ于 是(7-20)1 ,0()()()WYY
7、pYRmAARm展 开(7-21)110()()(1)0YYpYYYpYQRpAAR 对 (7-21)式 求 转 置 ， 并 考 虑 到 相 关 性 质 ， 则 式 (7 21)可 改 写 为()()TYm(7-22)11(0) 0()()Y pYpTTWTTY QRpARA(7-22)为 向 量 过 程 方 程 ， 令()AW， ， (7 23),01()()()(0YYTTYYp YpRRpR 1pTIA0WQ则 (7-22)式 可 改 写 为 矩 阵 形 式(7 24),)pp1. 性 质 ： 互 相 关 矩 阵 是 非 负 定 的 。,(0)Yp【 证 明 ：作 随 机 过 程1()(
8、)inTZkaYki其 中 ， 是 实 数 向 量 ， （ ， ， ， ） 不 全 为 零 。 则iTaian 42 21,1,1,()()()(0ijjj nTnTiinTiiTYiiEZkaYkijaakjRaa其 中 ， 12nTTa()()(1)02()(1)(2)(0)YYYYYYYRRnn 】2. 向 量 过 程 建 模 的 互 相 关 矩 阵 法 阶 最 佳 线 性 预 测(7-25)1()()()pnAAn使 预 测 误 差(7-26)1)()p peYYY的 互 相 关 矩 阵(7-29),1 1()()()()Tepp Tp pQEnYAAnAnAn 最 小 。 又 记(7
9、-28)TTThYY则 有(7-29)(Tpppenh并 且 ()()1)()()TpTTEhnYnYYnp 5(7-30),(0)(1)()1(0)()()YYYYpY YRRp 因 此(7-31), ,()0TT TepppppT YQEneEhnhnhR令, (7-32)1TpA(1)PYp则 有 ：， (7-33)pI, 1,(0)()()PTYpPYpR于 是(7-34), 1,()(0)Pp TYlTepl pPpIQI 定 理 ： 随 机 过 程 的 p阶 最 佳 前 向 线 性 预 测 参 数 矩 阵 满 足(7-35)1,(0)YpR并 且 ， 最 佳 前 向 线 性 预 测
10、 误 差 的 方 差 为(7-36)1, ()TTYYpepARA【 证 明 ： 由 (7-34)得 1, ,1,1, ,10(0)()()() (0)pp pPYp YpPp PPTTepY lYTT TTpY PppPQRIRR 令(7-37)1,0)0YpPTYC则 ,1,1,1, ,1, , ,1()(0)(0(0()Ypp PYpPYpT Ypep p pPYppPpPQRRC (7-38),1 ,)Yp6显 然 ， (7-37)中 第 一 项 与 参 数 无 关 ， 第 二 项 是 一 个 非 负 得 二 次 型 ， 当 第 二 项 为 零 时 ，pCp达 最 小 值 。 因 此
11、， (7-35)得 证 。,epQ最 佳 前 向 线 性 预 测 误 差 得 方 差1, (0(0)()YpP PT TppYPYeRR将 (7-32)代 入 上 式 ， 即 可 得 (7-36)式 。合 并 (7-35)和 (7-36)式 ， 得(7-39),()pYp其 中(7-40),0TepQ结 论 ： 阶 最 佳 线 性 预 测 参 数 满 足 多 变 量 方 程 PK依 阶 次 递 推 ：按 上 述 同 样 的 方 法 可 推 ， 阶 最 佳 线 性 预 测 参 数 满 足 阶 方 程 ：1PYK(7-41)A1,1(0)0PYpTpeR记(7-42),()1YpPinvTR则 又
12、 可 以 分 块 表 示 为,(0)YpR(7-43),1,(0)()pYpYpTY令(7-44),1, ,112 1()0()(0)YpYppTYpGR利 用 分 块 矩 阵 求 逆 公 式 可 得(7-45),1121212(0)yP TGR 并 且 由 (7-32)和 (7-44)式 ， 得(7-46),112(0)Ypp pTTTGR于 是 ， 由 (7-41)711212121212(1)()()ppTp TpYYTp YGGRp (7-47)112pTpG记， (7-48)110pppl 11ppT则(7-49)1 11212p pTTp lGI ,112(0)YppGR并 且 ，
13、 预 测 方 差 11(0)pTYpQR1pT(7-50)1pT而 根 据 (7-49)、 (7-46)式 1 12()pp pTT TYlGRI 11122()p ppT TY(7-51)1 122pp pTGG 将 (7-51)代 入 (7-50)， 得(7-52)1 1121p pT TppQQQ 特 例 ： 当 时 ， ， ， ，l2,fGD12p,inv,1pinv实 际 应 用 中 ， 互 相 关 函 数 的 估 计 可 由 下 式 计 算()YRm， (7-53)0()nNmTY,2mP8综 合 上 述 ， 有 如 下 依 阶 次 递 推 的 算 法 。第 一 步 ： 初 始 化
14、按 照 计 算 式 (7-53)估 计 互 相 关 矩 阵， (7-54)10()nNTYRYnm11,0()()YYR第 二 步 ： 计 算 1m， (7-55)20()()nTY1()Y， (7-56)1,1YR1,(0YTeQR第 三 步 ： 计 算 中 间 变 量 ,111 1121202()()()Yppp pp pTnNTYTTTGRGYnpQG第 四 步 ： 判 阶 ， 即 递 推 终 止 条 件 判 断如 果 ， 结 束 递 推 ； 否 则 ， 到 第 五 步 ；10/p第 五 步 ： 参 数 递 推1121 pTpplI第 五 步 ： 逆 矩 阵 递 推,1121212(0)
15、yP TGGR ；转 到 第 三 步 。特 点 ： 运 算 量 较 大 ； 离 线 计 算 。97.3 向 量 过 程 AR建 模 的 RLS方 法问 题 ： 根 据 随 机 向 量 过 程 的 观 测 数 据 ， 建 立 AR模 型 ， 使 前 向 预 测 误 差)(nY(7-57)(1)( pAnYep 的 方 差(7-58), () minTepppppMEeEe1) 当 时 ，()0n, ,()pTnQ2) 当 中 ， 各 分 量 互 不 相 关 时 ， 即,1,2,pppl(7-59), , ,()()()0,ijpipjeeenij时 ， 有(7-60),1,2,22, ppple
16、pQdagEE使 最 小 ， 等 价 于 使 的 每 个 分 量 的 方 差 最 小 ， 即,epQ()n(7-61)2,()min,NpipinJej等 价 于 使(7-62)12,()iTppipn当 观 测 数 据 为 有 限 序 列 ， ， 并 且 不 加 数 据 窗 时 ，1,)0(NY )1(pl指 标 函 数 可 以 改 写 为(7-63)12,1(, ()NlTpppinniJee其 中(7-64)Tlpppe,)21由 于(7-65)1()()TTTTpYAYA记(7-66)ppA,1(7-67)TlI(7-68)TTp nYpnYnh )1()()()( (7-69)Tpd
17、(7-70)Tppp NhhNH)()1()1,(7-71) p ddD1(7-72)Tpppeee(, (7-73)YYY)()( 10则(7-74)()()TTppppenhYnd,1,1(,1)pNHN(7-75)pD其 中 ，lpR， ， ， ，p)1( 1)(lpnhlNR)(),( 1)(plpRnd， ， 。,NDpe lNY,1) 正 则 方 程 求 解由 (7-63)式 得 2 2(,1)(,1)(,1)(,1)pp ppF FJnH(7-76)2,0li piiYN其 中 是 的 第 列 ， 是 的 第 列 ， 即),(NYi),(i, )1,()1()1,(12 NpYp
18、p ll,2,由 指 标 取 极 小 的 必 要 条 件 ， 得),(Jp， (7-77),(),(),(, NHNHiTpippT li,2将 上 式 中 个 矩 阵 方 程 合 并 ， 得l(7-78),1,1,1,p Yp（ 7-78） 式 为 最 小 二 乘 正 则 方 程 ， 最 小 二 乘 解 为(7-79)1(,)(,)(,)(,1)T TppN利 用 最 小 二 乘 递 推 算 法 (RLS)可 以 避 免 矩 阵 求 逆 。2) 正 交 变 换 求 解根 据 (7-76)式 ， 有2 2,1(,1)(,1)(,1)pp ppF FJNenYNH,(,1)Tp ppTrac YNHn (7-80) (,)(,)Tp pD对 于 信 息 矩 阵 ， 存 在 正 交 变 换 矩 阵 ， 使 其 上 三 角 化 ， 即)1,(,1(,1)0ppRN其 中 ， 是 阶 上 三 角 阵 。 于 是 有),(NpRll)(,1(,)(,)TTpppJraceDDN 11R
