Rによるベイジアン動的線型モデル： ノート9

本読み DLM

読んでいる本（出典）： Rによるベイジアン動的線形モデル (統計ライブラリー) | G.ペトリス, S.ペトローネ, P.カンパニョーリ, 和合 肇, 萩原 淳一郎 | 本 | Amazon.co.jp

前回：ノート8 ／ 次回：ノート10
目次：Rによるベイジアン動的線型モデル

今日読んだページ： 69～85ページ
以下、自分の解釈・感想。

  • 予測の流れの絵を以下の記事に追記。
  • 関数 dlmForcast で N 点先までの予測値（期待観測値）を計算できるし、M パスのシミュレーションもできる。
  • 74ページからの命題2.7、(i) と (ii) の式変形がわかりにくいので補足。
    • (i)　 E(e_t)=\displaystyle \int_{y_1} \int_{y_2} \dots \int_{y_{t-1}} \int_{y_t} e_t \pi(y_1) \pi(y_2) \dots \pi(y_{t-1}) \pi(y_t) dy_1 dy_2 \dots dy_{t-1} dy_t
      = \displaystyle \int_{y_1} \int_{y_2} \dots \int_{y_{t-1}} \left[ \int_{y_t} e_t \pi(y_t) dy_t \right] \pi(y_1) \pi(y_2) \dots \pi(y_{t-1}) dy_1 dy_2 \dots dy_{t-1}
      =E\bigr(E(e_t|Y_{1:t-1})\bigl)
      =E\bigr(E(Y_t-f_t|Y_{1:t-1})\bigl)=E\bigr(E(Y_t|Y_{1:t-1})ーE(f_t|Y_{1:t-1})\bigl)
      =E\bigr(f_t(Y_{1:t-1})ーf_t(Y_{1:t-1})\bigl)=E(0)=0
      • 1つ目の等号： 期待値の定義へ立ち返る。
      • 2つ目の等号： y_t についてだけ先に積分する。
      • 3つ目の等号： 1つ前の積分の式をこう表す。内側の E(e_t|Y_{1:t-1}) は (y_1, \dots, y_{t-1}) の関数であるというような意味。内側の E() ではまだ (y_1, \dots, y_{t-1}) については積分しないので、これらの変数がどんな形かは知らないが残っている。 E(e_t|y_{1:t-1}) のように小文字で書くと「観測値が与えられた下での」という意味だが、大文字で書くのは観測値の関数というニュアンスと思われる。
      • 4、5つ目の等号： e_t を定義に戻し、引き算の期待値を分解する。
      • 6つ目の等号： 1つ前の式の第1項は Y_t について積分すると一期先予測となる（但し Y_{1:t-1} は変数なので Y_{1:t-1} の関数）。1つ前の式の第2項は既に一期先予測であり Y_t について積分されているので Y_t について定数であり、 E() はそのまま外れる（但し Y_{1:t-1} は変数なので Y_{1:t-1} の関数）。
    • (ii)　 {\rm Cov}(e_t, Z)=E \biggr(\bigr(e_t - E(e_t)\bigl)\bigr(Z - E(Z)\bigl)\biggl)=E \biggr(e_t\bigr(Z - E(Z)\bigl)\biggl)
      =E (e_tZ) - E(e_t)E(Z) = E(e_tZ)
      =E\bigr(E(e_tZ|Y_{1:t-1})\bigl)
      =E\bigr(E(e_t|Y_{1:t-1})Z\bigl)=E(0 \cdot Z)=0
      • 1行目、2行目： 共分散を定義に戻して色々式変形する。
      • 3行目の等号： (i) での式変形の2つ目の等号～3つ目の等号の流れに同じ。
      • 4行目の等号： Z は Y_t の関数ではないので内側の E() の外へ。 E(e_t|Y_{1:t-1})=0 は (i) での流れに同じ。
  • まとめると、予測誤差は、期待値は0で、過去の観測値とも過去の予測誤差とも無相関（「本当に新しい情報を含む（75ページ）」）で、ガウス過程。
  • イノベーション形を通常形と比較すると、通常形では「状態が成長するときにシステム誤差、観測するときに観測誤差がのっかる」という考え方であるのに対して、イノベーション形では「観測するときにのみ本当に全然知らない誤差がのっかる（一期先の状態がどうなるかはもうわかっている）」という考え方になる（はず）。
  • モデルの検証の話。Q-Q プロットは lm() とかでも出るやつと同じだと思われる。
  • 任意の初期状態から任意の目標状態に移れるなら既約なマルコフ連鎖という。
  • 可制御性と可観測性、フィルタ安定性の話は流し読み。カルマン・フィルタが漸近安定じゃないと何か駄目なのか、どんな風に駄目なのかが正直よくわからなかった。
    • 確か大学2年のときに線型システムの授業で「後輪操舵の自転車は不安定」というのをやった覚えがある。79ページ最後あたりの「任意の初期状態から任意目標の状態に移したいときに、制御変数のベクトルが解をもつか」というのと同じような話だったのだろうかと思う。でもノートが失われているのでわからない。
  • 2章の演習問題はノート6でやった 2.1 と 2.2 以外手つかず。式の導出問題が結構多い。