マルコフ連鎖モンテカルロ法とその周辺 読書会(6)： 参加メモ

勉強会 MCMC

この勉強会に参加させていただきました： マルコフ連鎖モンテカルロ法とその周辺 読書会(6) - connpass
読んでいる本： 計算統計 2 マルコフ連鎖モンテカルロ法とその周辺 (統計科学のフロンティア 12) | 伊庭 幸人, 種村 正美 | 本 | Amazon.co.jp

前回：メモ5 ／ 次回：メモ7
目次：計算統計 2 マルコフ連鎖モンテカルロ法とその周辺(統計科学のフロンティア 12)

今日読んだ範囲： 49～56ページ

  • 前回の復習： 詳細釣り合い条件
    • （いまいる点の確率）×（いまいる点から他のある候補への遷移確率）
      ＝（他のある候補の確率）×（他のある候補からいまいる点への遷移確率）
    • 遷移を決めるのにここまで厳しい条件は要らないけど、決めないと決めないでかえって難しい
  • ともあれ、必要なのは目的の分布を定常分布とするような遷移確率を定義する（＝マルコフ連鎖をつくる）手法
  • メトロポリス法をふりかえると、
    • （１）候補を立てる →（２）採否を決める
    • r =（次の候補の確率）／（いまいる点の確率） が1以上なら必ず受理、小さいならその確率で受理
    • これは確かに詳細釣り合い条件を満たしている（但し遷移確率が対称なとき）
    • 遷移確率が対称でなかったら遷移が詳細釣り合い条件を満たすように r の方を modify する
    • イジングモデルの例でも詳細釣り合い条件は満たされていた
    • 連続変数の例でも詳細釣り合い条件は満たされていた（むしろそのために原点対称な確率分布とした）
    • 1回に動かす幅は大きすぎても採用されづらくなるし、小さすぎても時間がかかる（52ページ）
  • ギブス・サンプラーをふりかえると、
    • いま分布Pの上にいるとしたら、次にも分布Pの上にいる（だからPはこのギブス・サンプラー式遷移の定常分布になっている）
    • 「ギブス・サンプラー ⊂ メトロポリス・ヘイスティングス法」になっている
    • 54ページ下から2つ目のブロックの解釈：
      • なるべく確率が濃いところをまんべんなくうろつきまわりたいのだから、変数を1個ずつ動かすよりn個一気に動かした方が効率よくうろつけないか、と思うけど、そうしたところでうまいことうろつけるかはわからない (1個ずつ動かすのと同じくらい近所をうろうろしてしまうかもしれない) し、条件付き分布を求める計算コストの方が重いかもしれない
  • 階層モデル
    • 状態空間モデルが出てきたけど、自分が知ってるのと違う…（階層が1つ多い）
    • y がなかったら式 (30) が尤度で式 (31) が事後分布だけど…？

既出の内容の言及に節名を出すだけでページ数がないのが面倒臭い（版を重ねて加筆などでページ数がずれたときに書き換えなくていいハックかな？）
来週の読書会はお休み