ルカムの第1補題（その2） - クッキーの日記

お気付きの点がありましたらご指摘いただけますと幸いです。

Amazon | Asymptotic Statistics (Cambridge Series in Statistical and Probabilistic Mathematics, Series Number 3) | van der Vaart, A. W. | Applied
G. Jogesh Babu and Bing Li. A Revisit to Le Cam’s First Lemma. Sankhya A 83, 597–606, 2021.

ルカムの第1補題（その1） - クッキーの日記（前回）

以下を示したいです。

命題〈ルカムの第1補題の一部〉

$\{P_n\}, \, \{Q_n\}$ を可測空間列 $(\Omega_n, \, \mathcal{A}_n)$ 上の確率測度列とするとき、(i) ならば (ii) である。

(i) $Q_n \triangleleft P_n$ である。
(ii) ある部分列 $\{n'\}$ に沿って $\displaystyle \frac{dP_{n'}}{dQ_{n'}} \overset{Q_{n'}}{\rightsquigarrow} U$ ならば、 $Q(U > 0) = 1$ である。

ただし、 $Z_n \overset{P_n}{\rightsquigarrow} Z$ は、任意の有界連続関数 $f$ に対して ${\mathrm E}_{P_n} f(Z_n) \to {\mathrm E}_P f(Z)$ であることを意味し、 $U$ は確率空間 $(\Omega', \, \mathcal{A}', \, Q)$ 上の確率変数である。

これを示すには、 $Q_n \triangleleft P_n$ であって $dP_{n'}/dQ_{n'} \overset{Q_{n'}}{\rightsquigarrow} U$ であるときに $Q(U=0)=0$ となることを示せばじゅうぶんです（前回参照）。[1] の補題 2.2（Portmanteau の補題）の (5) で尤度比 $dP_{n'}/dQ_{n'}$ と尤度比の極限 $U$ の関係を記述します。 $\varepsilon$ はどんな正数でもよいです。 $Q(U=0)$ を上から抑えられますね。 $\displaystyle \underset{n' \to \infty}{\lim \, \inf \,} Q_{n'} \left( \frac{dP_{n'}}{dQ_{n'}} < \varepsilon \right) \geqq Q (U < \varepsilon) \geqq Q (U = 0) \tag{1}$ 上式の最左辺が 0 になることを示せばよいですが、尤度比 $dP_{n'}/dQ_{n'}$ が $\varepsilon$ 未満である確率は以下のように $P_{n'}$ ‐確率測度です（[1] の補題 6.2）。なお、 $P_{n'}=P_{n'}^a+P_{n'}^\perp$ は $P_{n'}$ の $Q_{n'}$ に関するルベーグ分解であって、 $q_{n'}$ は $Q_{n'}$ の確率密度です。 $\displaystyle P_{n'}^a \left( \frac{dP_{n'}}{dQ_{n'}} \! < \! \varepsilon \right) = P_{n'} \left( \left( \frac{dP_{n'}}{dQ_{n'}} \! < \! \varepsilon \right) \cap (q_{n'} \! > \! 0) \right) = \int_{\frac{dP_{n'}}{dQ_{n'}} \! < \! \varepsilon } \frac{dP_{n'}}{dQ_{n'}} dQ_{n'} \leqq \varepsilon \! \int dQ_{n'} = \varepsilon \tag{2}$ しかし、いま $Q_{n'} \triangleleft P_{n'}$ であるので、 $P_{n'}$ ‐確率測度が $0$ に収束する可測集合列 $\left( \frac{dP_{n'}}{dQ_{n'}} \! < \! \varepsilon \right) \cap (q_{n'} \! > \! 0)$ については結局 $Q_{n'}$ ‐確率測度も $0$ に収束するはずです。 $(1)$ の最左辺と見比べると $(q_{n'} > 0)$ との共通部分をとってしまっていますが、 $(q_{n'} = 0)$ との共通部分では $Q_{n'}$ ‐確率測度は $0$ なので構いません。

問題は、 $(2)$ は $\varepsilon$ であって $0$ でないので、 $(1)$ の時点で $\varepsilon$ ではなく $n' \to \infty$ で $0$ に収束するような $\varepsilon$ に置き換えておきたいです。 $\varepsilon = 1/n'$ としておきましょう。

いや、 $(1)$ で $\varepsilon = 1/n'$ と置き換えることは一般にできないけど……。

え、なぜです。Portmanteau の補題の (5) には「任意の開集合」とありますよ。であれば $(1)$ の $\varepsilon$ はどんな正数でもよいでしょう。何でもいいっていったじゃないですか。

定数だったら何でもいいよ。 $n'$ に依存したら駄目だよ。だって $(1)$ の最左辺は $n'$ の下極限 $\underset{n' \to \infty}{\lim \, \inf \,}$ をとっているんだもの。 $\varepsilon$ が $n'$ に依存したら下極限が変わっちゃうよ。というか最左辺では $n'$ が下極限をとって消えるけど中辺には残るって明らかにおかしいじゃないか……。

本当ですね。ではいったいどうすれば……。

[1] のルカムの第一補題（補題 6.4）の証明では、 $\displaystyle g_{n'}(\varepsilon) \equiv Q_{n'} \left( \frac{dP_{n'}}{dQ_{n'}} < \varepsilon \right) - Q (U < \varepsilon)$ を定義していて、これって $\varepsilon$ がどんな正数であっても Portmanteau の補題から $\underset{n' \to \infty}{\lim \, \inf \,} g_{n'}(\varepsilon) \geqq 0$ だから、 $\varepsilon$ をどんなに小さくとっても $n'$ を大きくすれば任意の $\varepsilon'>0$ に対して $g_{n'}(\varepsilon) > -\varepsilon'$ にできるから、 $0$ に近づくのがじゅうぶん遅い数列 $\{\varepsilon_{n'}\}$ であれば $(1)$ の $\varepsilon$ を置き換えてよいといっている。

「じゅうぶん遅い」ってふわっとしていませんか。

まあ実際じゅうぶん遅ければよいし……[2] では $\{\varepsilon_{n'}\}$ を具体的に構成しているよ（Lemma 1. で）。といっても、 $g_{n'}(1/k) > -1/k$ を達成する $n'$ を $n'_{k}$ とおいて、 $\varepsilon_{n'}$ を「 $n'$ が $n'_{k}$ 以上 $n'_{k+1}$ 未満だったら $1/k$ をとる」って構成しているだけだよ。本当にじゅうぶん遅い数列 $\{\varepsilon_{n'}\}$ をつくっただけだよ。

確かにそういわれるとやや冗長にも感じますが、やはり「じゅうぶん遅い」とかくだけでなく具体的に構成してほしいですよ……さておき、その $\{\varepsilon_{n'}\}$ を採用すれば、 $(1)$ は以下となります。 $(q_{n'} > 0)$ との共通部分をとっておきました。

$\displaystyle \underset{n' \to \infty}{\lim \, \inf \,} Q_{n'} \left( \left( \frac{dP_{n'}}{dQ_{n'}} \! < \! \varepsilon_{n'} \right) \cap (q_{n'} \! > \! 0) \right) \geqq Q (U = 0) \tag{1'}$ 他方、 $\{\varepsilon_{n'}\}$ は $0$ に収束するように構成したので、 $(2)$ は以下となります。 $\displaystyle \underset{n' \to \infty}{\lim} P_{n'} \left( \left( \frac{dP_{n'}}{dQ_{n'}} \! < \! \varepsilon_{n'} \right) \cap (q_{n'} \! > \! 0) \right) =0 \tag{2'}$ そうすると、いま $Q_{n'} \triangleleft P_{n'}$ であるので、 $(2')$ であれば $(1')$ の左辺も $0$ です。これにて $Q(U=0)=0$ となることは示されました。

証明できたね。ところで、補題の (i) は $Q_n \triangleleft P_n$ であるといっているけど、いま利用したのは $Q_{n'} \triangleleft P_{n'}$ になっているのは大丈夫？

え、それは、近接しているなら部分列 $\{n'\}$ をとっても当然近接しているのだろうとてっきり…… 。

実際 $Q_n \triangleleft P_n$ であれば $Q_{n'} \triangleleft P_{n'}$ になるんだけどね（以下証明）。

可測集合列 $\{A_{n'}\}$ について $P_{n'}(A_{n'}) \to 0$ であるとする。
このとき、 $\{n'\}$ にない添え字については空集合で補った可測集合列 $\{A_{n}\}$ について $P_{n}(A_{n}) \to 0$ である。
いま $Q_n \triangleleft P_n$ であるので $Q_{n}(A_{n}) \to 0$ である。
収束する数列の部分列は同じ極限に収束するので $Q_{n'}(A_{n'}) \to 0$ である。
以上より、任意の可測集合列 $\{A_{n'}\}$ について $P_{n'}(A_{n'}) \to 0$ ならば $Q_{n'}(A_{n'}) \to 0$ である。

つづく