ベイズ統計学を学んでみた。（その8）

前回は周辺確率分布を定義した。

今回は条件付き確率分布を定義する。

固定化と条件付き確率分布

確率変数 $X, Y, Z$ の同時確率分布 $P\langle X, Y, Z\rangle : X \times Y \times Z \rightarrow \mathbb{R}_{\ge 0}$ に対して、 $Z$ をある値 $z$ に固定したときの $X$ と $Y$ の同時確率分布を条件付き確率分布と呼び、次のように定義する：

$P\langle X, Y\rangle [Z](x, y | z) = \frac{ P\langle X, Y, Z\rangle (x, y, z) }{ P\langle Z\rangle (z) }$

なお、 $P\langle X, Y\rangle [Z] : X \times Y \times Z \rightarrow \mathbb{R}_{\ge 0}$ だが、ここでは $P\langle Z\rangle (z) = 0$ となる $z$ では未定義としておく。（この $P\langle Z\rangle (z) = 0$ となる場合は非常に厄介で、詳細はまた別に議論したい）

命題

$P\langle 2^X, 2^Y\rangle [Z] (X, Y | z) = 1$

証明

$\begin{align} P\langle 2^X, 2^Y\rangle [Z] (X, Y | z) &= \underset{x \in X, y \in Y}{\int\!\int} \frac{ P\langle X, Y, Z\rangle (x, y, z) }{ P\langle Z\rangle (z) } \, dx \, dy \\ &= \frac{ 1 }{ P\langle Z\rangle (z) } \underset{x \in X, y \in Y}{\int\!\int} P\langle X, Y, Z\rangle (x, y, z) \, dx \, dy \\ &= \frac{ 1 }{ P\langle Z\rangle (z) } \cdot P\langle Z\rangle (z) \\ &= 1 \end{align}$

よって示された。 $\Box$

この命題から、 $P\langle X, Y \rangle [Z]$ はたしかに確率変数 $X, Y$ に関する同時確率分布になっていることが分かる。（＝記法での不一致は起きていない、ということ）

周辺化と同じように、ここではこれを確率変数 $Z$ を値 $z$ で固定化した呼ぶことにする。（※これは独自の言葉で、一般に固定化という用語はない）

複数変数の固定化 vs 複数回の固定化

固定化に関しても周辺化と同じ議論ができ、次の命題が成り立つ：

命題

同時確率分布 $P\langle X, Y, Z \rangle$ に対して、 $Y, Z$ を固定化した確率分布 $P_1\langle X \rangle [Y, Z]$ と、 $Z$ を固定化した $P\langle X, Y\rangle [Z]$ に対して $Y$ を固定化した確率分布 $P_2\langle X\rangle [Y, Z]$ は等しい。