prml演習7.14の解答
PRML演習7.14の解答
\[
\newcommand\l{\left}
\newcommand\r{\right}
\newcommand\cmt[1]{\class{Cmt}{\mbox{#1}}}
\newcommand\b[1]{\class{Bold}{\mathrm{#1}}}
\newcommand\bx{\b{x}}
\newcommand\bw{\b{w}}
\newcommand\balpha{\b{\alpha}}
\newcommand\bt{\b{t}}
\newcommand\bX{\b{X}}
\newcommand\bm{\b{m}}
\newcommand\bSigma{\b{\Sigma}}
\newcommand\bA{\b{A}}
\newcommand\bphi{\b{\phi}}
\newcommand\T{\mathrm T}
\newcommand\N{{\cal N}}
\]
(7.76),(7.81)において、\(\balpha=\balpha^*,\beta=\beta^*\) とすると
\[
\begin{align}
p(t\mid\bx,\bw,\beta^*)&=\N(t\mid y(\bx),(\beta^*)^{-1}) \tag{7.76} \\
p(\bw\mid\bt,\bX,\balpha^*,\beta^*)&=\N(\bw\mid\bm^*,\bSigma^*) \tag{7.81}
\end{align}
\]
となる。ただし \(\bm^*,\bSigma^*\) は(7.82),(7.83)において \(\balpha=\balpha^*,\beta=\beta^*\) としたもの。
これらより \[ \begin{align} p(t,\bw\mid\bx,\bt,\bX,\balpha^*,\beta^*) &=p(t\mid\bx,\bw,\beta^*)p(\bw\mid\bt,\bX,\balpha^*,\beta^*)~~~(\because 乗法定理) \\ &=\N(t\mid y(\bx),(\beta^*)^{-1})\N(\bw\mid\bm^*,\bSigma^*) \\ \end{align} \] となる。\(\bw\) について周辺化すると \[ \begin{align} p(t\mid\bx,\bt,\bX,\balpha^*,\beta^*) &=\int p(t,\bw\mid\bx,\bt,\bX,\balpha^*,\beta^*) \,d\bw \\ &=\int \N(t\mid y(\bx),(\beta^*)^{-1})\N(\bw\mid\bm^*,\bSigma^*)\,d\bw \\ &=\int \N(t\mid \bphi(\bx)^\T\bw,(\beta^*)^{-1})\N(\bw\mid\bm^*,\bSigma^*)\,d\bw ~~~\cmt{※1} \\ &=\N(t\mid\bphi(\bx)^\T\bm^*,(\beta^*)^{-1}+\bphi(\bx)^\T\bSigma^*(\bphi(\bx)^\T)^\T)~~~(\because (2.115)より) \\ &=\N(t\mid(\bm^*)^\T\bphi(\bx),(\beta^*)^{-1}+\bphi(\bx)^\T\bSigma^*\bphi(\bx))~~~\cmt{※2} \\ &=\N(t\mid(\bm^*)^\T\bphi(\bx),\sigma(\bx)^2) \tag{7.90} \end{align} \]
を得る。ただし
\[
\begin{align}
\sigma(\bx)^2=(\beta^*)^{-1}+\bphi(\bx)^\T\bSigma^*\bphi(\bx) \tag{7.91}
\end{align}
\]
とする。
これらより \[ \begin{align} p(t,\bw\mid\bx,\bt,\bX,\balpha^*,\beta^*) &=p(t\mid\bx,\bw,\beta^*)p(\bw\mid\bt,\bX,\balpha^*,\beta^*)~~~(\because 乗法定理) \\ &=\N(t\mid y(\bx),(\beta^*)^{-1})\N(\bw\mid\bm^*,\bSigma^*) \\ \end{align} \] となる。\(\bw\) について周辺化すると \[ \begin{align} p(t\mid\bx,\bt,\bX,\balpha^*,\beta^*) &=\int p(t,\bw\mid\bx,\bt,\bX,\balpha^*,\beta^*) \,d\bw \\ &=\int \N(t\mid y(\bx),(\beta^*)^{-1})\N(\bw\mid\bm^*,\bSigma^*)\,d\bw \\ &=\int \N(t\mid \bphi(\bx)^\T\bw,(\beta^*)^{-1})\N(\bw\mid\bm^*,\bSigma^*)\,d\bw ~~~\cmt{※1} \\ &=\N(t\mid\bphi(\bx)^\T\bm^*,(\beta^*)^{-1}+\bphi(\bx)^\T\bSigma^*(\bphi(\bx)^\T)^\T)~~~(\because (2.115)より) \\ &=\N(t\mid(\bm^*)^\T\bphi(\bx),(\beta^*)^{-1}+\bphi(\bx)^\T\bSigma^*\bphi(\bx))~~~\cmt{※2} \\ &=\N(t\mid(\bm^*)^\T\bphi(\bx),\sigma(\bx)^2) \tag{7.90} \end{align} \]
\(
\begin{align}
\cmt{※1}~~~
&(7.77)\ y(\bx)=\bw^\T\bphi(\bx) \\
&また \bw^\T\bphi=\bphi^\T\bw\ (スカラーなので)
\end{align}
\)
\(
\begin{align}
\cmt{※2}~~~
\bphi^\T\bm^*=(\bm^*)^\T\bphi (スカラーなので)
\end{align}
\)
prml演習7.14の解答.txt · 最終更新: 2018/02/03 12:45 by ma
