\[ \newcommand\l{\left} \newcommand\r{\right} \newcommand\cmt[1]{\class{Cmt}{\mbox{#1}}} \newcommand\b[1]{\class{Bold}{\mathrm{#1}}} \newcommand\by{\b{y}} \newcommand\bmu{\b{\mu}} \newcommand\bL{\b{L}} \newcommand\bz{\b{z}} \newcommand\bSigma{\b{\Sigma}} \newcommand\bzero{\b{0}} \newcommand\bI{\b{I}} \newcommand\bA{\b{A}} \newcommand\N{{\cal N}} \newcommand\Tr{\operatorname{Tr}} \newcommand\det{\operatorname{det}} \newcommand\T{\mathrm T} \newcommand\pdiff[2]{\frac{\partial #1}{\partial #2}} \]

\[ \by = \bmu + \bL\bz \] より \[ \begin{align} \bz &= \bL^{-1}(\by-\bmu)~~~(\because 仮定より\ \bL^{-1}\ は存在するので。\cmt{※3})\\ \therefore \pdiff{\bz}{\by} &= \l(\bL^{-1}\r)^\T~~~\cmt{※1} \end{align} \] となる。これより \(\by\) の確率密度分布は \[ \begin{align} p(\by)&=p(\bz)\l|\det\l(\pdiff{\bz}{\by}\r)\r| ~~~(\because\ (11.9)\cmt{※2}) \\ &=p(\bz)\l|\l|\bL^{-1}\r|\r| ~~~(\because\ \l|\bA^\T\r|=\l|\bA\r|) \\ &=p(\bz)\l|{1\over\l|\bL\r|}\r|~~~(\because\ (C.13)) \\ &=p(\bz){1\over\l|\bSigma\r|^{1\over2}}~~~\cmt{※3} \end{align} \] となる。問題文の仮定より\(\ p(\bz)=\N(\bz|\bzero,\bI)\ \)なので \[ \begin{align} p(\bz)&=\N(\bz|\bzero,\bI) \\ &={1\over(2\pi)^{D/2}}{1\over|\bI|^{1/2}}\exp\l({1\over2}(\bz-\bzero)^\T\bI^{-1}(\bz-\bzero)\r) \\ &={1\over(2\pi)^{D/2}}\exp\l({1\over2}\bz^\T\bz\r) \\ &={1\over(2\pi)^{D/2}}\exp\l\{{1\over2}\l(z_1^2+\cdots+z_D^2\r)\r\} \\ &=\N(z_1|0,1)\cdots\N(z_N|0,1) \end{align} \] よって \[ \begin{align} p(\by)&={1\over(2\pi)^{D/2}}\exp\l\{{1\over2}\l(z_1^2+\cdots+z_D^2\r)\r\}{1\over|\bSigma|^{1\over2}} \\ &={1\over(2\pi)^{D/2}}\exp\l\{{1\over2}(\by-\bmu)^\T\bSigma^{-1}(\by-\bmu)\r\}{1\over|\bSigma|^{1\over2}}~~~\cmt{※4} \\ &=\N(\by|\bmu,\bSigma) \\ \end{align} \] となる。\(\ \by\ \)の確率分布は平均\(\ \bmu\ \)、共分散\(\ \bSigma\ \)のガウス分布となっている。

これをふまえて、\(\ p(\by)=\N(\by|\bmu,\bSigma)\ \)からサンプルを生成する手順は以下のようになる。 \[ \begin{align} &(1)~~~\bSigma\ をコレスキー分解する。\bSigma = \bL\bL^{-1} \\ &(2)~~~p(\bz)=\N(z_1|0,1)\cdots\N(z_D|0,1)\ から\ \bz=(z_1,\ldots,z_D)\ をサンプリングする。\\ &(3)~~~\bz\ のサンプルを用いて\ \by\ のサンプルを\ \by = \bmu + \bL\bz\ として求める。\\ &(4)~~~この手順で得られた\ \by \ のサンプルは\ \N(\by|\bmu,\bSigma)\ に従っている。(証明は上記のとおり)\\ \end{align} \]