\[
\newcommand\l{\left}
\newcommand\r{\right}
\newcommand\cmt[1]{\class{Cmt}{\mbox{#1}}}
\newcommand\b[1]{\class{Bold}{\mathrm{#1}}}
\newcommand\by{\b{y}}
\newcommand\bmu{\b{\mu}}
\newcommand\bL{\b{L}}
\newcommand\bz{\b{z}}
\newcommand\bSigma{\b{\Sigma}}
\newcommand\bzero{\b{0}}
\newcommand\bI{\b{I}}
\newcommand\bA{\b{A}}
\newcommand\N{{\cal N}}
\newcommand\Tr{\operatorname{Tr}}
\newcommand\det{\operatorname{det}}
\newcommand\T{\mathrm T}
\newcommand\pdiff[2]{\frac{\partial #1}{\partial #2}}
\]
\[
\by = \bmu + \bL\bz
\]
より
\[
\begin{align}
\bz &= \bL^{-1}(\by-\bmu)~~~(\because 仮定より\ \bL^{-1}\ は存在するので。\cmt{※3})\\
\therefore \pdiff{\bz}{\by} &= \l(\bL^{-1}\r)^\T~~~\cmt{※1}
\end{align}
\]
となる。これより \(\by\) の確率密度分布は
\[
\begin{align}
p(\by)&=p(\bz)\l|\det\l(\pdiff{\bz}{\by}\r)\r| ~~~(\because\ (11.9)\cmt{※2}) \\
&=p(\bz)\l|\l|\bL^{-1}\r|\r| ~~~(\because\ \l|\bA^\T\r|=\l|\bA\r|) \\
&=p(\bz)\l|{1\over\l|\bL\r|}\r|~~~(\because\ (C.13)) \\
&=p(\bz){1\over\l|\bSigma\r|^{1\over2}}~~~\cmt{※3}
\end{align}
\]
となる。問題文の仮定より\(\ p(\bz)=\N(\bz|\bzero,\bI)\ \)なので
\[
\begin{align}
p(\bz)&=\N(\bz|\bzero,\bI) \\
&={1\over(2\pi)^{D/2}}{1\over|\bI|^{1/2}}\exp\l({1\over2}(\bz-\bzero)^\T\bI^{-1}(\bz-\bzero)\r) \\
&={1\over(2\pi)^{D/2}}\exp\l({1\over2}\bz^\T\bz\r) \\
&={1\over(2\pi)^{D/2}}\exp\l\{{1\over2}\l(z_1^2+\cdots+z_D^2\r)\r\} \\
&=\N(z_1|0,1)\cdots\N(z_N|0,1)
\end{align}
\]
よって
\[
\begin{align}
p(\by)&={1\over(2\pi)^{D/2}}\exp\l\{{1\over2}\l(z_1^2+\cdots+z_D^2\r)\r\}{1\over|\bSigma|^{1\over2}} \\
&={1\over(2\pi)^{D/2}}\exp\l\{{1\over2}(\by-\bmu)^\T\bSigma^{-1}(\by-\bmu)\r\}{1\over|\bSigma|^{1\over2}}~~~\cmt{※4} \\
&=\N(\by|\bmu,\bSigma) \\
\end{align}
\]
となる。\(\ \by\ \)の確率分布は平均\(\ \bmu\ \)、共分散\(\ \bSigma\ \)のガウス分布となっている。
これをふまえて、\(\ p(\by)=\N(\by|\bmu,\bSigma)\ \)からサンプルを生成する手順は以下のようになる。
\[
\begin{align}
&(1)~~~\bSigma\ をコレスキー分解する。\bSigma = \bL\bL^{-1} \\
&(2)~~~p(\bz)=\N(z_1|0,1)\cdots\N(z_D|0,1)\ から\ \bz=(z_1,\ldots,z_D)\ をサンプリングする。\\
&(3)~~~\bz\ のサンプルを用いて\ \by\ のサンプルを\ \by = \bmu + \bL\bz\ として求める。\\
&(4)~~~この手順で得られた\ \by \ のサンプルは\ \N(\by|\bmu,\bSigma)\ に従っている。(証明は上記のとおり)\\
\end{align}
\]