\( p(\bt|\bx) \) を用いて、観測値 \((t_1,x_1),\ (t_2,x_2),\ \cdots\) の尤度関数は、
\( \bT = \{\bt_n\},\ \bX = \{\bx_n\} \) として
\[
\leqalignno{
p(\bT|\bX)
&= \prod_{n=1}^N p(\bt_n|\bx_n) ~~~(\because (\bt_n,\bx_n)は独立) \\
&= \prod_{n=1}^N \prod_{k=1}^K y_{nk}^{t_{nk}} ,\ 但し y_{nk} = y_k(\bx_n, \bw)
}
\]
となる。負の対数をとると
\[
\leqalignno{
- \ln p(\bT|\bX) &= -\sum_{n=1}^N \sum_{k=1}^K t_{nk} \ln(y_{nk})
}
\]
となる。これは(5.24)と同じである。よって、Kクラス問題の尤度関数の最適化は、交差エントロピー誤差(5.24)の最小化と等価である。