PRMLメモ　2章　2.2～2.3

$\bf x$ はどれかの要素が1、他が0のベクトル

$\sum_{\bf x}の{\bf x}は(1,0,0,\dots,0)^T,(0,1,0,\dots,0)^T,\dots,(0,0,0,\dots,1)^T$

(2.34)の係数は(1.94)と同じ考え方か

(2.46)固有ベクトルに定数をかけても固有ベクトル( $\Sigma \alpha \bf{ u}_i=\lambda_i \alpha {\bf u}_i$ )→固有ベクトルに定数をかけて ${\bf u}_i^T{\bf u}_i=1$ となるようにできる。

(2.53) ${\bf y= U(x-u)}→{\bf x=U^Ty+u}\\→x_i=u_{1i}y_1+u_{2i}y_2+ \dots +u_{ji}y_j+\dots+u_{iD}y_d+\mu_i→\frac{\partial x_i}{\partial y_j}=u_{ji}$

(2.61) $\sum_i \sum_j a_i b_j=\sum_i a_i (b_1+b_2+\dots+b_D)=\sum_i a_i \sum_j b_j$

(2.63)共分散だけど分散 $\mathbb{E}[(x_i-\mu_i)(x_i-\mu_i)]$ も含んでる

平均0、分散1のガウス分布を $\mu$ だけ平行移動、 $(u_1,u_2,\dots,u_D)$ の座標系にそれぞれ $(\lambda^{1/2}_1,\lambda^{1/2}_2,\dots,\lambda^{1/2}_D)$ だけ縮尺をかえてマッピングしている。

$\Sigma=diag(\sigma^2_i)$ とすれば平行移動と縮尺変更のみで座標系は変わらない。(座標軸に沿った楕円)

$\Sigma=\sigma^2\bf I$ とすればそれぞれの座標系に対して同じ縮尺変更(球面)

・多峰形の分布をうまく近似できない

・パラメータが多すぎる

→洗剤変数を導入する((2.3.9)、12章)

trsing’s diary