trsing’s diary

勉強、読んだ本、仕事で調べたこととかのメモ。

PRML 5章演習問題　5.21～5.23

PRML 演習問題

5.21

出力ユニットがK>1のとき、演習5.16から
$\displaystyle H=\sum_{n=1}^{N}\sum_{k=1}^{K}\nabla y_{nk}(\nabla y_{nk})^{T}$
ここで、
$J=NK,c_{j}=\nabla y_{n(j)k(j)},n(j)=(j-1)/K+1,k(j)=(j-1)\mod K +1$
とおけば
$\displaystyle H_{J}=\sum_{j=1}^{J}c_{j}(c_{j})^{T}$

5.22

(5.55),(5.56)に注意して計算する f:id:trsing:20190203155551j:plain

(5.93)を導く f:id:trsing:20190203155603j:plain

(5.94)を導く f:id:trsing:20190203155612j:plain

(5.95)を導く f:id:trsing:20190203155624j:plain

5.23

層を飛び越えた結合の重みを $u_{ki}$ とする。

両方の重みが層を飛び越えた結合の場合 f:id:trsing:20190210143331j:plain

2層と層を飛び越えた結合の場合 f:id:trsing:20190210143343j:plain

1層と層を飛び越えた欠乏の場合 f:id:trsing:20190210143400j:plain