認知アルゴリズム特論

課題3 EM アルゴリズム

お知らせ

レポートの提出期限を１月１５日（月）です。 できた人から早めに提出して下さい。早く提出したことは評価します。

混合ガウス分布のパラメータをEMアルゴリズムによりML推定する。

1. 以下の条件で、混合ガウス乱数列を生成する。
   • 混合分布数： 2
   • パターンの次元数： 1
   • 学習用パターンの数：100個以上

2. EMアルゴリズムにより，各パラメータ（混合重み、平均、分散）を推定する。 但し、混合分布数は既知とする。 モデルの推定精度を，真の混合重み、平均、分散、および学習データの数をい くつか変えて比較する。

3. 混合分布数を増やして同様の実験を行なう。

4. また、同様の実験を特徴ベクトルが多次元の場合についても行なう。 但し、共分散行列は対角を仮定する。

課題に関する参考事項

• 乱数で与える。
• LBGアルゴリズムなどのベクトル量子化のコードブック設計アルゴリズムで 得られたコードワードを各カテゴリの平均ベクトルとする。 また、各コードワードに属する学習ベクトルから 計算される共分散行列をそのカテゴリの共分散行列とする。