認知アルゴリズム特論

課題1 ベイズ決定理論

乱数によってパターン集合を発生させて、ベイズ決定の実験を行う。

• クラス数： 2（各クラスの生起確率は等しいとする）
• パターンの次元数： 1
• パターンの数：各クラス100個以上
• パターンの分布：ガウス分布(各クラスに異なる種々の平均と分散を与えて実験を行なう)

1. 理論分布に基づいたベイズ決定により、パターンのクラスを識別し、そ の誤り率を調べる。

2. 各クラスの平均ベクトルを代表ベクトルと考え、ユークリッド距離が近い 方を識別結果としたときの、識別誤り率を調べる。

3. 1と2の違いについて、各クラスに様々な分布を与えた実験結果に基づいて、 考察する。

4. パターンの次元数が2の場合についても同様の実験・考察を行う。

課題に関する参考事項

• 課題に関して、ガウス乱数を発生するプログラムを見つけられない、ある いは作るのが面倒という人のために、平均 0、分散 1 で発生した 10000 点分 の乱数データを用意しました。
  • アスキー形式 : [ gauss.asc ]
  • float形式 (big endian, e.g., Sun, HP) : [ gauss.big.tar.gz ]
  • float形式 (little endian, e.g., Intel, DEC) : [ gauss.little.tar.gz ]

• 平均 0、分散 1 のガウス乱数において
  • データを a 倍すると、分散は a^2 になる。（平均は 0 のまま）
  • さらに b を加えると、平均は b となる。（分散は a^2 のまま）
  よって、用意した乱数データを用い、任意の平均と分散をもつクラスをつくる ことができます。多次元の場合も同様に、平均ベクトル=[0, 0, ..., 0]^T， 共分散行列が単位行列の多次元ガウス乱数 x = [x_1, x_2, ..., x_d]^Tにお いて
  • xに正方行列Aを左からかけると、共分散行列はA A^Tになる。 （平均ベクトルは変わらず）
  • 更に縦ベクトル b を加えると、平均ベクトルは b となる。 （共分散行列はA A^Tのまま）
  とすれば、任意の平均ベクトルと共分散行列をもつクラスをつくることがで きます。