Numpyで混合ガウス分布のEMアルゴリズムを実装した

楕円は3標準偏差、初期値からEMステップを1回、2回、3回、7回、15回(平均のベクトルの変化量が0.0001未満という基準で収束と判定)の6枚でアニメーションGIFにしてみた。
こっちはEMステップを0〜15回実行。k平均法ではこれはできまい。しかし初期値によっては期待と違う収束の仕方をするのも観測できる…と言いながら違う収束の仕方をする初期値を探したけどうまく行かなかった(苦笑)

コレも時間はかかっているけどもうしばらく学習を続ければ、内側のクラスタが片方の斜め線を殆ど食べてしまって、外側のクラスタのつっかえ棒が無くなってしぼんできて、最終的にやっぱりXになりそうだ。