多層パーセプトロンに対する素朴な疑問
多層パーセプトロンって何の役に立つの？
まずニクラス分類だったらサポートベクターマシンを使えばいいわけなので、多クラス分類について考える。
なんか「ランダムに初期化した脳のようなものをいじるとなんか結果が出ます、初期値によって割と結果が違います」っていうのと「過去の結果から近いものを探してきてそれを元に判断します(k近傍法)」ってのとどっちが素直でわかりやすい？
脳っぽいものをいじっているというロマンを抜きにして、それでもパーセプトロンの方が優れている点は何？
昨日 Locality Sensitive Hash の解説を聞いていて思ったのは、教師データnが増えてきたときにパーセプトロンは分類にかかる計算時間が増えて行かないO(1)なのだけど、k近傍法は各代表点への距離を計算しないと行けないからO(n)なんだなぁ、ってあたりかなぁ。
