朱鷺の杜(IBIS)ブログ

情報論的学習理論(IBIS)に関する管理人の独断と偏見に満ちた意見

福水:カーネル法入門

IBIS2010でもチラシが配られていたのでご存じの方も多いと思いますが
福水健次:カーネル法入門-正定値カーネルによるデータ解析-(シリーズ多変量データの統計科学8)朝倉書店
が発刊されました.

タイトルを見れば分かる通り,私の岩波本のライバル本として位置づけられるわけですが,別に執筆業で食べているわけでもないですし,分野の発展としてはこういう本がどんどん日本人研究者によって出版されることは喜ばしいというわけで宣伝しておきます.
(わざわざブログで取り上げる理由としては,福水さんと親しいからとか,献本してもらったから,ということは全然...あります^^; ちなみにすでに持橋さんがブログで感想を書いておられます)

岩波本の出版時期はちょうど2年前のクリスマス商戦の時期でした. やはりカーネルというとケンタッキーにあやかってクリスマス商戦にぶつけるというのが作戦なのでしょうか(ということは全くないと思います^^;).

情報源は定かではないですが,某大学では科研費で「入門」と名のつく本を買うことはまかり成らん,という摩訶不思議な決まりがあるそうです. たぶん「まんがでわかる...」とかその手の初心者本を想定しての決まりだと思いますが,福水本はこの決まりに対して強烈なアンチテーゼと言えるほどの格調の高さがあります.

岩波本では初期の原稿で再生核ヒルベルト空間の導入が2章にあったのですが,初学者の便宜を考えて後回し(6章)にしました. 福水本ではその辺は割り切って2章にカーネルの理論の基礎事項をがっつりと持ってきています. 確かに最初に導入しておいた方が後の説明は楽になります. 例えが適切かどうか分かりませんが,ディズニーランドのアトラクションで言うと,岩波本が It's a small world 並のゆるさに対して,福水本はスペースマウンテンみたいなジェットコースター形式です. 最初に急な坂を登っておいて,あとはダッシュで下るイメージです. 

どちらがいいということはなくて,読者のバックグラウンドや好みに応じてどっちのアトラクションを選ぶかということだと思います. 岩波本の感想でも「6章から読んだ方がわかりやすかった」という方が(数学の得意な方が中心ですが)結構いらっしゃいます.
岩波本は数学的に難しい表現はできるだけ避けようとして,逆に表現があいまいになっているところが多数ありますが,その辺りは福水本はきっちりと漏れなく書いてあります.
岩波本の著者としては,岩波本でざっと全体を眺めてから,よりきっちりした記述を福水本で補う,といった使い分けをしていただければ幸いです.

岩波本のサポートページも中途半端な感じで放置してありますが,「福水本のここを参照」とか書いておけばいいような気がしてきました.

もちろんカーネルに関してより造詣の深い福水さんが岩波本より2年遅れで出しているわけですから,岩波本にない題材もかなり入っています. 以下その辺りをざっと書き出しておきます.

2章に関しては,岩波本では省いた複素数値カーネルについても書かれています.命題2.9にあるカーネルの連続線形汎関数を用いた定義は岩波本のサポートページでも少し触れていますが美しいですね. あと,岩波本では導入しなかった Sobolev 空間の導入(sec.2.2.3)は10章のスプラインとの関連を述べる上ではかなり重要で,岩波本ではこれを適当にごまかしています(岩波本p.171, sec.7.2(b)).

いわゆる多変量解析手法は3章と4章に短くまとめてありますが,実用上重要なものとして,sec.3.6 のグラム行列の低ランク近似があります.カーネル法は結構計算量が大きいので,インプリメントの際にも大いに参考になる部分です.(これについては鹿島さんらにお願いした信学会の招待論文にも詳しいです)

6章はカーネルの理論についてより詳しい話がいろいろと載っていますが,Hilbert-Schmidt 作用素については後の章で重要な概念なのでざっと理解しておくことが大切です.

そしてなんといっても福水本のハイライトは8章と9章にあります.福水さん自身がかなりの貢献をしている分野で,条件付き独立性についての数学的に厳密な扱いです.岩波本では p.82, sec.3.5(c) に約1ページでさらっと書いてあることをふくらませて,条件付き独立性検定・因果推論・(線形)次元削減などへの応用に発展させています.

あと,全体に研究の歴史や最新動向については岩波本では省略している部分で(私の不勉強ゆえですが),参考になるところが多いです.

一方,岩波本にあって福水本にない題材は少ないのですが,情報幾何絡みの話(岩波本 p.160, sec.6.3)はマニアックなものとして挙げておきます.

なお,前のブログエントリーで予告してあった統計数理の機械学習特集号 が発行されており,pdf もダウンロードできますが,福水さんも「正定値カーネルによるノンパラメトリック推論」というタイトルで研究詳解を書かれていますので福水本のサマリーとして参考になる部分も多いと思います.

スポンサーサイト

コメント

コメントの投稿


管理者にだけ表示を許可する

トラックバック

トラックバックURLはこちら
http://ibisforest.blog4.fc2.com/tb.php/114-c572b26d
この記事にトラックバックする(FC2ブログユーザー)

FC2Ad