朱鷺の杜(IBIS)ブログ

情報論的学習理論(IBIS)に関する管理人の独断と偏見に満ちた意見

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

ランダム行列勉強会報告

IBISに引き続いて行われたランダム行列勉強会の報告

現実世界に戻ってきたら何かと忙しくてちゃんとまとめている暇がないので,
多少ごちゃごちゃしていますがご容赦を.

1日目:
Opening は樺島さんの DEX-SMI の宣伝.いつも DEX なんとかとか言って,SMI が覚えられないのは私だけでしょうか^^;

続いて田中(利)さんのわかりやすい導入.
かなり準備に気合いが入っていました.
お昼休みにいろいろ話を聞いたら涙なしでは聞けない?苦労話が...

ランダム行列の固有値というのがさまざまな問題に出てきて,基本的な
固有値分布が陽にわかっているというのが重要だということがわかりました.

午後は中島さんの学習の問題.パラメータ数を十分大きくするところで,サンプル数はもっと大きいということで,パラメータ数とサンプル数がコンパラな場合はどうなるのだろうと思いました.固有値分布の収束性もサンプルセットを固定してパラメータ数を無限に持って行くのですが,本当はサンプル数も無限に持って行かなくてはならずよくわからなくなってしまいました. まあ無限じゃなくて「大きいところ」と思っていればわかるのですが.

午後の2番目は樺島さんが相関のあるサンプルへのアプローチという立場で話をされました.
Itzykson-Zuber 積分の拡張といういうのが数学的にも面白そうな問題でした.
(普通の Itzykson-Zuber では固有値分布との間にルジャンドル変換に類似の性質が成立)

2日目:
Opening は渡辺治先生のグローバルCOEの宣伝.
樺島科研費が物理→情報というアプローチに対して,こちらは計算から攻めるという立場.
IBIS的普通の人?は解析もアルゴリズムもやるわけで,両方のアプローチが必要ですね.

午後の最初は時田さん@阪大による生態学に対するアプローチでした.
昔読んだR.ローゼン「生物学におけるダイナミカルシステムの理論」やGAをやっていたときに
勉強したゲーム理論関係の話を思い出しました.
最初に小咄を前振りで言われたのですが高尚すぎてよくわかりませんでした.
でもその後もいろいろ業界の裏事情的な話をされて非常に面白かったです.

午後の2番目は福島さんで,固有値の端の方の分布を見ようという話でした.
使われていた主要な技術は,まず強制振動子法というバネモデルで固有値を高速に求めるというアルゴリズム.
(なぜかあまり流行っていないと言っていました)
それから端の方を重点的に見るための重点サンプリングの方法で,
分布がわからないので分布の学習もやるという興味深い話でした.
ちなみに重点サンプリングというのは目標と違う分布からのサンプルを使って
平均を取るテクニックのことだと思っていたのですが,rejection sampling みたいな方法でした.
重点サンプリングのちゃんとした定義を今度伊庭さんに確認しておこう.

午後の最後は招待講演の永尾先生で,最初に田中さんが「四元数ではじまる恐ろしい本」と紹介していた本の著者です.
説明自体は丁寧に一般の半円則の証明のあらましなどを述べられていました.

予想通り中身の濃い面白い勉強会でした.
スポンサーサイト

ibis2007報告

IBIS2007 が今年も盛況のうちに終了しました.
樺島さんによると参加人数は約210人とのことでした.
査読なしでこれだけレベルの高い論文が集まるというのもすごいことです
(査読なしというのは厳密に言うと不正確ですが,密かに査読制度撲滅運動を展開している私としては頼もしい限りです)

全体的な印象としては若い世代が元気だったということがあります.
東工大の杉山さんを中心とした一団をはじめ,日頃から議論が活発に行われているようです.
それに実際のエビデンスがすごい. 私のように脇の甘い研究者と違ってしっかりしています.

ちなみに,来年は10月末に東北で杉山さん@東工大を中心としたスタッフで開催予定とのことです.

さて,今年の一押しは将棋ソフト Bonanza を開発された保木さんの特別講演です.すでにいろいろな招待講演をされているようですが私は初めて聞きました.
まず開発の経緯が面白いです.
本業は化学で,長期海外滞在中に時間をもてあまして?興味のあった
将棋プログラムに挑戦したとのこと.
チェスの知見と化学でノウハウのある最適制御による定式化で,
一気にコンピュータ将棋のトップレベルにのぼりつめたわけです.
機械学習の専門家としては面目丸つぶれというところですが,よく考えるといろいろな
教訓があります.
まず,保木さんの専門が機械学習ではなかったということは本質的のような気がします.
専門家だとどうしても妙に凝ったことをしてしまいそうです(私も囲碁の平均場近似という
のをずっと温めてはいるのですが...).
特にアプリケーションの開発にあたっては,手法開発の専門家よりも
少し離れたところにいる方がいいということもあるのではないでしょうか.
また,ご本人はそれほど将棋が強くないというのもポイントで,きっと将棋の強い
人はパラメータを自分の手でいじりたくなってしまうのだろうと思いました.

もう一つの招待講演は高安先生の経済時系列の話.
経済現象をどこまで物理モデルとして記述できるか,あるいはオーダーパラメータ
のようなもので説明できるかといった話でした.
まあ儲かる儲からないという話には遠いわけで,ある意味科学としては健全かもしれません.

それ以外のセッションの一口メモ:

オーガナイズドセッション distance metric learning
カーネルとか距離とかを学習するという話で,統計科学と計算科学の融合する
一番ホットなポイントで,非常に勉強になりました.

セッション1:
大羽さんの発表のあと麻生さんが「識別ベース」アプローチと「検定ベース」アプローチ
について質問していましたが,この辺りは似ているようで違う,違うようで似ている
気持ちの悪いところではあります.
渡辺・赤穂・岡田の発表もこのセッションでした.変分ベイズも具体的に計算してみると
大変だなーというのが今回の研究を進めての感想です.

ポスター:オーラルに負けないおもしろい発表がたくさんありました.
時間が短くて,つかまってしまうと少ししか聞けないので,他の人に説明しているのを
少しだけ聞くというやり方になってしまいます.もうちょっといいやり方はないですかね.

オーガナイズドセッション massive data analysis
樋口さんの講演がみんなにインパクトを与えていました.

オーガナイズドセッション 長期記憶時系列
長期記憶時系列という言葉を聞いたことがなかったので目新しい感じでした.
脳のデータ解析でこの言葉を使うとなんだか紛らわしそうですが.
基本的には長い記憶が観測されるような物理モデルが軸になっていて,高安先生の講演
と通じるところのあるアプローチの話でした.広い意味ではカオスとかそういうのも
こういう研究の延長上に位置づけることもできるのですね.

セッション2,3,4
オーラルに選ばれたのはどちらかというとガチガチの理論ではなく,わかりやすい
話が多かったのでしょうか. 昔のIBISのようになんだかまるでわからないという話は
ありませんでした. プレゼンはわかりやすくというのが根付いてきたということも
あるかもしれません.

なお,このあとのランダム行列勉強会にも参加しましたので追って報告記事を投稿したいと思います.

それから宣伝ですが 10/19 に ACCV 併催の workshop Subspace2007 で球面上の次元縮約の話を藤木さんと連名で出しています.そちらもよろしくお願いします.

脳神経情報科学の挑戦

私の属している産総研脳神経情報研究部門では12月6日に成果発表会を行います。

NIPS ともろにぶつかっているのですが、川島隆太氏の講演会なども予定されており、都合のつく方でご興味があれば是非ご参加ください。
(なお私は残念ながら今年はNIPSを見に行く予定なので参加できません。)



脳神経情報科学の挑戦

-ふしぎ 脳ワールドの秘密を解くカギはどこに?-

(産業技術総合研究所脳神経情報研究部門成果発表会)

http://www.neurosci.aist.go.jp/sympo07/

日時: 2007年12月6日(木) 9:45 - 17:10

場所: 産業技術総合研究所 つくばセンター 共用講堂

FC2Ad

上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。