朱鷺の杜(IBIS)ブログ

情報論的学習理論(IBIS)に関する管理人の独断と偏見に満ちた意見

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

ibis2005 報告 (3)

Weiss の招待講演は generalized BP にまつわるいろいろな話. 最初 ties って何のことだろうと思っていたけど,結局タイブレークとかのタイ(同点)ということでした. タイがなければ generalized BP は MAP になるらしい. どういうロジックでそうなるのだろう. 直感的にはよくわからなかったが,田中利幸さんがしていた質問から判断するとスピングラスとかではやっぱり難しいようだ. あと,generalized BP は BP よりも時間は結構かかるらしい.

二日目のポスターもおもしろそうな発表はたくさんあったのだが,あまり回れず. 神嶌さん,賀沢さんと出した順序の話は結構人が集まっていたようでよかった. 個人的には NEC のグループのトピック構造マイニングの話が今やっている話に関連していて勉強になった.

三日目ともなると疲労もかなりピークに達している. 変分ベイズのセッションでは石井先生のオンラインVBの拡張の話がやはり最近ちょっとやっている話と関連していて参考になった. この話は某雑誌に投稿中とのことだがIBIS の予稿集には出ていないので興味のある方は直接石井先生にコンタクトを取る必要がある. 石井先生自身はむしろ後半の ICA 関係の話に力点が置かれているとのことである. 変分ベイズのトリは渡辺先生の名代として渡辺一帆さんが「これ以上易しくは語れない」渡辺理論についての紹介を絶妙なボケをかましながら紹介していた. たぶんIBIS の聴衆が知りたかったのはそういうことではないんだろうけど... 質問も出ていたが,変分ベイズがベイズを上回る場合というのはなかなか興味深い. 萩原さんは縮小ランク回帰はちょっと特殊だという話をされていたのでそのせいかもしれない.

午後の自然言語関係のセッションは完全に力尽きてしまい途中リタイア. 自然言語は面白いのだが総合芸術的な部分がやはり敷居の高いところだろうか. というわけで報告もなし... すんません.

というわけで今年も IBIS が終わった. ハイレベルな研究内容で勉強になるということもあるが,みんなのパワーに刺激を受けるという側面が強い. つくばでのらりくらりとやっていてはだめだなーという気にさせられる. (3日経つと忘れるけど)

ちなみに来年は一応大阪方面ということである.
スポンサーサイト

テーマ:研究 - ジャンル:学問・文化・芸術

ibis2005 報告 (2)

1日目のポスターから. 今年は kernel CCA ネタが2件あった. 何でもカーネル化という時期に軽い気持ちで考えた kernel CCA は意外にもいろいろな広がりを見せている. 世の中わからないものだ. それから渡辺研関係のネタが5連発. すごい. 今回は全体的に論文の質が高く,ポスターも全部聞きたい内容だったが,時間的に厳しくて一部しか聞けなかったのが残念だった.

さて,二日目の朝はITS. 名古屋出身の私としては地名とかがやたら馴染み深い. そうでない人にとってはちんぷんかんぷんかとも思うが... 大森先生の実験の話を聞いた後自分が運転するときにどういう視線移動をしているかを意識しながら運転してみた. 確かに道路というよりもその上の方を見ている時間が圧倒的に長い. 周辺視で十分ということだろうか. ほとんどフィードバック制御は使わず順モデルでやっているからあまり道路の情報は取る必要がなかったりする.

午後のセッションは応用ということでバラエティに富む3つの話.スパイク時系列のデータ解析というネタは神経回路学会とか見ていても面白い話がいろいろ出てきている. ただ,欲を言えばもう一歩先があると本当に意味がある研究になると思う.村山君の話はすごくわかりやすい.参考にしよう. 話がわかりやすすぎてどんな話だったかちょっと忘れてしまったが,センサネットの符号化法の設計論みたいな観点があるといいのではないかと思った記憶がある. 鹿島さんのリスク回避型学習は前日のポスターにあったTakeda-Kanamori 論文と関連のある条件付き value at risk というロバスト規準の話で興味深かった. きれいなアルゴリズムの導出も見事という感じ. Takeda-Kanamori 論文は VC theory を構築している.

というわけで今日はここまで. 次回は Weiss の特別講演から.

テーマ:研究 - ジャンル:学問・文化・芸術

ibis2005 報告 (1)

朱鷺の杜と名乗っている以上,ibis に関しては迅速かつ詳細なレポートをお届けすべきであるが,何しろ大学教養の時以来の電車通勤で結構へばっているのでお許しいただきたい. ブログをちゃんと更新されている方は早速レポートを書かれているようで,おそらくしましまさんが朱鷺の杜wikiの方に載せておいてくれているので参照されたい.
すでに今日は二日目が終わったのだが力尽きたので一日目だけ.

最初のセッションはグラフ関連のオーガナイズドセッションで,津田さんが個人的に聞きたい話ということで選んだだけあって,3件とも面白い発表であった. 最初のグラフマイニングの話は,確率的なアプローチがあるかどうかという質問が出ていたが,いわゆる「自明なサンプリング」以外に何かおいしいことがないと,面白い話にはならないと思った. 次のグラフカーネルの話では,特徴を相互情報量を使って選ぶところがあり,ある意味これがIBISっぽい部分なのだが,各特徴を独立だと思ってそれぞれの情報量を計算しているので,それがあまりうまくいかない原因だと思う. 単に識別誤差でグリーディに特徴選択して行ったほうがよいだろう. 3番目はラベリングの話で,条件付確率場という話が出てきて,これは去年の snowbird でも盛んに出ていた話でちゃんと勉強しよう.

午後の最初のセッションは「基礎・理論」. 杉山君が covariance shift での情報量規準という話をしていた. 比較で実験していた cross validation は重みもなにもつけないものだったのでそれを q/p で重みつけたら結構いけるじゃないかと思った. 次は階層的状態空間モデルで長期予測をするという話で,これはまあ Thrun とか谷さんとかが昔からやっている話を逆にシンプルにすっきりさせた話で自然なモデルである. 最後鈴木先生のベイジアンネットの構造学習の強一致性は,結果自体は驚くべきものではないが,ちゃんと示しておくことは大事な問題である.

午後の2番目は「アルゴリズム」で,座長をやらせていただきました.
松本研のお家芸であるオンラインベイズで,パラメータの事前分布の分散パラメータをフィッシャー計量の逆数に取るという話で,非常にわかりやすい話. フィッシャー計量の計算に結構時間がかかるようなのでこのあたりのサボり方がポイントだろうか. 次は樺島研の適応TAPの解き方の話だったが,詳しいアルゴリズムが予稿集を読んでもよくわからなかった. 田中利幸さんがデータの統計量を使った方法との比較について聞いていて,最初それと提案手法は定性的に同じじゃないかなーと思っていたのだが,後で樺島さんの話を聞いたところではパラメータ数が多い推定みたいなことになっているようで,そのあたりちゃんと統計の問題として考えてみるのはおもしろいかも. 3番目もやはり樺島研の発表で,自由エネルギーが各軸方向には下に凸(*)という性質を使って単調減少するアルゴリズムを提案していた. ただ,この最小化法自体は詰めが甘く,いろいろ突っ込まれていた. むしろ(*)の性質を見つけたところが発見ということだろう.

とここまで書いたところで力尽きたのでポスター発表に関する続きは第2弾で. ちなみにプログラム委員をやったのでわかるのですが,ポスターだからといってオーラルより質が低いということは全くありません. 念のため. 私は難しい理論とかはむしろポスター向きだと思ったので,私が査読した論文はほとんど足切りでポスターに回っています.

テーマ:研究 - ジャンル:学問・文化・芸術

CISJ 報告

忘れないうちに CISJ の報告を書いておこう.

思ったよりチュートリアルっぽかったのがちょっと物足りなかったが,新たな人材育成という点では重要だと思う. ちなみに,受付でもらったSMAPIP 福袋(?)には通信学会のSMAPIP特集号が入っていた.
もう1冊持っているから別のが良かったなー. それに自分の原稿見るのも恥ずかしいし... もっとちゃんと気合い入れて書くんだった.

鈴木先生の話は,GA の統計力学的なアプローチということで,昔 GA をやっていたときに似たような話をやったのを思い出した. ただ現在は,麻生さんが突っ込んでいたように多点MCMC(sequential Monte Carlo やマルチカノニカルMCMC)との関連抜きには語れないであろう.

Weiss は実際初めて見た(NIPS などで見ていたかもしれないが覚えていない). そんなに怖そうではなかった. ストーリーとしては BP を使うと LP が画期的に早く解ける...という感じだったが,実際は問題依存で,一般的に LP solver より優れているという話ではないようだ.

田中(和)さんは易しいグラフィカルモデルの話. 田中さんといえば画像処理への応用で,私の周りにも画像屋さんがいっぱいいるのだが,田中さんの話はあまり知られていない. やはり分野の壁だろうか. 樺島研出身の保坂さんが今産総研にいるので期待しよう.

田中(利)さんの話はちょっと用事があって途中で抜けなければならなかったが,パワポのコピーを眺めていたらよくまとまっていた. 今後授業とかで話す時は参考にしよう.

さてと,もう IBIS に行かないと...

テーマ:研究 - ジャンル:学問・文化・芸術

上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。