朱鷺の杜(IBIS)ブログ

情報論的学習理論(IBIS)に関する管理人の独断と偏見に満ちた意見

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

最近の特集号などの情報

機械学習も最近はいろいろな分野に広がっていて特集や解説もいっぱいあってフォローし切れていないのですが,私の把握している範囲で多少まとめておきます.

なお,主だったものは 朱鷺の杜Wiki にもまとめられていて,ちなみに2010年に関しては現時点で

 2010年
 特集『ベイジアンネットワークの最先端』人工知能学会誌, vol.25, no.6
 特集『大規模画像データ処理』人工知能学会誌, vol.25, no.6
 特集『ビジョンコンピューティングにおける確率的情報処理の展開』電子情報通信学会誌, vol.93, no.9
 解説『グラフとネットワークの構造データマイニング』電子情報通信学会誌, vol.93, no.9
 解説『超多重検定の最新動向』電子情報通信学会誌, vol.93, no.9
 連載解説『最近のベイズ理論の進展と応用 [I]~[V]』電子情報通信学会誌, vol.92, no.10~vol.93, no.3
 解説『転移学習』人工知能学会誌, vol.25, no.4 (2010)
 "A taxonomy of sequential pattern mining algorithms" ACM Computing Surveys, Volume 43, Issue 1


という情報が載っています. 特に「最近のベイズ理論の進展と応用」の連載はベイズの気鋭の方々による気合いの入った解説でとても勉強になります.

論文誌関係では,IEICE Volume E93-D No.10, Special Section on Data Mining and Statistical Science という特集号が 10 月号に掲載され,私も統数研の伊庭さんと共著で載せて頂きました.

現在,IBISML 関係の新たな特集号「Special Issues on Information-Based Induction Sciences and Machine Learning」が企画されており,私もPCに入れて頂いております. 締め切りは12/31までとなっておりますのでみなさまどしどし投稿をよろしくお願いします.

あと,もうすぐ発刊されると思われますが統計数理の2010年2号が統計的機械学習特集で,私も投稿させて頂きましたのでよろしければご覧ください.

解説関係にもどると,数理科学2010年10月号から甘利先生が情報幾何の解説の連載を始められています. いまでも第一線で活躍されている甘利先生すごすぎます.

神経回路学会でもいくつか動きがありました.
まず,創刊当時の学会誌が公開されており,Neuromail の案内によると

 創刊号の「会報」によれば、当時は平成元年7月に発足された学会も
 6年目に入り、正会員や賛助会員も増加して発展しきた頃でした。

 学会誌の編集は創刊号から岡部先生、石井先生、石川先生、麻生先生、
 平井先生が担当されていました。

 また巻頭言は以下の先生方の原稿です。
 1巻1号 松本 元先生
 1巻2号 外山敬介先生
 2巻1号 塚田 稔先生
 2巻2号 吉澤修治先生
 2巻3号 甘利俊一先生

 他にも貴重な論文や解説、報告、書評などが多数掲載されておりますので、
 どうぞご覧ください。


とのことです.最近の号でも和田山先生や樺島さんの圧縮センシング関連の解説など神経回路学会誌も目が離せないですね.さらに歴史をさかのぼると学会誌が発刊される以前の NEWS LETTER も公開されています.ちょうど私が研究者としてまだ駆け出し(今も駆け出しという説もありますが)だった頃で,非常になつかしい感じです. この辺りの熱い流れが現在の機械学習研究の一つの源流になっていると感じます.




スポンサーサイト

信学会特集号「学習・最適化のための大規模アルゴリズム」

電子情報通信学会の英文論文誌編集委員を3年やってきて任期も残り1年というところで
特集号の企画を仰せつかり,
「学習・最適化のための大規模アルゴリズム」というタイトルで特集号を組むことになりました.

もういろいろなMLに流れたのでご存じの方も多いかもしれませんがこちらにも投稿しておきます.

詳細はこちら→ http://www.neurosci.aist.go.jp/~akaho/ieice-largescale/

重要な日付:
論文投稿締め切り: 2008年11月28日(金)
論文誌発行予定:2009年7月号

見ると分かりますが,特集号の編集委員のメンバーはすごく豪華です.
ご多忙にも関わらず編集委員を引き受けてくださった先生方には深く感謝しております.

というわけで,みなさまからの積極的なご投稿をお待ちしております.

また,先頃入手した情報によると通信学会英文誌も impact factor とかずいぶん上がっているようです.

数学セミナー「統計科学のすすめ その2」

ずいぶん書いていなかった気がしますがなんだか研究以外の用事が多いというのはあまり精神衛生上よろしくないですね.

さて,数セミ11月号(表紙にIIと書いてあって2月号かと思った)はかねて伊庭さんから聞いていた統計科学特集その2です.(その1がいつだったのかは不勉強のため知りません)

数セミなのでかなり一般読者向けにわかりやすくはなっていますが,行間を読めばなかなか奥深い著者の意気込みが伝わってきます.知っている人が多いので「よこがお」のメッセージが楽しいです.

まだちゃんと読んでいないので安易な感想は差し控えますが,全体としてのまとまりは「ベイジアン」です.伊庭さんが全体の総括(personalization とベイズモデルの効用について),久保先生@北大は生態学への応用,丹後先生@保健医療科学院は医学分野の事例,樋口先生がパーティクルフィルタとデータ同化,持橋さん@NTTが言語への応用として無限次元モデル,締めで田邊先生が統計科学を哲学的に論じています.

無限次元モデルで思い出しましたが,神経回路学会誌の樺島科研費解説特集第2弾で,渡辺澄夫先生@東工大が無限次元確率分布について述べられています. 渡辺先生の記事を読むといつも背筋が寒くなるかというか,こちらの浅はかさを全部見通されているような,ソクラテスと話しているような気にさせられます. 渡辺先生としてはそうやって我々の知識レベルを上げようとされているのだとは思いますが.

話が脱線しましたが,伊庭さんが最後にブックレビューとして何冊かの本を挙げられています.やはり出発点は「情報量統計学」なのですね.
最近の本では Bishop 本と Mackay 本が挙げられています.Hastie 本ではないところがやはりベイジアン特集らしいところですね.そもそも Hastie 本は初心者には勧めにくいですが.

神経回路学会誌2007.6

今月の神経回路学会誌はなかなか内容豊富です。

川人さんの巻頭言からはじまって、特定領域 DEX-SMI のチュートリアル連載で樺島さんが気合いの入った解説を書いています。
それから ASCONE (神経科学オータムスクール)の講義録として、川人さん、石井さんの講演が掲載されています。

樺島さん解説「More is different の話」:基本的に去年の IBIS の前に聞いた招待講演の話で、磁石の例からはじめて、CDMA という情報科学的な問題に統計物理的な観点が有用であるという筋。物理と数学の対比で「形式的には同じような枠組みで表現されるのにモノの科学は数学的な厳密性に少々目をつぶってでもより複雑なシステムを解析する方向に様々な技法を発展させ、一方のコトの化学の理論研究は数学的妥当性を重視しながら慎重に結論を導くスタイルを発展させた」という記述があります。自分を振り返るとどちらかというと物理的なセンスに近いと思うのですが、物理をちゃんと勉強していないのでワザが伴っていないのですね。というわけで今後期待したいのは、物理のワザを素人が使えるように整備してもらうことなのではないかと思いました。

川人さん講義録「小脳の学習理論、LTDのシステムバイオロジーモデル、そして操作脳科学へ」:これはなんと37ページにも及ぶ力作です。30年分ぐらいの脳研究全般がぎゅっと凝縮されていて、読んですごく得をしたような気になります。業界の裏側みたいな話もいっぱいあります。自分にはちょっとついていけない世界だなーという気もしてしまいますが。技術的な話では、フィードバック誤差学習が最初にあり、私も一時期学生さんとやってみたことがあるのですが、今になって思うのは、数理的には強化学習みたいなのとどういう関係になっているんだろうという漠然とした疑問はあります。それから脳科学の難しさについてもいろいろ書かれています。「「脳を鍛える」だとかの、訳のわからない神経神話が世間にはびこってしまうのも、そういうもどかしい状況が多少影響していると言えなくもないと思います」「世の中に蔓延る似非脳科学者や脳文化人がでたらめなことを言ってたとしても、いつまで経ってもちゃんと反証できないと思うのです」
というわけで、これをBMIなりの考え方がそういう状況を打破できるのではと言う主張です。質疑の中で、「AICのような議論をしてシンプルなモデルがいいと言っても、それはあんまり歯切れがよくないですし、ほんとに我々人間が納得するのは、その考えている理論に基づいて力学計算して、月までロケットとばしてちゃんと戻ってきたときだと思うんです。そのときに、ああやっぱり物理学って素晴らしいんだなって、心の底から信用してしまいますよね」というのがありました。自分はたとえ月までロケットで飛んだとしてもそれが理論が正しかったからなのかそうでないのかわからないという気持ちが残ってしまいます。まあこの引用はあくまで例え話でしょうけど。

石井さん講義録「不確実環境における意志決定のモデル」:強化学習と脳との関連についてが主な筋です。脳の観察に基づくとTD学習などよりも効率的な学習アルゴリズムが存在するのではないかというモチベーションに基づいて研究を進めている様子が非常に共感がもてます。短い講義録なので、技術的な部分で不明な部分も結構あるので、石井さんのもっと長い解説が待たれます。

なお蛇足ですが最後の理事会議事録を読むと、来年度は神経回路学会の全国大会がつくばで開催予定ということなので、みなさんお楽しみに。

センサネットワーク特集

5月号の電子情報通信学会論文誌はセンサネットワーク特集です.
通信系も IBIS とは最近関係が深いですが,正準相関分析とかマルチモーダルとか昔からやっているので,興味があります.

IBIS 的には最初の方のセンサネットワークの理論ということで,九大の大濱さん(研究室の先輩)による多端子情報理論の話と三菱電機の河東さんによるランダムネットの話がとても面白いです.
しかし大濱さんは最近軟派路線を歩んでいる通信学会においては際立って硬派な解説です. 研究室にいた頃の昔からちょこちょこ時々話は聞いているんですが,それにしても難しい. 問題自体が難しいのでしょうがないですね. 一方河東さんの方の解説は比較的私レベルの読者でもわかりやすくかみくだいて書いてあります. ただしレベルはともかく内容的にはいずれもマニアックで,センサネットワークの実装をしている人たちから見ると天国で神様が話をしているような気がするでしょう(似たようなことを甘利先生が別の文脈で言っていたような).

しかし朱鷺の杜WikiにもSlepian-Wolf ぐらいは載せとかないといけないな.

信学誌解説「粒子フィルタ(particle filter)」

単発ですが,電子情報通信学会誌12月号に統数研の樋口さんが
パーティクルフィルタの解説をわかりやすく書かれています.

最初の図はなんだかナゾの線とかあってよくわからないけど,ほかの図はわかりやすいです.

あと,最後のほうに遺伝的アルゴリズムとの関係まで触れてあります. 情報量規準とかが結構メインにすわっている所が統数研らしさをかもしだしていますね.

テーマ:研究 - ジャンル:学問・文化・芸術

信学誌「確率を手なずける秘伝の計算技法」

電子情報通信学会9月号の小特集は,smapip メンバーが中心と
なって書いた
「確率を手なずける秘伝の計算技法
---古くて新しい確率・統計モデルのパラダイム」
です.

内容は(著者敬称略)
・田中和之「大規模確率場における予測と推論」ということで,メッセージパッシングの簡単な解説と画像修復・領域分割の話が載っています.
・村山立人「データ圧縮の統計力学的シナリオ」符号化の話を統計力学の観点から平均場近似・相転移などを軸に説明されています.
・田中利幸・岡田真人「連想記憶と携帯電話との意外な関係」自己相関型連想記憶モデルと CDMA 方式の類似性の説明です.
・堀口剛「マルチエージェントシステムとしてのネットワーク制御」IBIS ではあまり出ないマルチエージェント系とネットワーク制御ですが,統計力学などに落とせば基本的に同じような話になるのですね. 具体的なシミュレーション結果や強化学習の導入などが目を引きます.
・井上純一「EMアルゴリズムの動的性質 ---確率推論におけるミクロとマクロの絡み合い」統計物理でEMを説明するというのは私にはなかなか新鮮で面白かったです.
・村田昇・金森敬文・竹之内高志「ブースティングと学習アルゴリズム ---三人寄れば文殊の知恵は本当か?」ブースティングをわかりやすい導入で説明しています.
・赤穂昭太郎「線形と非線形をつなぐサポートベクトルマシン」挿絵ゼロのきわめて不親切な解説です.一応SVMを使うときによく聞かれる質問について書いたつもりが,答えがわからない... まあ本小特集では「おまけ」的な性格が強いので許してください.

以下個人的感想 【“信学誌「確率を手なずける秘伝の計算技法」”の続きを読む】

テーマ:研究 - ジャンル:学問・文化・芸術

計測と制御「学習理論って何?」

計測と制御2005年5月号(Vol.44)のミニ特集は
「学習理論って何?」ということで,村田さん@早稲田をゲスト
エディタとして,解説が載っています.

不肖ながら私も情報幾何の解説を書かせていただきました
(というわけでほとんど宣伝つーか^^;).

村田さんのオーバービューに続いて渡辺先生の統計的学習の
わかりやすい解説. 流れるように読めます.
続いて私の情報幾何の解説は,気合いを入れては書いたのですが,ちょっとつめこみすぎでしょうか. とても流れるようにとはいかず,何度も読み返してもわからず,結局参考文献に頼ることになったりして...
それから鷲尾先生のデータマイニング系の話,吉本さん・銅谷さん・石井さんの強化学習の話はアクティブなトピックを具体例を通じてわかりやすく読めます.
続いて倉田さんほかによる自己組織化関係の話と青西さんの統計力学の話で,脳科学との関係を強く意識した書き方です.
最後は上田さんがEM+VBの話でしめくくっています.構成的にはちょっと離れていて強化学習の前後ぐらいでもよかったかも.

計測と制御はときどき学習関係の特集が組まれますが,制御系の人たちにどれぐらい興味をもってもらえるかが難しいところですね. 私もちらっとシステムの情報幾何の話は入れといたんですが,そこまで読んでくれるかどうか...

通信学会小特集「ニューロコンピューティング研究の歴史とその将来」

2005年4月号の電子情報通信学会誌の小特集は「ニューロコンピューティング研究の歴史とその将来」「ターボ符号,LDPC符号と繰返し復号の理論」ということで,いずれもIBISに深い関係のある記事がいっぱいです.
【“通信学会小特集「ニューロコンピューティング研究の歴史とその将来」”の続きを読む】

FC2Ad

上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。