FC2ブログ

朱鷺の杜(IBIS)ブログ

情報論的学習理論(IBIS)に関する管理人の独断と偏見に満ちた意見

カーネル多変量解析10刷お礼

11/5 付でカーネル多変量解析の10刷が出ました.今回は特に修正なしです.
ディープラーニングの陰に隠れ細々とではありますが長きにわたりご愛顧いただきありがとうございます.

また11/4~7 には IBIS2018 が札幌で開催されました.(しましまさんのメモへのリンク
毎年発表件数や参加者が増えすぎて予測がつかず運営の方々もご苦労が多かったようです.
チュートリアル・オーガナイズドセッション・ポスターセッションいずれもクオリティが高く楽しめました.
査読なしであれだけクオリティが高く維持できるのはとても貴重だと思います.

多くのトップ国際会議では査読でクオリティを保っている部分もありますが,査読が研究者の大きな
負担になっています.その割に査読者によるばらつきが多くてあまり有効に働いてない気がします.
採録される論文と不採録論文の質的な違いはほとんどない現状だと思います.

研究を進めるという観点で言えば ArXiv に出た論文でも最近はちゃんとリファーされるわけですし,
査読を厳しくするという文化は見直した方がよいのではないでしょうか.
査読なしにすると会場のキャパが足りなくなるという問題が起きますが,例えば
ちょっと分野は違いますが北米神経科学会のように,ほぼ査読なしで巨大な会場を用意して,交流と議論の場として活発さを保つことは可能だと思います.
スポンサーサイト

機械学習の数理など

前回書いてから気づくと1年近く経っていてこのままだと今年何も書かないことになってしまうので久々に書きます.
ブログも若い人たちが役に立つ情報をガンガン発信してくれていてここであえて書く内容もなかなかないので更新もますます少なくなりそうですが,いろいろ宣伝や適当な戯言を細々と書いていこうと思います.

まずは数理科学 2018年 08 月号(サイエンス社)に「機械学習と微分幾何学」という記事を書きました(私にはこのタイトルではちょっと荷が重かった).
甘利先生が「人工知能は暴走するのか」という挑戦的なタイトルの記事を書かれていて,この巻は発売直後に売り切れてしばらく Amazon などでも取り扱い中止になっていましたが現在は復活しているようです.
ただし Amazon だと定価の2倍くらいの値段がついていて理不尽なので数理科学の在庫を置いているような大手の本屋さんで買うことをお勧めします.

微分幾何学といってもそんなに難しい話には触れずにできるだけ多くの人がわかるように書いたつもりです.
本当は駒木先生のベイズの話とか曲がった空間の話を書かないと情報幾何の本領は見えてこないかもしれませんが,まあそのレベルの人はちゃんと論文読むと思うので許してください.

この特集記事もそうですが,最近は機械学習も理論的な側面への関心が高まっているように思います.
ディープラーニングとかブラックボックスでとりあえず性能は出ても気持ち悪いと思う人が増えているのでしょうか.

先日,産総研AIセンター主催で「人工知能の数理 というセミナーをセンターの唐木田さんと渡辺澄夫先生の二本立てで開催したところ,200人定員が応募翌日には満員御礼,待ち人数が最終的に400人近いという大盛況でした.渡辺先生の書かれた本も好評のようです.
Mathematical Theory of Bayesian Statistics (Chapman & Hall/Crc Monographs on Statistics & Applied Probability)

ノーベル賞で基礎研究系が受賞しても研究費が基礎研究に重点化されることはあまりなくて,内閣府とか省庁主体の SIP, PRISM, AMED, NEDO など予算規模はでかいけどあまり実質的に研究できる気がしないものが増えていって(お役人さんにはそういうのが目に見えやすいんだろうけど)日本の科学技術行政大丈夫かなと思うことがありますが,若い人はちゃんと理論や基礎にちゃんと向かっているのは頼もしいと思います.


さて,これも宣伝ですが,最近出たシステム制御情報学会の学会誌
「ガウス過程回帰の基礎から応用」特集号にも「ガウス過程回帰の基礎」という入門解説記事を書きました.
なぜか数理科学と同様私の記事の後に鈴木大慈さんの記事があります.
鈴木さんの解説はどちらも格調高い感じで美しく感銘を受けましたが,格調高すぎてちょっと難しいという方は私の記事でまず肩慣らししてから進むことをお勧めします.

ベイズ最適化がらみでガウス過程回帰もかなり注目が高いですね.
持橋さんと大羽さんのガウス過程回帰の講談社MLPプロフェッショナルシリーズ本が来年2月に出るようです.
『ガウス過程と機械学習』サポートページ
システム制御情報学会解説と合わせてお楽しみください(システム制御情報学会記事は半年経つとJ-STAGE で無料公開されるようです).



最後にもうだいぶ前になりますが献本いただいた本の紹介です:

Rによる機械学習入門
鈴木さん同様の統計・機械学習の理論家で泣く子も黙る金森さんの書いたRを使った機械学習入門本.
スパースやブースティングが入っているのはもちろん,ベイズ最適化とか密度推定とかが入っているのが特色でしょうか.記述も平易で,Rを使ってデータ解析を始める方にはよいのではないでしょうか.

フリーソフトではじめる機械学習入門(第2版):Python/Wekaで実践する理論とアルゴリズム
Python と Weka で機械学習を学ぶ本の改訂版を献本していただきました.時流を反映して Keras や Tensorflow なんかを使う話も入っています.著者の荒木さんには直接の面識はないですが,
マンガでわかる機械学習みたいなものをはじめいろいろ書かれていますね.私は書くのが遅いのでうらやましい筆力です.

研究者の日常

とある方から,一般の人にとって研究者は謎に包まれていて
一体何をしているのかという話を聞いたので,ちょっと書いてみようと思います.
詳しく書くと1冊本が書けそうなので,とりあえず今日のところはさわりだけ.
こちらのブログの読者の方は立派な研究者だと思うので,もう一つの方に書いたほうがよかったかな...
まあ今日は完全に一般の方向けという視点で.

研究者といっても,大きく分けると
1.企業の研究所の研究者
2.大学の研究者
3.国立研究所の研究者
とあって,私は3番目に該当するのでそれを中心に書きます.

大学も一応兼任したりして多少は知っていますが,我々との大きな違いは
学生さんがいて教育やその関係の仕事もしなければならないということでしょうか.

企業には勤めたことがないのでわかりませんが,これは千差万別で
大学や国立研究所の研究者に近いところから,ほとんど製品の開発しているようなところまで
さまざまあるという話です.

研究者の仕事は基本的に新しい発見をして論文を書くことです.
基本的にはその目的のためには24時間365日をどのように使ってもよいです(と私は思います).
実際私の研究所の勤務は多くの研究者が「裁量労働制」で働いており,一日の中でいつどれだけ職場に行くかはほぼ完全に自分の裁量で決められます.

ただし,実際には二つの理由で本当に完全な自分勝手はできません.

一つは法的な制約です.たぶん研究者を想定せずに決められた労働基準法の枠組みに縛られるので深夜10時以降の労働は制限されていますし,出張や休暇でなければ一日のうち一瞬は職場に顔を出す必要があります. 一応退勤管理もしっかりあって来た時間と帰る時間には web 上でクリックして証拠を残さなければなりません.(法人化される前はもっとずっといい加減で天国でした)

もちろん世の中にはブラック研究室っぽいところもあるようなのでそういうのに対する歯止めの役目はあると思います.(大学ではかなりヤバイところもあるようです)

もう一つは,研究上の理由です.
研究を完全に個人でやっていればまあ上のようにほぼ完全に自由ですが,場合によってはチームを組んで研究に取り組むこともありますし,その場合にはミーティングしたり,動物を扱う実験では時間的な制約も受けます.実験系でお子さんのいる研究者の方は我々ほど自由が効かないので大変という話も聞きます.まあ世の中で騒がれている育児の問題はここではかなりマシな状況だと思います.
このほか,役付きの職員は細々とした会議や,研究所運営の雑用がいろいろあります.ただ,これは学生さんがいる大学の方が圧倒的に大変そうです.

さて,研究者の具体的な日常はどのような感じでしょうか.
私の回りの典型的な研究者の場合は,お昼前までには研究所に行ってお昼を食べ,いろいろと仕事をして,おなかがすいたら途中おやつを食べ,夕方は晩御飯前の時間に適当に帰るという感じ
...ってこれでは小学生の日記みたいですが,こんな感じの勤務だと研究者じゃないご近所さんにはまともな仕事についてないんじゃないかと疑われるという笑い話もあります.実際には家でもどこでも区別なく仕事をする感じなので公私の区別をつけるのがなかなか難しいです.

具体的な仕事内容は,論文を書くのが仕事だと書きましたが,実際には書くアウトプットよりもはるかにたくさんの論文を読んだりしてインプットをたくさん入れる必要があります.新しいことを見つけるためには,過去の研究をできるだけたくさん知っている必要があります.

有名な言葉として
「巨人の肩に乗る(過去の偉大な研究の上に立てばわずかな新規性でも世界一の新しい研究ができる)」
「車輪の再発明をしない(ちゃんと過去の研究を調べて無駄に同じことを発明するのを防ぐ)」
というのがあります.そのためにたくさんの論文を読んだり,勉強会やセミナーを開いて研究を他の人に聞いてもらったりということも日常的に行われます.外に出かけて行って学会等に出かけるのも勉強になります.これらは完全に自発的なもので,最終的に自分が最大限の研究成果を出すために自分自身で判断します.

普通の研究者が雑用的にやる仕事としては,予算申請と学会関係の仕事があります.
研究をするのに,自分の研究所からもらう研究費だけでは足りない場合も多いので,科研費やいろいろな補助金などに申請する書類を書きますが,これは結構大変です.多くのポスドクを雇ったり,大型装置の維持費がかかるような研究者だと本当に大変ですが,私のような研究者はできるだけ予算申請は最小限にして研究に集中できるようにしています.

もう一つの学会関係の仕事は,論文査読と学会開催の委員が主な仕事です.これらはほぼ完全にボランティアですが,特に大きな資金源を持たない学会はこうしたボランティアに支えられて成り立っています.

というわけで十分長くなってしまったので今日はこの辺にしておきますが,研究者も人の子.スランプに陥ったり,精神的に辛くなることも往々にしてあります.そんなときは気分転換も必要で,まあこれは人によっていろいろだと思いますが,いろいろな仕方で息抜きもしながら研究者の日常を乗り切っています.まあその辺の話の方が面白いと思うのですが,それはいずれ稿を改めて.

IBIS2017 & カーネル多変量解析9刷お礼

IBIS2017 が今年は東大で開催されました.
20周年で,私は最初の回以外は一応全部顔を出しているつもりですが,
@shima__shima さんは全部出ているということで,懇親会のときに初回の予稿集とかを持参されていました.私の聞く範囲では初回から全部出られている方はそんなに多くないと思います.

ポスター発表は例年通り活発でほとんど立錐の余地もないくらいでした.
ディープラーニングが少なくて安心しました.

多数の発表があり,まだいろいろと十分消化しきれてはいないですが,非常に勉強になりました. 
実行委員&PCの方々ありがとうございました.

実は今回安田講堂には初めて入ったので記念写真を撮りました.
最後の東工大渡辺先生の含蓄あるお話の前に撮ったので最初のスライドがちょっとだけ写っています.
みなさんには機械学習の未来についてどのような景色が見えているでしょうか.

ちなみに来年は札幌にて開催との情報です.

学生のときは安保闘争の後そのまま放置されていたので、今回学会で初めて入りました。

toddler2009さん(@toddler2009)がシェアした投稿 -






さて,話は変わりますが,おかげさまで細々と売れているカーネル多変量解析が11月6日付で第9刷となりました.
刷ごとの部数はとても少ないですが,ここまで息の長い本になるとは当初全く思っていませんでした.
数学的な厳密性では多少怪しげな記述は多いですが,易しい方のカーネル本としてお読みいただいているのかなと思います.
今後ともご愛顧よろしくお願いします.


集中講義

お久しぶりです.

大阪大学で1週間の集中講義をしました.
そのときにブログを読んでくれている人がいるのがわかって涙出るほどうれし過ぎたので集中講義について書いてみます.
(もろもろ仕事が遅れていてご迷惑をおかけしている方には申し訳ありません.がんばります)

今までも集中講義をやらせていただいたことはあるのですが15コマフルスペックのは今回が初めてでした.

大学の先生と違い,手持ちのストックが少ないので準備が大変だったのと,1週間にこんなに話をすることもないので,体力的には大変でした.
ただ担当していただいた狩野先生や事務・研究室の方々に気を遣っていただき,非常に温かく迎えてくださったので,授業をしている以外は天国にいるような感じでした.

直前に知り合いの鈴木譲先生にツイッターで思いっきりハードルを上げられた感もあり


歴代の前任者が駒木先生@東大,福水先生@統数研,金森先生@東工大,鈴木大慈先生@東大と,統計機械学習業界では泣く子も黙るそうそうたるメンツで(駒木さん福水さんは後で知ったのですが),その後任としてはプレッシャーも半端ありませんでした.(逆にこんなラインアップの上に大御所の狩野先生にご指名いただいたので断るにも断れませんでした)

譲先生のツイートのおかげか,初日は教室に入りきらないぐらいの受講生の方がおられてびっくりしましたが,二日目以降は順当に減少.内容は機械学習の基本的なところ,特に基本的な数学のでてくるところが中心で,それだけだと飽きると思って R を使った簡単な実演なども入れました.

実際はやや中途半端で,もう理論バリバリの研究室の方には物足りなかったでしょうし,ツイッターで少し見かけたのは「R を使ったデータ解析実演に期待していたけど理論ばっかりでツライ」みたいな投稿でした.

集中講義という性格上,受講生の方がどういうカリキュラムでこれまで来られたかがわからないので,レベル感の設定が非常に難しかったです.あと,ふだん早稲田大学とかで授業をするときはスライドとかは使わず板書でやるのに慣れているので,どうもスライド中心の講義は慣れなくて,スライドに書いてあるのに結局同じことをホワイトボードに書きながら説明したりとか,その辺りは練習しないといけないなと思いました.

よく知られていることだと思いますが,そもそも大学の先生は,小中高と違って特に教え方とかを学ぶことなく教えることになります.
それは昔は,大学というところは先生から教えられる受け身ではなく,基本的には学生が主体的に勉強する場だからという考え方だと思います.
ところが昨今はそうもいかないようで,休講もたくさんは取れないようですし,大学院の授業を全部英語にしているところもあるようです.(笑い話としては留学生から日本語に戻してくれという要望があるとの話も聞きましたが...)

職業訓練みたいな授業も結構増えているようですが,何のための大学なの?って話です.

ともかく一週間講義しまくって,そのうち用意したネタも使い果たしたので,手元にあるスライド適当に使って時間を埋めるというぐだぐださで,まさに刀折れ矢尽きた弁慶の立往生のような終わり方で学生の皆さんも迷惑なことだったと思いますが,最後まで聞いていただいてありがたいことでした.

おまけに最初のころまだ元気だったので講義終わってから近くの伊丹空港に飛行機撮りに行って撮った写真です.

今週一週間は阪大で集中講義。 今日は講義終えてから、飛行機撮影の有名スポットの千里川土手に。 すごい大砲構えてる大勢の人たちの中でポケットコンデジで撮影

toddler2009さん(@toddler2009)がシェアした投稿 -






カーネル多変量解析第8刷お礼

お久しぶりです。

2016年9月5日付でカーネル多変量解析の8刷が発行されました。
もう初版から8年ほど経っていますが、ご愛顧いただき有難うございます。
8年の間に、計算量やメモリ量を削減するような手法の工夫や、福水さんのカーネルベイズの登場などでいろいろな進展がありましたが、基本的に重要な部分はそれほど変わっていないと思います。
また、今回はしばらく放置していた誤植を修正しました。

一方世の中はディープラーニング真っ盛りで、私も成り行きで某雑誌に解説文を書いたりしました。
ディープラーニングも理論的にいくつか面白い研究がある一方で、世の中は実用化に対する過度な期待感があって、状況が違うとはいえ、昔のニューロブームに似た空気感を感じてしまいます。

いろいろな大学や研究所でAIやデータ解析の研究センターが設立され、いろいろな予算を獲得しようという話をたくさん聞きますが、だいたい箱だけ作って中身がなくて、ふたを開けてみたらAIじゃない人たちばっかりだったということも多いみたいです。

何回も書いているように、私はどちらかというとそういう喧騒からは少し距離をおいて研究していきたいなと思っています。
秋の夜長、じっくり本でも読みながら過ごしたいと思います。
本と言えば正定値行列や制御の情報幾何で有名な小原敦美さんから献本いただいた
行列不等式アプローチによる制御系設計 (システム制御工学シリーズ)
はあまりまじめに勉強してこなかった制御の話がしっかりと書かれている本なのでとりあえずこの辺から読んでみようかなと。

情報幾何で思い出しましたが、チェコで開催された情報幾何のワークショップ IGAIAに参加しました。甘利先生も80歳になっても相変わらず衰えることなく研究にもビールにも遠足にも全力を注がれていました。 凄過ぎます。

情報幾何関係の最近の書籍としては、以前に紹介した藤原さんの
情報幾何学の基礎 (数理情報科学シリーズ)
の他、甘利先生が日本語で書かれたものを英訳した上で全面的に手を入れた
Information Geometry and Its Applications (Applied Mathematical Sciences)
も出ましたし、名工大の松添さんの
Differential Geometrical Foundations of Information Geometry: Geometry of Statistical Manifolds and Divergences
も近日中に出版されると思うので、数学的にしっかりしたものを読みたい方にはお勧めだと思います。









ibis2015感想

つくばでIBISが行われたので感想を. いろいろバックオーダー抱えていてこんなん書いている場合ではない気もするのですが という投稿を見かけてしまったので取り急ぎ書いてみます.

つくばの開催であるにもかかわらず,私はお役御免で,完全に物見遊山で参加できました.
実行委員・プログラム委員のみなさまお疲れ様でした&ありがとうございました.
(私はせめてもの貢献として,つくばのランチ情報などツイートしてました)

企画セッションは全体的に理論の話が多かったのはうれしかったです.
初日に鈴木さんの理論のセッションで幕開けし,三日目には河原さんの劣モジュラ―のセッション.
あと一つは応用よりですが最近話題のマテリアルインフォの話などを入れた津田さんのデータ駆動科学のセッション.
今年はセッション数も厳選されていた感じです.
休憩時間が設定されていないというのがなかなかストイックでした.

ポスターセッションはたっぷり時間がとってありましたが,
それでも見たいと思うような人気のポスターは人だかりができていて
順番待ちするかほかのポスターに移るかというなかなか難しい決定問題に直面しました.
なんかいい運用法ないですかね.

初日の若手セッションはパネルもあって面白い試みでした.
来年は若手 vs シニアみたいな構図のパネルにして若手がシニアをやりこめるところとかも見てみたいです.

そのほかインパクトが大きかったのはERATO代表の河原林さんのトークですね.
まとめもできているようです.
私の属している研究所のAI研究センターもまっとうに dis られておりました.
どこまでがネタトークなのかわからないので突っ込むのもどうかと思うのですが,私は特にスーパーエリート云々はあんまり共感できませんでした.
それはそれで大事な話だと思いますが,研究者の人口や裾野が広がった現代においては,
いろいろなタイプの研究者も含めてどうやって研究を進めていくかを考えていく必要もあるのかなと思います.

あと,招待講演で久々に安倍さん@IBMのお話が聞けたのも個人的には感慨深いです.
話に出てきたRWCのころはまだ駆け出しの研究者で雲の上の存在の方でした.

懇親会では研究会賞の表彰も行われ,現在いっしょに研究させていただいている村田研の高野さん・日野さんを中心とした研究(受賞対象研究には私は入っていません)と,しましまさん中心の研究(これは一応私も名前が入っている)が受賞しました.

というわけで,今年も IBIS 楽しめました(若干体調が悪くてアフターが不完全燃焼でしたが).
筑波大の推薦入試や筑波山の紅葉祭りなどとぶつかってつくばでもホテルが取りにくいという話がありましたが,
来年は紅葉時期の京都で開催らしいので日程が決まったら速攻でホテルを予約しないとまずそうです.

なお,今月12月半ばにはやはり京都でスパースモデリング主催の国際会議 HD^3 が開催されますので,
年末のお忙しい時期ですが是非ご参加ください. 懇親会には楽しいアトラクションもあるとの噂です.

【“ibis2015感想”の続きを読む】

近況報告(サイエンスzero・献本いただいた本など)

毎月一日にはたいてい丸亀製麺で釜揚げうどん半額を食べるので1か月の刻みはだいたい把握しているのですが,今年ももうあと2か月になってしまいました. 人工知能やら機械学習やら世の中動きが激しくて結構忙しいものの,あまり研究している気がしないので少し腰を落ち着けて研究に集中したいものです.

さて,いくつか近況報告や献本いただいた本の紹介(献本いただいた方々ありがとうございました):

まず1件目.
8月に科研費スパースモデリングがNHKサイエンスZEROに取り上げられました.
数学関係はテレビにするのが難しいのか,ガリレオっぽい演出があったり,一般視聴者向けの説明に苦労している感じでした.
私を含め計画班・公募班の一覧が一瞬映りましたが,多すぎて探すのが大変でしたね.
なお,ネットでの感想まとめはtogetterまとめnaverまとめにあります.

2件目.
予告ですが,産総研お台場で行われる人工知能セミナーで話します(11/24開催).
詳細はこちら. 申込制ですのでご興味のある方は是非.私の情報幾何の話は入門向けで知っている人には退屈かもしれないですが,園田さんの話は deep learning の理論としても非常に興味深いです.
なお,その次の日から IBIS2015 がつくば国際会議場(エポカル)で行われますのでそちらも合わせてどうぞ.

あとは献本いただいた本など.
情報幾何学の基礎 (数理情報科学シリーズ)
量子情報理論の研究で著名な藤原さんの書かれた情報幾何の本.甘利研時代は重なりはないのですが,大阪大学に兼任していた時期にお世話になりました.多様体のちゃんとした話から最後は量子情報幾何の話まで,数学的にちゃんとしていながら難しくなく学部レベルの大学生でも十分に理解できる内容になっていると思います.

岩波データサイエンス Vol.1
伊庭さんが何やら活動されているのは twitter など通じてうすうす知っていたのですが,献本いただいて少しその実態がわかりました.本のような雑誌のようなわりと軽く読める本です.円城塔氏の連載小説も載っていたりして雑誌といっても学術雑誌とはかなり趣は違います.そもそも月刊なのか季刊なのかもよくわからなかったのですが,サポートサイトの Q and A を見てやっと理解しました.
こんなところで宣伝するまでもなくバカ売れしているみたいで,発刊記念イベントなども行われたようです.
この業界盛り上がっていますね.次は自然言語処理関係だそうです.

深層学習: Deep Learning
3冊目は deep learning の本で,人工知能学会誌に連載されていたものを大幅修正加筆して出てきたものです.発売日は11月5日ですが,しましまさんから著者分を分けていただきました.ありがとうございます.しましまさんの気合の入りようからして,deep learning の定番書となることは間違いないでしょう.



最初にも書きましたが,個人的にはあまり忙しくなっても逆に頭が働かなくなるので,ちょっと引いたところで落ち着いて地道な問題を解くような研究をしていきたいと思っています.

カーネル多変量解析7刷お礼&近況報告&面白そうな本

5月25日付でカーネル多変量解析の7刷が発行されましたのでお礼方々ご報告申し上げます.

気づいてみるとこのブログも前回更新してからほぼ1年更新してませんでした.
前回は6刷のお礼で今回が7刷のお礼.
ほぼ増刷のお礼ブログの感がありますが,絶版されるまでは続くでしょう.
この間にもAmazonレビューが一つ増えました(ほめ過ぎですがヤラセではありません^^;).
一方,先日 Facebook で突然友人から「同僚がこの本で勉強してた」というコメントをもらって冷汗出ましたがうれしかったです.
これからもみなさんご愛顧の程よろしくお願いします.
(ちなみに4刷からは誤植もそのまま放置していますので本屋さんとかで古い版が置いてあっても違いはありません.)


さて,1年も経つといろいろなことがありますが,身の回りの話を書くと,ちょっとだけ所属が変わりました.
産総研は中期計画の第3期というのが終わって4月から第4期というのに突入したのですが,その際に再編が行われて,
私が属している情報数理研究グループはメンバーはそのまま人間情報研究部門というところに属すことになりました.
上の名前はコロコロ変わりますが.情報数理という研究室で25年変わらずずっとやってきたので,上の方で何が起きても関係ない感じです.

ただ,昨今の人工知能やビッグデータなどのブームで産総研も遅ればせながら人工知能研究センターというのが5月に発足しまして,私も片足だけ突っ込んでいます.なんとなく機械学習分野では研究のスピードが速くなっているというイメージを持っている人が多いようですが,理論的なところとか基本のアルゴリズムなんかはそんなに速く進んでいるわけではないと思っているので,あまりブームに巻き込まれずマイペースでやりたいなと思っています.


最後に機械学習関連で面白そうな本もこの1年いろいろ出てきたので少しリストしておきます.

甘利先生の情報幾何の新展開
数理科学の連載に加筆修正を加えたもの.情報幾何に関する定本の一冊になるでしょう.
本当はもっと分厚い本でがっつりしたのが望まれるところですが,出版業界もなかなか厳しいのでそんなにマニア向けの本は出せないでしょうね.
ちなみに英語版が企画されており,そちらは誤植なども直っているとのうわさもあります.

それから,ヘイスティ本の翻訳:統計的学習の基礎
ビショップ本よりやや翻訳チームが若くなっています.
これの原著はかなり昔がっつり輪講しましたが,行間を相当読む必要のある本で,手元に現物がないのでその辺り配慮があるのかどうかがよくわかりません.単なる翻訳だとするとビショップ本よりは少しとっつきにくいかも.でも個人的にはビショップ本より好きな本です.

最近,杉山さんを中心に若手の方々が出された本:機械学習プロフェッショナルシリーズ
これも手元になくてパラパラっと見ただけですが,プロフェッショナルといいつつそれなりに初学者向けの配慮はされているようです.岩波本と違って(?)予告されているシリーズがちゃんと出ていきそうです.岩波本よりもページ数も少なめなのでその分著者の負担も軽いというのもあるかもしれません.
上記リンクは東北大の岡谷さんのディープラーニングの本で,ブームなので結構売れそうです.ほかにもNTT・CS研の岩田具治さんのトピックモデルなんかも面白そうです.トピックモデルでは東大中川研の佐藤一誠さんのトピックモデルによる統計的潜在意味解析というのも出ていて,この分野の注目度の高さを表していますね.

かくいう岩波本にも乱数生成と計算量理論というシリーズ5冊目がようやく登場.これまた手元にないのでわかりませんが,最初は私の本と色が同じ?かと思ってしまいましたが並べてみるとこちらはやや紫がかった色です.

テーマ:心・脳・言葉・人工知能 - ジャンル:学問・文化・芸術

カーネル多変量解析6刷お礼

カーネル多変量解析の初版6刷が5月15日付で発行されました.(中身は4刷から変わっていません.)
みなさまのご愛顧のおかげです. ありがとうございます. 
Amazon でもずっとなかったカスタマーレビューが最近1件だけですがつけていただけたのもなんとか生きながらえている一因かと思います.
今後ともよろしくお願いします.

# 追記: そういえば消費税値上げの影響で税込み価格が値上がりしております^^

さて,5月は松山で行われた人工知能学会の全国大会とDeep Learningの湘南会議というのに参加したのでショートレポートします.

人工知能学会はなんとなく怪しげだなあという先入観があってずっと敬遠してきたのですが,昨年の富山から参加しています.
まあなんだか学問として怪しい話も結構ありますが,機械学習関係の発表はかなりクオリティが高いです.
たくさんパラレルになっているので聞きたい発表が重なっていると部屋を行ったり来たりするのが大変ですが,これは贅沢な悩みですね.
最近元気がない国内学会の中では活気のある学会だと思います(国内学会もむやみとたくさん増えたのでいい加減減らせばいいと思うのですが...).
内容もいいですが,場所も温泉と地酒縛り?な感じで参加のモチベーションがわきます.

もう一つの湘南会議というのは,2011年からNIIが主導して開催している合宿形式の研究会で,今回 dropout とかで有名な Pierre Baldi を中心に企画されました. Deep Learning は機械学習のホットトピックの一つですが,私の中では一種の spam word になっているので,昨年の5月に invitation mail が来たときたぶん無意識にスルーしてしまったんだと思います. 先月統数研の福水さんにお会いした時に「あかほさんのところにも invitation 出しましたよー」というのを聞いて古いメールを掘り出して急きょ参加することになったという事情です.
まあ Deep Learning といっても日本ではほとんどそれ自体を研究対象としている人はおらず,海外からの参加者もさまざまな人たちが参加したのであまり Deep Learning ガッツリという感じではありませんでした.
ただ,自分より圧倒的に優れた方々と英語漬けな研究環境で過ごせたのはものすごく刺激になりました.
(早口でよくわからない話も多くて思いっきり消化不良気味ではありましたが)
甘利先生もフル参加でしたが78歳とは思えないほどお元気で私が修論指導を受けていた時と全然イメージが変わらないスーパーマンぶりでした.

参加者は,海外組では主催者の Pierre Baldi, Tomaso Poggio のほか Aapo Hyvarinen, Klaus-Robert Mueller, Jean-Philippe Vert, Joachim Buhmann, Shimon Edelman など20名ほど,
国内組は主催者の福水さんのほか,甘利先生,中原さん@理研,岡谷さん@東北大,栗田さん@広島大,麻生さん@産総研,杉山さん@東工大,津田さん@東大,恐神さん@IBM,Kevin Due @ NAIST, Erik De Schutter@OIST, 定政さん@NEC が参加されていました(記憶に頼っているので抜けているかも)

# 追記2: そういえば deep learning が流行っているせいか,昔高畠さんといっしょに研究していた contrastive digergence の情報幾何の論文に関する問い合わせがいくつかありました. なんかマイナー国際会議の上にリンク先が切れていたのでローカルに論文を置きました. 
Shotaro Akaho, Kazuya Takabatake: Information Geometry of Contrastive Divergence. ITSL 2008: 3-9

岡谷さんの解説記事を読むと,我々の提案している Progressive Contrastive Divergence は他の人が提案した Persistent Contrastive Divergence として知られているようです. 偶然頭文字が同じですが,研究も宣伝と発表する場所が大切だということですね.
次のページ

FC2Ad