いものやま。

雑多な知識の寄せ集め

機械学習勉強会@HaLakeに参加してきた。

11/15(日)に、越谷レイクタウンコワーキングスペースHaLakeで機械学習勉強会が開かれた。

面白そうだったので、自分も参加してきた。

なお、以前HaLakeを訪れてみたときのレポートは、以下。

当日の流れと様子

当日の流れとしては、13時開始で、最初に簡単に自己紹介を行い、そこからは各々が自分のテーマで勉強を行って、16時半頃からLTが行われた。

参加者は全部で10人前後。
本を読んで勉強する人、パソコンに向かってプログラムを書く人と、何をやるかはホント本人次第w
途中、軽くお喋りをして、情報交換しあうといったこともあった。

なお、通常の営業も普通に行われていて、勉強会の間にもお客さんがちらほらとやって来ていた。

自分のやったこと

そんな中、自分がやっていたのは、主に2つ。

1つは、ディープラーニングの勉強。
もう1つは、LT用の資料の作成。

1つ目のディープラーニングの勉強が今回のメインで、次の本を読みながら、ノートにまとめていた。

深層学習 (機械学習プロフェッショナルシリーズ)

深層学習 (機械学習プロフェッショナルシリーズ)

一応、5章までは軽く読んでたんだけど、自分は勉強するときには出来るだけ内容をノートにまとめるようにしているので(というのも、勉強した内容を書き出そうとすると、あやふやな理解のままだと書けないので、「分かったつもり」で流してしまうのを防げるし、理解や定着も深いものとなる)、今回もそうした。
1章はニューラルネットワークの研究の歴史の話なので飛ばして、2章の「順伝播型ネットワーク」からまとめを始め、3章「確率的勾配降下法」の途中までまとめを行った。

ちなみに、この本はまだ読み途中だけどなかなかいい本で、理論的な話だけでなく、実際に学習を行う上で必要となってくるテクニックについてもいろいろと説明がされている。
ニューラルネットワークの理論について説明している本は数あれど、そういったテクニックについてもちゃんと説明している本というのは、そう多くないんじゃないかなと思う。
(自分が知らないだけかもしれないけど)

自分がこの本を読んでいて「頭いいなぁ」と感心したのは、5章の「自己符号化器」の話。
このアイディアを簡単に説明すると、中間層に対して「自分を自分自身に写像するような重み」を最初に学習させておいて、その重みを初期値として実際の学習を進める、というもの。
こうすると、自分自身の特徴をより低い次元にうまく落とし込むような重みを事前に学習しておくことになるので、実際の学習がうまく進みやすくなる、と。
この事前学習で必要なのは、入力となるデータだけで、教師は必要ない(あえて言うと、その入力のデータ自身が教師)というのも、非常に面白い。
ニューラルネットワークで恒等写像(自分を自分自身に対応させるような写像)なんか実現して何が嬉しいの?と思うのが普通だと思うんだけど、こんなアイディア、よく思いつくよな〜、と感心せざるを得ないw

閑話休題

ディープラーニングの勉強は15時半くらいで一度打ち切って、そのあとはLT用の資料をざっくりと作ってた。
内容はこのブログでやってきたことで、ゲームのAIを作るときに、強化学習の手法が使えたよ、という話。

一応、SlideShareにもアップしておいた。

長々と話しても仕方ないので、ホントざっくりした説明だけどw
まぁ、興味があったらブログを見てもらうということで。

LT

16時半頃からはLTということで、各々が今日勉強した内容や、あるいは、普段どんなことをやってるかを簡単に発表したりした。

自分も、さっき作った資料やデモを見てもらいながら、軽く(という割にはちょっと長くなってしまったのだけど)発表したり。

この発表はホントいろいろで、非常に興味深かった。
機械学習」と一言でいっても、その幅はとても広いので。

Clojure機械学習の手法を使ったソルバーを書いたよ、という話から、VXXという金融商品取引の予測を行うAIをランダムフォレストと呼ばれる手法で作ったという話、あるいは、ベイジアンネットワークを構築する手法に関する研究の話があったり。

Clojureのような関数型言語は、ソルバーを作ったりするときにはやはり強力な武器になるんだなぁと思ったし、ランダムフォレストという手法は初めて知ったのだけど(これは簡単な決定木をいくつも使う方法らしく、アダブーストなどのブースティング手法と関係が深いみたい)、面白そうだった。
VXXというのも、プラスのリターンが得られやすいようなので、儲かるならやってみたいかもw

次回は?

この機械学習勉強会というのは、今後も定期的にやっていく予定みたい。(2ヶ月に1回程度?)
なので、興味のある人は、参加してみると面白いと思う。

今日はここまで!