出力を入力へ

プログラミングに関する基本的な事を中心にまとめます

Machine Learning Advent Calendar 2013まとめ

年末年始の時間があるときに
機械学習のAdvent Calendar記事を読んだ。
これらのうち、自分が気になった記事のまとめ。

時間がある時には自分の仕事には直接関係無くても
興味のある分野の勉強ができるのがうれしい。

その中でも機械学習は将来的に
自分の仕事と関係が出る可能性があるから
特に時間を掛けて確認しておきたい。

Machine Learning Advent Calendar 2013
http://qiita.com/advent-calendar/2013/machinelearning

1日目:ベイズ線形回帰(PRML§3.3)の図版再現

http://qiita.com/naoya_t/items/80ea108cebc694f5cd63

PRMLに掲載されているベイズ線形回帰の図を追試するという内容。
PRMLはただ読んでいるだけでは理解できないので
実際に手を動かして確認する必要がある。
この記事ではPythonを使って同じ結果を再現するコードを実装し、
実際に同じ図を生成するところまでを行っている。

このように実際に手を動かし、さまざまなパラメータを変更して
動作確認することで本当の理解ができると思う。
そのためには必須の内容。

今後、自分も機械学習の復習を行う予定なので、
その上ではPRMLに限らず、実装例として挙げているのは役に立つ。
特にPythonが得意なわけではない自分にとっては。

3日目:Dropoutの実装と重みの正則化

http://olanleed.hatenablog.com/entry/2013/12/03/010945

Deep Learningは名前だけで結局よく理解してません。
Dropoutは聞いたこともありません。

そんな自分だけど、アンサンブル学習やブートストラップ
研究として応用した事があったのでよく理解できた。
もちろん、手を動かして確認したわけではないので
理解が十分というわけではないのだけど。

もし機械学習の勉強を再開するのであれば
自分が知っている知識を中心に進めると思うので、
その時にはもう一度確認する。

10日目:MLaPP読みましょう(オマエモナー)

http://qiita.com/harapon/items/c2d40e98a11db8c2dea6

MLaPP(Machine Learning a Probabilistic Perspective)知らなかった。
MLAC記事やamazonのレビューを見る限り、
これ一冊あれば大丈夫というわけではなく、
これをリファレンスとして使うのが良い活用方法みたい。

だとすれば、機械学習全体の概要を把握し、
必要な分野だけ詳しく知りたい自分には最適だと思う。
(ほとんどの人はそういった進め方になると思うが)。

本当は内容を確認してから購入したいところだけど、
洋書を確認できる環境にないので、
kindle版でさっさと買うことになると思う。

14日目:機械学習界隈の情報収集方法

http://d.hatena.ne.jp/kisa12012/20131215

機械学習分野の博士が実践している情報収集方法。
こういった内容はなかなか共有されないので参考になる。

とはいってもここまでアカデミック寄りの情報収集はできないし、
分野が違うと適切な方法は異なるので
どうやってこの知識・ノウハウを活用すべきかは
もうちょっと自分で考える必要がある。

まとめ

全体的には論文解説や、最新アルゴリズム解説が多かった印象。
残念ながらそういった内容が必要となる立場にないので
今回は取り上げてないが、本格的に機械学習を勉強するのであれば
そういった内容の方が役に立つはず。

また、自分で手を動かしたわけではない。
取り上げた記事はコードも併せて掲載しているものが多いので
可能な限り自分でも動かして確認したい。