読者です 読者をやめる 読者になる 読者になる

ITエンジニアのための機械学習理論入門

ITエンジニアのための機械学習理論入門

ITエンジニアのための機械学習理論入門

社内の読書会が終わりました。毎週1時間で全18回でした。5ヶ月弱です。一言で言うと非常に読みやすかったです。今まで何冊か機械学習の入門書を読んでいましたが、理論的なアプローチについて体系立てて、かつ、分かりやすく書かれていたと思います。同じテーマについて複数の手法を適用し、その差についても説明されているので、全体像も把握できるのがよかったです。数式も数学徒の小部屋というコラムで導出過程について説明されており、同僚の助けもあって何とか読める感じでした。以下、メモです。

  • 統計学のための数学入門30講 (科学のことばとしての数学)を読んでいたおかげで数式は読めた。微積線形代数と統計の基本的な知識(正規分布など)は知らないと読んでも面白く無いと思う。
  • 話のわかりやすさを優先して、一部定義が曖昧だったり省略されていると感じる部分はあった。そういう箇所は気にせず読み飛ばして、筆者が全体として言いたいことだけ読み取るで良いと思った。何度か遭遇し、読書会のメンバーで悩んでも結論が出なかったのでw
  • 改めてモデルを理解することは重要だと感じた。仕組みがわかれば向き/不向きも分かるので、とりあえずデータ集めて適当なモデルにぶち込んでとやっても精度出るわけないよなーと再認識した。既にみんなが取り組んでいるタスクでセオリーも存在し、素性と利用するモデルも分かっている場合はいいだろうけど。
  • 読書会として読んでよかった。一人で読むと数式で心が挫けたり、読みやすいのでなんとなく理解した気になって読み飛ばしていたところがかなりありそうな感じだった。
  • 数式はノートに写しながら導出過程を理解するのがいいかと考えていたけれど、同僚から計算結果だけを見て利用するスタンスでもいいのではと言われたのは結構衝撃だった。実際に深層学習 (機械学習プロフェッショナルシリーズ)を少しだけ読んだら計算の流れは似ていて、導出過程が分からなくとも結果となる数式の意味が分かればそれなりに読める感じだった。
  • ソースコードがついているので実際に試せるのもよかった。ただ、ソースはあまり読みやすい感じではない気もした。

ということで、来週からはPython機械学習プログラミング 達人データサイエンティストによる理論と実践 (impress top gear)に取り組みます。Pythonでさくっと機械学習スクリプトを書けるようになるといいなと思ってます。

あと、参考までに読書会のメモについて以下に貼っておきます。ノートにとっていた数式のメモは貼るのが大変なので割愛します。あと、記号は意味がわかればいいと割り切りそれっぽくメモしたのでその辺りはご了承下さい。

  • 主な数学記号と基本公式
  • 2.1.4
    • E(RMS)とあるが、数式でEのrmsと書いてるからか
  • 2.1.5
  • 2.2.4
    • M=9でもいいのでは?
      • 精度が変わらないならパラメータは小さい方がよいという基準があるのでは。赤池情報量規準
      • おそらく、M=40とかになると過学習になるのでは
      • M=9でもM=3とほぼおなじ値になってM4以降の係数は小さくなるはず。実際、M=9のグラフがぐにゃぐにゃしていない
  • 3.1.3
    • 最小二乗法は最尤推定法の中でも、正規分布の誤差を仮定した特別な場合に対応するとみなせる
    • 03-maximum_likelihood.py ではWの値はコンソールに出力されないが、02-square_error.pyに記述されている print df_ws.transpose() を追記すれば出力される
  • 3.2.2
  • 3.2.3
    • 一致性はデータ数を大きくすると真の値に近づいていくこと
    • 不偏性は何度も推定を繰り返した際に、推定値の平均が真の母数に近づいていく。不偏性がある場合は、データ数が少ない場合に真の母数からはずれる可能性があるが、大きい方にはずれる場合と小さい方にはずれる場合が均等にある。
  • 3.3.2
    • 標本分散がずれるのは、「NS2n/σ2が自由度N-1のx2分布に従う」という事実に関係する。そもそも、標本分散S2nは正の値しか取らないため、散らばり具合が対称な形にならない
    • 不偏分散はN/(N-1)倍したものなので、データの散らばり具合は対象な形にならない
    • 不偏推定量というのは、あくまでも「多数の推定を繰り返した際の平均値」についての性質であって、1回の観測に基づく推定値の正確性を示すものではない
  • 4.1
  • 4.1.1
    • (4.2)は普段見ている一次関数。f(x,y)=1 とかだと、それは切片(w0)
    • 直線上は不正解としている?
      • そもそも直線上を正解にできない手法。そうしないとその後の計算を透過的に扱えない。
  • 4.1.2
    • Σは判定に失敗したものだけなので、式に補足があってもいい気がする。
  • 4.1.3
  • 4.2.1
    • 4.30 式
      • もっと効率のよい方法はあるのか?
        • xとyのデータの分布に依存する?
        • 正規化すれば問題ない?
      • xとyのオーダーが異なる場合はどうなる?
        • xとyにはバイアス項のようなものはつけられない。xとyは移動する距離が決まっている。一方cは任意なので計算する意味がありそう。
    • w0は増え続けたりしない?
      • tが + / - 両方あるので大丈夫。
    • 局所解に陥ることはある?
      • 収束したかどうかの判定条件に1つもエラーがないことがあるので、大域解に至るといえるのでは。
  • 4.2.3
  • 5.1.1
  • 5.1.3
    • 計算コストで比較するとどうなのか?
    • 現実的にあえてパーセプトロンを使うケースはあるのか?
      • 次元が多くなると逆行列あるし、大変なのでは。
    • 収束速度に差はあるのは?
    • 必ず 1 や 0 になる?そもそもロジスティック関数は距離が離れていれば 0 や 1 になるだろうが、近ければ 0.4 や 0.6 になるのでは?
  • 5.2.3
    • 下回るなら反転すればいいから、実際は学習してるはずw
    • 階段みたいな線になったら、それはデータを増やせば直線になるはず。
    • 最初下回って、途中から上回るみたいなのがあれば、そこで線を引いて反転させれば応用としては使えそう。
  • 5.3
  • 6.1
  • 6.2
    • k近傍法も使える場面あるのでは。
  • 7.1.1
    • なぜこれで上手くいくのかという説明を構築するモデルが必要
  • 7.1.2
    • あくまで1ピクセルごとが独立しいて、それぞれのピクセルが一致する確率を出しているだけ。なので掛け算。
    • 画像として考えるから分かりにくいが、画像同士が一致しているというよりは順序が固定されたトレーニングセットを前提として最尤推定している。なので、画像を横に並べた1つの大きな画像と一致する確率と捉えても問題ない。
  • 7.2.1
  • 7.2.2
    • 7.14 画層生成器毎の確率Pνk(X)にπを掛けているから。
  • 8
  • 8.1.2
    • 図8.4の偽陽性の箱が小さすぎる。
    • ベイズ定理のメリットって?
      • ひっくり返せるのがメリット。(8.10)とか(8.15)
  • 8.1.3
    • (8.25)は確率。正規分布がある前提でのtとなる確率
    • 分散はどうやってでる?
      • 8.1.4ででるのでは?- 8.1.3
    • p221"観測するデータ数Nが十分に大きくなると、事前分布の影響はなくなって、μNはμNbarに一致する。言い換えると、トレーニングセットのデータが十分に得られるなら、事前分布は多少適当に設定しても構わない"
      • 事前分布の分散は適当でも大丈夫。
      • 十分なデータ数はどの程度?サンプルではN=100でも十分な感じ。
  • 8.1.4
    • (8.50)で分かっている前提の分散に収束するというのが書いてあるので、あくまで分散は分かっている前提だった模様。
      • ベイズ推定の雰囲気を理解するのが趣旨なので、分散については分かっている前提で書いてあるのかも。
    • 08-bayes_normal.py
      • あくまでデータ件数が少ないと事前分布に引きづられると言いたいだけで、分散を出せると言いたいわけではない。
      • 実際 33 行目で真の分散を計算式に代入している。
        • mu_N = (beta_true * mu_ML + beta_0 * mu_0 / n) / (beta_true + beta_0 / n)
  • 8.2.1
    • (8.65) は右辺がない場合は最小二乗法とおなじになる。そして右辺がある場合は最小化するために左辺のf(Xn)の中のWも含めて小さくなるという意味。要はαの大きさでWの大きさを調整できるということが言いたい。
  • 8.2.2
    • (8.69)はどうやって出す?
  • 8.2.3
    • 図 8.9
      • オーバーフィッティングはM=9、α-1=10000でも図3.5のM=9のようになっていないという意味。
      • 観測点から離れるほど分散が大きくなっていることが分かる。
    • 図 8.10
      • Wを4つ適当に選出しても、データ数が多くなれば分散が小さくなるので問題ない事がわかる。
      • 8.9 はあくまでも観測データの話。