統計的機械学習入門

1.     導入 pdf

1.     情報の変換過程のモデル化

2.     ベイズ統計による推論

3.     識別モデルと生成モデル

4.     最尤推定とMAP推定

5.     データの性質

6.     距離の定義

2.     数学のおさらい pdf

1.     行列の微分

2.     線形代数学で役立つ公式

3.     正規分布と条件付正規分布

3.     Bayes推論 pdf

1.     Bayes推論の枠組み

2.     多項分布とディリクレ分布

3.     正規分布

4.     指数型分布族

5.     共役分布と事後分布

4.     線形回帰と識別 pdf

1.     線形回帰

2.     正規方程式

3.     正規化項の導入

4.     線形識別

5.     生成モデルを利用した識別

5.     学習データと予測性能 pdf

1.     過学習

2.     損失関数と Bias,Variance, Noise

3.     K-Nearest Neighbor法への適用

4.     線形回帰への適用

6.     カーネル法 pdf

1.     線形識別の一般化

2.     カーネルの構築法

3.     最大マージン分類器

4.     ソフトマージンの分類器

5.     SVMによる回帰モデル

6.     SVM実装上の工夫

7.     オンライン学習 pdf

1.     オンライン学習とは

2.     オンライン学習の評価法

3.     パーセプトロン

4.     Passive Aggressive Algorithm

8.     最適化と学習アルゴリズムpdf

1.     勾配降下法

2.     ニュートン法

3.     確率的勾配降下法

9.     クラスタリング pdf

1.     階層型クラスタリング

2.     K-means

10.  モデル推定 pdf

1.     潜在変数のあるモデル

2.     EMアルゴリズム

3.     変分ベイズ法

11.  マルコフ連鎖モンテカルロ法 pdf

1.     次元の呪いからの脱却

2.     Metroplis-Hastings Algorithm

3.     Gibbs Sampling

12.  スムージング pdf

1.     未観測のデータの扱い

2.     バックオフスムージング

3.     Good-Turingの推定

13.  評価方法 pdf

1.     順位なし結果の評価(再現率、精度、適合率、F)

2.     順位付き結果の評価

14.  機械学習の歴史 pdf

1.     歴史以前

2.     人工知能の時代

3.     実用化の時代

15.  参考文献pdf