Boosting

Boosting

Boosting の考え方は非常に面白い。
Base Learner の弱いところを見つけ、強化していく。
Boosting はメタアルゴリズム。（Base Learner がインプット。）
複数回強化したBase Learner の重み付平均（重み付投票）が
Boosting learner である。

CARTをベースLearner にしてboosting を行う方法が記述。
http://www.stat.cmu.edu/~ryantibs/datamining/lectures/25-boost.pdf
(Ryan Tibshirani教授の講義ノート。boostingの分かりやすいレクチャー。weight の説明)

最適なBoostingというのはあるのか？Boosting の一般化
References
Hastie, Tibshirani and Freedman, Elements of Statistical Learning