初めに この記事は、Machine Learning Advent Calendar 2016 5日目の記事です。 複数の学習器（弱学習器、weak learner）を組み合わせてよりより性能の高い学習器（強学習器、strong learner）を作る、アンサンブル学習の手法の一つ、ブースティング。 その中でも代表的な、AdaBoost。 PRML本にも載っている（日本語版下巻p.374）しググれば実装例もいくらでも出てきますけれど、弱学習器として一番単純な決定株（decision stump）を用いた例ばかり。 それを他のものに変えたら、性能にどう影響するか。思いつきで実験してみました。1 実験環境 Mac OSX 10.11.6 Core i7 3.1GHz / 16GB RAM Julia v0.5.0 IJulia（Julia の Jupyter カーネル）、Gadfly（Juli