縮小推定量におけるブースティングの効能

• Published in: 計算機統計学 Vol. 20; no. 1-2; pp. 3 - 22
• Main Authors: 後藤, 昌司, 元垣内, 広毅, 白旗, 慎吾
• Format: Journal Article
• Language: Japanese
• Published: 日本計算機統計学会 2008
• ISSN: 0914-8930; 2189-9789
• DOI: 10.20551/jscswabun.20.1-2_3

回帰解析における主たる狙いのひとつは,あてはめる回帰関係のうえでデータの内容・構造の把握および解釈を与えることである.これは,推定の問題といわれ,どの説明変数が重要な効果をもつかといった評価の観点が主体となる.そこでは,説明変数の選択およびパラメータの推定が目標となり,最近では,この二つの目標を同時に満たす縮小推定量として,非負圧縮推定量(Non-negative garrote)が提案されている.他方,諸種のアンサンブル学習法が提案され,任意の弱い機械学習器を組み合わせることによって,強力な性能を保持する学習器として,ブースティング法が開発され大きな成功を収めている.本稿では,縮小推定量である非負圧縮推定量にブースティング法のアルゴリズムを導入し,パラメータの推定量の安定化をはかる方法論として,縮小推定量にブースティングを加味する2種の方法を提案し,数種のシミュレーションによってその効能を評価した.その結果,縮小推定量にブースティング法を導入することで,パラメータの推定量の安定化が達成された.さらに,提案した方法の強みを示すとともに,その適用の限界も明らかにした.