アンサンブル学習のアルゴリズム開発と理論的解析
【研究分野】統計科学
【研究キーワード】
アンサンブル学習 / ロバスト推定 / 不確実性 / 最適化 / バリューアットリスク / パラメトリック最適化 / 分位点回帰関数 / 条件付密度関数推定
【研究成果の概要】
今年度は主にブースティングや不確実性のもとでの最適化に関する理論的な研究を行った。とくに最適解との関連について研究を進め,理論的に最適な損失関数を導出した。これにより計算効率の高い学習アルゴリズムの開発に貢献した。さらに大規模な数値実験により,提案方法の有効性を検証した。これらの考察を含むブースティングのロバスト化に関する論文は"Robust Boosting Algorithm against Mislabelling in Multi-Class Problems"にまとめられ,雑誌Neural Computationに掲載が決定している。
さらに,ブースティングを多値確率分布の推定に応用する研究を行った。これにより,判別関数だけを推定した場合と比較して,データに関するより精緻な推論を実行することを可能にした。この方法はラベル数が3以上であっても実行できるため,実用上非常に優れた推定法になっている。この成果は"Obtaining Conditional Probability Estimation from Multiclass Boosting"にまとめられIEICE Transactions on Information and Systems誌に掲載された。さらに確率分布の推定に適している損失関数に関する研究をすすめ、数値実験による検証を行った。この結果は、国際会議Algolithmic Learning Thery 2007において発表された。
また能動学習の情報幾何学的な研究を行った。ブースティングの幾何的構造と類似の構造が,能動的学習の有効性を理解するのに役立つことを指摘して,最適なサンプリングによる能動学習法を提案した。この成果はNeurocomputing誌に掲載された。
【研究代表者】
【研究種目】若手研究(B)
【研究期間】2005 - 2007
【配分額】3,000千円 (直接経費: 3,000千円)