非凸損失による機械学習アルゴリズムの数理と実用化に関する研究
【研究分野】統計科学
【研究キーワード】
機械学習 / 数理統計学 / 最適化 / 変数選択 / ロバスト統計 / ロバスト
【研究成果の概要】
本研究の目的は,ロバスト推定やスパース・モデリングなどの統計的学習の問題に対して,非凸損失関数の最適化という統一的観点から研究を推進することである.研究成果としては,実用的に優れた学習アルゴリズムの構成,さらにその数理的基盤の構築などがある.まず判別分析の代表的なアルゴリズムであるサポートベクトルマシンに対し,損失関数を非凸化した学習法の局所解の性質を数理的に解析し,局所最適解であっても外れ値に強く安定した予測精度を達成することが明らかになった.さらに,離散的なデータに対する統計的解析法を提案し,局所的な計算を用いることで,効率的に推定量を計算することができることを示した.
【研究の社会的意義】
非凸損失を用いる統計的学習は一般に,統計的性質は優れているが,最適化のための計算が非常に困難であることが知られている.最適化の困難を解決することができれば,,データに大きなノイズが含まれる場合でも,非常にロバストな統計的推論を高い計算効率で実行することが可能になる.本研究では,判別分析や離散確率分布の推定という重要な問題クラスに対して,非凸損失による効率的な学習アルゴリズムを提案し,その数理的性質を詳しく研究した.その結果,理論,実装の両面から提案法の有効性を確認することができた.
【研究代表者】
【研究種目】基盤研究(C)
【研究期間】2016-04-01 - 2020-03-31
【配分額】4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)