ディープラーニングのホワイトボックス化に関する研究
【研究キーワード】
ディープラーニング / 情報統計力学 / 統計神経力学 / データ駆動科学 / 神経科学 / 視覚野 / 神経回路モデル / データ駆動 / 深層生成モデル / データ駆動的アプローチ / ダイナミクスと内部表現 / 特異統計学 / ニューラルネットワーク / 深層ネット / 情報統計力学と特異統計学
【研究成果の概要】
本研究ではTE野の時間特性をもつ視覚系全体のモデルを構築するために、初期視覚野のモデルとして深層ニューラルネットワークであるXception netを、TE野のモデルとしてHopfield modelを用いた。画像にノイズを加えたものを提案モデルに入力すると時間経過の中で異なるカテゴリーを出力した。この結果はHopfield modelのようなリカレントネットワークが階層的カテゴリー分類に重要であることを示唆しており、すなわちTE野のリカレント結合が階層的カテゴリー分類に重要であることを示唆している。
また、ディープラーニングのホワイトボックス化について、畳み込みニューラルネットワーク(CNN)の画像認識という切り口からの研究を行った。CNNは画像変換を行うモデルで中間層には入力の変換像が現れるが、この中間層の表現が識別精度を保ったまま、どの程度圧縮出来るかについての議論を行った。中間層の結果の相関を考慮し、圧縮アルゴリズムを導入することによって、従来研究より5.0ポイントの性能向上させることに成功した。
2020年に発表した,高次元空間潜在空間を低次元のスライダーインタフェースで探索できる微分部分空間探索という方法について、ベイズ最適化を研究する他の研究者とともに、SIGGRAPH 2021 でCourse を企画して開催した。また、人間が描いた油絵などのアーティスティックな描画スタイルの計算機による自動転写について研究し、複雑なシーンに対してフレーム間のコヒーレンスを有するアニメーションを自動生成する方法を検討した。
【研究代表者】
【研究分担者】 |
永田 賢二 | 国立研究開発法人物質・材料研究機構 | 統合型材料開発・情報基盤部門 | 主任研究員 | (Kakenデータベース) |
楽 詠コウ | 青山学院大学 | 理工学部 | 准教授 | (Kakenデータベース) |
庄野 逸 | 電気通信大学 | 大学院情報理工学研究科 | 教授 | (Kakenデータベース) |
|
【研究種目】基盤研究(A)
【研究期間】2018-04-01 - 2023-03-31
【配分額】43,680千円 (直接経費: 33,600千円、間接経費: 10,080千円)