Discovery Sagaサイレントキーワード俯瞰

神経回路網モデル / 再帰型神経回路網 / 文法学習 / 言語モデル / 浅い意味解析 / 強化学習 / 機械学習

人工神経回路網における学習モデルとして、複数の強化学習エージェントがあり、しかも、的確になりうるモジュールが複数あるという枠組みを検討した。その結果、複数の強化学習エージェントが競合しながら学習する機構を考案し、シミュレーションでその有効性を確認した。さらに、再帰型ニューラルネットワーク(RNN)を2種類用いて文法獲得をさせた。一方のRNNは、他方のRNNの神経素子活動をモニタしながら、活動状況を入力として学習を行う。その結果、構文範疇の獲得が可能となり、また損傷に対してロバストな回路を構築することができた。
構文解析方法の獲得モデルとして、shift-reduceパーザーを獲得する実験を行った。Penn TreeBankの中のATISコーパスを対象としILPを用いた。従来方法の欠点(実行時の高メモリ・時間コスト)を軽減するため学習単位を統語範疇とし、合理的な負例を生成するため統語範疇レベルでの負例生成方法を案出した。さらに、解析木上の誤りを負例として学習しなおす再学習機構を考えた。これにより、正解率が90%弱にまで向上することが確かめられた。
有限状態オートマトンは、脳内知識を表現する手段としては充分強力であるが、それを伝達することは一般に不可能である。そこで、近似的に、しかも、比較的短い時間で伝達する手法を検討した。一つの方法として強化学習を用いる手法を検討し、実行可能であることを示した。範疇候補を数多く用意し、それらを知識伝達に試用し、その中から最適なものを発見する方法を考案した。再帰型神経回路網を用いた数値シミュレーションの結果、学習誤差に着目するのみで、もとの文法範疇(またはその細分)が再構築できることが確認できた。

再帰型神経回路網 / 言語モデル / counter言語 / 機械学習 / 確率的学習アルゴリズム

研究過程で、そもそも再帰的神経回路網の表現能力に関して、一般に考えられているよりはるかに制限された能力しかないのではないかとの疑問が生まれ、それを肯定する結果とそれに対する対応(能力が制限されているのに何故学習可能か?また逆にそれを克服するにはどうするか)に対する知見が得られた。
(a)耐ノイズ性を多少とも要求すると、一般的なcounterは学習できず、従ってstackも学習できないことを理論的に示した。これに対し、single-turn counter(一度減算を始めると以降減算のみが可能なcounter)は実現できることを構成的に示した。これにより、再帰型神経回路網はある程度の学習は可能であるが、'single-turn counter'+有限状態オートマトンより大きな表現能力は持ち得ず、従って、最近研究報告が増加しているcounterが獲得できたという結果さえ実は、数値実験に依存する結果であることを示した。
(b)従って、原理的には'single-turn counter'+有限状態オートマトンが学習できるのみである。しかし、有限状態オートマトンの学習は適当な学習バイアスがない限り不可能であり(既知)、再帰型神経回路網による学習では、実際に獲得されたものの同定が理論上不可能である(既知)。そこで、各素子をその動作が離散状態である古典的なパーセプトロンとした再帰結合型神経回路網に対する確率的学習アルゴリズム(新規)を考案し、自然な学習バイアスにより有限状態オートマトンが学習可能となり、またその抽出が可能なことを示した。このアルゴリズムの性格には未知なことが多いが、確率1での収束は保証されている(収束までの平均時間は無限大の可能性がある)。
(c)single-turn counterを用いた有限状態オートマトンが解釈可能な文法体系の特徴づけを行った。それは、counterの数に応じた階層構造をもち、Chomsky階層とは独立のものである。