実解析的手法を用いたニューラル常微分方程式に対する表現能力の解析と実データ解析への応用

整理番号 2025a025
種別 若手・学生研究-短期共同研究
研究計画題目 実解析的手法を用いたニューラル常微分方程式に対する表現能力の解析と実データ解析への応用
研究代表者 波多野 修也(中央大学・共同研究員)
研究実施期間 2025年9月10日(水) ~ 2025年9月12日(金)
研究分野のキーワード ニューラルネットワーク, ニューラルODE, 万能近似定理, 関数空間
本研究で得られた成果の概要 今回の共同利用研究のテーマである「実解析的手法を用いた機械学習に対するニューラルネットワークの表現能力」について、我々組織委員が有する手法を、機械学習に関してより深い専門知識を持つ参加者へ共有することができた。また、招待講演者の研究内容から、実解析的手法に関する新たな知見を得ることができた。

1人目の招待講演者である山田泰輝氏は、Echo State Network (ESN)と呼ばれる、出力層のみ学習可能な再帰型ニューラルネットワークについて、ESNの普遍近似性に基づき、入力再構成(IR)を教師なしで実現できることを示した。これにより、ESNの理論的理解および応用の範囲を拡張した。また、本ワークショップの2人目の招待講演者である秋山慧斗氏のアイデアは、確率測度空間で定式化された問題をNikodym微分を用いてLebesgue測度の空間へと帰着させ、通常の意味での実解析的手法を適用可能とする枠組みを提供するものであった。さらに、3人目の招待講演者である磯部伸氏のアイデアは、機械学習との関連が深く、関数空間への適用もよく知られている勾配降下–上昇流について新たな視点から提案するものであり、実解析的手法と機械学習を結びつける新たな架け橋となった。

特に、エコーステートネットワーク、グラディエントフロー、Csiszár–Tsallisエントロピーなど、ニューラル常微分方程式を活用した関連研究手法に関する知見も得られ、ニューラル常微分方程式の普遍近似性が実解析においても応用可能であることを確認する成果が得られた。

さらに、本ワークショップを通じて出会った研究者との間で、実解析的手法を用いたニューラル常微分方程式の研究および実データ解析への応用に関する新たな共同研究も開始された。具体的には、従来のニューラルネットワークと比較した場合の計算速度や精度の違いを数学的に明らかにし、その成果を実データ解析の応用に役立てることを目指している。
組織委員(研究集会)
参加者(短期共同利用)
池田正弘(大阪大学大学院情報科学研究科・准教授)
川澄亮太(群馬大学・助教)