実解析的手法を用いたニューラルODEに対する表現能力の解析と実データ解析への応用

整理番号	2025a025
種別	若手・学生研究-短期共同研究
研究計画題目	実解析的手法を用いたニューラルODEに対する表現能力の解析と実データ解析への応用
研究代表者	波多野 修也（中央大学・共同研究員）
研究分野のキーワード	ニューラルネットワーク, ニューラルODE, 万能近似定理, 関数空間
目的と期待される成果	本研究では、NODE(ニューラル常微分方程式)とその亜種に対する万能近似定理の関数空間を用いた厳密な定式化を行い、現代の実解析的手法を駆使した証明を与えることと多方面への拡張を行う。通常の浅いNN(ニューラルネットワーク)に対する万能近似定理は知られている。NNとは脳の伝達や脳細胞の構造を数理モデルである。万能近似定理はNNが連続関数を一様近似できることを指し、Cybenko氏によって証明された。その後は連続関数に限らず様々な関数の近似が考察されている。よく知られている近似は、関数の定義域がユークリッド空間上のコンパクト集合の場合である。 本研究では、近年注目されているNODEに関して万能近似定理を考察する。NODEとは、常微分方程式の解を基礎として定義されるNNであり、多層NNにおける中間層を取り除いて連続的に改良したものを指す。NODEに対する万能近似定理はコンパクト領域上のルベーグ空間の場合は知られているため、コンパクト領域を多様体や非有界な領域へ拡張したり、ルベーグ空間の拡張を行うことを計画している。関数空間は主に、可積分な関数のクラスであるルベーグ空間やさらに微分可能な関数に制限したソボレフ空間などを扱う。万能近似定理はこれらの関数空間における稠密性として述べることができる。そして近似に用いた関数空間同士の比較によってNODEの近似の精度を比較できる。 本研究計画によって期待される成果は、従来のNNと比較してNODEの近似の精度や計算速度が数学的に解明でき、NODEのネットワーク構造に対する理解も深まり、大規模なデータを扱う諸問題の解決に貢献できることである。
組織委員(研究集会) 参加者(短期共同利用)	池田正弘（国立研究開発法人理化学研究所・研究員） 川澄亮太（群馬大学・助教）