反実仮想説明の実用化に向けた研究

整理番号 2024a032
種別 若手・学生研究-短期共同研究
研究計画題目 反実仮想説明の実用化に向けた研究
研究代表者 小林 健(東京科学大学 工学院・准教授)
研究実施期間 2024年9月24日(火) ~ 2024年9月27日(金)
2024年12月16日(月) ~ 2024年12月16日(月)
研究分野のキーワード 説明可能な機械学習,反実仮想説明,数理最適化
本研究で得られた成果の概要 本研究課題では, 反実仮想説明の実用化に際して考慮すべき課題を検討し, 新たな研究課題の創出につながった. 当初は反実仮想説明として提示されるアクションが現実で実行可能か, またアクションの実行後に望ましい予測結果が得られるかに焦点を当てる計画であった. しかし研究会での議論を通じて, 反実仮想説明の本来の目的は単に予測モデルの出力を変更することではなく, ユーザの実際の状況を改善するアクションを提示することであるという認識が得られた. この視点に立つことで, 従来の反実仮想説明法を実運用した場合に直面しうる課題が浮上し, それらを克服するための新たな反実仮想説明手法を検討することが可能となった.
組織委員(研究集会)
参加者(短期共同利用)
金森 憲太朗(富士通株式会社・研究員)
髙木 拓也(富士通株式会社・プリンシパルリサーチャー)
池 祐一(九州大学 マス・フォア・インダストリ研究所・准教授)