立教大学大学院人工知能科学研究科の石川真之介特任准教授らと株式会社豆蔵による研究チームは、「AIの判断結果が信頼できるか」を直感的に判断することができる新しい「説明可能AI」の手法を開発したことを発表した。

 近年のAI技術の発展はめざましく、様々なAIサービスが提供されるようになっているが、AIの判断結果を本当に信じてよいかわからないために、AI導入を躊躇する、という意見もある。これに対し、AIの判断に対する説明や解釈を行い、AIの判断に透明性を持たせる「説明可能AI」の研究分野が注目を集めている。

 説明可能AIの代表的な手法には、例えば「あなたは病気のリスクが高い」というAIの予測に対し、その判断に大きく影響したのが「血圧が高いこと」であると説明するように、影響力の大きかった要素を抽出する手法がある。一方で、本チームはこうした手法とは異なる「データ中心」の立場からのアプローチを試み、AIの判断を「AIが具体的にどのようなデータを学習したか」で説明する新たな手法を開発した。

 本手法は、例えば「ある対象が猫である」というAI判断が信頼できるかどうかを確認するために、「AIがこれまで見た(学習した)『猫』の中で一番似ているもの」を提示するといったように、これまで学習したデータの中でAIが一番近いと判断したものを提示する説明可能AIである。研究チームはこれを、AIが「私の知っていること」を提示するという意味で、What I Know(WIK)と名付けた。

 人工衛星による地球観測画像の分類問題でWIKの有効性を検討した結果、WIKは識別対象の衛星画像と類似した画像を提示することができた。つまり、AIが衛星画像の識別のために十分な学習を行なっており、判断結果が信頼できそうだということが説明されたといえる。

 研究チームは、WIKがすぐに多くの社会課題に適用可能であると考えており、有効性の検証を続けながら、活用を推進していくとしている。

論文情報:【International Journal of Applied Earth Observation and Geoinformation】Example-based explainable AI and its application for remote sensing image classification

立教大学

"RIKKYO Learning Style”で「新しい」グローバルリーダー力を習得

立教大学は、1874 年の創立以来、国際性やリーダーシップを育むリベラルアーツ教育を実践。現在は、11学部27学科10専修1コースを設置しています。心の豊かさとリーダーシップをあわせもち、グローバルな課題と社会的要請に対応し、広い視野に立って課題を発見・解決で[…]

大学ジャーナルオンライン編集部

大学ジャーナルオンライン編集部です。
大学や教育に対する知見・関心の高い編集スタッフにより記事執筆しています。