立教大学大学院人工知能科学研究科の石川真之介特任准教授らと株式会社豆蔵による研究チームは、「AIの判断結果が信頼できるか」を直感的に判断することができる新しい「説明可能AI」の手法を開発したことを発表した。
近年のAI技術の発展はめざましく、様々なAIサービスが提供されるようになっているが、AIの判断結果を本当に信じてよいかわからないために、AI導入を躊躇する、という意見もある。これに対し、AIの判断に対する説明や解釈を行い、AIの判断に透明性を持たせる「説明可能AI」の研究分野が注目を集めている。
説明可能AIの代表的な手法には、例えば「あなたは病気のリスクが高い」というAIの予測に対し、その判断に大きく影響したのが「血圧が高いこと」であると説明するように、影響力の大きかった要素を抽出する手法がある。一方で、本チームはこうした手法とは異なる「データ中心」の立場からのアプローチを試み、AIの判断を「AIが具体的にどのようなデータを学習したか」で説明する新たな手法を開発した。
本手法は、例えば「ある対象が猫である」というAI判断が信頼できるかどうかを確認するために、「AIがこれまで見た（学習した）『猫』の中で一番似ているもの」を提示するといったように、これまで学習したデータの中でAIが一番近いと判断したものを提示する説明可能AIである。研究チームはこれを、AIが「私の知っていること」を提示するという意味で、What I Know（WIK）と名付けた。
人工衛星による地球観測画像の分類問題でWIKの有効性を検討した結果、WIKは識別対象の衛星画像と類似した画像を提示することができた。つまり、AIが衛星画像の識別のために十分な学習を行なっており、判断結果が信頼できそうだということが説明されたといえる。
研究チームは、WIKがすぐに多くの社会課題に適用可能であると考えており、有効性の検証を続けながら、活用を推進していくとしている。
