東京理科大学と産業技術総合研究所の共同研究グループは、AIが保持する知識を選択的に“忘却”できる『近似ドメインアンラーニング』技術を世界で初めて提案・創出した。画像の一律認識による誤認や信頼性上のリスクを抑えつつ、利用目的に応じて柔軟に知識を制御できる新たなAIの可能性を示した。
大量の画像と言語データを用いて学習された事前学習済み大規模視覚言語モデル（VLM）の登場により、AIは追加学習なしでも多様な物体の高精度な認識が可能になった。しかし、必要以上の知識保持により、例えば交通監視システムでは街頭ディスプレイや広告のイラストやアニメーションの人や自動車を実物と認識するなど、誤認識や処理の非効率化が指摘されていた。
研究グループは今回、VLMに対して、特定のドメイン（データの出所や表現スタイル）に属するデータだけを認識できないように忘却させる近似ドメインアンラーニング（ADU）を実現する技術を創出した。
特徴空間上で異なるドメインを分離する『Domain Disentangling Loss（DDL）』という損失関数と、画像ごとのドメイン特性（例えば写実的な絵と抽象的な絵など）を適応的に捉える『Instance-wise Prompt Generator（InstaPG）』を新たに導入し、従来困難だったドメイン単位での選択的忘却を実現した。
4種類の標準的な画像認識テストデータで評価した結果、従来技術と比べて平均約1.6倍、最も難易度の高い条件下では約1.7倍性能が改善し有効性が実証された。
今回の成果により、不要な知識を抑制しながら必要な知識を保持することで、利用目的に応じてAIを部分的に再構成できる新しい枠組みが提示された。将来的には、AIモデルの安全性の向上や効率的な再利用にもつながることが期待されるとしている。
参考：【東京理科大学】さらに上手に“忘れる”AIへ ― 学習済みの知識をドメイン単位で忘却可能な世界初の新技術～ 不要な誤認を防ぎ、さらに信頼できるAIへ ～
