本物そっくりのメディアクローンを生成するAIと、それを解析するAIを制作し、戦わせながら精度を高める方法を研究し、フェイクメディアを発見するシステムの基盤をつくった福井工業大学と情報・システム研究機構、国立情報学研究所の共同研究が、2025年度科学技術分野の文部科学大臣表彰で研究部門の科学技術賞に選ばれた。
福井工業大学によると、システム開発は馬場口 登教授(経営情報学部長)、情報・システム研究機構 情報社会相関研究系の越前 功教授、国立情報学研究所コンテンツ科学研究系 山岸 順一教授が2016年ごろから進めてきた。
研究グループは生成AIによるフェイクメディアの拡散の脅威を予見し、フェイクメディアの拡散と生成を防ぐ革新的な技術群を開発。フェイク顔映像をAIモデルで検出する手法や、フェイク検出と改ざん領域推定を同時に行う手法などを提案し、「Deepfake detection」と呼ばれる新たな研究分野を創成した点が高く評価された。
馬場口教授は「2016年に始めたプロジェクトの先見性が認められて嬉しく思います。これまでの研究は多くの共同研究者や学生らの貢献によるものです。選挙妨害や大統領のニセ動画を使った世論操作、詐欺や思想誘導など、これほど社会的影響が大きくなるとは想像していませんでした。世界的な脅威だといえます。2022年ごろから生成AIが一般に普及して、フェイクメディアはますます巧妙になってきました。今後、若い研究者たちがフェイクメディアを見破るAIの研究を進めることを期待します」とコメントしている。