東京大学・鳥海研究室から発足したAIベンチャー、株式会社TDAI Labは、ChatGPTなどの生成AIや人間が書いた文章の真偽について瞬時に判定するAIツール「LLMファクトチェックツール」の提供を開始した。このAIツールは、Web情報や社内の知識データベースから根拠を自動で検索・抽出し、真偽を効率的に確認することができ、その結果多くのユーザーが情報の確認にかける手間を大幅に軽減することが可能になる。
近年ChatGPTなどの先端技術が登場し、AIによる文章生成が一般化している。しかしそれらの文章に誤った情報が混入する問題が常に指摘されてきた。多くの企業がエンドユーザー向けの完全自動化を追求する一方で、人間による目視検証が必要なため生成AIの活用ができている企業は限定される。また従来のChatGPTなどは外部サーバーへのリクエストが必要で、機密情報を扱う際にはセキュリティの懸念もあった。
TDAI Labでは、創業から情報の信頼性などに関する研究開発を行っており、ChatGPTの登場以降は、AIによる生成文章の根拠の抽出や正当性の判断を行うツールの開発、社内の機密データに対しての生成AIの応用などに取り組んできた。
開発した「LLMファクトチェックツール」は、「AIや人間が作成した文章の正当性を効率的にチェックしたい」「エンドユーザーに、信頼性の高い文章や根拠を提供したい」「クローズドな環境で、秘匿性の高いデータに対してファクトチェックを行いたい」ときに有効となる。Web情報や社内の知識データベースなど信頼できるソースから根拠を自動で検索・抽出し判定理由を提示することで、真偽を効率的に確認することができる。その結果、ファクトチェックのために従来人が行っていた確認作業の手間を大幅に削減することができ、また、信頼性が求められる医療や報道など応用が難しかった分野でも活用できる。
参考：【PR TIMES】【瞬時にファクトチェック！】AI生成文書・機密文書の真偽を自動判定するLLMファクトチェックツールを東大発AIベンチャーTDAI Labが提供開始
