【社員インタビュー#16】生成AI時代の情報の信頼性を守るKeiganAI。社会実装をリードするPMの想いとは

NABLAS
9月24日
読了時間: 5分

今回は、NABLASの技術開発を担うR&D事業の事業部長で、広く様々な開発プロジェクトを横断的にマネジメントする傍ら、KeiganAIプロジェクトのPMとして開発をリードし、パートナーとの連携や事業立ち上げを通じて社会実装を推進している鈴木さんにインタビューを行いました！

KeiganAIプロジェクトとは

生成AI時代に、生成AIによって様々な情報がSNSやインターネット上に大量に出てくる中で、ディープフェイクを用いた悪意のある情報やハルシネーションを含む情報は、個人や企業、政府や国家レベルまで、様々な分野で悪影響を引き起こす可能性があります。こうした社会課題に対し、フェイク検出やファクトチェック技術を開発するのがKeiganAI開発プロジェクトです。NABLASでは、情報の安全性や信頼性を守る技術として、フェイク検出技術やファクトチェック技術、またそれらを自律的に行うファクトチェックAIエージェントの研究開発を進めています。

KeiganAIのプロジェクトについて、鈴木さんが直近で取り組んでいる業務について教えてください。

事業部全体を見ながらプロジェクトをリードする立場なので、開発面はもちろんですが、開発プロダクト発展のためのパートナー選定や事業立ち上げなど社会実装に繋げていく取り組みも行っています。

開発面では、フェイク検出モデルの検出精度向上や結果の説明性強化といった機能開発や、各業界ニーズに応じたUI/UX改善に取り組んでいます。また、真偽を判定するフェイク検出だけでなく、正誤を判定するファクトチェック技術の開発にも力を入れています。現在は、情報の内容だけでなく、発信元や世間からの捉えられ方といった高次的な情報も判定要素として自立的にチェックしていくAIエージェントの開発も進めており、経産省NEDOの支援も受けながらGENIACのプロジェクトとして進めているところです。

KeiganAIは、昨今、社会で浮き彫りになってきている情報に対する信頼性の課題を解決する技術なので、社会実装にも力を入れています。直近では、総務省が行う実証実験の取り組みの中で、大手通信会社と共同で電話環境でのフェイク音声検出技術の開発を進めているほか、正しい情報を正しいと証明する技術の開発・実証実験も行っています。

プロジェクトを進めるうえで難しいことを教えてください。

KeiganAIの開発課題としては、まず学習データが未整備である点があります。AIの開発ではデータの品質が何よりも大事ですが、フェイク検出の領域では高品質且つオープンな評価データセットがありません。また、撮影機器によっては、デフォルトで機器特有の加工が施される場合もあるため、ユースケースごとに「リアル」と「フェイク」の判定がゆらぐなど、単一での評価が難しいところも課題です。日々の技術進化が激しい上に、リアルな生活の中で生まれるデータや情報を扱うため、判定の評価軸を自分たちで0から整備していかなければならないところは難しいと感じています。

また、ひとくくりにフェイク検知といっても、業界やユースケースによって実装方法や必要なUIUXが異なります。技術を社会実装するために、現場の声や実際のデータを使って、ニーズに合うような検出モデルに落とし込んでいくことも難しい点の一つです。

さらに、「生成」に対する「検出」の技術なので、技術追随という点でも課題があります。生成AIの技術進歩はとても速いので、日々の生成技術の進化に対して検出側の技術をどれだけ高められるかが大事だと思っています。

上記の課題をどのように解決していますか？

やはり、現場で機能する技術でなければいけないので、使用する業界や機関の担当者と、何度も議論やフィードバックを重ねて解決するようにしています。どういうデータに対して、どういう検出やチェックが必要なのかは現場の声を聞かないとわかりません。その分野のプロから聞くリアルな声を基に、利用環境や解決したい課題に合わせたデータセットや検出モデルの作りこみを行っています。

また、生成技術への追随に関しては、常に生成技術のアップデートに対して情報をキャッチアップするように心がけています。僕たちは、AIのプロとして研究開発を行っている立場なので、モーダル毎の最新生成技術は常にチェックしています。その中で、自分たちのオリジナルモデルの開発や社会実装を早いサイクルで回すことで、最新の生成技術に対する検出力の維持や向上に取り組んでいます。

本プロジェクトの開発を進める中で感じるやりがいを教えてください。

AI技術の活用が世界的に広がっている中で、今後誰もが直面するであろう課題が、フェイク問題だと思っています。その課題を解決する技術を社会に届けられることが大きなやりがいだと思います。また、フェイク問題は「情報」という文脈で大きな影響力を持ち、時に国家レベルのバランスにさえ影響を及ぼすこともありえます。規模が大きな話ではありますが、自分たちが開発している検出技術は、少なからず情報の健全性を守る技術だと思っているので、そういった意味でも、社会への貢献度が高い技術に携わっているんだなと感じます。

NABLASのビジョンである「良き先人となる - Be a good ancestor」にも重なりますが、このフェイク検知技術であるKeiganAIを、未来の社会をよりよくするための基盤技術として社会に実装していくことはとても意義のあることだと思っています。