生成されたデータの電子透かし情報の確認でフェイク検出の信頼性強化を実現
この度、弊社が開発するフェイク検出器(Fake Detector)をアップデートし、AIによって生成された画像に対して、コンテンツの出自を示す電子透かし情報を検証する機能を追加しましたことをご報告いたします。これにより、C2PA (Coalition for Content Provenance and Authenticity) が提供するコンテンツ認証技術を搭載したデジタルコンテンツのフェイク検出では、コンテンツの電子透かし情報が確認できるようになり、検出器のさらなる信頼性強化を実現しました。
フェイク検出器(Fake Detector)とは
弊社が保有するフェイク検出器(Fake Detector)は、画像・動画・音声などの様々な形式のデータに対し、それがAIによって生成されたものであるかを判定するプロダクトです。
また、テキスト情報に対しては、特定のデータベースやWeb上の情報を参照し真偽を明らかにするファクトチェック機能を有しています。
■当社のテキストファクトチェックに関する詳細はこちら
C2PAとは
C2PA (Coalition for Content Provenance and Authenticity)とは、Adobe社やマイクロソフト社が主導するメディアコンテンツの出所を証明するための開発プロジェクトです。
本プロジェクトが提供する技術を活用することで、AIによって生成されたデジタルコンテンツには、生成AIが使用されたことを示す「コンテンツクレデンシャル=電子透かし情報」が含まれ、消費者は、そのデジタルコンテンツの作成者や作成日、作成ツール、編集内容などのコンテンツ認証情報を確認することが可能となります。
現在のC2PA対応ツールや対応状況は以下の通りです(一部抜粋)
【生成情報向け】
Microsoft (Microsoft DesignerとBing Image Creator)
Adobe (firefly)
OpenAI (DALL-E)
【リアル情報向け】
Leica : 世界初の C2PA 対応カメラ「M11-P」を発表
Sony : C2PA 対応可能なカメラ「α 9 III」を発表
フェイク検出器(Fake Detector)に追加された機能
弊社のフェイク検出器(Fake Detector)では、これまで独自のアルゴリズムに基づいたAIモデルによるフェイク判定を提供してきました。今回、画像データに対するC2PAによるコンテンツ認証情報の検出機能を追加したことにより、従来の検出モデルによる判定と両面でフェイク検証を行うことが可能となりました。
AIで生成されたデータであることを示すコンテンツ認証情報が含まれた画像を入力した際は、その画像の出自情報等が含まれた認証情報をフェイク検出のアプリケーション上で確認することが可能です。これにより、当社のフェイク検出器(Fake Detector)はさらなる検出機能の向上を実現しました。
今後の展望
生成AI技術の利用がスタンダートとなっていく昨今、この度のアップデートで対応したC2PA以外にも、Meta PlatformsのInstagramやfacebook、Stability AIのStable Diffusionでは独自の電子透かしを採用する動きが見られます。今後弊社では、そういった主要なプラットフォームで使用される電子透かし情報にも順次対応し、検出能力の強化を図ってまいります。
お問い合わせ
NABLASのフェイク検出に関するお問い合わせは以下フォームからお気軽にご相談ください。
Comments