生成AIのフェイクを見破る、企業向けフェイク検出サービスをリリース

動画、画像、音声、テキストなどの様々なデータ形式のフェイクに対応

この度弊社では、企業向けフェイク検出サービスをリリースいたしました。これにより、メディアやSNSにおける情報だけでなく人間の目では見抜けないレベルのフェイクコンテンツに対しても、ユーザー独自で専門的かつ信頼性の高いフェイク判定を行えるようになります。

フェイク検出器（Fake Detector）とは

当社が保有するフェイク検出器（Fake Detector）は、画像・動画・音声などの様々な形式のデータに対し、それがAIによって生成されたものであるかを判定するプロダクトです。

また、テキスト情報に対しては、特定のデータベースやWeb上の情報を参照し真偽を明らかにするファクトチェック機能を有しています。

この度のフェイク検出サービスではSaaS形式でフェイク検出器を提供します。

【フェイク検出器の様子】

フェイク検出器でのフェイク判定の様子。AIが判定のために着目した場所がヒートマップで示される。

サービスの特徴

本サービスには、該当のデータがAIで生成されたフェイクデータか否かを判定するフェイク検出アプリの提供と、該当のデータが過去画像の流用や編集が加えられたデータか否かといったデータの信頼性を多面的かつ総合的に検証するフェイク鑑定・レポートサービスがあります。

①様々なデータ形式へ対応

画像、動画、音声、テキストなど、多様な形式のフェイク検出に対応しています。これにより、様々なメディアコンテンツに対する信頼性のチェックを行うことが可能です。

②最新の生成AI技術へ対応

最新生成AI技術で作られたデータのフェイク検出対応に取り組んでいます。フェイク検出では、モデルがこれまでに学習したデータ内に存在するデータの特徴を基にフェイク検証を行います。そのため学習データに存在しない最新の手法で生成されたフェイクメディアの検出には課題があります。当社のフェイク検出では、基盤システム内で自動的に多様なフェイクデータを生成し学習を進める仕組み構築に取り組んでおり、最新の生成AI技術への対応を進めています。

③用途や環境に合わせたカスタマイズ提供

検出したいデータに合わせた検出モデルのカスタマイズや、利用する環境に合わせた基盤の構築など、個々のニーズに合わせたサービス提供が可能です。

④信頼性を多面的にチェック

AIによる検出だけでなく、アカウントや拡散経路の信頼性調査、データの加工や、データの内容とそこに含まれるリンクなどの付帯情報を踏まえたファクトチェックなど、多面的かつ総合的な信頼性チェックを行います。これにより、より高い信頼性の判定を行うことが可能です。

今後の展望

今後は、多面的なチェック・レポート機能を自動化させることで、ユーザーがさらに迅速かつ正確に情報の信頼性を評価できる環境を整備してまいります。また、当社では引き続き、フェイク検出モデルの精度向上や新たなフェイク生成手法への対応も進めてまいります。

お問い合わせ

NABLASのフェイク検出に関するお問い合わせは以下フォームからお気軽にご相談ください。

https://www.nablas.com/contact