ディープフェイク検知

About

高度化が進むディープフェイクに備える

「ディープフェイク検知ソリューション」は、ディープフェイク技術により生成された架空の画像や動画、音声データから人間では判別がつかないような不自然さを検出し、実在するか否かを検知するソリューションです。

ディープフェイク技術が急速に進化し、いまや個人でも簡単にフェイクメディアが作成できる時代に変化しつつあります。社会的な影響や懸念は大きくなる一方で、特に個人認証や情報の信憑性が重要になる金融業界やメディア業界を中心に、対策を急ぐ必要があると言われています。ここでは、ディープフェイク検知技術の概要とNABLAS社が保有するソリューションについてご紹介いたします。

WHAT IS DEEPFAKE

ディープフェイクとは

フェイクの動画や音声をディープラーニング（深層学習）の技術を利用して高精度に作り出す技術の総称です。

実在しない人物の画像や音声を作り出すことだけでなく、特定の個人そっくりの画像や音声を生成することなども可能で、もはや人間では見分けがつかないレベルに技術が進化しています。他人へのなりすましや、証拠の捏造などの犯罪に利用されることが懸念されており、刑事事件に発展するケースが世界的に増加しています。

ディープフェイク生成の仕組み

ディープフェイク生成のプロセス

USE CASE

主な活用シーン

SNSやインターネット上の
フェイクチェック

ニュースで使用する素材の
ファクトチェック

SOLUTION FEATURES

ソリューションの特徴

画像、動画、音声など
様々な形式のフェイク検知が可能

未知の生成方法で作られたフェイク
に対しても検知が可能

ノイズの含まれた音声でも
フェイク検知が可能

NABLAS SOLUTION

NABLASのディープフェイク鑑定ソリューション

NABLASでは、ディープフェイク技術により生成されたと疑われるメディアに対して適用可能な鑑定ソリューションを提供予定です。APIを利用して迅速に鑑定可能な「簡易鑑定」と、鑑定の専門家による高い信頼性の「詳細鑑定」の２つの提供方法があります。用途によってお使い分けください。詳細はお問い合わせください。

以下、検知技術の詳細について解説します。

DETECTION TECHNOLOGY

画像・映像のディープフェイク検知技術

アーティファクト（不自然さ）を検知する手法

Eyes Tell All: Irregular Pupil Shapes Reveal GAN-generated Faces

古典的な方法として、画像の特定の箇所に注目して不自然なポイントを検知することで生成されたフェイク画像かを判断する方法があります。

例えば左側の画像は、瞳孔形がきれいな円形をしているのに対して右側の生成された画像では形が崩れており、瞳孔の形状に着目することでフェイク画像かを判断できます。

他にも、下記のような特徴がフェイク画像かを検知するために有効であることが知られています。

◼︎ 眼の色彩や光の反射の消失、部分的な消失

◼︎ 動画自体の色むらやグレースケール

◼︎ 瞳の瞳孔やまばたきのパターン、回数

◼︎ 顔の表現・表情や、頭の動き

◼︎ 各部位の相関やアクションを特徴量化

ディープラーニングによる検知

Forensics Face Detection From GANs Using Convolutional Neural Network

ディープラーニング技術などを利用して自動的にアーティファクトとなるような特徴量を抽出する手法が有用であることも知られています。
リアルの顔画像とフェイクの顔画像をそれぞれ学習することで、特定の情報の特徴量を抽出し、その特徴が含まれている画像データか検出することでリアルかフェイクかを判断します。
動画も画像の集合体とらえることが可能なので、シーン別の画像とみなして分解することで、各画像ごとに画像分類のアプローチを実施できます。

DETECTION DEMO

画像・映像のディープフェイク検知デモ

緑色がリアルと予測、赤がフェイクと予測した結果

DETECTION TECHNOLOGY

音声のディープフェイク検知技術

アーティファクト（不自然さ）を検知する手法

音声の特徴量を抽出して機械学習技術で検知

◼︎ 音声特徴量を機械学習モデルに入れて分類

◼︎ 生波形の特徴をDL技術で分類

◼︎ 音声を画像に変換して分類するアプローチ

スペクトログラムに変換して分類・検知

音声をメルスペクトログラム等に変換し事前学習したモデルで分類

◼︎ 音声特徴量を算出して統計アプローチ

DETECTION TECHNOLOGY

音声のディープフェイク検知デモ

リアルの音声

発話した音声を録音したもの

00:00 / 00:03

スペクトログラムに変換

フェイク音声

リアル音声の特徴に似せて

生成ディープラーニング技術により生成した音声

00:00 / 00:04

スペクトログラムに変換

WHITE PAPER

ホワイトペーパー

ディープフェイクの技術は社会にとって差し迫った脅威ですが、基盤技術である「生成ディープラーニング」は産業的に価値の高いであり、多くの産業に変革をもたらすことが期待されている有望な技術です。NABLASでは、ディープフェイクの脅威や負の側面だけでなく、基盤技術の生成ディープラーニングやフェイクの検知技術にもハイライトを当てたホワイトペーパーを公開しています。