Facebookとミシガン州立大学は、ディープフェイク画像を特定してソースまでさかのぼる新しい方法を明らかにしました。または、少なくとも、イメージの作成に使用された生成モデルまでさかのぼります。 レポートは、複雑なリバースエンジニアリング手法を使用しています。具体的には、ディープフェイク画像の生成に使用されるAIモデルの背後にあるパターンを特定します。
システムは、指紋推定ネットワーク（FEN）を介して画像を実行し、それらの画像のパターン（指紋）を解析します。これらのフィンガープリントは、ディープフェイク画像の既知の変数のセットから効果的に構築されます。 「指紋の大きさ、反復性、周波数範囲、対称的な周波数応答」の測定可能なパターンを残した生成モデルを使用します。
そして、これらの制約をFENにフィードバックした後、このメソッドはどの画像が深いかを検出できます。偽物。次に、それらはシステムを介してフィードバックされ、さまざまな生成モデルを自己学習するようにシステムをガイドするように設定された「ハイパーパラメータ」を介して画像を分離します。
これはまだ始まったばかりですが、深い偽の画像の識別と追跡に一歩近づいています
システムの現在の反復に対する大きな後退は、これがまだ新しいテクノロジーであることを強調するのに役立ちます。プライムタイムの準備はまだ整っていません。つまり、トレーニングされていない生成モデルによって作成された偽の画像を検出することはできません。そして、そのようなモデルは無数に使用されています。
さらに、これはFacebookやMSUからディープフェイク画像を識別するための最終的な方法ではありません。すべての生成モデルが考慮されていることを確認する方法がないだけではありません。このトピックに関連する他の調査研究はありません。または、少なくとも、比較のためのベースラインを構築するためのデータセットはありません。要約すると、新しいAIモデルがどれだけ優れているかを確実に知る方法はありません。
プロジェクトの背後にあるチームは、「生成された画像と埋め込みスペースの間には、はるかに強力で一般化された相関関係があることを示しています。意味のあるアーキテクチャのハイパーパラメータと損失関数タイプの組み合わせです。」そして、それを同じ長さと分布のランダムなベクトルと比較します。ただし、これは独自に作成したベースラインに基づいています。
