ネット・PC

DeepFake技術で他人になりすましてビデオ会議してるやつを見破る簡単な方法がある

2022.08.11 09:04 by chaka

機械学習を用いて動画の中の人間の顔を他の人のものに差し替える「DeepFake（ディープフェイク）」技術は色々な問題をはらんでいますが、とりあえず今のところ、これを見破る簡単な方法が存在するそうです。

DeepFake技術は、ニセのニュースで世論を誘導しようとする、いわゆる「フェイクニュース」問題と共にその名を知られるようになってきました。

セレブリティの顔を入れたニセのゴシップ動画を作成しネットでばらまくといったイタズラレベルのものから、政治家が問題発言をしたかのような動画で炎上を誘うなど悪質なものも増えてきました。政治家や芸能人だけでなく、普通の市民もこんな感じでターゲットになる可能性も高まってきました。

娘のライバルのdeepfake動画を作ってチアリーディングチームから追い出そうとした母親が逮捕 – DNA

また最近では銀行などで用いられる顔認証を突破するのに使える、オンライン会議などでDeepFake技術を用いて別人になりすまし、詐欺にかけたり個人情報を聞き出したりするなど、カメラからのライブ映像すら加工できるようになっているわけですが、今のところ、とある方法を用いればDeepFake化されたライブ動画を見破ることができる可能性が高いそう。

AIによるコンテンツ生成や画像合成に関わる企業、メタフィジック社によれば、その方法は「真横を向いてもらう」というもの。横顔はDeepFakeの合成エンジンが失敗する可能性が高いのだそうです。

俳優の顔と合成されたビデオ会議動画からのスクリーンショット。横顔はだいたい破綻しています。

DeepFake技術は差し替え元と差し替え先、2つの顔のデータを学習し、目、鼻、といった特徴点を見つけ、これを手掛かりに合成します。なので横顔になるとこのように特徴点の多くが隠れてしまうため、推定に失敗しやすくなってしまうとのこと。

その昔は顔の特徴点にマーカーを貼り付けて表情を合成していました。こうした物理的な手段は準備が大変な反面、より確実な判別が可能です。

CG人間の「不気味の谷」を飛び越える「表情キャプチャー」 – DNA

また、映画俳優や政治家など世の中に多くの映像素材が出回っているような有名人と違って、普通の人の横顔の動画データというのはほとんどありません。このため、合成に必要な学習データに乏しいことも、横顔の合成の難しさを高めています。

これは2022年5月に、Deppfake技術を用いて銀行の顔認証を突破したとして話題になった動画。公開したAI関連のセキュリティ企業、Sensity社によれば、85度ほどの横顔で試したが、90度の真横を向いた横顔では試していないとのこと。
Deepfakes Vs Biometric Identity Verification – YouTube

ライブストリーミングではなく普通の動画では事前のチェックも可能ですし、特殊な条件ではさらに破綻しにくくなります。これは映画「パルプ・フィクション」の1場面のアレクシス・アークエットの顔をコメディアンのジェリー・サインフェルドに差し替えたもの。最初が横顔のアップで破綻がないように見えますが……
Jerry Seinfeld in Pulp Fiction [DeepFake] – YouTube

もともと顔の形が相当似ているので破綻なく合成される、ということらしい。

他にも「顔の前で手を振ってもらう」と合成が破綻しやすいとのこと。動画編集で手の形を切り抜いて加工合成することはできますが、リアルタイムの合成はまだまだ難しい分野だそう。

よりバレにくいDeepFake技術としては「顔を丸ごと3DCGで事前に作ってしまう」などが研究されているそうですが、やはり作り物の顔というのは生きている顔とは違うもので解像度を落としたり、圧縮率を高めるなどして低画質にしないとバレやすくなるそう。かの超絶CG映画「ゼロ・グラビディ」も顔だけは実写にこだわった、というのはこの辺の理由もあったのかと思います。

「ゼロ・グラビティ」は顔以外ほぼ全部CGだったということが分かるすごいメイキング動画 – DNA