ミャンマー地震の被害の映像? 生成AIによるディープフェイクなど拡散【ファクトチェック】

ミャンマー中部で発生した大地震の映像とされる動画や画像が多数拡散していますが、その中には生成AIでつくられた「ディープフェイク」やミャンマーのものではない映像も多数混じっています。災害後には実際の被害と異なる映像が拡散するため、注意が必要です。
検証対象
2025年3月28日にミャンマー中部で大地震が発生し、3000人以上の犠牲者が出ている。隣国のタイや中国でも大きな揺れがあった。地震発生後、被害の様子の映像や画像が数多く拡散した。
例えば、巨大な亀裂が入った道路を上空から見た動画(例1)がある。
同じ動画や、他の動画と組み合わせて編集されたもの、動画から切り出した静止画などが、TikTokやインスタグラム、Xなど複数のプラットフォームで拡散した(例2、例3)。
また、宗教施設とみられる塔の間で建物が倒壊した様子を上空から見た動画も拡散した(例4、例5)。いずれの動画も複数のプラットフォームで拡散し、多くのインプレッションを獲得している。
検証過程
AI特有の不自然さ
検証対象の動画には、それぞれ不自然な点がある。
例1の動画は、画面左下に人物が数人映っているが、動画なのに人がまったく動いていない。また、画面奥の炎や煙の色や形が不自然で、生成AIによるとみられる特徴が複数ある。
例4の動画は、路上を歩いている二人の動きが不自然で、やはり生成AIによると思われる特徴がある。
BBCも、人物の不自然さや、拡散元の動画の画面右下に動画生成AIによるものであると示す透かしマークが入っていたことから、この動画を「AIGenerated(AIで生成されている)」と認定し、注意を呼び掛けている(BBC)。
ディープフェイク検証チームの判定は
日本ファクトチェックセンター(JFC)が生成AIによる世界中のディープフェイクを検証しているDeepfakes Analysis Unit(DAU) に協力を求めたところ、検証対象の動画は「生成AIで作られた要素を含んでいる」と回答があった。DAUの検証は以下の通りだ。
まずAI生成コンテンツ識別ツール4つ(WasItAI 、Hive AI、IsItAI、AIorNot)を使って分析。ツールによって「生成AIによる可能性」という結果と、「生成AIによるとはいえない」という判定に分かれた。
AI検知ツールは人の顔などに基づく判定は得意だが、風景などは苦手にしている。DAU担当者は「短い動画はまだツールだけでは判定が難しく、最終的には人間が目視で判断しないと正しく判定できないことが多い」とも話す。
ディープフェイクの検証に長けたDAUチームによれば、今回のような高所から撮ったように見える動画では、建物や車、その他の巨大構造物の寸法は重要な手がかりになるという。AIによるプロンプト生成では、現実の通りに再現するのがまだ難しいからだ。
例4の動画は、塔が少し浮いているように見え、不自然な角度に配置されている。地震によってゆがんだとしても、物理法則にのっとってゆがむはずだが、この動画はそうなっていないと担当者は指摘する。
ツールによる判定は分かれたが、DAU担当者は目視の結果も併せて、どちらの動画も生成AIによる要素を含むと判断した。
判定
拡散した2つの動画はAIによって生成されたディープフェイクで、ミャンマー地震の被害映像だという主張は誤り。
検証:リサーチチーム
編集:宮本聖二、藤森かもめ、古田大輔
判定基準などはJFCファクトチェック指針をご参照ください。
毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら。