生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】

生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】

日本ファクトチェックセンター(JFC)のファクトチェック講座です。

実践編第4回は、増加傾向にある偽動画の検証についてでした。第5回は公開されている生成AIで作られる画像や動画の検証について解説します。

(本編は動画でご覧ください。この記事は概要をまとめています)

生成AIによる「ディープフェイク」

生成AIで作られた偽情報は「ディープフェイク」と呼ばれます。

例えば、アメリカのトランプ前大統領が「岸田首相はグローバリストの操り人形」と話している動画が拡散しました。これは発言内容を自由に捏造できるツールで作られたディープフェイクです。

一方で、AIを使わずに作られた偽の画像や動画などをディープ(深い)に対応して「シャロー(浅い)フェイク」や「チープ(安い)フェイク」と呼びます。

例として、台湾の地震時に東日本大震災の映像が使われた事例があります。現状では、チープフェイクの方が圧倒的に多いですが、ディープフェイクも増えつつあります。

日本のディープフェイク事例

日本で最初に有名になったディープフェイク事例は、2022年9月の静岡県での事例です。「ドローンで撮影された静岡県の水害」という画像は生成AIで作ったものでした。

ドローンで撮影された静岡県の災害画像? AIディープフェイクの見分け方【ファクトチェック】
台風15号による記録的な大雨に見舞われた静岡県をドローンで撮影したとする画像がTwitter上で拡散しています。しかし、これはAIで作られた画像で、後から投稿者も偽画像だと認めています。AI作成の画像を見抜くポイントの解説とともに検証します。 検証対象 2022年9月26日、Twitterアカウント「くろん」(@kuron_nano)が静岡県の台風15号による被害について、多くの建物が水没している3枚の画像と共に、「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」と投稿した。 引用リツイートには「こんなに酷いんだ」「これスルーて、国葬の為にしてるとしか思えないじゃん!」などと本物の写真だと受け止めるコメントがついたが、同日夕方、投稿者自身が「AIで作った偽の画像だ」と認めた。 その後は「偽情報流すな」「ふつーに騙されてしまった!」「ぱっと見わからん」などのコメントもついた。BuzzFeedJapanのファクトチェック記事も「虚偽画像が拡散」と報じている。 検証過程 画像を検索してみる Googleレンズで1枚目を検索すると、洪水の写真は出て


また、2023年11月には岸田文雄首相が自身の性的な事柄を独白するという動画が拡散しました。日本テレビのロゴもありましたが、日テレとも岸田首相とも関係のない、生成AIによるディープフェイク動画でした。

これらの技術は専門知識なしで誰でも使えます。

岸田首相に関する偽の画像や動画が相次ぎ拡散
岸田文雄首相が映る画像や動画を使った偽情報がSNSなどで数多く広がっています。加工や発言の切り抜きによる悪用で、注意が必要です。 加工された画像 2024年2月12日、岸田首相がアメリカ政府の高官と対談しているかのような画像が投稿され拡散した。13万以上の閲覧数となっている。 この投稿には、「この写真初めて見た ヌーランド(米国務次官)と岸田」とコメントがつき、引用リポストには「この一枚が、すべてを語っています」といった書き込みもある。 この画像は加工されたものだ。元の画像は2022年4月のビクトリア・ヌーランド米国務次官(右から二人目)とブラジルのカルロス・フランサ外務大臣が面会した際の写真で、米国務次官の公式アカウントが投稿している。偽の画像は、右のフランサ氏を岸田首相に加工している。 偽の画像は、二人の間に電話らしきものがなく、岸田首相とヌーランド国務次官の間に、奇妙な線のようなものが写っている。岸田首相の指も不自然だ。 この画像は、NHK も検証し、同様のポイントで偽画像と結論づけている。 加工された動画 2023年11月、岸田首相が正

ディープフェイクは細部を確認する

生成AIで作られた画像や動画は、細部に不自然な点があります。

例えば、静岡の水害の写真では、水面の影と地上の構造物が一致していなかったり、がれきの描写が不明瞭だったり、水面が不自然だったりします。


また、岸田首相の動画では口の部分だけが動き、顔の表情が全く変わりません。スマホの小さな画面だと気がつかなくても、大きめの画面で見ればその不自然さは一目瞭然です。

生成AIの技術は数ヶ月、数週間レベルで向上しており、自然な描写の写真や動画も増えてきています。それでも、拡大して見てみるとおかしな点に気がつきます。

例えば、「ガザで男性が瓦礫から子供達を救出する画像」。プロが撮影した報道写真のようにも見えます。

(画像)男性が子どもたちを瓦礫から救出する画像?【ファクトチェック】
イスラエル・パレスチナでの武力衝突に関連し、「今日のベスト画像」として男性が子どもたちを救出する様子として画像付き言説が拡散しましたが、誤りです。この画像はAIで生成されたものです。 検証対象 10月27日、「今日のベスト画像 2023年10月27日」というキャプションとともに画像が拡散した。この画像は「#Gaza_under_attack」「#Free Palestine」というハッシュタグと共にFacebook上で8万回以上共有され、在フランス中国大使館のX(旧Twitter)アカウントも発信した。 検証過程 画像の詳細をよく見ていく。子どもの足の指の形(オレンジ丸)、男性の方からぶら下がる子どもの腕の形(赤丸)、男性の脇の形(矢印)など、AIが生成する画像に特有な細部の不自然な描写が多数確認できる。 この画像を元にGoogleで検索をしたが、InstagramやTikTokなど複数のSNSで拡散されている一方、現地で紛争を取材するメディアによる撮影画像とは一致しなかった。 AFPの記事も、偽画像解析の専門家の分析を引用して「AIの兆候が見られる

しかし、拡大して見てみると、手や足の描写に違和感を持ちます。

技術の進化と検証の限界

生成AIの開発で世界をリードするOpenAIの新しい技術「Sora」は、「夜の東京を歩くおしゃれな女性」などの簡単なテキスト入力だけで驚くほど精巧な動画が作れます。

スマホの小さな画面で見たときに、すぐにディープフェイクだと見抜くことは困難でしょう。

背景の看板の文字が意味不明であるなど、細部の描写にはまだ生成AI特有の限界があります。

しかし、人間の目による検証が不可能なディープフェイクは今後、増えていくでしょう。

精巧なディープフェイクへの対応方法

では、人間の目で検証できないレベルのディープフェイクにどう対応するべきか。

クリティカル・シンキングで吟味する

まず、画像や動画や音声が本物とは限らないと認識することが重要です。常に吟味する。その人物がそういう発言をするのか。

例えば、岸田首相がテレビで突然性的な発言をするはずはありません。人気モデルのベラ・ハディッドさんがイスラエルを支持する発言をしたというディープフェイクもありましたが、これも彼女がパレスチナの平和を訴える活動をしていたことを知っていれば、不自然さに気づくはずです。

主要メディアを確認する

もう一つ有効な方法は、主要なメディアがそのニュースを報じているかを確認することです。著名人の言動や大災害であれば、NHKやCNNやBBCなど世界の主要メディアが報じているはずです。

匿名のSNSや無名のニュースサイトだけが取り上げている情報は、これまでも多数の誤りがありましたし、信頼性は低いです。

技術やルールによる対策

技術には技術で対抗する方法もあります。AIで生成されたコンテンツをAIで判定する技術の開発が進んでおり、その精度は向上しています。また、AIで生成したコンテンツにラベルを貼るなどのルール設定の議論も進んでいます。

しかし、これらの対策だけではすべての被害を防ぐことはできません。泥棒を取り締まる法律があっても家に鍵をかけるように、自分を守るノウハウを身につけることが重要です。

次回はOSINT

次回は、オープンソースの情報を使った検証方法=OSINTについて解説します。これにより、さらに深く広く情報の真偽を見極める力を養うことができます。

アンケートにご協力を

動画を見た方は、ぜひ簡単なアンケートにご協力ください。 https://forms.gle/QdVa9A5v3RDnfBW59

検証手法や判定基準については、JFCファクトチェック指針をご参照ください。検証記事を広げるため、SNSでの拡散にご協力ください。XFacebookYouTubeInstagramのフォローもお願いします。毎週、ファクトチェック情報をまとめて届けるニュースレター登録はこちらからどうぞ。

また、こちらのQRコード(またはこのリンク)からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を

もっと見る

立花氏の投稿削除と新聞のファクトチェック/コロナワクチン ロットによって接種者全員死亡?/拡散続く兵庫県知事選の偽情報【今週のファクトチェック】

立花氏の投稿削除と新聞のファクトチェック/コロナワクチン ロットによって接種者全員死亡?/拡散続く兵庫県知事選の偽情報【今週のファクトチェック】

元兵庫県議の急死をめぐる自らの投稿を立花孝志氏が投稿を削除しましたが、その背景に新聞によるファクトチェックがありました。去年11月の兵庫県知事選挙で、県警内部で斎藤氏以外の候補を応援するよう通達が出たという誤った情報を姫路市議が拡散させました。川田参院議員の発言で拡散したコロナワクチンの特定のロットで接種者全員が死んでいるという情報を検証しました。官民共同で偽・誤情報対策のためのリテラシー向上の啓発活動が始まることになりました。 ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 JFCからのお知らせ セミナー「新たなテクノロジーと偽情報 -AIの脅威と活用-」中止 1月30日に予定していたセミナー「新たなテクノロジーと偽情報 -AIの脅威と活用-」(共催:日本ファクトチェックセンター(JFC)、Code for Japan、早稲田大次世代ジャーナリズム・メディア研究所、協力:アメリカ大使館)は、

By 日本ファクトチェックセンター(JFC)
トランプ米大統領「まず潰すべき国はメキシコ、カナダ、中国、そして日本だ」と発言? まとめサイトによるもの【ファクトチェック】

トランプ米大統領「まず潰すべき国はメキシコ、カナダ、中国、そして日本だ」と発言? まとめサイトによるもの【ファクトチェック】

トランプ米大統領が「まず潰すべき国はメキシコ、カナダ、中国、そして日本だ」と発言したとする投稿が拡散しましたが、誤りです。トランプ大統領の実際の発言ではありません。掲示板サイトのスレッドタイトルを引用しているだけです。 検証対象 2025年1月21日、「🚨トランプ「まず潰すべき国はメキシコ、カナダ、中国、そして日本だ」/🔥🔥🔥日本🇯🇵ランクイン🔥🔥🔥」というポストがX上で拡散した。このポストは2025年1月24日現在、405.9万回以上の表示回数と3100件以上のリポストを獲得している。 検証過程 日本ファクトチェックセンター(JFC)が「トランプ氏の発言」として拡散した「まず潰すべき国はメキシコ、カナダ、中国、そして日本だ」をGoogle検索で調べたところ、掲示板サイト5ちゃんねるのスレッドのタイトル「トランプ『まず潰すべき国はメキシコ、カナダ、中国、そして日本だ』」と完全に一致した。 拡散した投稿とこのスレッドはともに2025年1月21日に投稿されている。このスレッドには以下のスクリーンショットが添付されている。 「トランプ氏の

By 日本ファクトチェックセンター(JFC)
厚労省審議会の委員に年間1845万円の報酬?常勤の特別職と混同(修正あり)【ファクトチェック】

厚労省審議会の委員に年間1845万円の報酬?常勤の特別職と混同(修正あり)【ファクトチェック】

厚生労働省の社会保障審議会の委員の報酬が年間で1845万円だという情報が拡散しましたが、誤りです。この審議会の委員は非常勤で会議開催ごとに謝金が支払われ、その額は1日最大1万9700円です。 検証対象 2025年1月20日、厚労省の社会保障審議会年金部会の委員一覧表と国家公務員特別職の給与一覧とともに「本当に日本政府はクソだな なんで社会保障を審議する委員が年に1845万ももらえるんだ?都合の良い事をいってもらう為だろ?」という情報が拡散した。 この投稿は、59万以上のインプレッションのほか、1500以上のリポストがあり「こいつらの報酬だけで4億円かかってるってこと? こんなのが無数にあるんだからいくら税金あってもたりないよな」「一般市民でこんなに年収もらえる人、どんなに真面目に働いても極々僅かですわ…」といったコメントがついていたが、22日夜この投稿は削除された。 この投稿に対して、委員一覧の中で赤い線が引かれていた委員の1人たかまつなな氏は、Xに誤りだとして、削除と訂正を求める投稿をした。 検証過程 日本ファクトチェックセンター(JFC)が拡散し

By 宮本聖二
立憲民主・野田代表「弱い人を助けるための政治はもう終わり」と発言? 切り取りでミスリード【ファクトチェック】

立憲民主・野田代表「弱い人を助けるための政治はもう終わり」と発言? 切り取りでミスリード【ファクトチェック】

立憲民主党の野田佳彦代表が「弱い人を助けるための政治はもう終わり」と話したかのような情報が拡散しましたが、ミスリードで不正確です。発言の一部を切り取って原文と異なる印象を与えています。 検証対象 2025年1月22日、「もう政治家やめてくれ」という文言と共に、立憲民主党の野田代表が「弱い人を助けるための政治はもう終わり」と発言しているような画像が拡散した。 2025年1月24日現在、この投稿は1.3万回以上リポストされ、表示回数は270万回を超える。投稿について「弱い人を助けるのが、政治の役目だろ」「こんな奴を代表にするな」というコメントの一方で「切り取りだね、これ」という指摘もある。 検証過程 画像の左上には「MBS NEWS」、右上には「立憲野田新代表選出『政権をとりにいく』」という文言がある。 毎日放送報道情報局が運営するYouTubeチャンネル「MBS NEWS」を確認すると、文言が一致する動画「『打倒自民党。戦いの準備を進めていきます』立憲新代表の野田佳彦氏 27日には自民党総裁選(2024年9月23日)」が見つかる。 2024年9月に投

By 日本ファクトチェックセンター(JFC)