天皇陛下や上皇陛下がエプスタイン氏と写った画像?AI生成による捏造【ファクトチェック】

天皇陛下や上皇陛下がエプスタイン氏と写った画像?AI生成による捏造【ファクトチェック】

天皇陛下や上皇陛下が、性的な人身売買疑惑で問題となった米国の実業家ジェフリー・エプスタイン氏と共に写った画像が複数拡散しました。これらの画像は全て捏造されたもので、誤りです。X(旧Twitter)に搭載されている生成AI「Grok」によって生成された、実際には存在しないフェイク画像です。

検証対象

2024年12月22日以降、天皇陛下や上皇陛下とエプスタイン氏が写った画像が複数拡散した(例1例2例3)。

「AI生成画像」「合成」との指摘もあるが、「決定的な写真が出てきたよ」「公務でのエプ島訪問ですか?」などのコメントも寄せられており、この画像を本物だと信じてしまう人もいることを示している。

検証過程

ジェフリー・エプスタイン氏による未成年への性的搾取疑惑

エプスタイン氏は米国の元実業家(故人)だ。児童を含む未成年への性的暴行・売春斡旋などに関与したとして2019年7月に逮捕・起訴されたのち、8月に拘置所内で死亡した(BBC)。

エプスタイン氏をめぐっては、その幅広い交友関係からこれまでに多くの著名人が疑惑に関与しているのではないかとの情報が拡散している。

不自然な点のある画像、AI生成の透かしも

今回検証対象とした画像には不自然な点がいくつかある。

ビーチで天皇陛下とエプスタイン氏が写っている画像は、隣にいる二人に当たっている日光の陽射しでできる陰の方向がバラバラだ。天皇陛下の右頬のほくろも、宮内庁が公開している画像と位置が異なっている。

上皇陛下がエプスタイン氏と親しげに寄り添っている画像では、二人が接している側の洋服の袖に太さがなく垂れ下がっている。このような画像の不自然さはAI生成画像の特徴といえる。

そして、拡散した画像の右下にはいずれも「GROK」と透かしが入っている。この透かしは、Xに搭載されている生成AI「Grok」によって生成された画像のものだ。

つまり、これらの画像はGrokによって生成された画像で、実際には存在しないフェイク画像だ。

AIやディープフェイクによる画像・動画を検知するTrueMedia.orgのツールでも、これらの画像は全て生成AIによるものだという「決定的な証拠がある」との判定だった。

判定

天皇陛下や上皇陛下がエプスタイン氏と共に写っている写真は捏造されたもので誤り。Xの生成AI「Grok」によって生成された、実際には存在しないフェイク画像だ。

あとがき

生成AIの進歩は目覚ましく、これからの私たちの生活はAIなしには成り立ちません。日本ファクトチェックセンター(JFC)でも、AI活用に関するガイドラインを策定した上で、記事のトップ画像生成や翻訳などにAIを積極的に活用しています。

その一方で、AI生成による画像や動画、いわゆる「ディープフェイク」も巧妙化し、実際の画像との区別が非常に難しくなっています。

2022年9月に台風による被害状況をドローンで撮影したとされる画像が拡散しましたが、実際は生成AIによる画像だったという事例がありました。また、2023年11月には岸田首相(当時)が日本テレビのニュース番組で卑猥な内容を話す動画が動画投稿サイトで拡散しましたが、生成AIで音声や画像を捏造したものでした。JFCはこれらも検証しています。

ドローンで撮影された静岡県の災害画像? AIディープフェイクの見分け方【ファクトチェック】
台風15号による記録的な大雨に見舞われた静岡県をドローンで撮影したとする画像がTwitter上で拡散しています。しかし、これはAIで作られた画像で、後から投稿者も偽画像だと認めています。AI作成の画像を見抜くポイントの解説とともに検証します。 検証対象 2022年9月26日、Twitterアカウント「くろん」(@kuron_nano)が静岡県の台風15号による被害について、多くの建物が水没している3枚の画像と共に、「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」と投稿した。 引用リツイートには「こんなに酷いんだ」「これスルーて、国葬の為にしてるとしか思えないじゃん!」などと本物の写真だと受け止めるコメントがついたが、同日夕方、投稿者自身が「AIで作った偽の画像だ」と認めた。 その後は「偽情報流すな」「ふつーに騙されてしまった!」「ぱっと見わからん」などのコメントもついた。BuzzFeedJapanのファクトチェック記事も「虚偽画像が拡散」と報じている。 検証過程 画像を検索してみる Googleレンズで1枚目を検索すると、洪水の写真は出て
岸田首相に関する偽の画像や動画が相次ぎ拡散
岸田文雄首相が映る画像や動画を使った偽情報がSNSなどで数多く広がっています。加工や発言の切り抜きによる悪用で、注意が必要です。 加工された画像 2024年2月12日、岸田首相がアメリカ政府の高官と対談しているかのような画像が投稿され拡散した。13万以上の閲覧数となっている。 この投稿には、「この写真初めて見た ヌーランド(米国務次官)と岸田」とコメントがつき、引用リポストには「この一枚が、すべてを語っています」といった書き込みもある。 この画像は加工されたものだ。元の画像は2022年4月のビクトリア・ヌーランド米国務次官(右から二人目)とブラジルのカルロス・フランサ外務大臣が面会した際の写真で、米国務次官の公式アカウントが投稿している。偽の画像は、右のフランサ氏を岸田首相に加工している。 偽の画像は、二人の間に電話らしきものがなく、岸田首相とヌーランド国務次官の間に、奇妙な線のようなものが写っている。岸田首相の指も不自然だ。 この画像は、NHK も検証し、同様のポイントで偽画像と結論づけている。 加工された動画 2023年11月、岸田首相が正

目の前にある画像や動画が本物とは限らないこれからの時代では、一人ひとりがクリティカル・シンキングで吟味したり、多角的に情報を収集するなどして偽・誤情報に対抗する必要があります。

JFCでは生成AIによる情報への影響と、それらに対するファクトチェック手法を解説しています。参考にしてください。

フェイクニュースと生成AI 識別不可能な脅威と海外からの影響工作【JFCファクトチェック講座 理論編10】
日本ファクトチェックセンター(JFC)のファクトチェック講座です。 理論編第9回はオンライン詐欺とその対策についてでした。第10回は影響力を増す生成AIと海外からの情報工作について説明します。 (本編は動画でご覧ください。この記事は概要をまとめています) 現実に見える動画が生成AIで作られる OpenAIの新技術「Sora」で作成した、夜の東京を歩く女性の映像。一見して、現実の映像と区別がつかないほどの精度です。 ただ、背景をよく見ると看板に書かれている文字が意味不明です。生成AIにはこのように細部の描写が苦手という弱点がありますが、技術の進化が加速していることから、いずれは人間の目では判別不可能になるでしょう。 これらの技術は政治家の発言の捏造や詐欺に悪用されています。誰でも一瞬で精巧な嘘を大量に作れるようになったことで、検証はますます困難になりました。 日本でもすでに広がる生成AIによる偽情報 日本で最初に有名になった事例は2022年9月26日、X(旧Twitter)に投稿された写真でした。「ドローンで撮影された静岡県の水害」と書かれていまし
生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】
日本ファクトチェックセンター(JFC)のファクトチェック講座です。 実践編第4回は、増加傾向にある偽動画の検証についてでした。第5回は公開されている生成AIで作られる画像や動画の検証について解説します。 (本編は動画でご覧ください。この記事は概要をまとめています) 生成AIによる「ディープフェイク」 生成AIで作られた偽情報は「ディープフェイク」と呼ばれます。 例えば、アメリカのトランプ前大統領が「岸田首相はグローバリストの操り人形」と話している動画が拡散しました。これは発言内容を自由に捏造できるツールで作られたディープフェイクです。 一方で、AIを使わずに作られた偽の画像や動画などをディープ(深い)に対応して「シャロー(浅い)フェイク」や「チープ(安い)フェイク」と呼びます。 例として、台湾の地震時に東日本大震災の映像が使われた事例があります。現状では、チープフェイクの方が圧倒的に多いですが、ディープフェイクも増えつつあります。 日本のディープフェイク事例 日本で最初に有名になったディープフェイク事例は、2022年9月の静岡県での事例です。「

検証:リサーチチーム
編集:古田大輔

判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら

ファクトチェックやメディア情報リテラシーについて学びたい方は、こちらの無料講座をご覧ください。ファクトチェッカー認定試験や講師養成講座も提供しています。

理論から実践まで学べるJFCファクチェック講座 20本の動画と記事を一挙紹介
日本ファクトチェックセンター(JFC)は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。 理論編と実践編の中身 理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。 実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です(2024年度中は受験料1000円、2025年度から2000円)。 合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験
JFCファクトチェッカー認定試験 教材と申し込みはこちら
日本ファクトチェックセンター(JFC)はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。 拡散する偽・誤情報から身を守るために 偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した2万人を対象とする調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。 自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。 だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座(YouTube, 記事)は、2万人調査を元に偽・誤情報の拡散経路や
JFCファクトチェック講師養成講座 申込はこちら
日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は12月22日で、お申し込みはこちら。 https://jfcyousei1222.peatix.com/event/4221579/view 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。 受講生には教材を提供 デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤った情報を信じてしまうところに問題があります。 JFCが国際大学グロコムと協力して実施した「2万人調査」では実に51.5%の人が誤った情報を「正しい」と答えました。一般に思われているよりも、人は騙されやすいという事実は、様々な調査で裏打ちされています。 JFCではこれらの調査をもとに、具体的に
日本ファクトチェックセンターのエディターなど募集【採用】
日本ファクトチェックセンター(JFC)は業務拡大により、エディターやソーシャルメディア担当などを募集しております。リモートワークや勤務時間など様々な働き方を想定しています。 待遇はスキルや経験、勤務条件に応じます。年功序列や新卒一括採用などはありません。その人の能力に応じて、裁量がある仕事をお任せします。ファクトチェック、メディアリテラシー教育、ソーシャルメディアの分析、海外の協力団体とのコラボなど、興味がある方は、ぜひご応募ください! エディター/ファクトチェッカー 業務内容 編集部でファクトチェックを中心にコンテンツの編集や企画を担当します。自由な勤務形態を推奨しており、時間や勤務地など応相談です。 応募要件 * 必須 * 記者、編集者などメディア関係や事実検証に関わる職務経験 * JFCファクトチェックガイドラインや指針などの遵守 * チームワーク * 憎しみを原動力にしないこと * 歓迎 * デジタルメディアの経験がある方は、特に重視します * ファクトチェックや調査報道の経験 * データ収集・

もっと見る

兵庫県知事選で稲村陣営が誹謗中傷を10倍した? 根拠とされた新聞記事は無関係【ファクトチェック】

兵庫県知事選で稲村陣営が誹謗中傷を10倍した? 根拠とされた新聞記事は無関係【ファクトチェック】

兵庫県知事選をめぐって、落選した稲村和美氏の陣営の方が誹謗中傷を「10倍していた」という情報が拡散しましたが、誤りです。根拠とされたグラフからはそうしたデータは読み取れず、元となる神戸新聞の記事にもありません。 検証対象 2024年12月21日、「これが選挙妨害の実態です 稲村陣営の方が10倍誹謗中傷していることがデータで判明しています だけど斎藤さんは訴えたりしません」という情報がX(旧Twitter)で拡散した。 この投稿は、48万以上の閲覧と1300のリポストがある。「はっきりデータで出ていますね」「これが正しい事実なんです」といった賛同するようなコメントがあるが、「このグラフから稲村陣営の方が10倍誹謗中傷していることをデータとして読み取ることは不可能です」という指摘もある。 検証過程 この投稿には「『Yahoo!リアルタイム検索』より作成」と表記のあるグラフが付いている。「既得権益」「#さいとう元知事がんばれ」「斎藤 パワハラ」「#いなむら和美を兵庫県知事に」「公益通報」「稲村 外国人参政権」というネットで拡散した6つの言葉の拡散数の変遷を現

By 宮本聖二
AIが誤情報を再生産/韓国戒厳令の背景は偽情報とファクトチェックの縮小?【今週のファクトチェック】

AIが誤情報を再生産/韓国戒厳令の背景は偽情報とファクトチェックの縮小?【今週のファクトチェック】

Xが提供する生成AIが、質問に対して過去の誤った情報を取り込んで答えるという事象が起きました。誤情報の再生産です。韓国の尹大統領の非常戒厳宣言の背景に、偽情報の拡散があり、さらにファクトチェックの活動の縮小が関わっているのではないかとNHKが報じました。 ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 今週のファクトチェック 北九州の中学生殺傷事件、被害者の父親は警察署長?同姓なだけ 2024年12月14日夜、北九州市小倉南区のファストフード店で起きた中学生殺傷事件をめぐって、被害者の父親が福岡県警の警察署長だとする情報が拡散しましたが、誤りです。同姓ですが、県警が否定しています。  北九州の中学生殺傷事件、被害者の父親は警察署長?同姓なだけ【ファクトチェック】2024年12月14日夜、北九州市小倉南区のファストフード店で起きた中学生殺傷事件をめぐって、被害者の父親が福岡県警の警察署長だとす

By 日本ファクトチェックセンター(JFC)
秋田県知事「熊に小型の爆発物を食べさせて爆破すればハンターは必要ない」と発言? 後半部分が捏造【ファクトチェック】

秋田県知事「熊に小型の爆発物を食べさせて爆破すればハンターは必要ない」と発言? 後半部分が捏造【ファクトチェック】

秋田県の佐竹敬久知事が「熊に小型の爆発物を食べさせて爆破すればハンターは必要ない」と発言したとする情報が拡散しましたが、不正確です。拡散した投稿はまとめサイトのXアカウントからで、見出しは掲示板サイトのスレッドタイトルを引用しているだけです。後半部分が捏造です。 検証対象 2024年12月18日、「秋田県知事『熊に小型の爆発物食べさせて爆破すればハンター必要ない』」という情報が拡散した。 2024年12月20日現在、この投稿は340件以上リポストされ、表示回数は8万回を超える。投稿について「狂ってる」「それはちょっと」というコメントの一方で「マジでいった?」という指摘もある。 検証過程 まとめサイトは掲示板サイトのタイトルを引用 検証対象のリンクは、まとめサイト「TweeterBreakingNews-ツイッ速!」の記事だ。 タイトルは掲示板サイト5ちゃんねるのスレッド「【悲報】秋田県知事「熊に小型の爆発物食べさせて爆破すれはハンター必要ない」←🧸」で、読売新聞オンラインが2024年12月17日にライブドアニュースで配信した記事「秋田県知事、ク

By 日本ファクトチェックセンター(JFC)
年金支給開始年齢は80歳からにすべきと小泉進次郎氏が発言? AIが誤情報を再生産【ファクトチェック】

年金支給開始年齢は80歳からにすべきと小泉進次郎氏が発言? AIが誤情報を再生産【ファクトチェック】

「小泉進次郎氏が2024年9月に年金支給開始年齢は80歳からにすべきと発言した」という情報が拡散しましたが、誤りです。拡散した情報はAIが生成したもので、小泉氏の発言は年金受給開始の選択の幅を広げる内容のものでした。 検証対象 2024年12月19日、「忘れっぽい日本国民の皆様のために貼っておきます」という文言と共に、「年金支給開始年齢は80歳からにするべきだと発言していた政治家は誰ですか?」という質問に生成AIが「小泉進次郎です」と回答したという情報が拡散した。 2024年12月20日現在、この投稿は8300件以上リポストされ、表示回数は224万回を超える。投稿について「元取れるの100歳超え」「AIが社会問題解決する」というコメントの一方で「少し調べればデマ」という指摘もある。 検証過程 以前にも拡散した誤情報をAIが再生産 自民党の小泉進次郎氏が「年金支給開始年齢は80歳からにすべき」と発言したという情報は以前にも拡散している。 自民党総裁選に絡んで2024年9月、日刊ゲンダイの記事をもとにしたまとめ記事などによる情報が拡散したもので、日本

By 日本ファクトチェックセンター(JFC)