講座

JFCファクトチェック講座7：AIコンテンツの検証細部を見る

古田大輔(Daisuke Furuta)

2023年5月19日

AIで生成されたテキストや画像などのコンテンツが激増しています。その中から偽情報/誤情報をどう検証するかは、ファクトチェックにとって大きな課題です。現状では、自動で完璧に検知する万能ツールはまだ存在しません。では、人の目でどのように検証できるのか。解説します。

AIによる偽情報の実例

日本ファクトチェックセンター（JFC）の記事を例に、解説していきます。これは「ドローンで撮影された静岡県の災害」はAI作成の偽画像というJFCのファクトチェック記事です。

2022年9月に静岡県を襲った台風15号による水害をめぐって、「ドローンで撮影した画像」とされる3枚の写真がツイッター上で拡散しました。建物や木々が茶色い水に屋根近くまで浸かり、大規模な浸水被害が出ているように見えます。

結論から言うと、この3枚の画像はすべてAIで作成したもので、静岡県の水害とはまったく関係がないものでした。どうやって検証していったかを見ていきます。

拡大して細部を確認する

1枚目の写真を拡大してみます。右側と奥に山並み。手前に住宅地と木々の茂みが広がり、大規模に浸水している写真ですが、よく見ると、不自然な箇所に気づきます。

まず、左上の赤丸で囲っている場所の水面の影。尖って背の高い影がありますが、水上の地形にそれらしき高い木や木か尖塔のような建物は見当たりません。

左下の赤丸の部分は、何か建物の瓦礫のようにも見えますが、画像が不明瞭でよくわかりません。地震や土砂崩れ、堤防の決壊とは違い、浸水でここまで激しく建物が壊れるとも思えません。

2枚目の写真も見てみます。画面の右上は住宅街、画像を斜めに横切るように木々が並び、左下は点在する建物や木々が濁流に飲まれているようです。

こちらも左上の赤丸で囲った部分の水面に映る影が不自然です。尖った棒のような影がいくつも並んでいますが、水上の地形にそれに対応するものがありません。

そもそも、この左下の濁流部分の中に建物が立っているのも不自然ですし、画像の手前側の水面は奥側の濁流と異なり、水面が鏡のように静かなのも変です。

3枚目の写真です。奥には広大な森林。その手前の住宅街が大規模に浸水し、さらに手前は川が流れているように見えます。

これも1、2枚目と同様に影が不自然ですし、それ以外にもよく見ると、何の構造物なのかわからない不自然な線が伸びています。

指摘した点以外にも、不自然な部分はたくさんあります。住宅街であれば当然あるはずの電柱や電線がなく、浸水して動けなくなった車も見当たらず、人影もない。

ただ、こうした「不自然さ」は画像を拡大して、細かく見ていったからこそ気がつくものです。ソーシャルメディアのタイムライン上に流れてくる小さな画像をスマートフォンで見ているだけだと、災害時の衝撃も相まって、思わず信じてしまう人もいます。

JFCではこのとき、自分たちの目で検証するだけではなく、静岡県危機情報課に問い合わせて「集落や街の大半が水没するほどの浸水被害はない」ということを確認しました。また、投稿者自らも「AIで作った偽の画像」と認めました。

AIによる人物画像はどこを見ればよいか

AIで作成した風景画像には、不自然な描写がたくさんあることがわかりました。特に影の描写や、実際にそういう風景がありえるのか、という視点で見ると、おかしな点に気がつきます。では、人物画像はどうでしょうか。4つのポイントをあげます。

指：本数や形。不自然に長かったり、細かったりしないか
耳：耳の外側の凹凸や耳たぶの形などが不自然ではないか
歯：一本ずつ明瞭に描写されているか
髪：整いすぎていたり、生え際が不明瞭ではない

これらの細部の描写は、まだまだAIが苦手としている部分です。拡大をしてみると不自然さに気づくことがあります。

例えば、最近話題になったローマ法王に関する画像。指の描写が実際の法王と異なります。指の本数や長さ・細さなどの詳細に着目しましょう。

次にこちらのトランプ前大統領の画像。耳や髪、指の描写などに違和感があります。また、警官たちの顔の多くが不自然にボケています。

動画の場合は、これらの4つのポイントだけでなく。次の2点もヒントになります。

表情：話している内容と表情は一致しているか
髪や歯：体の動きとあわせて自然に動いているか

テクノロジーの活用が不可欠

AI技術は日進月歩で進化していくため、そう遠くないうちに人間の目では本物と判別不可能な画像や動画がAIによって制作可能になるでしょう。ファクトチェックする側もテクノロジーを活用しなければ、AIによる無限の偽情報/誤情報の生成に対応することは不可能です。

国際ファクトチェックセンター（IFCN）が年に1回開催するGlobal Factでは、ファクトチェッカーだけでなく、技術者、研究者らも参加して、テクノロジーの開発や活用について議論しています。

怪しい情報を検知し、検証し、必要な人に届ける。この3段階それぞれにおいて技術が発達していくことが、今後の偽情報/誤情報対策の鍵を握っています。

今年のGlobal Factは10回目にして初のアジア開催。6月28-30日に韓国・ソウルで開かれます。私も参加する予定です。

ファクトチェック講座の次回は、オープンソース・インテリジェンス（OSINT）を使った検証について解説します。

講座目次

意見や推測ではなく事実を検証する
検証は効果あり検索やAIにも反映される
検証の4ステップ「横読み」で効率的に
実践的な検索技術効率的にソースを探す
画像の検証 GoogleレンズとTinEye
動画の検証 InVIDとYouTube検索
AIコンテンツの検証細部を見る
公開情報こそ重要 OSINT技術を使いこなす
国際的な標準ルール信頼性を確保する

筆者略歴

ニュースレター登録（無料）はこちら

判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード（またはこのリンク）からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら。

参政・大森氏「選択的夫婦別姓で外国人が簡単に国籍を取れるようになる」? 国籍取得と夫婦別姓は無関係【#参院選ファクトチェック】

2025年参院選で、参政党から立候補している大森紀明氏が「選択的夫婦別姓で外国人が日本の国籍を簡単に取れるようになる」などと発言しましたが、誤りです。「選択的夫婦別姓」と「外国人の日本国籍取得」の関連性について、大森氏は根拠を示しておらず、法務省も関連は無いと否定しています。検証対象参院選で、参政党から栃木県選挙区に立候補している大森紀明氏が7月12日、夫婦別姓に関して「外国人が日本の国籍を簡単に取れるようになる」などと街頭演説で述べている動画を自身のXに投稿した。検証過程添付動画は1分32秒だが、元の動画は56分42秒あり、大森氏のYouTubeで公開されている（大森紀明あおぞらチャンネル参院選栃木選挙区候補者”大森紀明参院選栃木選挙区参政党公認候補者街頭演説inJR小山駅西口前ライブ配信！”）。 YouTubeで、選択的夫婦別姓制度について、大森氏は次のように述べている。 (以下、引用) 選択制夫婦別姓。これも非常に話題になっております。確かに女性の社会進出上旧姓を使うことは理解できます。しかし通称制度で十分やれますよ

外国人の健康保険未納が年間4000億円? 根拠の議員推計は訂正済み【#参院選ファクトチェック】

外国人の健康保険未納が年間4000億円という情報が拡散しましたが、誤りです。日本維新の会の柳ケ瀬裕文氏が推計した数字ですが、のちに10年間分の推計だったと訂正しています。検証対象 2025年6月19日、「外国人の健康保険未納去年4000億円」という情報が拡散した。 7月15日現在、この投稿は1.9万回以上リポストされ、表示回数は657万回を超える。投稿について「毎月いくら払ってると思ってるの」「国民健康保険料単価の値上がりはこれが要因？」というコメントの一方で「訂正されています」という指摘もある。検証過程維新の会・柳ケ瀬氏が5月の予算委員会で発言投稿には2025年5月21日に産経新聞が配信した「外国人の国保未納は年4千億円と試算維新・柳ケ瀬氏『日本国民の税金で立て替えている』『移民』と日本人」という記事のスクリーンショットが添付されている。該当記事は現在削除されているが、記事には19日の参議院予算委員会で発言があったと書かれている。参議院インターネット審議中継のサイトから2025年5月19日の予算委員会(2時間49分～)を確認

夫婦別姓にしたい日本人は1％? 複数調査結果と矛盾【#参院選ファクトチェック】（追記あり）

「夫婦別姓にしたい日本人→1%夫婦別姓に反対する党首→1人」という投稿がXで拡散しましたが、誤りです。参院選前の9党幹部による討論会で、明確に反対だったのは1名ですが、2025年実施の主だった調査で、選択的夫婦別姓制度への賛成は最低でも20%台、40%台のものもあり、「夫婦別姓にしたい日本人1％」という主張からは大きく外れています。検証対象 7月8日「夫婦別姓にしたい日本人→1%　夫婦別姓に反対する党首→1人」という投稿がXで拡散した。投稿には、動画のスクリーンショットらしい静止画がついている。投稿は7月15日現在、3900回以上リポストされ、表示回数は196万回を超える。投稿には「夫婦別姓法案の目的は日本の伝統文化の破壊、戸籍制度の破壊です」「1%は偽日本人です！」などのコメントや、「選択出来る事を否定する理由って何?」などの指摘が寄せられている。検証過程「夫婦別姓に反対する党首→1人」はほぼ正確拡散した画像は、右上に「中継参院選公示直前 9党幹部　政治討論会」というテロップがついている。 YouTubeで「参院選　公示直前

トランプ大統領が岸田文雄氏について「グローバリストの操り人形」と発言? 繰り返し拡散するAI動画【#参院選ファクトチェック】

トランプ大統領が「岸田首相はグローバリストの操り人形、ビジョンもリーダーシップもない」と発言している動画が拡散しましたが、誤りです。AIによって作られたディープフェイク動画で、過去にも拡散しています。検証対象 2025年7月12日、「トラさんが岸田の事を完全にグローバリストの操り人形だと言い切っている」「岸田は何をやっているかも分からないしビジョンもリーダーシップも無いと、断言している」という動画つき投稿が拡散した。動画ではトランプ氏が「皆さん、日本の首相である岸田文雄氏との会談を終えたばかりです。大失敗だったと言わざるを得ない。私はもっと多くを期待していたが、完全にグローバリストの操り人形だ。彼は何をやっているかわからないし、ビジョンもリーダーシップもない」などと語っている。 7月15日現在、この投稿は3000件以上リポストされ、表示回数は29万回を超える。この投稿について「全てお見通しなのさ」「やっぱりね」というコメントの一方で「AI生成っぽいです」という指摘もある。検証過程動画にはAIの特徴動画を確認すると、画質が低く、トランプ氏

ファクトチェック講座

JFCファクトチェック講師養成講座　申込はこちら

日本ファクトチェックセンター（JFC）は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。次回の開講は7月22日（火）午後2時~3時15分で、お申し込みはこちら。 https://jfckoushiyousei0722.peatix.com/ 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。受講生には教材を提供デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤った情報を信じてしまうところに問題があります。 JFCが国際大学グロコムと協力して実施した「2万人調査」では実に51.5%の人が誤った情報を「正しい」と答えました。一般に思われているよりも、人は騙されやすいという事実は、様々な調査で裏打ちされています。 JFCではこれらの調査をもとに、具体的に

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター（JFC）は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。理論編と実践編の中身理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です（2024年度中は受験料1000円、2025年度から2000円）。合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

JFCファクトチェッカー認定試験　　教材と申し込みはこちら

日本ファクトチェックセンター（JFC）はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。拡散する偽・誤情報から身を守るために偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した2万人を対象とする調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座（YouTube, 記事）は、2万人調査を元に偽・誤情報の拡散経路や