JFCファクトチェック講座7：AIコンテンツの検証細部を見る

古田大輔(Daisuke Furuta)

2023年5月19日

AIで生成されたテキストや画像などのコンテンツが激増しています。その中から偽情報/誤情報をどう検証するかは、ファクトチェックにとって大きな課題です。現状では、自動で完璧に検知する万能ツールはまだ存在しません。では、人の目でどのように検証できるのか。解説します。

AIによる偽情報の実例

日本ファクトチェックセンター（JFC）の記事を例に、解説していきます。これは「ドローンで撮影された静岡県の災害」はAI作成の偽画像というJFCのファクトチェック記事です。

2022年9月に静岡県を襲った台風15号による水害をめぐって、「ドローンで撮影した画像」とされる3枚の写真がツイッター上で拡散しました。建物や木々が茶色い水に屋根近くまで浸かり、大規模な浸水被害が出ているように見えます。

結論から言うと、この3枚の画像はすべてAIで作成したもので、静岡県の水害とはまったく関係がないものでした。どうやって検証していったかを見ていきます。

拡大して細部を確認する

1枚目の写真を拡大してみます。右側と奥に山並み。手前に住宅地と木々の茂みが広がり、大規模に浸水している写真ですが、よく見ると、不自然な箇所に気づきます。

まず、左上の赤丸で囲っている場所の水面の影。尖って背の高い影がありますが、水上の地形にそれらしき高い木や木か尖塔のような建物は見当たりません。

左下の赤丸の部分は、何か建物の瓦礫のようにも見えますが、画像が不明瞭でよくわかりません。地震や土砂崩れ、堤防の決壊とは違い、浸水でここまで激しく建物が壊れるとも思えません。

2枚目の写真も見てみます。画面の右上は住宅街、画像を斜めに横切るように木々が並び、左下は点在する建物や木々が濁流に飲まれているようです。

こちらも左上の赤丸で囲った部分の水面に映る影が不自然です。尖った棒のような影がいくつも並んでいますが、水上の地形にそれに対応するものがありません。

そもそも、この左下の濁流部分の中に建物が立っているのも不自然ですし、画像の手前側の水面は奥側の濁流と異なり、水面が鏡のように静かなのも変です。

3枚目の写真です。奥には広大な森林。その手前の住宅街が大規模に浸水し、さらに手前は川が流れているように見えます。

これも1、2枚目と同様に影が不自然ですし、それ以外にもよく見ると、何の構造物なのかわからない不自然な線が伸びています。

指摘した点以外にも、不自然な部分はたくさんあります。住宅街であれば当然あるはずの電柱や電線がなく、浸水して動けなくなった車も見当たらず、人影もない。

ただ、こうした「不自然さ」は画像を拡大して、細かく見ていったからこそ気がつくものです。ソーシャルメディアのタイムライン上に流れてくる小さな画像をスマートフォンで見ているだけだと、災害時の衝撃も相まって、思わず信じてしまう人もいます。

JFCではこのとき、自分たちの目で検証するだけではなく、静岡県危機情報課に問い合わせて「集落や街の大半が水没するほどの浸水被害はない」ということを確認しました。また、投稿者自らも「AIで作った偽の画像」と認めました。

AIによる人物画像はどこを見ればよいか

AIで作成した風景画像には、不自然な描写がたくさんあることがわかりました。特に影の描写や、実際にそういう風景がありえるのか、という視点で見ると、おかしな点に気がつきます。では、人物画像はどうでしょうか。4つのポイントをあげます。

指：本数や形。不自然に長かったり、細かったりしないか
耳：耳の外側の凹凸や耳たぶの形などが不自然ではないか
歯：一本ずつ明瞭に描写されているか
髪：整いすぎていたり、生え際が不明瞭ではない

これらの細部の描写は、まだまだAIが苦手としている部分です。拡大をしてみると不自然さに気づくことがあります。

例えば、最近話題になったローマ法王に関する画像。指の描写が実際の法王と異なります。指の本数や長さ・細さなどの詳細に着目しましょう。

次にこちらのトランプ前大統領の画像。耳や髪、指の描写などに違和感があります。また、警官たちの顔の多くが不自然にボケています。

動画の場合は、これらの4つのポイントだけでなく。次の2点もヒントになります。

表情：話している内容と表情は一致しているか
髪や歯：体の動きとあわせて自然に動いているか

テクノロジーの活用が不可欠

AI技術は日進月歩で進化していくため、そう遠くないうちに人間の目では本物と判別不可能な画像や動画がAIによって制作可能になるでしょう。ファクトチェックする側もテクノロジーを活用しなければ、AIによる無限の偽情報/誤情報の生成に対応することは不可能です。

国際ファクトチェックセンター（IFCN）が年に1回開催するGlobal Factでは、ファクトチェッカーだけでなく、技術者、研究者らも参加して、テクノロジーの開発や活用について議論しています。

怪しい情報を検知し、検証し、必要な人に届ける。この3段階それぞれにおいて技術が発達していくことが、今後の偽情報/誤情報対策の鍵を握っています。

今年のGlobal Factは10回目にして初のアジア開催。6月28-30日に韓国・ソウルで開かれます。私も参加する予定です。

ファクトチェック講座の次回は、オープンソース・インテリジェンス（OSINT）を使った検証について解説します。

講座目次

意見や推測ではなく事実を検証する
検証は効果あり検索やAIにも反映される
検証の4ステップ「横読み」で効率的に
実践的な検索技術効率的にソースを探す
画像の検証 GoogleレンズとTinEye
動画の検証 InVIDとYouTube検索
AIコンテンツの検証細部を見る
公開情報こそ重要 OSINT技術を使いこなす
国際的な標準ルール信頼性を確保する

筆者略歴

検証手法や判定基準などに関する解説は、JFCサイトのファクトチェック指針をご参照ください。

「ファクトチェックが役に立った」という方は、シェアやいいねなどで拡散にご協力ください。誤った情報よりも、検証した情報が広がるには、みなさんの力が必要です。

X(Twitter)、Facebook、YouTube、Instagramなどのフォローもよろしくお願いします。またこちらのQRコード（またはこのリンク）からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を。

【2万人調査】偽・誤情報、日本での拡散の実態と効果的な対策とは

日本ファクトチェックセンター（JFC）などが2024年4月16日に都内で開いた偽情報対策シンポジウム。国際大学グローバルコミュニケーションセンター（GLOCOM）がJFCと協力して実施した偽情報の実態に関する2万人調査の概要を解説しました。以下はシンポでの発表のまとめです。アーカイブ動画と報告書（全文）と概要版は文末へ。山口真一GLOCOM准教授「衝撃的な数字」 GLOCOMの山口真一准教授は経済学博士で専門は「計量経済学」。SNS上の偽情報、誹謗中傷、ネット炎上といった社会問題や、情報社会の新しいビジネスモデルなどについて実証研究をしている。今回の調査は2024年2月に実施され、アンケートが予備調査2万件、本調査5000件、文献調査、インタビュー調査、有識者会議と多岐にわたる。 14.5%しか誤っていると気づかないアンケートでは5つの分野（政治：保守有利、政治：リベラル有利、医療・健康、戦争・紛争、多様性）で計15件の実際に拡散した偽情報について、見聞きしたことがあるかを聞いた。結果は全体で37％が「見聞きしたことがある」。現実に社会に広が

検証・教育・研究・開発など総合的な偽情報対策のハブに日本ファクトチェックセンター

日本ファクトチェックセンター（JFC）などが2024年4月16日に都内で開いた偽情報対策シンポジウム。国際大学グローバルコミュニケーションセンター（GLOCOM）がJFCと協力して実施した偽情報の実態に関する2万人調査の結果などを受けてJFCが今後、どのような施策に取り組むかを私（古田大輔JFC編集長）が説明しました。以下がその内容です。 JFCが発足1年半で成し遂げたこと今後の施策について説明する前に、2022年10月1日に正式発足したJFCの現状について説明しました。発信を強化し、国際ファクトチェックネットワークに加盟 JFCは発足当初、月10本のファクトチェック記事の公開を目標とし、JFCサイトだけでなく、Yahoo!ニュース、X(旧Twitter)、Facebookで発信してきました。 2024年4月現在、編集部の強化や作業の効率化によって、発信は動画を含め月30本ペースに。2023年5月には国際ファクトチェックネットワーク（IFCN）の認証を受け、年に一度の総会Global Factにも参加。日本におけるファクトチェックやリテラシー普及活

「黒柳徹子が新しい学校のリーダーズに『令和の全共闘』と発言」は誤り発言はなく、テレビ朝日も否定【ファクトチェック】

タレントの黒柳徹子さんが、テレビ朝日系の番組「徹子の部屋」で、ダンスボーカルユニット「新しい学校のリーダーズ」に「令和の全共闘」と発言したとの言説が拡散しましたが、誤りです。黒柳さんは、そのような発言をしていません。テレビ朝日も否定しています。検証対象 2024年4月15日、「徹子が、「『新しい学校のリーダーズ』っていうのは、令和の全共闘みたいなことをされてらっしゃるの？」って言ってたの、まだおもしろい。」というポストが、「徹子の部屋」の画像付きで拡散した。拡散したポストは、4月19日現在で360万回以上表示され、8300件以上のリポストを獲得している。検証過程拡散したのは「パクツイ」「全共闘」とは「全学共闘会議」の略称で、1968〜1969年の大学紛争の際に主体となった、既成の学生自治会組織とは別の運動体だ。同様のポストは、2024年2月9日にも別のアカウントが「徹子「"新しい学校のリーダーズ"っていうのはなに？令和の全共闘みたいなことをされてらっしゃるの？」」という文言とともに投稿している。このポストも4月19日現在で510万

JFC YouTube講座のご案内

日本ファクトチェックセンター（JFC）はファクトチェックの理論と実践を動画で学ぶYouTube講座を開始します。国際大学グローバルコミュニケーションセンター（GLOCOM）と協力して実施した調査をもとに偽情報対策として有効なリテラシーや技術などを具体的に解説します。本講座の開講は2024年7月から。まずはこちらのプレビュー動画をどうぞ。第0章【なぜ騙される？】フェイクニュース時代を生き抜く知識と技術を学ぶ講座へのお問い合わせ YouTube動画の視聴は申し込みが要らず、無料です。8月に開講予定の教育者向けの講師養成講座へのお問い合わせやセミナーなどへの講師派遣などのご希望はこちらからお寄せください。お問い合わせ ContactJFCはファクトチェックやメディアリテラシー普及に取り組む非営利組織です。日本ファクトチェックセンター (JFC)古田大輔(Daisuke Furuta)