なりすましアカウントに新手口/選挙に関わるAIの画像制作が容易に【注目のファクトチェック】

なりすましアカウントに新手口/選挙に関わるAIの画像制作が容易に【注目のファクトチェック】
✉️
日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら

2024年3月4日-3月10日のファクトチェック週報です。急増するなりすましアカウントに新しい手口が登場しています。ゼレンスキー大統領やバイデン大統領など国のトップを貶める偽情報が引き続き拡散。アメリカでは選挙に影響を与えうる画像がAIによって容易に生成できると指摘されています。

JFCのファクトチェック記事

「(動画)金色の衣装でダンスを披露するゼレンスキー大統領」は誤り

ウクライナのゼレンスキー大統領がダンスを踊る動画に「この男が何十億ドルという私たちの税金を持ち去ったなんて信じられません」と書かれた投稿が拡散しました。これは誤りです。ダンサーが投稿した動画にゼレンスキー大統領の顔を合成したものです。

「(動画)金色の衣装でダンスを披露するゼレンスキー大統領」は誤り 合成された偽動画【ファクトチェック】
ウクライナのゼレンスキー大統領がダンスを踊る動画に「この男が何十億ドルという私たちの税金を持ち去ったなんて信じられません」と書かれた投稿が拡散しました。これは誤りです。ダンサーが投稿した動画にゼレンスキー大統領の顔を合成したものです。 検証対象 2024年2月26日、ウクライナのゼレンスキー大統領が金色の衣装でダンスを踊る動画付き投稿が拡散した。投稿には英語で「この男が私たちの何十億ドルという税金を持ち去ったなんて信じられません」「私たちの指導者はなんて愚かなのでしょうか?」と付けられている。 2024年3月1日現在、このポストは6400回以上リポストされ、表示回数は156万件を超える。投稿について「ゼレンスキーの芸人時代?」というコメントの一方で「別人」と指摘する声もある。 検証過程 Google画像検索は、画像の一部を選択して検索することができる。日本ファクトチェックセンター(JFC)は、顔が合成されている可能性を考慮し、衣装が写る部分だけを選択して検索をした。 検索結果として表示されたのはプロフィール欄にアルゼンチンの振付師でダンサーとある「P

「(画像)GoogleがGmailを2024年8月1日に終了予定」は誤り

「Gmailを2024年8月1日に終了する」というGoogle社の公式発表を装った画像が拡散しましたが、誤りです。改変されたメールが拡散しました。Google社も否定しています。

「(画像)GoogleがGmailを2024年8月1日に終了予定」は誤り メール画像を改変 【ファクトチェック】
「Gmailを2024年8月1日に終了する」というGoogle社の公式発表を装った画像が拡散しましたが、誤りです。改変されたメールが拡散しました。Google社も否定しています。 検証対象 2024年2月23日、Gmailのサービスが2024年8月1日に終了することを知らせるメールのスクリーンショットがXで拡散した(例1、例2、例3)。例1は2月29日現在、874万回以上の表示回数と3600件以上のリポストを獲得している。 この言説は、AFP、Forbes JAPANやRapplerがファクトチェックをし、「誤り」と判定している。 検証過程 言説の拡散を受けて、Google社は2024年2月23日にXで「Gmail is here to stay.」(Gmailは今後も存続します)と投稿し、サービス終了とする言説を公式に否定。投稿のトップにピン留めをしている。 「Google is sunsetting Gmail(GoogleはGmailを終了させる)」という内容の拡散したスクリーンショットは、Googleがユーザーに送信したメールを加工したも

「福岡銀行、3月14日の取り付け騒ぎに備え行員に通知」は誤り

「福岡銀行が行員に3月14日に取り付け騒ぎが起こることに備える通知をした」という言説が拡散しましたが、誤りです。誤情報の発信を繰り返すアカウントの投稿で、福岡銀行は「そのような事実はない」と否定しています。

「福岡銀行、3月14日の取り付け騒ぎに備え行員に通知」は誤り 誤情報繰り返すアカウント、福岡銀行も否定【ファクトチェック】
「福岡銀行が行員に3月14日に取り付け騒ぎが起こることに備える通知をした」という言説が拡散しましたが、誤りです。誤情報の発信を繰り返すアカウントの投稿で、福岡銀行は「そのような事実はない」と否定しています。 検証対象 2024年3月3日、「福岡銀行から、3月14日に取り付け騒ぎが起こることに備えて行員に通知がありました。これは噂でも推測でもない。私を信じてください!」との投稿が拡散した。 この投稿は2024年3月4日時点で1200回リポストされ、表示回数は130万回を超えている。 返信欄には「クレカも使えなくなると困るよね😿💳」「福岡銀行が事態に備えているというのは聞いて安心しました」との声の一方、「公式が否定してるで」「何故この状況で取り付け騒ぎですか?仮に本当だっとしてインサイダーになりませんか??(原文ママ)」と疑問を呈する投稿もある。 検証過程 この投稿の拡散を受け、福岡銀行はウェブサイトで「当行が3月14日に取り付け騒ぎが起こることに備えて行員に通知をしたという内容の投稿がございますが、そのような事実はございません」「また、経営・資金繰

著名人なりすましアカウントで広がる新しい手口 リプライで紛れ込む偽物に注意

著名人のSNSアカウントになりすます新たな手口が広がっています。同じプロフィール画像と名前を使って、一連の投稿に紛れ込む手法です。偽アカウントはLINEの投資グループへの参加を促していますが、個人情報を取られたり、詐欺被害にあったりする恐れがあります。

著名人なりすましアカウントで広がる新しい手口 リプライで紛れ込む偽物に注意
著名人のSNSアカウントになりすます新たな手口が広がっています。同じプロフィール画像と名前を使って、一連の投稿に紛れ込む手法です。偽アカウントはLINEの投資グループへの参加を促していますが、個人情報を取られたり、詐欺被害にあったりする恐れがあります。 作家や政治家など続々と標的に X(旧Twitter)上で、作家の門田隆将氏が3月6日に投稿した内容に「最近、いくつかの日本株を観察しました。上昇の変動が大きく、短期間で150%の利益を得ることができます」とリプライした投稿がある。このリプライを投稿したアカウントは門田氏と同じプロフィール画像、プロフィール欄、アカウント名だ。まるで本人が1つの投稿にリプライをつなげる形で投稿をする「ツリー状のリプライ」をしているように見える。 Yahoo!リアルタイム検索で同じような文言のX投稿を探すと、原口一博氏や鳩山由紀夫氏など、同じパターンで、著名人を名乗るなりすましアカウントが多数ヒットした(例1、例2、例3)。 偽アカウントによるリプライにはLINEの友達追加や投資を促すリンクが貼られ、こうした投稿は2024年

バイデン大統領「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいている」と発言は誤り

アメリカのバイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」などと発言する動画が拡散しましたが、誤りです。動画はAIで加工されています。

バイデン大統領「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいている」と発言は誤り AIによる偽動画【ファクトチェック】
アメリカのバイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」などと発言する動画が拡散しましたが、誤りです。動画はAIで加工されています。 検証対象 2024年3月4日、バイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」「あなたの国は小児性愛者の集団によって運営されている」と発言する動画が英語圏を中心に拡散した。 この投稿は2024年3月8日時点で1700回以上リポストされ、表示回数は65万件を超える。その後、日本語字幕付きの動画も拡散し、「ついに言いましたか」というコメントが付く一方で、「フェイク?」と指摘する投稿もある。 検証過程 拡散した動画は14秒間。バイデン大統領は英語で以下のように語っている。 「あなたのお金は偽物で、食べ物と水は汚染されており、全ての戦争は嘘に基づき、あなたの国は小児性愛者の集団によって運営されています。あなたはクソみたいな事に気を取られ、それについて何もすることができません」 この動画はいつ撮影されたものなのか。動画右上のロゴを元に

「沖縄都市モノレール(ゆいレール)の駅名表示は中国語の方が大きい」は不正確

沖縄都市モノレール(ゆいレール)の駅名表示が「日本の文字より中国語の方が大きい」という言説が拡散していますが、不正確です。メイン看板では日本語が最も大きく、補完する看板に中国語や英語、ハングル表記が日本語とともにあります。

「沖縄都市モノレール(ゆいレール)の駅名表示は中国語の方が大きい」は不正確 メイン表示は日本語が最も大きい【ファクトチェック】
沖縄都市モノレール(ゆいレール)の駅名表示が「日本の文字より中国語の方が大きい」という言説が拡散していますが、不正確です。メイン看板では日本語が最も大きく、補完する看板に中国語や英語、ハングル表記が日本語とともにあります。 検証対象 2024年3月4日、沖縄県那覇市にある、ゆいレールの県庁前駅のホームの写真とともに、「なんで日本語より中国語の方が大きいん?」と疑問を投げかけるポストが拡散した。587万の閲覧数があり、「日本語と英語だけでいいだろ」「どこの国って感じ」など共感する書き込みがある一方、「沖縄は観光客が多いから柱ごとに言語を書いているだけ」と、拡散したポストを「切り取りだ」と指摘するリポストもある。 同様の言説は5年前にも拡散。Jcastニュースが日本語より韓国語などの方が目立つ?、沖縄都市モノレール 駅名標に「違和感」の声(2019年02月4日付)」という記事を配信している。「海外からの乗客にも目立つようにしたから」という説明を紹介している。 検証過程 日本ファクトチェックセンター(JFC)はゆいレールを運行する沖縄都市モノレールに取材した

その他の関連記事

テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応

NABLAS株式会社がテキスト情報のファクトチェックツールを開発し、提供を開始しました。生成AIによって誤情報/偽情報がさらに増えていく中で、人によるファクトチェックだけでは絶対に追いつきません。こういった技術の開発と普及は偽情報対策に不可欠です。

テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応
NABLAS株式会社のプレスリリース(2024年3月6日 10時00分)テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応

生成AIが普及する中、どうやってフェイク画像から身を守るべきか?NIIが最新の研究結果を紹介

こちらは国立情報学研究所(NII)の研究についてPC Watchの記事です。偽画像や偽動画をどうやってテクノロジーで見破るか。こちらも生成AIで人の目では見分けられない偽映像が生まれてくる中で、不可欠な技術と言えます。

生成AIが普及する中、どうやってフェイク画像から身を守るべきか?NIIが最新の研究結果を紹介
国立情報学研究所(NII)は、2024年3月4日、「フェイクから身を守るには? ―創るAI vs 守るAI」と題した市民講座を、東京・一ツ橋の学術総合センターおよびオンラインで開催した。

「それって陰謀論じゃないですか?」闇の国家「ディープステート」を信じる著名人一人一人に会ってみたら…どうなった?

世界を支配するディープステート(闇の政府)が存在する、などのいわゆる「陰謀論」を語る著名人にインタビューした共同通信の記事です。元総務大臣で立憲民主党の原口一博衆院議員らが取材に応じています。

「それって陰謀論じゃないですか?」闇の国家「ディープステート」を信じる著名人一人一人に会ってみたら…どうなった? | 47NEWS
インターネットを通じて情報が手軽に得られるようになった一方で、根拠に乏しい「陰謀論」も拡散し、人々に…

リベラルと陰謀論とスピリチュアル ワクチンへの懐疑にはまる理由は

こちらは朝日新聞社のWithnewsから。この週報でも取り上げた注目の研究「人はなぜワクチン反対派になるのか」について紹介する記事です。研究チームの一人、鳥海不二夫・東京大教授へのインタビューのほか、ワクチン懐疑派との親和性がある参政党にも取材しています。

リベラルと陰謀論とスピリチュアル ワクチンへの懐疑にはまる理由は
「人はなぜワクチン反対派になるのか」。東京大学がそんなタイトルで発表したプレスリリースが、X(旧ツイッター)で話題になりました。陰謀論やスピリチュアルへの関心が「ワクチン懐疑論」への入り口になり、懐疑論をとなえる参政党への支持拡大にもつな…

選挙に関わる偽画像は容易に作成できる

ネット上の誤・偽情報、ヘイト対策に取り組むアメリカの非営利団体「CCDH​」が、AIツールに防止対策があっても選挙に影響を与えうる画像が容易に作れるとテスト結果を公表しました。BBCのリポートです。

AI can be easily used to make fake election photos - report
Researchers said they were able to evade rules against “misleading content” more than 40% of the time.

“京都 実相院が売りに”虚偽情報 SNSで拡散 寺が注意呼びかけ

鎌倉時代の古刹・実相院が売りに出されているという虚偽の投稿が拡散、実相院に問い合わせが相次いだとNHKが報じています。

“京都 実相院が売りに”虚偽情報 SNSで拡散 寺が注意呼びかけ | NHK
【NHK】京都市左京区にある寺院「実相院」が売りに出されているという虚偽の情報がSNSで拡散され、寺に問い合わせが相次ぐ事態となり…

判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら

もっと見る

「ファクトチェックしたことない」半数、フィルターバブルなどの知識も普及せず 情報インテグリティ調査から見える課題と対策

「ファクトチェックしたことない」半数、フィルターバブルなどの知識も普及せず 情報インテグリティ調査から見える課題と対策

偽・誤情報の影響やその対策などの状況を総合的に把握するため、日本ファクトチェックセンター(JFC)は電通総研と共同で「情報インテグリティ調査」を実施しました。予備調査2万人、本調査5000人を対象に、JFCが実際に検証した15の偽・誤情報を使った影響調査の他、望ましい対策などを聞きました。 偽・誤情報の影響として「ストレスや不安を感じる」(48.3%)や、「ニュースに関する関心が低下した」(44.4%)などの回答が目立っています。 一方で「ファクトチェックをおこなったことがない」(47%)、「検証方法を学んだことはない」(64.3%)など、個人でも実践できる対策は普及しておらず、デジタル時代の情報環境を理解するための基礎的な用語の理解もほとんど広がっていないことが明らかになりました。 詳細版は月内に発表予定で、ここでは概要を紹介します。 偽・誤情報の影響「ストレス感じる」「ニュースに対する関心が低下した」 調査によると、「インターネット上の誤った情報・ニュースの存在があなたのニュースに対する態度や行動にどのような影響を与えていますか」という質問に対して「

By 古田大輔(Daisuke Furuta)
ファクトチェック記事の増加と多様化 メディアリテラシー教育やAIツール開発など検証の実践的な知見を活用【JFC活動報告】

ファクトチェック記事の増加と多様化 メディアリテラシー教育やAIツール開発など検証の実践的な知見を活用【JFC活動報告】

日本ファクトチェックセンター(JFC)は2022年10月の設立からの活動をまとめた報告書を公開しました。詳しくはJFCサイトの「JFCとは」で章ごとにまとめていますので、そちらを御覧ください。 JFCとは日本ファクトチェックセンター(JFC)は、ファクトチェック(事実の検証)の実践とメディア情報リテラシーの普及に取り組む非営利組織です。民主主義の基盤であるデジタル公共空間の健全性を維持・向上させることを目的として活動します。 JFC活動報告「情報インテグリティのために」 JFCの設立経緯と組織構造:独立性を保つために JFCの設立経緯、体制、ファクトチェック組織としての独立性を保つための取り組みなどを説明しています。 JFCの設立経緯と組織構造日本ファクトチェックセンター(JFC)は、民主主義の基盤となるインターネットの言論空間の健全性を向上させることを目的とし、ファクトチェックとメディアリテラシー普及に取り組む非営利組織です。 拡散する不確かな情報について、証拠に基づいて真偽を確かめる「ファクトチェック(事実の検証)」、現代の情報環境への理解と対応力を高める「メディアリ

By 古田大輔(Daisuke Furuta)
仏政府「第三次世界大戦が来る」と国民に食料備蓄指示? まとめサイトによるもの【ファクトチェック】

仏政府「第三次世界大戦が来る」と国民に食料備蓄指示? まとめサイトによるもの【ファクトチェック】

フランス政府が「第三次世界大戦が来る」として国民に食料備蓄を指示したとする投稿が拡散しましたが、誤りです。拡散した投稿はまとめサイトのXアカウントで、見出しは掲示板サイトのスレッドタイトルを引用しているのみです。 検証対象 2025年3月25日、「フランス政府、国民に食糧備蓄を指示『今年第三次世界大戦が来る』」という投稿が拡散した。この投稿は2025年3月31日までに296万回以上の閲覧回数と4500件以上のリポストを獲得している。 検証過程 検証対象のリンクは、まとめサイト「ツイッター速報〜BreakingNews」の記事だ。タイトルは掲示板サイト5ちゃんねるのスレッド「フランス政府、国民に食糧備蓄を指示『今年第三次世界大戦が来る』」で、The People’s Voice(TPV)が2025年3月20日に配信した記事「France Orders Citizens to Stockpile Food: “World War 3 Is Coming This Year”」を引用元にしている。 TPVは「大手メディアの扱わないニュースを扱うことで読者に真

By 日本ファクトチェックセンター(JFC)
運営委員会報告書及び監査委員会報告書を公開

運営委員会報告書及び監査委員会報告書を公開

運営委員会報告書及び監査委員会報告書を公開しましたのでお知らせいたします。JFCでは運営委員会を設置し、編集部がファクトチェックガイドラインに則って検証を実施しているかなど評価しています。運営委員会の内容は、運営委員会報告書として掲載されます。 また運営委員会と編集部全体のガバナンスが適正か確認する監査委員会を設置し、運営委員会報告書を閲覧するなどして監査を行っています。監査委員会の内容は監査委員会報告書として掲載されます。  なおこれらの適切な運用を図るためにルールを制定しており、「日本ファクトチェックセンター設置規程」(規程全文はこちら)及び「日本ファクトチェックセンター監査委員会運営規程」(規程全文はこちら)を公開しています。 これからもJFCは透明性確保のため、情報公開に努めて参ります。 運営委員会報告書2024年12月12日(報告書全文はこちら) 第1 運営委員の任命並びに委員長及び副委員長等の任命プロセス 第2 編集部メンバーの採用等編集に関わる人員 第3 外部機関との連携 第4 プラットフォーマー連携 第5 ファクトチェック記事の公開状況 第6 財務報告 第7 国

By 日本ファクトチェックセンター(JFC)

ファクトチェック講座

JFCファクトチェック講師養成講座 申込はこちら

JFCファクトチェック講師養成講座 申込はこちら

日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は4月19日(土)午後2時~3時半で、お申し込みはこちら。 https://jfcyousei0419.peatix.com/ 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。 受講生には教材を提供 デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤った情報を信じてしまうところに問題があります。 JFCが国際大学グロコムと協力して実施した「2万人調査」では実に51.5%の人が誤った情報を「正しい」と答えました。一般に思われているよりも、人は騙されやすいという事実は、様々な調査で裏打ちされています。 JFCではこれらの調査をもとに、具体的にどのような知識と

By 古田大輔(Daisuke Furuta)
理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター(JFC)は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。 理論編と実践編の中身 理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。 実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です(2024年度中は受験料1000円、2025年度から2000円)。 合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

By 古田大輔(Daisuke Furuta)
JFCファクトチェッカー認定試験  教材と申し込みはこちら

JFCファクトチェッカー認定試験  教材と申し込みはこちら

日本ファクトチェックセンター(JFC)はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。 拡散する偽・誤情報から身を守るために 偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した2万人を対象とする調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。 自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。 だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座(YouTube, 記事)は、2万人調査を元に偽・誤情報の拡散経路や

By 日本ファクトチェックセンター(JFC)