偽の記者がChatGPTで記事を整え約100本掲載、ロシアとイランの世論工作をOpenAIが公表
3行でわかる
- OpenAIは10月8日、ChatGPTを使っていたロシアとイランの世論工作2件を見つけ、関係するアカウントを停止したと公表した
- イラン側は架空の記者7人を名乗り、AIで整えた記事を世界の中小のニュースサイトに売り込み、約100本が掲載された
- ロシア側は中南米で何も知らない現地の人を雇って研究所を運営し、偽の音声やメールで政府が否定する騒ぎまで起こした
OpenAIは現地時間10月8日、ChatGPTを使っていたロシアとイランの世論工作（他国の世論を正体を隠して操ろうとする活動）2件を見つけ、関係するアカウントを停止したと報告書で公表しました。イラン側は架空の記者7人の名前で、世界の中小のニュースサイトに約100本の記事を載せていました。ロシア側の工作は、影響の広がりを測る6段階の尺度で、同社が報告を始めて以来初めて「5」と評価されました。
何が発表されたか
2件に共通するのは、SNSに投稿をばらまくのではなく、実在するメディアや組織を「隠れみの」にして中身を届けようとした点です。OpenAIはこれを「偽の看板（false front）」を使った工作と呼んでいます。
What is most striking about these operations is that they closely resembled complex influence operations of the pre-AI age, but used AI to make some of the workflows easier.
これらの工作で最も目を引くのは、AI以前の時代の複雑な世論工作とよく似ていながら、作業の一部をAIで楽にしていた点だ。
原文を読む（openai.com）イラン：架空の記者7人で記事を売り込む
OpenAIが「Bogus Bylines（偽の署名）」と名付けたイランの工作は、米国とイランの紛争を扱う長い英語の記事をChatGPTで整えていました。投稿先のサイトの寄稿ルールに合っているかを確かめさせ、直した記事を編集者に売り込むメールもChatGPTに書かせています。
記者として名乗ったのは、米国人などの西側の記者を装った7人の架空の人物です。プロフィールでは「米国のフリーランス記者」と名乗っていても、SNSの所在地表示はイランになっていた例がありました。OpenAIの調査では、国際情勢や中東を扱う十数のサイトに約100本の記事が載っていました。最初の掲載は2025年7月で、2026年3月以降に急に増えています。
一方、同じ工作がChatGPTで作ったSNSのコメントは、ほとんど反応を集めていませんでした。工作員は内部の報告で、自分たちのコメントではなく返信先の投稿の閲覧数を数え、成果を大きく見せていたといいます。
ロシア：中南米で「研究所」を乗っ取る
「Dark Clark」と名付けられたロシアの工作は、中南米のウクライナの評判を落とし、アルゼンチンやボリビアなどの政治に影響を与えようとしていました。中南米で「社会研究センター」という研究機関を、架空の人物「ミア・クラーク」を通じて動かしていたとみられます。現地の職員は、ロシアのために働いているとは知らなかった可能性が高いとしています。
工作員がChatGPTを主に使ったのは、宣伝の中身を作ることより、上司への活動報告を書くことでした。その報告には、偽のメールでペルーやエクアドルの学校に行事を開かせたり、政府機関の職員を装った偽の音声を広めたりした手口が並んでいます。OpenAIが公開情報を調べると、ペルーの件はペルーとポーランドの報道につながり、エクアドルでは教育相が否定する事態になっていました。
This is the first Category 5 operation we’ve disrupted since we began our reporting.
これは、私たちが報告を始めて以来、阻止した中で初めての「カテゴリー5」の工作だ。
原文を読む（openai.com）ここでいうカテゴリーは、米シンクタンクのブルッキングス研究所が公開した、世論工作がどこまで広がったかを1〜6で測る尺度です。イラン側は「4」でした。OpenAIは2件とも関係当局に情報を共有したとしています。
背景
OpenAIはこの2年半で、ChatGPTを悪用した世論工作を30件公表してきました。報告書は、本物のメディアに中身を載せようとした工作ほど、SNSだけに頼った工作より広がりやすい傾向があると分析しています。今回の2件はどちらも、架空の記者や研究所のような「信用できそうな肩書き」を作るところに手間をかけ、文章の手直しや翻訳、報告書作りにAIを使っていました。
同様の手口はAI以前からあります。報告書は、2016〜17年に西側のメディアに寄稿したロシア軍の情報機関の偽記者や、2020年に各国の記者を知らないうちに書き手にしていたロシア系の偽ニュースサイトの例を挙げています。どちらも正体が明るみに出た後に活動をやめており、OpenAIは今回の公表の狙いを、工作を続けにくくすることだと説明しています。
反応と論点
The Decoderは、ロシア側の評価が同社の報告で初めての「5」になった点を大きく取り上げました。独TechZeitGeistは、数字はOpenAI自身の調査によるもので、どれだけの人が記事を読み、信じたかを第三者が測ったものではないと指摘しています。報告書自身も、工作員は関わっていない出来事まで自分たちの手柄として報告しており、内部の報告をそのまま信じることはできないと書いています。
AIが工作の「文章力」を底上げするのは確かですが、今回の例で効果を生んだのは、編集者や現地の職員といった、正体を知らない人の信用を利用したことでした。AIの文章を見抜く技術だけでは防げないことがわかります。
日本のビジネスへの影響
- 使えるか: 今回はChatGPTの機能や料金の変更ではなく、悪用の報告です。日本の利用者の使い方に変わりはありません。
- 誰にどう効くか: 外部からの寄稿や売り込みを受けるメディアの編集者、オウンドメディアの担当者、広報担当者に直接関係します。文章が整っていても、書き手が実在するかは別の問題です。
- 今すぐやれること: 外部の書き手から初めて寄稿を受けるときは、過去の掲載実績、SNSのアカウントの開設時期や所在地表示、ビデオ通話で本人と話せるかを確かめる手順を決めておきましょう。AIで文章を作る業務の選び方は用途別AIガイドの「文章作成」にまとめています。
- 注意点: 報告書の数字はOpenAIの調査によるもので、第三者の検証は今のところありません。掲載された記事の中にはChatGPT以外で作られた部分もあると、報告書自身が断っています。
一次情報
参考にした報道（2件）
AIデジマは、公式発表・X投稿・論文などの一次情報を起点に、複数の情報源を照合して日本語でまとめています。情報の収集・翻訳・下書き・照合にはAIを使い、編集方針と最終責任は編集長が負います（AIの活用について）。誤りを見つけた場合は訂正のご連絡をお願いします。
