2026年5月28日 / 最終更新日時 : 2026年5月28日 軍治 NATO

認知戦　パート５　（Eva Sula）

Eva SulaのLinkedInに掲載の記事の認知戦（Cognitive Warfare）に関する論稿のパート５を紹介する。（軍治）

認知戦

Cognitive Warfare

Cognitive Warfare （Part 5）: Why AI changes everything：認知戦（パート5）:なぜAIがすべてを変えるのか

2026年5月10日

Eva Sula

エヴァ・スラ（Eva Sula）は、エストニアの防衛・安全保障戦略家兼アドバイザーであり、デジタル能力、AI、自律性、作戦的統合、防衛変革を専門としている。彼女の活動は、防衛機関、産業界、イノベーション・エコシステム、そしてエンド・ユーザーを結びつけるものであり、特に新興技術を、作戦上有用かつ拡張可能な能力へと転換することに重点を置いている。

エヴァ・スラ（Eva Sula）は政府機関、サイバーセキュリティ、クラウド戦略、防衛関連の分野で幅広く活動しており、ドローン、相互運用性、レジリエンス、情報環境、ウクライナ情勢から得られる教訓といったテーマについて、NATOや欧州の防衛イニシアチブ、同盟国の防衛関係機関、産業界、軍事組織と定期的に連携している。

また、エヴァ・スラ（Eva Sula）は、NATO DIANAにおけるメンタリングやアクセラレーター活動、NATOおよび同盟国圏内のイノベーターとの連携などを通じて、防衛イノベーションやデュアルユース技術のエコシステムを支援している。

  1. AIは認知戦を生み出したわけではないが、作戦条件を変えた
  2. 手作業による影響から産業化された影響へ
  3. これまでのすべてのツールの増幅器としてのAIである
  4. 合成メディアと検証時間の崩壊
  5. パーソナライズ:大量プロパガンダから精密な影響力へ
  6. AIと累積条件付け
  7. データ・ポイズニング（data poisoning）、OSINT汚染およびモデル汚染
  8. サイバー活用の影響力作戦におけるAI
  9. これが政府、選挙、そして公共の信頼に何を意味するのか
  10. これが防衛と指揮官にとって何を意味するか
  11. 過剰依存の問題:AIが認知的脆弱性となる場合
  12. なぜこれに対して防御が難しいのか
  13. 実用的な認識に関する質問
  14. 結論:AIはテンポを変えるのであって、目標を変えるのではない
  15. さらなる参考文献と推奨情報源

1. AIは認知戦を生み出したわけではないが、作戦条件を変えた

影響力、欺瞞、プロパガンダ、心理的圧力（psychological pressure）、反射的統制（reflexive control）、ナラティブ戦、戦略的操作は人工知能が登場するずっと前から存在していた。これらは大規模な言語モデル、ディープフェイク、合成音声、自動化されたコンテンツ・ファームから始まったわけではない。国家、インテリジェンス機関、軍、政治運動、過激派組織は常に知覚（perception）を形成し、恐怖を利用し、信頼を影響し、敵対者を有利な選択へと導こうとしてきた。

AIが変えるものは目標ではない。作戦条件が変わる。

ターゲットは馴染み深いままである:信頼、知覚（perception）、解釈、意思決定、結束、振舞いである。しかし、手段はより速く、安価で、拡張性が高く、パーソナライズされ、持続的で適応力も高まっている。かつては大規模なプロパガンダ組織、翻訳者チーム、人間コンテンツ・ファーム、メディア・インフラ、長期の準備期間が必要だったものが、今でははるかに小さなワークフローに圧縮できるようになった。ナラティブは、これまでよりもはるかに少ない摩擦で生成、ローカライズ、テスト、調整、翻訳、視覚的パッケージ化、再配布が可能である。

これが認知戦においてAIが非常に重要な理由である。古いツールボックスの代わりにはならない。それが強化する。これにより、ナラティブの枠組みがよりローカライズされやすくなり、影響力作戦の規模拡大が容易になり、合成ペルソナの作成が容易になり、嫌がらせの自動化が容易になり、アルゴリズム操作がテストされやすくなり、反射的統制（reflexive control）も常にカスタマイズされた手がかりの流れでサポートしやすくなる。実際には、AIは多くの馴染み深い手法をより速く、安価で、より持続的なバージョンに変えている。

マイクロソフトの2025年デジタル防衛報告書は、この変化を直接的に説明しているため有用である。政府の要約には、過去6か月間で影響力作戦におけるAIの利用が「積極的に増加した」と述べられており、AIファーストの行為主体の台頭と註釈され、伝統的な手法や操作よりもAI生成コンテンツやツールを優先する国家機関も含まれる。マイクロソフトの2025年の広範な報告は、国家関係者がAIを急速に導入し、影響力戦役（influence campaigns）を拡大し、合成メディアで情報空間を溢れ、紛争のナラティブを形成している様子も説明している。

この観察は、現在の環境の読み方を変えるべきである。AIはもはや周辺の作戦に影響を与えるための単なる付属品ではない。場合によっては、それが作戦上のモデルそのものとなる。コンテンツ制作、ペルソナ生成、言語適応、画像、動画、ボイス・クローン、感情分析、聴衆分類（audience segmentation）、増幅はすべて自動化または半自動化システムによってサポート可能である。その結果、必ずしも洗練された意味で洗練されているわけではないが、より豊富で適応力があり、使い果たしにくくなる。

これにより防御者の負担も変わる。敵意ある行為主体が同じナラティブの複数のバージョンを作成し、異なる聴衆でテストし、プラットフォームの反応や世論の反応に素早く適応できるなら、伝統的なカウンター・メッセージだけでは不十分になる。課題はもはや誤った主張を訂正することだけではない。AIが操作のリズム自体をどのように変えるかを理解することである。

防衛と国家安全保障のために、そのリズムは重要である。指揮官、計画担当者、政府、社会は、合成資料、AI支援のナラティブ、汚染されたオープンソース・データ、自動増幅が信憑性や緊急性、あるいは広く信じられているものを形作る情報環境でますます活動している。危険なのは、人々が偽の画像や虚偽の話を信じてしまうことだけではない。より深い危険は、AIが周囲の環境をより信頼しにくくし、検証を難しくし、現代の危機が要求する速度で安定化を難しくすることである。

したがって、このシリーズのこの部分は、AIが認知戦においてすべてを変える理由に焦点を当てている。それはAIが問題を発明したからではなく、問題の規模、速度、コスト、パーソナライズ、持続性、適応性を変えるからである。それは影響力を断続的なものから、ほぼ継続的な作戦環境へと変え、防衛機関に対して特定のコンテンツが本物かどうかよりもはるかに難しい問いを投げかけることを強いる。

より難しい問いは、圧力の中で決心を支える情報環境が依然として信頼できるかどうかである。

2. 手作業による影響から産業化された影響へ

AIが認知戦にもたらす大きな変化は、古いボトルネックの解消である。影響力作戦はかつて時間、人員、言語スキル、メディア・インフラ、手動テスト、そして比較的目に見える調整を必要としていた。大規模な国家支援の作戦でさえ、実質的な限界があった。コンテンツは人々によって書かれ、翻訳され、適応され、配布され、監視され、調整されなければならなかった。ペルソナは手動で維持しなければならなかった。戦役は人間の生産サイクルを経なければならなかった。その摩擦は操作を妨げるものではないが、テンポと規模を制約していた。

AIは影響力プロセスのほぼすべての段階でその摩擦を減らす。コンテンツ制作が速くなる。翻訳やローカライズは安くなる。偽のペルソナは生成し維持しやすくなる。ナラティブは複数のバリエーションで試すことができる。画像、音声、映像は高速で作成可能である。メッセージは異なる聴衆、言語、感情的なトリガーに合わせて適応でき、同じレベルの人間の労力を必要としない。かつては戦役のように見えたものが、動き続け、学び、調整し、再分配し続ける操作ラインのように見え始める。

ここで用語「工業化の影響（industrialised influence）」が役に立つ。懸念されているのは、さらなる虚偽のコンテンツが生み出される可能性があることだけではない。懸念は、インフルエンスのワークフロー全体がよりモジュール化され、拡張可能になることである。戦役は今やAI生成記事、合成画像、クローンされた地元メディア・ブランド、偽のソーシャル・アカウント、協調的な増幅、インフルエンサーのマネーロンダリング、クロスプラットフォームの繰り返しを組み合わせ、単一の中央プロパガンダ製品というより分散型サプライ・チェーンのように見えるように見せることができる。2026年の欧州対外行動局（EEAS） 外国情報操作および干渉（FIMI）脅威報告書は、AI生成のテキスト、音声、操作された映像がもはや実験的な付加物ではなく、外国情報操作活動の日常的な要素となっている環境を描いている。

カヤ・カラス（Kaja Kallas）は2026年の対外国情報操作および干渉（Counter FIMI）会議の演説でも、同じ構造的変化を捉え、次のように述べた。「操作の市場（marketplace for manipulation）」 ここで行為主体は活動を仲介者、民間企業、インフルエンス・フォー・ハイヤー・ネットワーク、デジタル・マーケティング行為主体にアウトソースする。この枠組みは重要である。なぜなら、議論を国営放送局や明らかなトロール・ファームという古いイメージから逸らすからである。現在の環境には、契約業者、プロキシ・エコシステム、商用サービス、否認可能なオペレーター、プラットフォーム・ネイティブのアンプが含まれる。影響力は購入し、組み立て、適応し、再配置できるものになる。

マイクロソフトの2025年デジタル防衛報告書は、脅威インテリジェンスの側面からこれを裏付けている。これは、国家主体がより高度でターゲットを絞った、スケーラブルな戦術を採用すること、例えばAIを迅速に活用して自動的かつ大規模な影響力戦役（influence campaigns）を展開する様子を描いている。マイクロソフトはまた、国家関係者がインテリジェンス収集や世間の知覚の操作（public-perception manipulation）に注力し続けており、紛争のナラティブを作り上げたり、情報空間に合成メディアを大量に投入して聴衆の感覚を鈍らせ、検知システムを消耗させていることを指摘している。

この産業化は、いくつかの実務のレイヤーを同時に変えている。

  • 生産速度: 大量の投稿、記事、コメント、キャプション、スクリプト、画像、短い動画を迅速に生成できるため、影響力活動はほぼリアルタイムでイベントに反応できる。
  • ローカリゼーション: ナラティブは現地の言語、慣用句、政治的な言及、文化的な要素に適応でき、外国の影響をより国内的かつ社会的に根付かせることができる。
  • ペルソナ作成: 偽の身元、プロフィール・テキスト、背景ストーリー、サポート・コンテンツは大規模に作成でき、偽物や半偽の行為主体をより信憑性のあるものに見せることができる。
  • テストと反復: 複数のバージョンのナラティブを素早くテストし、どの枠組みが最も強い反応を引き起こすかを見極め、その後洗練・再分配される。
  • クロスプラットフォーム配信: 同じナラティブは、長編の疑似ジャーナリズムから短い動画、コメント、ミーム、スクリーンショット、ボイスノート、インフルエンサーのトーキング・ポイントまで、さまざまなフォーマットで再構成可能である。

OpenAIの2026年脅威報告も別の角度から同じパターンを示している。悪意のあるAI利用の分析によれば、脅威行為主体は通常、AIモデルとウェブサイトやソーシャル・メディア・アカウントなどの伝統的なツールを組み合わせてAIを単独で使うことは少ないと指摘している。これがまさに工業化された影響力の作戦上の現実である。AIは旧来のインフラに取って代わるものではない。これにより、従来のインフラがより生産的で適応力が高く、拡張しやすくなる。

最も重要な変化は、規模が同じように可視性を必要としなくなったことである。大規模な影響力作戦は、今や断片的で局所的、そして緩やかに繋がっているように見えることがある。一部はニッチなニュース・サイトのように見えるかもしれない。別のアカウントは活動家のアカウントのように見えるかもしれない。また別のインフルエンサーとして現れることもある。もう一つは、AI生成のコメントや画像のストリームである。また、サイバーを利用したものもあり、リークや偽のリーク、盗まれた資料をナラティブの燃料として利用している。それぞれの曲は単独では限界に見えるかもしれないが、一体となって反復、親しみ、圧力を生み出す。

だからこそ、AI活用の影響力（AI-enabled influence）に対抗することは、単なる偽物の検出や個別の主張の否定に還元できない。より深い課題は、プロダクション、ローカライゼーション、増幅、振舞いのターゲティングがワークフローに結びついているタイミングを見極めることである。影響力が産業化されると、擁護者はもはや一つのメッセージに向き合う必要はなくなる。防御者は、伝統的な機関が快適に検証・対応できるよりも速く操作を生成・適応・配布するようにデザインされたシステムに直面している。

防衛と国家安全保障にとって、これは直接的な影響を及ぼす。工業化された影響力はウクライナへの支持を蝕み、選挙への信頼を弱め、制裁に対する疲労を生み出し、動員への疑念を増幅させ、防衛産業への信頼をターゲットにし、同盟の結束に圧力をかけるために使われる可能性がある。また、指揮官や政策立案者が事象を解釈する環境にも影響を与える。情報空間が常に局所的で感情的に調整されたAI支援のシグナルで満たされているなら、難しさは真実と虚偽を区別することだけではない。難しさは、環境自体が大規模に作り込まれている間に、十分な明快さ、自信、そして健全な判断を下すペースを維持することである。

3. これまでのすべてのツールの増幅器としてのAIである

AIは認知戦のツールボックスの隣に別個のカテゴリーとして位置するものではない。ツールボックスを通り、パート4で既に議論されたほぼすべての方法を増幅する。ナラティブの枠組みはローカライズしやすくなる。疑似ローカル・メディアの製造が容易になる。ボットのエコシステムはより適応的になる。合成ペルソナがより信憑性を帯びるようになる。ディープフェイクは制作が速くなる。嫌がらせは規模拡大しやすくなる。アルゴリズムの可視性はテストや最適化が容易になる。反射的統制（reflexive control）は、常にカスタマイズされた手がかり、偽のシグナル、もっともらしい解釈の流れによって支えやすくなる。

OpenAIの2026年脅威報告は「AIと既存インフラの組み合わせ」という見解を非常に明確に支持している。評価によれば、悪意のある行為主体はAIモデルをウェブサイトやソーシャル・メディア・アカウントなどの伝統的なツールと組み合わせることが多く、AIを単独で使うことはほとんどない。それこそが我々が理解すべき作戦パターンである。AIはウェブサイト、ソーシャル・プラットフォーム、偽のペルソナ、サイバー・アクセス、ボット・ネットワーク、影響力を持つオペレーターに代わるものではない。これにより、より生産的で柔軟になり、消耗しにくくなる。

だからこそ、AIの議論は「ディープフェイクは危険だ（deepfakes are dangerous）」や「ボットは今や速くなった（bots are faster now）」というレベルにとどまってはいけない。より大きな変化は、AIが生産からターゲティング、増幅から振舞いの条件付け、欺瞞から決心の操作（decision manipulation）へと至るまでの全チェーンを強化している点である。マイクロソフトの2025年デジタル防衛報告書は、国家レベルの脅威行為主体がAIを急速に採用し、自動的かつ大規模な影響力戦役（influence campaigns）を生み出し、紛争のナラティブを形成し、合成メディアで情報空間を大量に流していると説明している。これはコミュニケーション環境におけるわずかな変化ではない。それは敵意ある影響のテンポと経済の変化である。

実際的には、AIは以前の認知戦手法をいくつかの方法で増幅している。

  • ナラティブの枠組みはより速く、より局所的になる。同じ戦略的なストーリーラインは、同じレベルの肉体労働なしで、異なる言語、政治文化、地域の不満、感情的なトリガーに合わせて書き換えられる。
  • 疑似ローカル・メディアの構築コストが安くなる。AI生成記事、クローンされたアウトレット美学、合成著者、翻訳コンテンツは、外国の影響を国内的またはコミュニティベースに見せることができる。
  • ボットやペルソナのエコシステムはより信頼性が高まる。合成アイデンティティは、より自然な言語、不規則な投稿パターン、文化的な言及、会話的な応答を用いることがあり、それが協調的または人工的であることを認識しにくくする。
  • 嫌がらせやスウォームの振舞いは規模拡大しやすくなる。AIは無限の攻撃、非難、嘲笑、評判の中傷を生み出し、ジャーナリスト、アナリスト、公務員、兵士、専門家への圧力を高めている。
  • アルゴリズムによるテストはより速くなる。ナラティブは、関与や憤り、感情的な動きを得るものに応じて、テストされ、調整され、再分配されることがある。
  • 反射的統制はよりデータ豊富になる。敵対者が意思決定者を取り巻く手がかり、入力、解釈を形作ることができれば、AIはそれらの手がかりを迅速に生成・適応させる手助けをする。

同じ論理はサイバー活用の影響力（cyber-enabled influence）にも当てはまる。マイクロソフトの報告は、AIが脅威行為主体のフィッシングの自動化、ソーシャル・エンジニアリングの拡大、合成メディアの作成、より高度でターゲットを絞った戦術の支援を支援することを説明している。これは、サイバー作戦と認知作戦がますます相互に強化し合うため重要である。サイバー・アクセスは盗まれた資料、偽のリーク、アカウントの侵害、インフラの混乱を引き起こす可能性がある。AIはその後、政治的または心理的効果を生み出すようにデザインされた方法で、その資料をパッケージ化、翻訳、ナラティブ化、配布する手助けをする。

これを理解する上で役立つのは、AIがアクセス、コンテンツ、増幅、そして効果の間の距離を縮めるという考え方だ。もし行為主体が文書を盗み、偽造、アカウントを侵害し、公開データをスクレイピングし、合成コンテンツをプラットフォームに大量に流用した場合、AIは原材料をナラティブに変換し、それを異なる聴衆に合わせて適応させる手助けをする。効果はすべての出力が完璧であることに依存しない。検証が追いつく前に、十分な十分な成果物がもっともらしく、感情的に共鳴し、知覚（perception）を形作るほどに可視化されている必要がある。

ここでデータ・ポイズニング（data poisoning）が中心的な問題となる。敵対者はAIを使ってコンテンツを作成するだけでなく、AIシステムが依存する情報環境を汚染することもある。アトランティック・カウンシルは2025年に、親クレムリンのプラウダ・ネットワークが、ロシアのナラティブを権威ある情報源として提示し、後に大規模言語モデルや情報システムによって引用される可能性を冒すことで、AIツールやウィキペディアを毒しようとしていると報告した。CEPAは2026年初頭に同様の問題を指摘し、ロシアの偽情報がAIシステムが依存する情報環境を腐敗させるようにデザインされており、言語モデルが内部の真実理解ではなく、反復、見かけ上の合意、相互参照されたウェブ資料に依存していることを利用していると主張した。

防衛および国家安全保障にとって、これは非常に深刻な問題である。AI支援ツールがOSINTのトリアージ、インテリジェンスの要約、脅威監視、ナラティブ分析、決心支援に使われる場合、汚染されたオープンソース環境は汚染された入力となり得る。敵意ある行為主体は、AIツールが何を見るか、取得するもの、要約するもの、ランク付けを形作れるなら、直接破壊する必要はない。ウェブサイト、ソーシャル・メディア、疑似ニュース媒体、公開データセットで十分な数の低品質または敵対的な資料が繰り返されると、AIシステムは歪んだシグナルを正当なパターンのように浮かび上がらせ始めるかもしれない。

組織がエージェント型AIに移行するにつれて、そのリスクはより深刻になる。伝統的なAIツールは出力を生み出す。エージェント型システムは、情報の取得、ツール呼び出し、ワークフローの実行、推奨の作成、ファイルを操作し、システムとやり取りし、その後の行動を自律性の差は異なる形で実行することがある。2026年の防衛関連アドバイザーでは、エージェントAIサービスの慎重な導入に関するアドバイザーでは、プロンプト・インジェクションや脱獄がエージェントを不正な行動に誘い、データ・ポイズニング（data poisoning）はエージェントの意思決定を劣化またはバイアスさせる可能性があると警告している。エージェント型AI攻撃の分野に関する研究も同様に、エージェントが機密作戦中に攻撃者提供または汚染されたデータを消費する際の悪意あるデータ注入のリスクを浮き彫りにしている。

ここで「AIエージェント（AI agents）」や「バイブ・コーディング（vibe coding）（AIにコーディングさせること）」への流行の流れが、テック業界を超えて重要になる。ユーザーがAIツールで迅速にワークフローを構築し、データに接続し、メール、ドキュメント、コード・リポジトリ（code repositories）（コードの保管場所）、OSINTフィード、作戦上のダッシュボードに連携することで、ガバナンスよりも速く能力を創出できるかもしれない。これは低リスク環境では有用であるが、防衛、国家安全保障、危機対応、重要インフラにおいては、アーキテクチャなしの速度は脆弱性となる。エージェント型システムには境界、出所確認、監査可能性、人間の確認ポイント、そしてデータ、指示、ツール、認可の明確な分離が必要である。

リスクはAIが無意味であることではない。リスクは、AIが理解されるよりも早く信頼されることである。

防衛の文脈では、その影響は重大になり得る。汚染されたOSINTを要約するモデルは、誤った傾向を過大評価することがある。内部文書に接続されたエージェントは、敵対的コンテンツを指示として扱うことがある。計画策定アシスタントは、不完全または操作された前提に基づいて選択肢をランク付けすることがある。コーディング・アシスタントは、安全でない依存関係を導入したり、誰も適切にレビューしないソフトウェアを作成したりすることがある。「役立つ」ワークフローは、自信があり、速く、技術的に印象的であるため、悪い判断を早めることがある。

だからこそガードレールは見た目だけのものではない。それらは稼働しなければならない。最低限、防衛および国家安全保障のニーズにおける高リスクAI利用は以下を必要とする。

  • データの出所管理ユーザーは入力の出所や信頼できるかどうかを知るためである。
  • ソースの重み付けと敵対的コンテンツ検出、特にOSINTや公共情報環境におけるもの
  • 作戦上の決心前の人的検証、特に成果が計画策定、ターゲティング、動員、または公共のコミュニケーションに影響を与える場合
  • 監査ログと説明可能性、したがって決定を再構築し、異議を唱えることができる。
  • バウンデッド・エージェント認可、したがって、AIツールは明示的にデザインされた役割を超えて行動することはできない。
  • レッド・チーミングと敵対的テスト、プロンプト・インジェクション、脱獄、データ・ポイズニング（data poisoning）、汚染源シナリオなどが含まれる。
  • 明確な責任、だからこそ、「AIが勧めた」というフレーズの裏に責任が消えることはない。

OpenAIの2026年脅威報告書、マイクロソフトの2025年報告書、そしてエージェントAIに関する増え続ける安全保障文献はすべて同じ方向を示している。悪意のある行為主体は完璧なシステムや完璧なドクトリンを待っていない。彼らはAIと既存のインフラを組み合わせ、弱いガバナンスを突き、速度、量、妥当性を作戦上の優位性（operational advantages）として利用している。

復元性については、この教訓は不快であるが必要なものである。AIは検出、分析、翻訳、トリアージ、対応を強化する一方で、毒された入力を増幅し、操作を加速させ、敵対者がターゲットにする新たな依存関係を生み出すこともある。したがって、防衛側の課題はAIを使うかどうかではない。防衛組織は情報の量と速度が要求するため、これを使う。本当の課題は、情報環境やデータ・パイプライン、決心プロセスを新たな認知的攻撃面に変えずに活用できるかどうかである。

 4. 合成メディアと検証時間の崩壊

合成メディアはコンセプトとして新しいものではない。偽造文書、偽造された写真、偽証人、なりすまし、偽造証拠は長らく積極的な手段、インテリジェンス作戦、政治的操作、戦時中の欺瞞の世界に属してきた。AIが変えるのは、これらの資料が今やどのように生産され、情報環境に挿入されるかの速度、コスト、現実性、そして量（volume）である。この方法は古いものである。生産サイクルは新しい。

だからこそ、合成メディアは単なる「ディープフェイク」以上のものとして理解されなければならない。現在、このカテゴリーにはクローン音声、捏造スクリーンショット、操作画像、AI生成動画、合成証人、偽インタビュー、疑似ローカル・ジャーナリズム、偽のリーク、偽文書、そして迅速に流通するために十分に信憑性のあるようにデザインされた偽造証拠パッケージが含まれている。認知戦において、目標は法医学の精査に永遠に耐える遺物を作ることは稀である。目標は、検証が追いつく前に知覚を形作るまで、信頼できるように見える資料を作ることである。

ユーロポール（Europol）は長年にわたり、ディープフェイクや合成メディアが法執行機関、証拠の信頼性、詐欺防止、そして公共の信頼に深刻な課題をもたらすと警告してきた。その分析は、ディープフェイクを未来的な新奇性ではなく、捜査や身元、そして視聴覚証拠への信頼に対する実質的な脅威として位置づけている。マイクロソフトの2025年デジタル防衛報告書は、国家関係者がすでに合成メディアを使って紛争のナラティブを形成し、情報空間を氾濫させて聴衆を鈍感にし、検知システムを疲弊させていると指摘し、同じ問題を国家安全保障環境に持ち込んでいる。

ここで、従来の能動指標の論理が非常に明確になる。伝統的な積極的措置は、偽造の手紙、捏造された話、偽の専門家、改ざんされた写真、フロント組織、そして一見独立したルートを通じたナラティブの洗浄に頼ることが多くあった。到達目標は単に直接欺くだけでなく、信頼できるまたは半信頼の経路を通って「証拠」を作り出すことだった。AIはその論理をより速く、規模拡大しやすくする。偽造された手紙には合成音声クリップを添えるようになった。偽のローカル・ニュース・サイトはAI生成のインタビューを掲載することができる。捏造された告発は、スクリーンショット、音声メモ、画像、そして危機の最初の数時間を十分に利用するために迅速に作成された疑似ジャーナリスティックな枠組みによって裏付けられることがある。

最近の事例は、これが実際にどのように機能しているかを示している。マイクロソフトは、ロシア系の行為主体たちがパリオリンピックをターゲットに、トム・クルーズ（Tom Cruise）のディープフェイク動画、Netflix風の偽ドキュメンタリー「Olympics Has Fallen」、パロディ放送、捏造映像、そして大会の暴力に関する恐怖のナラティブなどの戦役を展開したと報告した。この戦役の価値は、単に偽の有名人の声や偽の映画フォーマットだけではなかった。合成メディアを使って馴染みのある文化的形態から信憑性を借り、ショック効果を生み出し、不安や制度の失敗というより広範なナラティブを押し進めたのである。

同様のパターンは選挙関連の文脈でも見られる。ドイツ当局は2025年に、偽動画、疑似メディア・サイト、Storm-1516ネットワークに関連する偽のソーシャル・メディア・アカウントを通じて連邦選挙戦役をターゲットとしたロシアの偽情報について警告した。AP通信は後に、ドイツが破壊工作、サイバー攻撃、選挙干渉の疑いでロシア大使を召喚したと報じ、関係者はディープフェイク技術、捏造情報源、疑似ジャーナリズム・プラットフォームを用いたStorm-1516戦役を説明した。これらの事例は、合成メディアが単独のトリックとしてではなく、偽の証拠、偽の配布環境、政治的なタイミングを組み合わせた広範な影響力パッケージの一部としてますます使われていることを示している。

フランスは、合成メディアとメディアなりすましがいかにして信用洗浄に結びつくかを示す有用な例を示している。ル・モンドは2025年にル・モンドとブリュットを装った偽ニュース・サイトが、マクロン（Macron）大統領が1億4800万ユーロの大統領用地下壕を建設していると主張する捏造記事を掲載したと報じた。その記事にはAI生成の動画と偽のインタビューが含まれており、Xの投稿は80万回以上の閲覧数を記録したと報じられている。この戦役はロシアの関係者と関連し、偽コンテンツやAI生成資料、内部告発者や専門家を装う有料行為主体で知られるグループStorm-1516によるものとされている。

これらの例は、合成メディアが作戦上有用であるために完璧である必要はないことを示すため重要である。偽の動画は後に否定されることがある。後に偽造されたインタビューが追跡されることもある。クローンされたメディア・サイトが後に暴露される可能性がある。しかし、最初の数時間や数日間、その資料は感情的な受容を生み、機関を反応モードに入らせ、敵意あるネットワークに具体的な情報を拡散させることができる。実際には、AIは捏造から配布までの時間を圧縮するが、民主的な制度は依然として検証、帰属、法的注意（legal caution）、そして公共のコミュニケーションに時間を必要とする。

検証時間の崩壊は、戦略的な中核的な効果の一つである。危機の際には、政治指導者による偽の発言、軍関係者に帰属する偽の命令、戦場の目撃者の捏造証言、重要インフラの事件からの操作画像などが、公式な確認よりも速く進むことがある。攻撃者は欺瞞を永続的に維持する必要はない。最初の解釈を形成したり、公式なバージョンに疑念を生んだり、意思決定者に認知的に存在すべきでなかった事実を否定するのにほとんど時間を費やさなければならなかった。

これは直接的な防衛および国家安全保障に影響を及ぼす。軍事および政府の意思決定は、機密インテリジェンス、オープンソース画像、ソーシャル・メディア、商業データ、公開報道、AI支援分析など、混合情報環境にますます依存している。もし合成素材が大規模にその環境に流入すれば、状況認識を汚染し、世論の圧力を歪め、エスカレーション管理を複雑にする可能性がある。部隊の移動を偽造した映像、インフラの損傷の偽造画像、弾薬不足に関する偽造文書、あるいは指揮官のクローン音声メッセージなど、明確さと迅速な情報が最も求められる瞬間に混乱を引き起こす可能性がある。

リスクは公衆に限られない。合成メディアは、機関を直接ターゲットにすることもある。ボイス・クローンは詐欺、なりすまし、ソーシャル・エンジニアリング、作戦上の妨害に使われることがある。ユーロポール（Europol）とAPの組織犯罪とAIに関する報告は、ボイス・クローンやディープフェイクがすでに新たな詐欺や恐喝の形態に使われており、同じ手法は防衛組織にも関連していると指摘している。なぜなら、アイデンティティ、権威、指示への信頼が安全な作戦の中心だからである。

これが合成メディアが二次的な信頼問題を生み出す理由でもある。人々が十分に操作されたコンテンツを目にすると、すべての証拠、特に本物の証拠に対してより懐疑的になるかもしれない。この「嘘つきの配当」は敵意ある行為主体にとって有用である。なぜなら、本物の資料を偽物として片付け、偽物をもっともらしいものとして流通させることを可能にするからである。紛争現場では、これが戦争犯罪の記録、戦場報告、公的説明責任、そして公式なコミュニケーションへの信頼を損なう可能性がある。インターポールは、合成メディアが証拠の信頼性を損ない、捜査を妨害する可能性があると警告しており、これは圧力の中で説明責任を維持しようとする社会にとって直接的な問題である。

復元性についての教訓は、すべての機関がディープフェイクのたびにパニックに陥らなければならないということではない。教訓は、検証をより速く、より構造化し、危機対応のコミュニケーションや作戦上のワークフローに統合されるべきだということである。それには出所確認、信頼できるチャネル、メディアフォレンジック、情報源認証、公開の事前準備、そして危機時に合成資料が出現した際の明確な手順が必要である。また、関係者やメディアの対応にも規律が必要である。なぜなら、合成素材に対して感情的に反応すると、意図した攻撃者の効果が意図せずに増幅してしまう可能性があるからである。

AIは完璧な欺瞞を生み出す必要はない。ただ、修正が遅れ、機関がテンポを失い、聴衆が何を信頼できるか疑い始めるほどの十分なもっともらしい証拠を十分に早く生み出せばいい。認知戦において、露出と検証の間の短い空白は技術的な不便ではない。それは戦闘空間なのである。

5. パーソナライズ:大量プロパガンダから精密な影響力へ

AIは操作を個人により近づけることで影響力を変える。従来のプロパガンダ・モデルはマスメッセージングを中心に構築されていた。ポスター1枚、放送1枚、新聞一行、公式なナラティブ1つ、大衆1人。現代の影響は依然として大衆的なナラティブを用いているが、AIはそれらのナラティブを異なるコミュニティ、言語、恐怖、不満、アイデンティティ、振舞いのシグナルに合わせて個別に分割することをはるかに容易にしている。同じ戦略的なメッセージは何度も書き換えられ、受け取る聴衆にとって地域的で個人的かつ感情的に関連性のあるものに感じられる。

ここで人間の心はより露出する。人は抽象的な議論だけで操作されることはほとんどない。メッセージがすでに恐れ、恨み、不信、希望、屈辱を感じているものに触れると、より脆弱になる。AIは敵意ある行為主体がその感情的な侵入点を特定し、それに合ったコンテンツを作成するのを支援する。あるグループは腐敗に関するメッセージを受け取ることもある。また別の人には移住に関するメッセージが届くこともある。また別の国は、戦争疲労、エネルギー価格、国家アイデンティティ、エリートの裏切り、宗教的緊張、同盟国への不信感などのメッセージを受け取ることがある。戦略的目標は同じかもしれないが、感情の経路は異なる。

だからこそ、パーソナライズは単なる量よりも危険である。音量は環境に溢れるが、パーソナライズによって操作が重要に感じられる。一般的な反ウクライナのナラティブは、多くの聴衆に無視されるかもしれない。ウクライナの支援を暖房費、農民の不満、動員への不安、防衛費、ブリュッセルへの不信感と結びつける局所的なバージョンは、さらに広がる可能性がある。選挙、防衛討論、危機対応にも同様である。メッセージは全員を納得させる必要はない。反応しやすいコミュニティを見つけ出し、既存の解釈を強化する資料を継続的に提供すればよい。

AIはこれをいくつかの実用的な方法で支援している。

  • 聴衆分類（audience segmentation）、言語、場所、政治的アイデンティティ、不満のパターン、振舞いのシグナルに基づいて異なるグループがターゲットにされる。
  • ナラティブの変異、一つの戦略的な線が多くの地域的かつ感情的なバージョンに書き換えられる。
  • 言語と文化の適応、コンテンツは家庭的で親しみやすく、社会的に根付いたものに聞こえて作られている。
  • 振舞のテスト、異なるメッセージを試し、どのバージョンが最も強い関与、憤り、恐怖、または共有した振舞いを生み出すかを試す。
  • 合成ペルソナ、偽アカウントや半偽アカウントが、集権的なものではなくピアベースに見える形でコミュニティと交流する。

OpenAIの2026年脅威報告は、悪意のある行為主体がAIを単独で利用していないことを示すため有用である。AIモデルとウェブサイト、ソーシャル・プラットフォーム、その他のインフラを作戦上のワークフロー全体で組み合わせている。これは重要な点である。なぜなら、パーソナライズには完璧なAIシステムが一つ必要とされていないからである。コンテンツ生成、ターゲティング、配信、フィードバックを安価かつ繰り返し接続できるワークフローが必要である。

最近の例は、これがすでに政治的・安全保障の環境に進出していることを示している。OpenAIは以前、イランのグループ「Storm-2035」に関連するアカウントを妨害しており、同社はChatGPTを使って米国大統領選挙、ガザ紛争、イスラエルのオリンピック参加に関するコンテンツを生成していた。ロイターは、マイクロソフトがニュースメディアを装ったウェブサイトを通じて「Storm-2035」が米国の有権者グループを分断しようとしているのも目撃したと報じた。関与は限定的だったと報じられているが、このケースは分断を招く問題を特定し、カスタマイズされたコンテンツを生成し、擬似メディアやソーシャル・チャネルを通じて配信し、それが成功するかどうかを検証するワークフローを示しているため、依然として重要である。

モルドバはさらに鋭い復元性と国家安全保障の例を示している。AP通信は2025年に、モルドバが議会選挙を前にAI主導のロシアの偽情報に直面していると報じた。偽サイト、偽のソーシャル・メディア・アカウント、AI生成コンテンツ、エンゲージメントファームが親欧州派の与党を弱体化させ、親ロシア的なナラティブを推進するために使われている。それは選挙だけの問題ではない。これは地政学的な連携の問題であり、情報環境がモルドバの欧州の道筋とロシアの影響に対する脆弱性を中心に形成されていたからである。

中国と連携した影響力活動は、アジアとアメリカ合衆国全体で同様の傾向を示している。タイム誌が取り上げたマイクロソフトの報告では、中国の国家支援の関係者がミーム、音声録音、合成プレゼンターなどのAI生成コンテンツを使い、台湾、日本、アメリカをターゲットにしていると説明している。例としては、台湾の選挙での偽の支持表明、日本の廃水放流に対する怒り、米国の災害に関する陰謀論などが含まれていた。世論への影響は限定的だったが、方向性は明確である。AIは、すでに不信や怒りを引き起こす可能性のある問題に関して、地域的に共鳴する素材をより速く生成できるようにする。

防衛と国家安全保障のために、敵対者が有権者に影響を与えるリスクだけではない。それは、防衛に関する意思決定に関する社会的条件をターゲットにできるということである。個別の影響力は、動員、募集、防衛費、連合国支援、制裁の持続力、軍の指導力への信頼などで重要なグループにリーチするために使われる。軍人の家族が恐怖ナラティブでターゲットにされることがある。産業労働者は経済的裏切りのメッセージでターゲットにされることがある。農村地域は動員不安のターゲットとなることがある。「ディアスポラ（diaspora）」のコミュニティは、アイデンティティや故郷のナラティブでターゲットにされることがある。防衛専門家は、リーダーシップ、腐敗、無意味さに対する皮肉をもってターゲットにされることがある。

これは指揮官にも間接的に影響を及ぼす。指揮官は社会の外で行動しない。彼らの関係者、家族、政治指導者、メディア環境、そして関連市民はすべて、同じパーソナライズされた影響力エコシステムの中に存在している。もし異なるグループが異なる現実のバージョンを与えられているなら、結束を維持するのは難しくなる。危機時には、動員遵守、リスクに対する国民の許容度、公式なコミュニケーションへの信頼、軍事的決定のための政治的空間に影響を及ぼす可能性がある。

さらに技術的なレイヤーもある。パーソナライズはますますデータ収集、OSINT、プラットフォームの振舞い、AI支援分析と交差している。敵意ある行為主体が異なるコミュニティの反応を理解しれば、それに応じてナラティブを形作ることができる。AIツールが感情の監視、世論の要約、意思決定の支援に使われる場合、汚染されたり操作された公的データは誤解を招く評価を生み出す可能性がある。一般市民をターゲットにする同じ個人的な影響力は、機関が一般市民を理解するために使うシグナルを歪めることもある。

これが、AI活用の公共監視（AI-enabled public monitoring）、AI活用の影響力分析（AI-enabled influence analysis）、AI活用の決心支援ツール（AI-enabled decision-support tools）への急増が真剣なガバナンスを必要とする理由の一つである。入力環境が操作されれば、出力は分析的に見えつつも敵対的な形成を反映することがある。ダッシュボードには「公共の関心（public concern）」が人工的に誇張されていることもある。要約ツールは、ナラティブが代表的だからではなく、見えるから表面化することがある。モデルは部分的に作られたパターンを識別することがある。防衛や国家安全保障において、その区別は重要である。

現実を見直すのは簡単である。AI活用のパーソナライゼーション（AI-enabled personalisation）は社会全体を支配する必要はない。小さな変化が戦略的な効果を生み出すグループを特定するだけで十分である。投票率、信頼度、動員意欲、抗議活動、募集感情、連合国支援への支持など、数パーセントポイントが重要になることがある。決定を遅らせたり政治的コストを増やす局所的なナラティブは、不釣り合いな影響を及ぼす可能性がある。

だからこそ、パーソナライゼーションは認知戦における最も深刻なAI活用の変化（AI-enabled shifts）の一つとして扱われるべきである。操作を従来の放送モデルから、同じ戦略的目標が多くの感情の扉を通じて届ける精密な影響力へと移行させる。危険なのは、人々が誤った情報を見ることだけではない。危険なのは、彼らがすでに抱えている恐怖や疑念、アイデンティティのために特別にデザインされた現実のバージョンを見てしまうことである。

6. AIと累積条件付け

累積的条件付けはAIが特に危険になる部分であり、その効果は即座に、派手で、簡単に帰属できるものではない。それは一つのバイラルな嘘や完璧なディープフェイクに依存しない。それは反復、変化、感情の強化、そして形成された情報環境への長期的な接触を通じて機能する。時間が経つにつれて、聴衆は特定のナラティブをより頻繁に目にし、より多くの情報源から聞き、異なる形式で出会い、公共生活の背景音の一部として吸収していく。変化はゆっくりであるが、何がもっともらしく感じられ、何が普通で、何が「明白」に感じ始める。

AIは同じメッセージの無限のバリエーションを生成できるため、このプロセスを強化するが、繰り返しは同じように見せない。単一の戦略的なナラティブは、記事、コメント、動画、ミーム、偽のインタビュー、キャプション、スクリーンショット、要約、「ローカル」な意見記事、そして合成されたソーシャル・メディア投稿に変換できる。各バージョンは、異なる聴衆、トーン、言語、感情のトリガーに合わせて少しずつ異なる場合がある。これにより、同じフレーズが繰り返されるのを人々が必ずしも目にするわけではなく、条件付けに気づきにくくなる。彼らは同じフレームが様々な形で再出現しているのを見ている。

ここでAIと信頼の侵食の関係が重要になる。2026年の欧州対外行動局（EEAS） 外国情報操作および干渉（FIMI）報告書は、感情的に緊張したAI生成映像への繰り返しの曝露が認知的混乱を増幅し信頼を損なうと警告しており、同報告書のEUvsDisinfoの要約では、2025年に分析された事例の27%がAIに関与しており、AI生成テキスト、合成音声、操作された映像も含まれていると指摘している。これは単なる内容の問題ではない。AIが世間の知覚（public perception）に関する繰り返しの圧力環境の一部になりつつあることを示している。

このメカニズムは心理学や政治的コミュニケーションにも馴染み深いものである。繰り返し触れることで親しみが増す。親しみやすさは信頼性と誤解されがちである。感情の繰り返しは解釈を狭める。矛盾した過負荷は疲労を生み出す。時間が経つにつれて、人々は主張が真実かどうかを問うのをやめ、繰り返し見せられた世界と整合しているかどうかに反応し始めるかもしれない。AIはこれらの認知的脆弱性を発明したわけではないが、大規模かつはるかに少ない労力でそれらを悪用しやすくしている。

実際には、累積的条件付けは複数のレイヤーを同時に通過させることがある。

  • ナラティブの繰り返し、同じ根底にある主張が多くの異なる情報源やフォーマットで現れる。
  • 変異試験、さまざまな感情的枠組みが試され、最も効果的なバージョンが支持を得るまで続く。
  • 感情のプライミング恐怖、恨み、屈辱、裏切り、疲労が同じ問題に繰り返し結びつく。
  • ソース乗法、主張は、たとえその背後にあるエコシステムが調整的または人工的であっても、多くの場所から来ているように見える場合である。
  • 長期信託の置換、徐々に自信が制度から離れ、より感情的に一致した代替ネットワークへと移行する。

プラウダ（Portal Kombat）ネットワークは、この論理の実世界で最も有用な例の一つである。2025年のアトランティック・カウンシルの報告では、親クレムリン勢力がネットワークを利用して、ロシアのナラティブを権威ある情報源として提示し、後に大規模言語モデルで引用される可能性を上げてAIツールやウィキペディアを毒している様子が描かれている。CEPAは同じ振舞いをデータ・ポイズニング（data poisoning）と表現し、何千もの記事が数百のウェブサイトや言語で同じ虚偽の主張を繰り返すと、アルゴリズムはボリュームを検証と解釈できると説明した。これは人間だけでなく、ますます人間が利用する情報システムを狙った累積的条件付け（cumulative conditioning）である。

ガーディアン紙は2025年末に、数百の英語ウェブサイトがプラウダの記事にリンクしていると報じており、ISDの研究者たちはこれらのリンクが検索エンジンや大規模言語モデルでの可視性向上に寄与していると警告している。同じ報告書によると、ネットワークは2025年に1日あたり最大23,000本の記事を発行し、分析された関連事例の80%以上がプラウダの資料を信頼できるものと見せている。この規模が重要なのは、累積条件付けがすべての記事を人間に広く読まれる必要はないからである。また、検索可能なウェブを大量に拡散し、検索環境を汚染し、人と機械の両方に裏付けを装い込むことでも機能する。

これは防衛と国家安全保障にとって特に深刻な課題を生み出している。もしAI支援ツールがOSINTのトリアージ、ナラティブ・モニタリング、世論分析、インテリジェンス支援、政策ブリーフィングに使われる場合、オープン情報環境の長期的な汚染が、それらのツールが取得・要約・浮現する内容に影響を与え始める可能性がある。歪められたナラティブは、まずプロパガンダとして現れ、次に繰り返しのオンラインコンテンツとして現れ、次に検索の可視性として、そしてAI生成の要約内のパターンとして現れることがある。各段階で、出所や出典の完全性が積極的に管理されない限り、一見した正当性のレイヤーが増えていく。

OpenAIの2025年の報告は、もう一つの実用的な視点を加えている。同社は、脅威行為主体が従来のプレイブックにAIを組み込んで高速化しようとしていると指摘し、モデルからまったく新しい能力を得るのではないと指摘した。それが現在の段階における累積条件付けの仕組みである。昔のやり方は、繰り返し、マネーロンダリング、聴衆分類（audience segmentation）、感情の準備、そしてナラティブの持続性だった。AIはその古い手法を安価で、速く、適応性が高く、同時に多くのチャネルで実行しやすくする。

これは選挙や紛争に関連する影響事件でも見られる。OpenAIとロイターは、ロシア、中国、イランなどに関連する関係者が、ウクライナ、ガザ、選挙、その他の分断的な問題に関するコメント、記事、ソーシャル・メディアプロフィール、政治的なコンテンツをAIを使って生成する秘密の影響力の試みを阻止したと報じている。OpenAIはこれらの作戦が大きな関与を得られなかったとしばしば評価しており、これは正直に述べることが重要である。しかし、即時の到達範囲が限られているからといって、その方法が無関係であるわけではない。これらの事例は、ツールの進歩と流通エコシステムの成熟に伴い、繰り返しの露出、局所的なナラティブ、長期的な条件付けを支えるワークフローを行為主体が実験していることを示している。

社会にとっての危険は、徐々に正常化が進むことである。一つのAI生成記事や画像で集団が突然立場を変えるわけではない。しかし、制度の失敗、同盟の裏切り、エリートの腐敗、避けられない敗北、移民の混乱、経済崩壊、ウクライナ支援の無意味さといったナラティブに繰り返し触れることで、徐々に基準が変わっていくことがある。かつては極端に思えたことが、可能に思え始めている。かつては証拠が必要だったものが、自明のことのように感じられる。かつては否定されていたものが、主流の議論に「ただの別の見方」として入り始めている。

指揮官や防衛計画担当者にとっても、同じ論理が作戦上の知覚にも当てはまる。危機に関する情報環境が、エスカレーション・リスク、同盟分裂、物流の弱さ、世論の反対、あるいは避けられない失敗の主張で繰り返し飽和している場合、意思決定者はより強い認知的圧力の下で行動することになる。たとえナラティブを直接信じていなくても、世論への影響、政治的な動きの余地、同盟の結束、敵対者のシグナル伝達を考慮しなければならない。したがって、累積的な条件付けは市民だけを形作るものではない。それはリーダーが何が可能かを判断する環境を形作る。

難しいのは、累積条件付けが攻撃として自分を告げることはほとんどないということである。繰り返し、議論、気分、疲労、そして背景音のように見える。AIはその背景音をよりプログラム可能にする。だからこそ、復元性は最も目立つ虚偽を暴くことだけに頼ってはいけない。また、ナラティブの持続性、ソースエコシステム、出所、反復パターン、そしてAI生成素材が人間の知覚や機械媒介による分析をどのように徐々に変化させるかの監視も必要である。

7. データ・ポイズニング（data poisoning）、OSINT汚染およびモデル汚染

AIは敵意あるコンテンツを作るだけではない。また、AIシステムが学習、検索、要約、分類、推奨を行う情報環境の整合性に対する新たな依存関係を生み出す。この依存は認知戦分野における最も深刻な防衛および国家安全保障のリスクの一つであり、問題を目に見える操作から汚染された入力へと移行させるからである。オープン情報環境が汚染された場合、AI支援ツールはその汚染を分析、要約、アラート、傾向評価、決心支援の成果に変換することがある。

だからこそ、データ・ポイズニング（data poisoning）、OSINT汚染、モデル汚染は単なる技術的なリスク以上のものとして扱う必要がある。それらは認知リスクである。人間のアナリストは操作された記事を読み、情報源に疑問を呈することがある。AIシステムは同じ記事を取得し、他の汚染された情報源と比較し、繰り返されるパターンを見つけて結果を一貫した要約として提示する。このモデルは人間の意味での真理を「理解」していない。パターン、確率、取得された資料、シグナル源、学習された連想を処理する。入力環境が汚染されている場合、出力は歪んだ仮定を持ちながら構造的に見えることがある。

プラウダ（ポータル・コンバット）ネットワークは、このリスクの最も明確な例の一つである。2025年のアトランティック・カウンシルの報告は、親クレムリン勢力がウェブサイトのネットワークを利用して、ロシア語のナラティブを権威ある情報源として提示し、後に大規模言語モデルによって引用や検索が可能であることを伝えている。この作戦は、クレムリン系のナラティブをより広範な情報エコシステムに洗浄するために、多くの言語にまたがる数百のウェブサイトを活用したと報告されている。

危険なのは、人々が直接それらのサイトを読むことだけではない。より深いリスクは、汚染された資料が検索・取得可能なウェブの一部になることである。CEPAや他の分析者は、多くのウェブサイトで繰り返される虚偽または誤解を招く主張が、特にAIシステムが独立した判断ではなく検索、繰り返し、統計的シグナルに頼る場合、裏付けの印象を与える可能性があると警告している。これは特に、AIツールがOSINTのトリアージ、世論分析、ナラティブ・モニタリング、時間的圧力下での迅速なブリーフィングなどに使われる場合に危険である。

これは重要な理由で、OSINTは防衛、ジャーナリズム、危機対応、インテリジェンス支援、そして公共の状況認識（situational awareness）において中心的な役割を果たしている。オープンソースの情報は非常に価値があるが、同時に露出もする。ソーシャル・メディア投稿、ローカル報道、画像、メタデータ、Telegramチャンネル、公開データセット、衛星由来の主張、商業データ、オンライン・アーカイブはすべて操作、選択的に増幅、または捏造される可能性がある。もしAIシステムを使ってその環境を要約すれば、問題は「オンラインに誤情報がある」から「我々のツールが汚染された画像の処理を速く助けている」へと移行する可能性がある。

課題は、AIが有用に感じられるように自信を持ち、間違っていることもあることである。無意味な内容を明確に要約できる。弱いシグナルをもっともらしいパターンに結びつけることができる。敵意あるナラティブを専門的な言葉に翻訳・圧縮することができる。環境に意図的に置かれた情報源を過剰に重み付けしながらも、バランスの取れたブリーフィングを作成することができる。だからこそ、「AI支援分析」は本質的に中立的とは見なせない。出力の質は、入力レイヤーの完全性、検索プロセス、ソースの重み付け、検証方法に大きく依存する。

同じ論理は、より広範なモデル汚染にも当てはまる。OWASP（Open Worldwide Application Security Project）は、データやモデルの中毒を大規模言語モデルアプリケーションにおける主要なリスクの一つとして挙げており、攻撃者が訓練データを操作したり、プロンプト・インジェクション技術を使って出力にバイアスをつけたり、誤情報を拡散したり、有害な振舞いを生み出す方法を説明している。最近のAIセキュリティ研究では、少量の毒されたデータでもモデル内で悪用可能な振舞いを引き起こすことが示されており、2025年のAnthropic-linked研究では、意外にも少数の固定された悪意ある文書がテストモデルでバックドア型の振舞いを引き起こす可能性があることが報告されている。実際的な教訓は、すべてのモデルがすでに毒されているということではなく、データ整合性の仮定がはるかに弱いため、多くの組織が今もそう振る舞っているということである。

防衛イノベーションにとって、これは非常に不快な現実確認を生み出す。「オープンソースから学ぶ」や「情報環境を要約する」ツールを作ることは効率的に聞こえるが、最初から出所、ソースの品質、敵対的汚染、検証がデザインされていないとリスクがある。スタートアップはオープンウェブデータ、ソーシャル・メディアフィード、スクレイピングソースを活用して迅速に動き、印象的なデモを生み出せる。リスクの低い商業的文脈では、それは許容されるかもしれない。防衛、国家安全保障、危機対応、国境警備、選挙防護、重要インフラなどでは、同じデザイン選択が攻撃対象となる可能性がある。

特にAIが以下のサポートに使われる場合、リスクは深刻である。

  • OSINTトリアージ、汚染された発生源が、まるで本物のシグナルであるかのようにランク付け、要約、クラスタリングされることがある。
  • 脅威監視、操作されたナラティブは、自然発生的な公共の関心や新たな不安定さとして解釈されることがある。
  • 状況認識、捏造された画像、動画、場所、主張、メタデータが作戦のイメージを歪める可能性がある場合。
  • 決心支援、ここでAIの出力は優先順位、エスカレーション評価、公共コミュニケーション、リソース配分を形作る可能性がある。
  • 訓練と微調整、検証されていないデータが将来の出力にバイアスや誤った関連付け、敵対的ナラティブをもたらす可能性がある。
  • エージェント・ワークフロー、AIシステムが伝統的なツールよりも少ない人間の摩擦で外部情報を取得・解釈・行動する。

エージェントAIはこのリスクをより鋭くする。なぜならシステムは質問に答えるだけでなく、情報の取得、ツールの呼び出し、メッセージの作成、文書の更新、ワークフローのトリガー、他のシステムとのやり取り、またはアクションの推奨などが可能である。2026年のエージェント型AIサービスの慎重な導入に関するアドバイザリーでは、迅速な注入、脱獄、データ・ポイズニング（data poisoning）がエージェントを無許可の行動に誘い込んだり、意思決定にバイアスを持たせたりするリスクとして警告されている。これは防衛や国家安全保障に直接関係しており、ツールを使ったAIシステムは、許可や検証が不十分な場合、汚染された入力を下流の行動に変えてしまう可能性があるからである。

これが「バイブ・コーディング（vibe coding）」や迅速なAI支援ツール構築において、深刻な環境で慎重になるべき理由でもある。問題は、速いプロトタイピングが悪いことではない。問題は、速度が弱い基盤を隠してしまうことだ。もしチームがデータの出所や敵対的な入力リスクを理解せずに、オープンソースフィード、社内文書、メール、作戦上のダッシュボード、コード・リポジトリ（code repositories）と連携したシステムを迅速に構築すれば、生産的には見えるものの構造的に脆弱なワークフローを作り出すかもしれない。防衛分野では、アーキテクチャのない速度はイノベーションを露出に変えることができる。

最も危険なのは、これらの失敗が最初は劇的に見えないことである。汚染されたOSINTの概要は、誤った傾向をわずかに誇張しているだけかもしれない。モデルは敵意あるフレームを徐々に正規化することがある。ダッシュボードは、代表性があるからではなく、操作されたナラティブが非常に目立つために表面化することがある。計画策定アシスタントは繰り返される虚偽の主張を裏付けとみなすことがある。世論ツールは、協調的な増幅を本物のムードと誤解することがある。いずれの場合も、出力は洗練され合理的かつ有用に見える一方で、周囲の環境からの汚染を含んでいる。

だからこそ、「情報作戦（information operations）」と「AIガバナンス」という古い区別はあまり役に立たなくなっている。もし敵対者が情報のレイヤーを毒し、AIツールが分析官、指揮官、政策立案者、一般市民の仲介をますます担うならば、情報の完全性はAIの安全性となり、AIの安全性は国家安全保障の一部となる。モデルだけが守るべきアセットではない。データ・パイプライン、検索環境、ソース階層、メタデータのレイヤー、人間の検証プロセスはすべて防衛アーキテクチャの一部となる。

最低限、AIの真剣な防衛や国家安全保障の利用には、入力環境を中立的ではなく争われているものとして扱うガードレールが必要である。

  • 情報源の出所: この情報はどこから来たのか、誰が管理し、どのように検証されたのか?
  • 情報源の重み付け: 繰り返される主張は本当に独立した情報源から来ているのか、それとも同じ影響力のエコシステムから来ているのか?
  • 敵対的コンテンツ検出: システムはクローン化されたコンセント、協調されたネットワーク、合成メディア、操作されたメタデータ、既知の敵意あるインフラを識別できるのか?
  • 人間の承認: 政策、計画策定、公共のコミュニケーション、作戦上の決心に影響を与える前に、誰が成果をチェックするのだろうか?
  • 監査可能性: 分析者はどの情報源が使われ、なぜシステムが特定の要約や推奨を生成したのかを再構築できるのだろうか?
  • データと指令の分離: 攻撃者が統制するコンテンツは、AIエージェントやツールの振舞いを操作できるのだろうか?
  • レッドチーム: このシステムは、毒のあるOSINT、プロンプト・インジェクション、偽のリーク、捏造画像、そして合成されたローカル報道に対してテストされたのだろうか?

実際の結論はシンプルであるが深刻である。オープンソース・データは依然として価値があり、AIは必要となるだろう。なぜなら、情報の量と速度はすでに人間の処理能力を超えているからである。しかし、敵対的な前提なしにオープンソースを使うことは、もはや高リスクな環境では安全ではない。問題はAIがOSINTの分析に役立てるかどうかではない。可能である。問題は、それを利用する組織が情報環境自体がターゲットであり、敵意ある行為主体がAIが答えを出す前にAIが見ているものを形作っている可能性があることを理解しているかどうかである。

8. サイバー活用の影響力作戦におけるAI

AIがサイバー作戦と組み合わさると特に問題が起きる。なぜなら、認知戦が単なるコンテンツの問題から、アクセス、侵害、窃盗、なりすまし、混乱、圧力と融合し始めるからだ。サイバー作戦が原材料を提供し、AIはその素材をナラティブ、偽証拠、社会工学、合成メディア、フィッシング、リーク、偽リークへと変換する手助けをする。マイクロソフトの2025年デジタル防衛報告書は、サイバー活用の影響力作戦（cyber-enabled influence operations）を、ソーシャル・メディア、フェイクニュース、ディープフェイクなどのデジタル・ツールを使って世論や振舞いを操作しようとする試みと定義し、同報告書では国家関係者がサイバー活動と影響力活動の両方を拡大するためにAIを急速に導入していることが描かれている。

この重なりは重要で、サイバー・アクセスは影響力の信頼性を変える。完全に捏造された主張は、明確な証拠がなければより簡単に却下される。盗まれた資料、選択的に公開された文書、侵害されたアカウント、偽造スクリーンショット、または改ざんされたメタデータによって裏付けられた主張は、はるかに扱いが難しい。たとえ資料が不完全であったり、改ざんされたり、文脈から切り離されたりしても、「証拠」のように見えるものが存在することで、機関は反応的な態勢に追い込まれることがある。AIは次の段階を加速させる。盗まれた資料の要約、翻訳、それに関するナラティブの作成、偽の補足コンテンツの作成、合成音声や画像の作成、そして異なる聴衆向けにパッケージの適応である。

最も危険なパターンは、いくつかの要素が融合していることである。

  • アクセス、フィッシング、認証情報盗難、マルウェア、アカウント侵害、インフラ侵入により、行為主体はシステムや通信に侵入する。
  • 素材、盗まれた文書、内部メール、作戦上のデータ、プライベートメッセージ、技術的な資料などが、ナラティブの素材として使えるものとなる。
  • 操作、実際の素材と捏造または改変された内容が混ざり合い、何が本物かに不確実性が生じる。
  • パッケージング、AIは、原材料を説得力のあるストーリーに変換したり、偽のローカル・ジャーナリズムや翻訳投稿、ミーム、脚本、合成音声や映像クリップに変換したりする。
  • 分布、調整されたネットワーク、プラットフォームのアルゴリズム、疑似ローカルチャネルが素材を一般の認知に押し上げる。
  • 否認と混乱、攻撃者は、盗まれたもの、改ざんされたもの、発明されたものを確認するのにかかる時間の恩恵を受ける。

だからこそ、サイバー活用の影響力（cyber-enabled influence）は、通常の偽情報よりも強力になり得る。それは単に偽りのことを言うことに頼るものではない。それは本物らしさを兵器化することもある。実際のリークは誤って言い訳されることもある。偽のリークは本物に見せかけることができる。アカウントが侵害されると、偽造メッセージに信頼性を与えることがある。ハッキングされたプラットフォームは合成コンテンツを放送するために使われることがある。盗まれた文書はAIが生成した資料と混ざり合う可能性があり、その結果、一般市民、ジャーナリスト、そして機関は、戦略的な効果を評価するよりも、その出所について議論することに多くの時間を費やすことになる。

UAEでのイラン関連のディープフェイク放送事件は、この融合を明確に示している。マイクロソフトは、イランの作戦がストリーミング・サービスを妨害し、ガザ戦争に関連するディープフェイクニュースのセグメントを挿入したと報告した。この作戦は技術的な妥協と合成メディア、影響力の意図を組み合わせたもので、アクセス可能な配信、AI生成コンテンツの形成、そしてターゲットとする聴衆が正当なメディア環境のように見える環境を通じてそれに触れたというものだった。この組み合わせは、単独で流布する偽動画よりもはるかに深刻である。なぜなら、サイバーのレイヤーがインフルエンス製品により強力な伝達メカニズムとより大きな衝撃効果を与えるからである。

選挙干渉ももう一つの重要な例である。米国財務省は2025年1月に、2024年の米国選挙に干渉しようとしたロシアおよびイランの組織を制裁した。制裁に関する報告では、GRUに関連するロシアの地政学的専門家センターがAIツールを使ってウェブサイトや操作された動画のネットワークを通じて偽情報を生成・拡散し、イランの関係者も選挙干渉計画策定やサイバー活動に関与していると述べられた。これは同じ収束を示している。AI生成の資料、ウェブサイトのインフラ、政治的ターゲティング、そしてサイバー活用の作戦（cyber-enabled operations）が別々のレーナーではなく連携して機能している。

マイクロソフトの2025年の報告も、より広範なエスカレーションを示している。AP通信のマイクロソフト報告書によると、ロシア、中国、イラン、北朝鮮は、信頼できるフィッシングメール、政府関係者のディープフェイククローン、自動ハッキング手法など、サイバー攻撃や偽情報の拡散にAIをますます活用している。マイクロソフトは2025年7月だけでも、AI生成の偽コンテンツを使っている外国の敵対者が200件以上検知しており、前年の2倍以上、2023年の10倍以上に増加した。同じ報道では、米国が最も頻繁にターゲットであり、イスラエルやウクライナも大きな影響を受けていることが指摘されており、サイバー、影響力、紛争環境がいかに密接に重なり合っているかを示している。

AIはまた、アクセス面の機能も強化する。より優れたフィッシング、より良いソーシャル・エンジニアリング、そしてより説得力のあるなりすまし技術により、認証情報の盗用、アカウントの漏洩、システムへの侵入が容易になる。マイクロソフトの2025年デジタル防衛報告書の政府概要は、防御側と脅威行為主体の双方によるAI導入が、セキュリティ組織がシステムを適応させ、人々をそれに対応させる際に新たな課題を生み出すと警告している。これは抽象的な話ではない。もしAIがより説得力のあるメール、メッセージ、ボイスノート、偽の会議依頼、または身元を誘う誘惑を作成できれば、サイバー活用の影響力（cyber-enabled influence）への扉はより広がる。

防衛および国家安全保障においては、指揮、計画策定、危機対応が信頼できるチャネルに依存しているため、リスクは深刻である。省庁のアカウントが侵害され、司令官がなりすましされ、信頼できるワークフローに誤った指示が現れた場合、危機時に漏洩した資料と捏造資料が混ざり合う場合、認知的影響は即座に現れる可能性がある。たとえ事後に事件が是正されても、真正性の検証にかかる時間が対応を遅らせ、ためらいを生むことがある。高速の安全保障環境では、その遅延はすでに影響となっている。

AIはまた、偽のリークや操作されたリークをより危険なものにしている。従来の環境では、説得力のある文書パッケージを作るにはより多くの労力が必要だった。しかし今では、AIはもっともらしいテキストの生成、画像の改変、文体の模倣、要約の作成、偽の補足文書の作成、複数の言語への翻訳を手助けできる。敵意ある行為主体は、機関がレイヤーを分離するのに時間がかかることを知りながら、本物、改変、捏造の資料を混在させて公開できる。その間に、ナラティブはすでにソーシャル・メディア、疑似ジャーナリズム媒体、インフルエンサーネットワーク、敵意ある国家メッセージを通じて広まっている可能性がある。

したがって、防衛の課題は狭義のサイバーセキュリティだけではない。それは侵害後の情報の完全性である。組織は、盗まれた、改ざんされた、捏造された資料が、侵害の証拠としてだけでなく、影響力作戦の一部として使われる可能性があると想定する必要がある。それには、サイバー対応、戦略的コミュニケーション、法的評価、インテリジェンス、リーダーシップメッセージング、そして公共の信頼を結びつけた危機対応のプレイブックが必要である。これらの機能が別々のサイロで運用されれば、攻撃者は時間を稼ぐ。

この環境下でいくつかの安全策が不可欠になる。

  • 認証および身元防護、侵害されたアカウントが影響力の配信チャネルになる可能性があるからである。
  • 認証済み通信、特に危機命令、公的声明、リーダーシップメッセージの発信において。
  • 漏水検証手順、何が本物か、改ざんされたか、捏造されたものか、文脈を剥ぎ取ったものを迅速に評価することが含まれる。
  • 合成メディア検出および由来証明ツール、人間の検証と組み合わせて、自動的な真実の機械として扱われるのではなく。
  • 共同サイバーおよび通信対応、技術的なインシデントが数分で認知インシデントに変わることがあるからである。
  • 事前準備と公開準備、聴衆は危機の際に偽のリーク、改ざんされた文書、偽造された声明が現れることがあると理解している。
  • 明確な権限チェーン、これにより、敵対者が検証ギャップを悪用している際に、機関は完全な確実性を待つことなく迅速に対応できる。

ここでAI活用の認知戦（AI-enabled cognitive warfare）が本格的に機能する。フィッシングメールは、盗まれたアクセスが後に世間の知覚（public perception）を形作るために使われる場合、単にフィッシングメールであるわけではない。偽動画が侵害されたプラットフォームを通じて配信される場合、偽動画は単に偽動画ではない。AIがそれを改ざん、翻訳、ナラティブ化し、配布できるなら、リークとは限らない。サイバー・アクセスは影響力作戦に実質的な信頼性をもたらす。AIは彼らに速度、規模、適応性をもたらす。これらが合わさることで、政府、軍、社会が圧力にさらされる状況により危険な作戦環境を作り出す。

9. これが政府、選挙、そして公共の信頼に何を意味するのか

AI活用の認知戦（AI-enabled cognitive warfare）の累積効果は、政府、選挙、公共の信頼のレベルで最も顕著になる。なぜなら、ここで知覚が正当性、権威、意思決定力に変換されるからである。この段階で変わるのは、影響力活動の量だけでなく、社会の異なる部分が同時に政治的現実をどのように体験するかを形作る能力である。ナラティブ、合成メディア、アルゴリズム増幅、パーソナライゼーション、サイバー活用の影響力（cyber-enabled influence）が重なり始めると、選挙やガバナンスのプロセスはもはや共有された情報ベースラインで機能しなくなる。

最近の報道では、これはもはや理論的な懸念ではないことが確認されている。2026年初頭のOpenAI報告書（ロイターも取り上げた）では、同社が中国の法執行機関に関連するアカウント、詐欺、AI生成コンテンツを使って連携した戦役を展開する影響力作戦を妨害した様子が説明されている。特定された事例の一つに、日本初の女性首相をターゲットとした中傷戦役があり、AIツールを使って政治指導部の信用を失墜させ、選挙に関する知覚を形作るようにデザインされたナラティブやコンテンツが作られた。

この事件の重要性は、ターゲティングそのものだけではない。問題は構造である。この作戦は合成コンテンツ、連携されたアカウント、プラットフォーム配信を組み合わせ、政治的議論にナラティブを注入した。エンゲージメントレベルが控えめに見えても、この活動はリーチを達成しており、影響力が圧倒的な人気を必要としないと知覚に影響を与えることを示している。視界、繰り返し、タイミングが圧力を生み出すことが多い。

同様の傾向は、AI支援の影響力戦役（influence campaigns）で複数の国を繰り返しターゲットにしている「Spamouflage」またはドラゴン・ブリッジ・エコシステムにも見られる。これらの作戦は政治指導者を攻撃し、分断を煽り、組織を偽装し、異なる地域に同時にナラティブを押し広げてきた。ここで重要なのは単一の選挙結果ではなく、この手法が文脈を超えて持続し続けることである。インフラが整えば、選挙、国民投票、危機状況、連合討論など新たなターゲットに迅速に転換できる。

欧州の例も同じ軌跡を裏付けている。カヤ・カラス（Kaja Kallas）やEUレベルの報道によると、ルーマニアの2024年の選挙環境では、AI搭載のボット・アカウントや有料TikTokインフルエンサーが、親ロシアの過激な候補者を人工的に後押ししていた。この仕組みは、今やおなじみのパターンに従っていた。協調的な増幅が勢いを生み出し、プラットフォーム・ネイティブ・コンテンツが可視性を高め、アルゴリズムシステムがナラティブをより広く認知させるのを助けた。たとえ候補者が接戦のままだったとしても、この作戦はAI支援による増幅を適用することで、正当性、人気、政治的実現可能性に関する知覚がいかに速く形成されるかを示した。

より広く見れば、AI主導の選挙干渉はすでに複数の地域で追跡されている。グローバルな選挙環境に関する報告によると、ロシア、イラン、中国は生成AIを用いて合成テキスト、画像、動画、音声を作成し、分断的な問題を増幅し、政治的ナラティブを形成し、有権者の知覚に影響を与えることを狙っている。パターンは一貫している。AIは伝統的な影響力作戦に取って代わるものではなく、それを加速させ、複数国で同時に運用するコストを下げている。

公共の信頼への影響は累積的かつ構造的である。選挙はいくつかの前提に依存している。すなわち、情報が評価可能であること、機関が信頼できるコミュニケーションができること、そして有権者が現実を共有理解して行動していることである。AI活用の認知作戦（AI-enabled cognitive operations）はこれらすべてを弱める。

第一に、それらは真正性に関する持続的な疑念を生み出す。合成メディア、偽アカウント、操作されたコンテンツが一般的になると、問題はもはや「真実かどうか」だけではない。「何でも大規模に信頼できるかどうか」という問題になる。その不確実性は二方向に利用できる。偽の主張をもっともらしく見せること、そして真実の主張を疑わしいものに見せることである。

第二に、知覚を断片化する。パーソナライズされた影響とは、異なるグループが同じ出来事について異なるナラティブを経験することを意味する。人口の一部は腐敗の証拠を目にすることもある。別の者は外部干渉の証拠を見ている。別の人は制度の失敗を見ている。別の者は作り物の憤りを感じる。その結果、意見の相違だけでなく、現実の解釈が相容れず、合意や協調した対応がより困難になる。

第三に、政治的圧力を移す。政府は世間の知覚（public perception）から孤立して運営されているわけではない。AI駆動のナラティブが恐怖、不信、緊急性を増幅させると、政治指導者は迅速な行動、強いシグナル、あるいは歪んだ環境でリスクのある決定を避けるよう圧力を受けるかもしれない。これは外交政策、防衛の約束、制裁、危機対応、同盟の調整に影響を及ぼす可能性がある。

第四に、投票そのものを超えて戦闘空間を広げる。影響力作戦は、効果を発揮するために選挙結果を直接変更する必要はない。これらはプロセスへの信頼を損ない、結果の正当性を損なう、機関への国民の信頼を弱め、選挙後の統治に影響を与える長期的な分断を生み出す可能性がある。この意味で、目標は単なる選挙影響力だけでなく、統治の混乱にもあった。

防衛と国家安全保障にとって、その影響は即座に大きい。選挙はリーダーシップ、政策方向性、連合の態勢、防衛費、危機対応の意思決定に影響を与える。もし選挙に関する情報環境がAI活用の影響力作戦（AI-enabled influence operations）によって持続的に形作られ続けるなら、戦略的環境は予測不可能でより不安定になる。同盟国は事態を異なる解釈で捉えるかもしれない。世論の支持は急速に変動する可能性がある。意思決定のスケジュールは圧力の下で圧縮されることがある。国内政治と外部操作の境界は定義しづらくなっている。

また、公共の信頼と作戦上の有効性との間にはフィードバックループも存在する。機関への信頼が損なわれれば、政府は防衛措置への支持を集めたり、長期的な約束を維持したり、危機時に明確なコミュニケーションを取ることに苦労するかもしれない。情報への信頼が低下すると、市民も意思決定者もシグナルと雑音の区別が難しくなるかもしれない。AIは、影響力作戦の速度、規模、適応性を高めるとともに、検証にかかる時間を短縮することで、これらのリスクを増幅させる。

その根本的な変化は、AI活用の認知戦（AI-enabled cognitive warfare）が人々の考えだけをターゲットにするものではないということである。それは政治的現実がどのように構築され、経験され、どのように行動されるかをターゲットにしている。政府は、知覚が修正よりも速く形成され、特定のグループに合わせてナラティブを調整でき、信頼そのものが争われる空間となる環境で運営せざるを得ない。そのような環境下で、選挙を守ることはもはやインフラの確保や票の正確な集計だけではない。また、投票が投じられ解釈される情報環境の完全性を守ることも求められる。

10. これが防衛と指揮官にとって何を意味するか

防衛組織や指揮官にとって、AIは認知戦のあり方を非常に実践的に変えている。それは敵対者だけが社会に対して使うものではない。また、軍自身もインテリジェンスのトリアージ、OSINT分析、ISR処理、要約、計画策定支援、ターゲティング・ワークフロー、兵站、サイバー防衛、決心支援などにおいて、ますます依存するものとなっている。これは本当の価値を生み出す。なぜなら、現代の作戦が生み出す大量のデータを処理するのは人間のスタッフが誰も手動で処理できないからである。また、意思決定がAI支援システムに依存すればするほど、入力レイヤーの整合性、モデルの振舞い、検証プロセス、人間の判断の重要性が増すため、依存性も生まれる。

これはすでに軍事および政策の議論で認識されている。国連軍縮問題事務所は、2025年の軍事AI、平和・安全保障対話をまとめ、AIが情報処理と決心支援を強化し、オペレーターや指揮官が大量のデータを処理し、パターンを特定し、キネティックな環境と仮想環境でより効果的に注意（attention）を配分するのを助けると指摘した。NATOの改訂されたAI戦略も同様に、AIを戦略的能力として位置づけつつ、合法性、責任と説明責任、説明可能性とトレーサビリティ、信頼性、ガバナービリティ、偏見軽減などの責任ある使用原則を強調している。これらの原則は重要である。なぜなら、指揮環境におけるAIは単なる生産性ツールではないからである。それは注意（attention）の配分方法、選択肢の提示方法、そして信頼の形成方法を変える。

その価値は明白である。AIは、特に複数のドメインが同時に稼働している場合、指揮官や参謀があまりにも多くの情報を迅速に処理するのを助けることができる。ISRの活用、パターン検出、異常の発見、翻訳、文書のトリアージ、戦場の被害評価、物流予測、サイバーアラート、公共情報の監視、大規模な報告ストリームの要約などを支援できる。最良の場合、AIは認知負荷を軽減し、弱いシグナルを早期に可視化し、人間が手動で並べ替えるよりも判断により多くの時間を割けるように支援できる。

危険は、AI支援の出力が支援ではなく権威として扱われることから始まる。要約、ランク付け、推奨を行うシステムは、単に情報環境を記述するだけではない。それは指揮官が最初に見るもの、最も重要と思われるもの、優先度を下げるもの、そして計画策定プロセスに入り込む前提を形作る。入力レイヤーが操作され、モデルが幻覚を起こし、信頼度スコアが誤解され、訓練データにバイアスがあったり、出力が速く洗練されているために受け入れられたりすれば、決心の完全性（decision integrity）が露呈する。

いくつかのリスクは指揮レベルに直接存在する

  • 操作された入力: OSINT、ソーシャル・メディア、画像、メタデータ、センサー関連の報告、公的な主張、地域の情報ストリームは、分析ツールに到達する前に汚染される可能性がある。
  • 幻覚的な出力: 生成システムは、特に不完全または曖昧な条件下で動作する場合、もっともらしいが誤った要約、引用、リンク、評価、または関連性を生み出すことがある。
  • 自動化バイアス: 人間は機械の出力が正確で構造化されている、数学的に裏付けられているように見えるため、過剰に信頼してしまうことがある。
  • 信頼スコアの誤読: 信頼度スコアは、誤った仮定や入力の質が低い場合にモデルの確実性を反映している場合、真理と誤解されることがある。
  • 不透明なランキング: 脅威、ターゲット、ナラティブ、インシデントを優先するシステムは、ユーザーが基準を完全に理解していないまま注意（attention）を形成してしまうことがある。
  • 依存による判断力の喪失: もしスタッフがAIシステムがより速く便利に見えるからといって独立した分析をやめれば、人間の仮定に異議を唱える能力は時間とともに低下する。

イギリスのアラン・チューリング研究所によるAIと戦場指揮に関する報告書は、そのタイトルでこの問題を捉えている。「AIは将軍に取って代わらない（AI will not replace the general）」。その分析は、AIを戦場での指揮の意思決定に統合する際の課題に焦点を当てており、まさにその視点が正しい。AIは指揮を助けるかもしれないが、指揮は依然として人間の責任であり、軍事判断には文脈、意図、倫理、法律、比例性、リスク許容度、政治的結果、敵対者の心理、そして圧力下での実体験が含まれる。これらは単なるパターン認識（pattern recognition）だけでは説明できない。

これが、防衛における責任あるAIがコンプライアンスのラベルになれない理由でもある。NATOの責任ある利用原則と米国国防総省の責任あるAIパスウェイは、どちらも説明責任、信頼性、統治可能性、トレーサビリティを強調している。その言葉は指揮官レベルで具体化する。指揮官は、システムが何を使い、何を除外し、信頼度が実際に何を意味するのか、データの出所、出力がどのように異議を唱えられるか、そしてAI支援分析が決心に関与した際に誰が責任を負うのかを知る必要がある。国防総省の責任あるAIパスウェイは、責任ある実施を同盟国やパートナーとの信頼を維持しつつ迅速に進める方法として明確に位置づけており、AIツールが国間で平等に共有・理解・信頼されない連合作戦において不可欠である。

依存性の問題は、混合情報環境で特に深刻である。指揮官はますます機密報告、センサー・フィード、商業データ、サイバー警報、公開報告、OSINT、ソーシャル・メディア、AI支援の要約を近隣に配置して作戦するようになっている。その融合は有用であるが、同時に攻撃対象範囲を広げることにもなる。敵対者が公的データを毒し、地元の報道を捏造し、画像を操作し、偽のリークを仕掛けたり、オンライン上の感情を歪めたりできるなら、AIシステムはそれらのシグナルを意味のあるものとして浮き彫りにするかもしれない。司令官は一つの偽の投稿に騙されないかもしれないが、十分な汚染された入力がパイプラインに入れば決心支援環境は調整可能である。

ここで認知戦とAI活用の指揮（AI-enabled command）が直接結びつく。敵対者は必ずしもコマンドシステム自体を攻撃する必要はない。指揮を支えるツールに情報を提供する情報環境を形成するのに十分かもしれない。汚染されたOSINTを要約するモデルは、不安を過大評価したり、決意を過小評価したり、世論を誤読したり、誤った指標を増幅したり、敵対者形のナラティブを新たなパターンとして提示したりすることがある。危機においては、わずかな歪みでもタイミング、エスカレーションの判断、戦力態勢、政治的シグナルに影響を及ぼすことがある。

ISRおよびターゲティング関連のワークフローは特に注意（caution）が必要である。AIは画像やセンサー・データの高速処理を助けることができるが、出力はデータの品質、訓練条件、環境的文脈、敵対的適応に依存する。モデルは統制された環境で良好に動作するが、偽装、欺瞞、天候、スプーフィング、電子戦、部分的なデータ、予期せぬ敵対者の振舞いなどにより劣化する。指揮官がモデルの限界を誤解すると、確実性を過大評価してしまうかもしれない。信頼が不足すると、オペレーターはシステムを過度に信用したり、完全に無視したりする可能性がある。どちらの結果も危険である。

計画策定支援は異なる種類のリスクを生み出す。AIツールは行動方針の生成、制約の要約、依存関係の特定、計画策定の成果物の草案作成などが可能である。それは役に立つこともあるが、同時に知的な近道を生むこともある。ツールが問題をうまく枠組み付けなかったり、依存関係を省略したり、隠れた仮定を埋め込んだり、政治的・作戦上の文脈が欠けているのに完全に見える選択肢を生成した場合、スタッフは機械の修正に時間を失ったり、さらに悪いことに、結果が一貫して見えたために誤りを後方に引き継いでしまうかもしれない。指揮環境では、一貫性だけでは不十分である。分析は追跡可能で、争いの余地があり、信頼できる情報に基づいていなければならない。

同盟の問題もある。NATOとEUの作戦は、パートナー間の共通理解、相互運用性、信頼に依存している。もし同盟国がデータ・パイプラインやモデルの仮定、ガバナンスが他国に透明でないAIツールを使う場合、連立体制での成果の検証が困難になるかもしれない。それがインテリジェンス共有、ターゲティング、計画策定、説明責任の場面で摩擦を生む可能性がある。欧州防衛庁の2025年の防衛における信頼できるAIに関する取組みは、データとAIガバナンス、リスク管理、データセキュリティ、管理が戦略的、戦術的、作戦的効率性に不可欠であることを強調している。それは行政用語ではない。それは、人間、システム、同盟者間の信頼を損なうことなくAIを活用するための基盤である。

指揮官や計画担当者にとって、いくつかの疑問が避けられないものになる。

  • システムはどんなデータを使っていて、そのデータ・パイプラインを誰が管理しているのか?
  • 情報源はどのように重み付けされ、検証され、更新されるのだろうか?
  • システムは検証済み報告と協調増幅や汚染されたOSINTを区別できるか?
  • この文脈で自信スコアとは実際に何を意味するのだろうか?
  • 出力は情報源、仮定、モデルの振舞いに遡ることができるのだろうか?
  • 誰がその成果物に異議を唱える責任があるのだろうか?それが決定に影響を与える前に。
  • モデルが間違っていたり、不確実だったり、操作されたりしたらどうなるのだろうか?
  • 人間のオーバーライドはどこにあり、実際に存在するのか、それとも紙の上だけの形式なのか?

命令の含意はAIを避けるべきではない。それは非現実的であり、多くの文脈で無責任である。現代の作戦の量、速度、複雑さは、AI支援ツールを必要としている。本当の問題は、防衛機関がこれらを規制された決心支援能力として採用するのか、それとも利便性を装ったブラック・ボックスとして採用するのかである。もし彼らがブラック・ボックスになれば、認知戦は決心プロセスへの新たなルートを得ることになる。

したがって、AIを適切な位置に保つことが核心的な課題である。AIは注意（attention）、トリアージ、検出、翻訳、要約、分析を支援できる。それは人間がより多くを見たり、より速く処理したりするのに役立つ。何が真実で何が重要で、何が無視されるべきか、あるいはどの選択肢が「最善か（best）」を静かに決める権威になってはいけない。軍の指揮において、最終的な責任はモデルに委譲されることはできない。なぜなら、決定は決して技術的なものだけにとどまらないからである。それは作戦的、法的、倫理的、政治的、そして人間的なものである。

防衛や指揮官にとって、AIは意思決定のテンポを変えるが、判断の必要性をなくすわけではない。判断の必要性が増す。なぜなら、指揮官は敵対者や戦場だけでなく、その両方の見方を媒介するシステムも理解しなければならないからだ。

11. 過剰依存の問題:AIが認知的脆弱性となる場合

防衛環境におけるAIの優位性は、速度、規模、そして複雑さの扱いの支援にある。リスクは、その強みが人間の判断を支えるのではなく、取って代わってしまい始めるときに現れる。過度な依存は通常、意識的な決断としては現れない。それは利便性、時間的圧力、そして一貫性があり構造的で権威ある出力に繰り返し触れることを通じて徐々に発展する。その変化が起こると、AIはツールではなく、現実を解釈するための認知フィルターとなり始める。

これこそが敵対者が活用の狙う条件である。認知戦は完全な欺瞞を必要としない。部分的な歪み、誤った自信、検証の遅延から利益を得る。意思決定者が情報を迅速に圧縮しつつも、不確実性や出所、文脈を完全に暴露しないシステムに頼り始めれば、環境は間接的に形作りやすくなる。検証なしの速度、理解なしの信頼、不透明なシステムへの依存は、狭義の技術的ではない脆弱性の形態を生み出す。それは認知的かつ組織的なものである。

AIシステムは要約、パターン検出、優先順位付け、翻訳を支援する。それらは文脈的理解、作戦上の経験、ドクトリン、倫理的推論、説明責任に代わるものではない。軍事的意思決定には曖昧さ、不完全な情報、敵対的な意図、そして直接的な戦術歴レイヤーを超えた結果が含まれる。これらの要素は処理だけでなく解釈も必要である。システムはパターンを強調したりオプションを生成することはできるが、それらのオプションの結果に対する責任は負いない。

この区別は圧力の下で非常に重要になる。時間に敏感な状況では、明確で実行可能な出力物を信頼しがちである。AIシステムが優先順位をつけたリストや推奨される行動方針、または構造化された要約を提示すると、それは明確さへの効率的な近道のように感じられる。危険なのは、出力の構造が入力の弱点やモデルの制限を隠してしまうことである。一見完全に見える回答でも、部分的で汚染された情報や誤解された情報に基づいている場合がある。

過度の依存が進むと、いくつかの故障モードが現れがちである。

  • 文脈なしの圧縮、複雑な状況が不確実性、異議を唱えるシグナル、弱い指標を省略した簡略化された要約に還元される。
  • 信頼インフレ、ここで、出力は基礎データよりも確実に扱われる。
  • チャレンジ文化の減少、分析官や指揮官は、システムが権威的に見えるか、時間的圧力がより深い検証を妨げるために出力を疑問視しにくくなる。
  • 隠れた仮定、モデルはユーザーには見えないバイアスやパターンを埋め込み、それでも推奨を形成する。
  • 自動化バイアス、人間は直感や経験と矛盾する出力であっても機械生成の出力に従う。
  • 決定ドリフト、責任は明確な決定なしに徐々に人間の判断からシステム提案へと移行していく。

この問題の中心には説明責任がある。システムがどれほど高度であっても、決心の責任は人間の指揮官や政治的指導者にある。これは単なる法的義務ではない。これは作戦上の必要性である。防衛および安全保障の決心は、法、倫理、エスカレーション管理、同盟の約束、長期的な戦略的成果にまで影響を及ぼす。AIシステムはその結果を受け入れたり、文脈で説明したり、責任を負うこともできない。AIの出力を説明責任を負うかのように扱うことは、行動と責任の間にギャップを生み出し、そこから誤りの発見や修正がより難しくなる。

だからこそ、ガバナンスの枠組みは人間の責任とトレーサビリティを重視している。NATOの責任あるAIに関する原則や類似の国家枠組みは、システムは説明可能で、監査可能で、統治可能であることを強調している。これらの要件は政策レベルで議論されることが多いが、その実用的な意味は使用時に明らかになる。指揮官はシステムが何をしたのか、なぜ特定の出力を生み出したのか、そしてその出力がどのように異議を唱えられるのかを理解する必要がある。その理解がなければ、システムは決定に影響を与えるブラック・ボックスとなり、完全に責任を負わないまま決定に影響を及ぼす。

現代の作戦の複雑さによって、この課題はさらに増幅される。情報は複数のドメインから流れ、機密インテリジェンス、センサー・データ、オープンソースの報告、公共のナラティブ、そして関連情報が組み合わさっている。AIシステムはその複雑さを管理するのを助けるが、同時にこれらの入力の交差点に存在する。入力レイヤーの一部が操作または誤解釈された場合、システムはその歪みを出力全体に伝播させることができる。ユーザーがシステムの合成を十分な検証なしに信頼すると、歪みは入力から決心へと十分に検証されることなく移動してしまう。

それらは振舞いの次元もある。時間が経つにつれて、AIへの依存は個人や組織の考え方を変える可能性がある。アナリストは独立した仮説を立てる時間が少なくて済むかもしれない。スタッフのプロセスはシステムの出力に適応するのではなく、それに挑戦するのではなく、それに適応することがある。トレーニングは基礎的な推論よりもツールの使用に重点を置くことがある。このような環境では、異常を認識し、仮定を疑問視し、曖昧なシグナルを解釈する能力が弱まることがある。これはすぐに起こるわけではないが、特にシステムがほとんどの場合良好に動作し、故障が例外として現れる場合は蓄積される。

防衛組織にとっての目標はAIを避けることではなく、検証されていない依存を避けることである。そのバランスを保つためのいくつかの原則がある。

  • 裁きにおける人間の優位性、ここでAIは意思決定権を支持するが、代替しない。
  • 透過ワークフロー、ここでユーザーは出力がどのように生成され、どのような入力が使われたかを追跡できる。
  • 意図的なチャレンジプロセス、ここで、出力は表面的に受け入れられるのではなく、定期的に疑問視されテストされる。
  • 明確な説明責任構造、決心の責任が明確に残り、システムに移譲できない場合。
  • 推論を重視するトレーニング、ツールの使用だけでなく、AI支援の有無にかかわらず、職員が効果的に作戦を行えるようにすること。
  • 不確実性の認識、ここで、出力は最終的な答えではなく判断への入力として扱われる。

これらの原則は効率性の制約ではない。情報の風景とそれを利用するためのツールが争われる環境において、決心の完全性（decision integrity）を維持するための条件である。

より深い問題は、過度の依存は大声で失敗するわけではないということである。それはしばしば、情報の処理方法や信頼の付与方法の小さな変化を通じて静かに失敗する。表面的には合理的に見える決定が、十分に検証されていない前提に基づいているかもしれない。認知戦では、それで十分である。目標は常に明らかな失敗を引き起こすことではない。多くの場合、結果に影響を与えるために、十分な歪みや遅延、誤った自信を導入することにある。

したがって、AI使用に関する規律を維持することは、作戦上の有効性を維持する一部である。システムは分析を加速させることができるが、理解に代わることはできない。意思決定を支援することはできるが、責任を負うことはできない。その境界が明確なままであれば、AIは力の倍増装置となる。境界が曖昧になると、敵対者が直接目に見えることなく知覚を形作り、決心に影響を与えるためのもう一つのレイヤーとなる。

12. なぜこれに対して防御が難しいのか

AIは単にできることを広げるだけではない。誰が優位性を保持するかが変わる。現在の環境では、AIの攻撃的な活用は安価で高速、否認可能で規模拡大しやすい一方で、防御は依然として遅く、制約が強く、目立つ傾向がある。その不均衡は偶然ではない。それはデジタル・システム、民主的制度、セキュリティプロセスの構造から生まれる。

攻撃面では、参入障壁が下がっている。大量に生成され、即時に翻訳され、異なる聴衆に合わせて適応され、限られたリソースで複数のプラットフォームに分散できる。インフラは賃貸や再利用が可能である。ペルソナは作成でき、放棄することも可能である。ナラティブはほぼリアルタイムでテスト・反復可能である。帰属は仲介者、契約者、緩やかに関連したネットワーク、あるいは完全に捏造された身元を通じて隠されることがある。その結果、影響力活動が中心的に目に見えることなく持続的に存在する景観が生まれる。

防御側では、要件が根本的に異なる。検証には時間がかかる。なぜなら、情報源の確認、出所の確立、文脈の理解が必要だからである。帰属を認めるには、政治的にも法的にも成立する証拠が必要である。公共のコミュニケーションは速度と正確さのバランスを取らなければならない。誤った訂正は元の操作と同じくらいの被害をもたらす可能性がある。制度的な対応は、しばしば機関や同盟国、場合によっては民間セクターのプラットフォーム間の調整を必要とする。これらの各ステップは遅延を生み出し、攻撃側はまさに遅延を利用してしまう。

最近の例は、この非対称性を実践的に示している。先に述べたプラウダ・ネットワークは、単一のバイラルなコンテンツに依存していなかった。それは規模、繰り返し、数百のウェブサイトや言語にまたがる分布に依存していた。たとえ個々の記事の質が低くても、この巻はナラティブが広く裏付けられているように見える環境を作り出した。それを防ぐには、虚偽の主張を特定するだけでなく、ネットワークのマッピング、インフラの理解、AIや検索システムの繰り返しコンテンツの扱い方の調整も必要である。これはそもそも資料を作成することよりもはるかに重い作業である。

選挙関連の事例も同様のパターンを示している。AI生成コンテンツ、協調的な増幅、プラットフォーム・ネイティブ配信により、数時間以内に可視化の爆発を生み出すことができる。対応には検出、検証、コミュニケーション、そして多くの場合、プラットフォーム提供者との関与が必要である。回答が発せられる頃には、そのナラティブはすでに広く流通し、知覚に影響を与えている可能性がある。これは防衛が効果的でないという意味ではないが、防御が構造的に遅いことを意味する。

サイバー活用の影響力（cyber-enabled influence）はさらに他のレイヤーを加える。合成メディアや操作されたナラティブが、漏洩したアカウント、リークまたは捏造された文書、技術的な侵入と組み合わさった場合、防御者はサイバーインシデントと情報の影響の両方に対処しなければならない。何がアクセスされ、何が改ざんされ、何が捏造されたかを確認するには時間がかかるが、ナラティブはすでに世間の解釈を形作っている可能性がある。攻撃的な行為主体は、この出来事と検証された説明の間のギャップから利益を得る。

また、法的・政治的な次元も非対称性を生み出している。民主主義社会は表現の自由、プライバシー、適正手続き、透明性を防護するルールの下で運営されている。これらは強みであるが、迅速な対応を制約する。コンテンツの削除、作戦の帰属、行為主体の制裁、国家の公然たる非難には証拠と正当化が必要である。権威主義的な行為主体は影響力作戦を行う際にこうした制約が少なく、より速く、目に見える制限も少ない行動が可能となる。

プラットフォームの力学はこの不均衡を強化している。推薦システムは正確さではなく、エンゲージメントを促進するようにデザインされている。強い反応を引き起こすコンテンツは評価される前に可視化されることがある。プラットフォームが責任を持って行動しても、モデレーションやラベリングは配信が始まってから機能する。AI生成コンテンツはこれをさらに複雑にしており、検出システムが追いつくよりも速く生成・適応できるからである。

社会的観点から見ると、信頼は必須であると同時に脆弱性でもある。効果的な防衛は、機関、メディア、公式コミュニケーションに対する国民の信頼に依存している。同時に、認知戦はその信頼を蝕もうと狙っている。信頼が低下すれば、正確な情報でさえ疑問視され、是正メッセージの効果が低下することがある。これにより、防御に必要な条件が攻撃自体によって徐々に弱まるフィードバックループが生まれる。

防衛組織や政府にとって、いくつかの実務的な課題が続く。

  • 時間の非対称性、ここで攻撃活動は検証や対応よりも速く進む。
  • 帰属の難しさ、否認可能な構造や仲介者が行為主体の明確な特定を複雑にしている。
  • 調整複雑性、対応には機関、同盟国、民間プラットフォーム間の連携が必要である。
  • 法的制約、権利と適正手続きを防護する枠組みの中で行動が正当化されなければならない。
  • 情報飽和、大量のコンテンツは正確なシグナルの可視性を低下させる。
  • 信頼の侵食、繰り返し操作することで権威あるコミュニケーションの効果が低下する。

これらの課題は防衛が不可能だという意味ではない。つまり、防衛は異なる構造でなければならないということである。個々の事件に反応することだけに頼ることはできない。単一のコンテンツではなく、システムレベルでのパターン、インフラ、復元性に焦点を当てる必要がある。

ここでより広範な戦略的問題が浮上する。オープンな社会は、情報の流れ、議論の進行、異論の表明を許すようにデザインされている。これらの特徴は基本的な強みである。同時に、オープンさ、意見の多様性、信頼に基づくシステムを活用できる影響力作戦への露出も生み出す。AIは、操作がその環境に導入される速度と規模を高めることで、この曝露を増幅させる。

この非対称性を理解することは、シリーズの次のステップに不可欠である。課題は技術的なものだけではない。それは構造的な問題である。それはオープン社会、デジタル・システム、制度的プロセス、そして敵対的意図の交差点に位置している。これが防御側の問題と攻撃側の問題の違いであり、次の部分では社会の非対称性が認知戦全体の状況をどのように形作るかに焦点を当てる。

13. 実用的な認識に関する質問

技術を理解するだけでは、意思決定の時点で実用的なチェックに繋がらないのでは不十分である。AI活用の環境（AI-enabled environments）では、リスクはめったに明確に現れない。それは、挑戦されない小さな前提、額面通りに受け取られるインプット、そして実際よりも権威あるものとして扱われるアウトプットを通じて現れる。したがって、実用的な認識（practical recognition）は、チームやツール、状況を超えて一貫して問いかけられる問いに根ざし、作戦を停止させることなく行う必要がある。

以下の質問の目的は官僚主義を作ることではない。適切な場所で摩擦を生み出すことである。AIがインテリジェンス・ワークフロー、OSINT分析、ISR処理、決心支援システムに統合されると、これらの疑問は真の脆弱性がどこにあるか、すなわちデータ、パイプライン、検証、人間の解釈の領域を明らかにするのに役立つ。

このAIシステムはどんなデータを使っているのだろうか?

すべてのAI出力は、トレーニング・データ、ライブ・フィード、スクレイピング・コンテンツ、構造化データセットなど、その入力によって形作られる。そのデータの起源、品質、最新性が不明瞭であれば、出力物はその不確実性を引き継ぐ。作戦上の文脈では、入力データのわずかな歪みでも実質的に異なる結論を導く可能性があるため、これは非常に重要である。

  • データ・ソースは既知で信頼され、タスクに関連しているか?
  • それは最新のものなのか、それとも時代遅れの状況を反映しているのか?
  • データはバイアスを生むような方法でキュレーション、フィルタリング、または事前処理されているか?

データのレイヤーを理解することが、出力の信頼性を理解する第一歩である。

データ・パイプラインを誰が管理しているのか?

データは複数の段階を経ずにソースからシステムへ直接移動することはほとんどない。収集、集約、保存、処理、アクセス制御は、操作、フィルタリング、バイアスを導入するポイントを作り出す。したがって、パイプラインの制御はデータ自体と同じくらい重要である。

  • パイプラインは内部であるか、第三者であるか、それとも混合であるか?
  • 外部からの依存関係が影響を受けたりする可能性はあるか?
  • フロー内でデータを修正、優先、抑制する権限を持つのは誰だろうか?

争われる環境では、パイプラインの統制が事実を変えることなく知覚を形作るために使われることがある。

どうやってそのソースが本物だとわかるのだろうか?

フォーマットだけでも本物らしさは保証されない。プロフェッショナルなウェブサイト、現地語のアカウント、よく作られた動画は出所を証明できない。合成メディア、クローン化したドメイン、なりすましの手法により、表面的な指標は信頼性が低くなる。

  • 情報源は独立して検証されているか?
  • 一貫した歴史と追跡可能なアイデンティティはあるか?
  • なりすまし、重複、または協調的な振舞いの兆候はあるか?

出典検証がなければ、たとえ正確に見える情報であっても、作戦上誤解を招く可能性がある。

OSINTが汚染されたらどうなるのだろうか?

オープンソースのインテリジェンスはその広さとアクセスのしやすさから価値があるが、同時に最も操作しやすいレイヤーでもある。OSINTが捏造、増幅、または選択的にフレーム化されたコンテンツで汚染されると、AIシステムはその歪みを大規模に取り込み強化することができる。

  • OSINT入力の異常や協調パターンを検出するメカニズムはあるか?
  • システム内で矛盾する情報はどのように扱われているのだろうか?
  • オープンソースのレイヤーが信頼性を失ったときに、フォールバックはあるか?

OSINTがデフォルトで中立として扱われている場合、汚染された入力が直接分析や決心支援に伝播することがある。

決心がなされる前にAIの出力を検証するのは誰だろうか?

AIはトリアージやパターン認識（pattern recognition）を加速させることができるが、検証の必要性を取り除くわけではない。出力は結論ではなく、人間の判断への入力として扱うべきである。

  • 出力が決心に影響を与える前に明確な検証ステップはあるか?
  • 結果を照合するために複数の情報源や方法が使われているのだろうか?
  • 検証は出力を生み出したシステムとは独立しているのだろうか?

明確な検証責任は、作戦上の決心に疑問視されない前提が入り込むリスクを減らす。

ヒューマン・オーバーライドとは何であるか?

人間の監督は単なる形式的な要件以上のものでなければならない。それは実行可能で、理解され、実際に行使されるものでなければならない。オペレーターがAIの出力に疑問を呈する権限や能力を感じていなければ、オーバーライドは紙の上のみ存在する。

  • オペレーターはAI生成の出力を一時停止、拒否、またはエスカレーションできるか?
  • 人間の介入が必要な明確な基準はあるのだろうか?
  • チームはシステムに異議を唱えるための訓練や文脈を持っているのだろうか?

ほとんど使われない、あるいは十分に理解されていないオーバーライドは、安全装置として機能しない。

なぜこのシステムがこの答えを出したのか説明してもらえるか?

説明可能性は単なる技術的な問題ではない。これは作戦上の必要性である。もしシステムが合理的に解釈できない出力を生み出すなら、信頼は失われるか、完全に取り消されてしまう。

  • 根本的な要因やサインは見えて理解しやすいのだろうか?
  • その推論プロセスは、たとえ高レベルであっても追跡可能だろうか?
  • 信頼度は意味があるのか、それとも過剰に解釈されているのか?

出力を説明できるからといって正確さを保証するわけではないが、説明できない場合は常に用心（caution）が必要である。

AIは判断を加速させているのか、それともそれを置き換えているのか?

速度はAIの主な優位性の一つであるが、反省なしの速度はリスクを生むことがある。重要な問いは、AIが人間の判断を支えているのか、それとも徐々にそれを置き換えているのかである。

  • 理解度が向上しないまま、決心が速くなっているのだろうか?
  • AI出力への依存は批判的思考や代替分析を減らしているのだろうか?
  • チームは今も結果に疑問を呈しているのか、それともシステムが生成した答えに頼っているのか?

AIは適切な場合に時間を圧縮すべきであるが、決心の質を支える推論プロセスを圧縮すべきではない。

これらの問いを総合すると、作戦環境でAIと関わるための実践的な方法が、ワークフローを過度に複雑化させることなく実現できる。彼らはデータの完全性、管理、検証、そして人間の責任に焦点を当てており、これらの点が最も脆弱性が現れる。一貫して適用することで、AIを不透明な依存関係から、より広範な意思決定システム内の制御されたツールへと変える助けとなる。

14. 結論:AIはテンポを変えるのであって、目標を変えるのではない

人工知能は認知戦の根本的な目的を変えるものではない。目標は変わらず、決心に影響を与え、信頼を蝕み、一貫性のあるタイムリーな行動の余地を狭める知覚を形作ることである。AIが変えるのは、これを行うペース、持続規模、そして異なる聴衆や文脈で圧力をかける精度である。

この部分全体で一貫したパターンが現れる。以前の影響力や欺瞞の形態に既に存在していた手法は消えていない。これらは加速され、工業化され、相互に結びついている。ナラティブの枠組みは制作が速くなり、ローカライズも容易になる。増幅はより安価で適応性が高まる。合成メディアは製造から反応までの時間を圧縮する。パーソナライゼーションは、個々の恐怖、アイデンティティ、振舞いのシグナルのレベルで圧力をかけることを可能にする。データ環境自体が争われるようになり、これは公共の言説（public discourse）のレベルだけでなく、分析や決心支援システム内でもリスクをもたらす。これらの変化は認知戦の論理を変えるものではないが、その論理がどれだけ迅速かつ効果的に実行されるかを大きく変える。

この加速は、圧力の感受や意思決定のあり方に直接影響を与える。コンテンツ作成から振舞いへの影響のサイクルが短くなると、検証、熟考、調整された対応の窓口が狭まる。プロセス、検証、説明責任に依存する機関は、より厳しい時間制約の中で運営を強いられる一方で、敵対者は速度、否認可能性、適応力の恩恵を受けている。そのような環境では、早期認識（early recognition）と遅れ認識（late recognition）の違いがより重要になる。なぜなら、遅延はナラティブ、シグナル、歪みがシステム内で伝わる速度によって増幅されるからである。

防衛と国家安全保障に関しては、シリーズ全体を通して通じるポイントを強調している。致命的な脆弱性は、発言、見せられ、回覧される内容だけではない。それは、それらの入力が判断が行使される条件をどのように形作るかということである。情報への信頼が弱まったり、データ環境が汚染されたり、AI支援の出力が十分な精査なしに権威あるものと見なされたりすれば、決心の完全性（decision integrity）が露呈する。指揮官、計画担当者、政策立案者は高度なツールや大量のデータにアクセスできるかもしれないが、その決定の質は、その情報がどのように解釈され、検証され、圧力下でどのように行動されるかに依存する。

ここで人間の判断力の役割がより重要になってくる。AIは分析を加速し、パターンを明らかにし、意思決定を支援できるが、文脈や責任、推論の代わりにはならない。ツールの能力が高まるほど、規律ある解釈、明確な説明責任、そしてシステムがどこで失敗したり操作されたりするかの理解の必要性が高まる。過度の依存は不確実性を取り除くものではない。検出が難しい方法で増幅することもある。

この観点から見ると、AIは認知戦の上に別途加わったレイヤーとして理解すべきではない。AIは、チェーン全体とツールボックス全体の作戦上の条件を変える加速剤である。時間を圧縮し、障壁を下げ、影響力を拡大し、社会や意思決定者双方にかけられる圧力の密度を高める。しかし、目標は安定している。信頼に影響を与え、知覚を形成し、決心に影響を与えること。

その区別を認識することは不可欠である。これにより、個々の技術や孤立した事例を追いかけるのではなく、決心の完全性（decision integrity）の防護に焦点を当てることができる。また、次のシリーズの舞台を整え、開かれた社会と適応的な敵対者の間の非対称性がより明確になり、問題の理解から実践への対処への問いが移る。

15. さらなる参考文献と推奨情報源

以下の資料は、人工知能が認知戦の手法、規模、作戦上の力学をどのように再構築しているかに焦点を当てている。これらは政策、脅威インテリジェンス、法執行機関、研究コミュニティ全体にわたる現実的な視点を提供し、AIがすでに影響力作戦でどのように活用されているか、どこでリスクが現れているのか、そしてなぜその課題が加速しているのかを示している。

中核的な脅威と政策報告

これらの情報源は、AI活用の影響力活動（AI-enabled influence activity）の進化、協調増幅、合成コンテンツ、工業化された操作エコシステムへのシフトを含む、最も一貫した横断的な視点を提供している。

AI活用の影響力作戦と悪用

これらの資料は、合成ペルソナ、自動コンテンツ生成、ハイブリッド・サイバー活用の影響力作戦（hybrid cyber-enabled influence operations）など、AIが影響力戦役（influence campaigns）で積極的に活用されていることを浮き彫りにしている。

生成AI、プラットフォーム、情報操作

これらの情報源は、プラットフォームの動態、推薦システム、生成AIがどのように相互作用し、なぜ検出、透明性、テレメトリーが対応の重要な要素となっているのかを理解する上で特に有用である。

合成メディア、ディープフェイク、そして証拠の完全性

ユーロポール（Europol）の研究は、合成メディアが詐欺、なりすまし、調査、そして現実世界の文脈における公共の信頼にどのように影響するかを示す点で、議論を実践的なリスクに根拠づける点で特に価値がある。

国家的脅威評価と作戦上の文脈

この評価は、外国の行為主体がAI、サイバー能力、影響力作戦をどのように組み合わせているか、偽メディア・エコシステムやなりすまし戦略の利用を明確に示している。

なぜこれらの情報源が一緒に重要なのか

これらの材料を合わせると、一貫した進行方向を示している。人工知能は認知戦の孤立した要因ではない。既存の影響力インフラに統合され、コンテンツ制作を加速させ、より正確なターゲティングを可能にし、操作が創作から振舞いの効果へと移行する速度を高めている。同時に、これらの情報源は、特に検証、帰属、プラットフォームガバナンス、公共信頼などの分野で、攻撃的能力と防御的対応の間に拡大するギャップを強調している。

また、このシリーズの中心テーマを強調している。課題は、虚偽や加工されたコンテンツを特定することだけではない。AIが情報の生成、配布、解釈の条件をどのように再構築し、それらの条件が社会、機関、防衛環境の意思決定にどのように影響するかを理解することである。

カテゴリー
NATO、認知戦（cognitive warfare）
NATO

前の記事

認知戦　パート４　（Eva Sula）New!!
2026年5月28日