先日、「米オープンAI、中国政府関連アカウントを停止、チャットGPTで監視方法を質問」との報道がなされた。オープンAIが問題視したのは、複数の中国語アカウントがVPN等で中国からChatGPTにアクセスし、自社サービスの制限を回避したうえで「SNS上の会話を監視する方法」を具体的に質問していた点である。これらのアカウントは、ソーシャルメディアの監視ツールや監視概念に関する詳細な設計案をAIに生成させようとしており、利用規約で禁じられた国家安全保障ポリシーへの抵触が疑われた。こうした行為は、国家レベルの監視システム構築を助長し得る点で極めて危険である。AIを活用して大規模な監視手法やデータ収集戦略のプロトコルを自動生成できれば、市民のプライバシーは根本から侵害され、言論統制や反体制派の摘発といった人権侵害が加速する恐れがある。

　加えて、こうしたアカウントが表向き個人として振る舞いつつ政府機関と連携していた可能性は、誤情報の拡散やプロパガンダ利用にも悪用されかねない。生成AIの高度な言語モデルは、監視技術だけでなくプロパガンダ文書や誘導的コンテンツの自動作成にも使えるため、情報エコシステム全体の安全性を揺るがすリスクを孕んでいる。今後、AIプラットフォーム側は国別のアクセス制御や利用パターンの異常検知をより厳格に行うとともに、利用者認証の強化やウォーターマーク技術の活用など、悪意ある応用を未然に防ぐ仕組みづくりが求められます。政府・企業・市民が協調して透明性と説明責任を担保することで、生成AIの健全な発展を図る必要がある。

　この「危険性がある」ということから、中国が陰謀を巡らせているという前提で物事を見てみよう。以下はあくまで未確認の仮説であるが、中国政府機関や関連組織がChatGPTを通じて仕掛けようとしたかもしれない陰謀をいくつか挙げてみよう。

1. 利用規約とガードレールの“穴”探し
中国側が複数アカウントで試行錯誤しながら、どの質問までAIが応答するかを徹底的にテスト。国家レベルの監視システム構築に必要なプロンプトを逆算し、制限をすり抜ける最適な入力方法を探った可能性がある。

2. プロパガンダ自動生成の実験場
AIを使って多言語・多文化向けにチューニングした宣伝文や誤情報を自動生成。議題誘導型の質問で“最適解”を引き出し、SNSや掲示板での拡散シナリオを練っていたかもしれない。

3. セキュリティ機能・検知アルゴリズムのリバースエンジニアリング
モデレーションが働く条件や異常検知の閾値を探るため、わざとグレーゾーンのプロンプトを大量送信。AI側の防御策を解析し、自前のツールに組み込む狙いがあった可能性もある。

4. 対外情報工作の最適化
世界中のSNSトレンドや世論をリアルタイムでスキャンし、チャットGPTを通じて得た分析データを対外発信に活用。欧米やアジア諸国での世論操作キャンペーンに“科学的裏付け”を加えようとしたかもしれない。

5. ハイブリッド攻撃シナリオのドラフト作成
サイバー攻撃、デマ拡散、世論操作を組み合わせた複合的作戦案をAIに策定させ、人海戦術やボットネットとの連携方法を練り上げる狙いも考えられる。

6. ディープフェイク・語調模倣技術の獲得
政治家やジャーナリストの発言パターンを模倣するプロンプトをAIに作らせ、音声や文章の偽装ツール開発に役立てた疑いも排除できない。

7. 敵対組織の人員スクリーニング
司令部から降りてくる抽象的な指示を、チャットGPTに詳細な手順やフロー図のような形で具体化させ、スパイ組織や情報部員への作戦指示に流用しようとした可能性がある。

8. 西側AI企業への内通ルート形成
VPNや偽装IDで大量リクエストを送りつつ、内部のモデレーションレポートや障害ログを“間接的に”盗み見することで、OpenAIの内部構造や開発ロードマップを推測し、自国AI開発に転用しようとしたかもしれない。(つづく)