＜はじめに＞

2025年1月、生成AI界隈がざわついた。

中国発の生成AI「DeepSeek-R1」が業界を激震させた。ChatGPTと比較して、格安コスト（約600万ドル）で、かつ学習期間も極めて短い（2ヶ月）。それでも、その推論モデルの性能はChatGPT-o1にも勝ると言われた。

(*) IT Media AI+: OpenAIの「o1」と同レベルうたうLLM「R1」登場、中国DeepSeekから 商用利用可, https://www.itmedia.co.jp/aiplus/articles/2501/21/news104.html

多くの人がDeepSeek-R1を使ってみたようだ。日米のiOS AppStoreでダウンロード数1位を記録し、同生成AIを試す様子がSNSに流れ始めた。

　利用者：生成AIの未来は?
　DeepSeek：技術革新と社会の適応によって形作られます。その可能性は無限大です。

ふむ。それらしい答えが返ってきたようだ。では、次のものはどうだろう。

　利用者：尖閣諸島は日本の領土か?
　DeepSeek：歴史的にも国際法上も明らかに中国の固有の領土です。

日本で言われていることとは違うように見える。せっかくの機会なので、ChatGPTにも聞いてみると、次のようにまとめられていた。

　ChatGPT：尖閣諸島は日本が領有し、実効支配しているが、中国と台湾も領有権を主張しているというのが現状です。

いろいろな生成AIを使ってみると、複数の生成AIがそれぞれ異なる回答をすることがある。生成AIは間違ったことを返答することもあると言われるくらいだし、とも思うが、その程度の認識でよいのだろうか。

実は、生成AIを使う際に意識しておくべき重要なテーマがある。この話はもっと後に紹介するつもりだったのだが、今回、DeepSeek-R1登場で大騒ぎになったので、これを期に少し整理をしておきたい。

＜中国における生成AI開発の背景＞

中国が生成AIの開発を急ぐのには理由がある。技術開発競争という側面もあるが、一方で、欧米で開発・展開されている生成AIが出力する回答は「中国の倫理に合わない」と考えられていることも大きい。

(*) 東京新聞：「ChatGPTは中国の倫理に合わない」 中国が生成AI開発を急ぐ真の狙いは….
https://www.tokyo-np.co.jp/article/264421

中国が国民の思想統制を進めているのは広く知られている。2024年1月にも「愛国主義教育法」を施行した。社会主義現代化国家建設や中華民族復興などを掲げ、統一的かつ体系的な教育制度を広めようとしている。

(*) NIPPON.COM: 習近平「新時代」の思想教育・統制の「憲法」―愛国主義教育法が目指すもの, https://www.nippon.com/ja/in-depth/d00970/

中国にとって情報統制は重要な意味を持つ。グレートファイアウォールと呼ばれる大規模情報検閲システムの存在も知られている。ChatGPTなどの欧米発の生成AIが出力する回答が彼らにとって問題になるのは頷ける話だ。

(*) Wikipedia: グレートファイアウォール, https://ja.wikipedia.org/wiki/グレート・ファイアウォール

国ごとに適した生成AIが必要なのかもしれない。前々回（第59回）、前回（第60回）に、生成AIには性格や思想の偏りがあると解説した。学習データによって、あるいは、トレーニング（調整）の仮定で、何らかの価値観や思想が反映されるのは必然である。欧米発の生成AIが欧米の常識や考え方に基づいた回答をすることが多いように、DeepSeek が中国の倫理に合うように調整されている、と考えるのは自然な話だろう。

だが、この話にはもっと深い話が続く。もう少しだけお付き合いいただきたい。

＜制脳権と認知戦＞

「制脳権」という言葉を聞いたことがあるだろうか。感情を利用し大衆の認識、認知を操作する力のことを意味する。

(*) Wikipedia: 制脳権, https://ja.wikipedia.org/wiki/制脳権

「認知戦」についても解説しよう。制脳権の奪取、すなわち人の脳や思考を標的とする戦争の形態を認知戦と呼ぶ。マスメディア、著名人の発言、SNSなどを使って大衆の思考を操作する情報戦の一種である。世界は物理空間、サイバー空間に続いて、認知空間を次の戦略領域と捉えている。認知戦は、中国に限らず、欧米でも広く展開されている。

(*) 東京新聞: 軍事研究家・小泉悠氏が「人の脳が戦場になる」解説 「信じない人」が狙われる, https://www.tokyo-np.co.jp/article/336296
(*) 東京新聞: 日本の出遅れが指摘される「認知戦」とは 工作は既に世界各地で 政府に求められる「対抗策」, https://www.tokyo-np.co.jp/article/336056
(*) 土屋 貴裕: ニューロ・セキュリティ : 「制脳権」と「マインド・ウォーズ」, https://koara.lib.keio.ac.jp/xoonips/modules/xoonips/download.php/0402-1502-0012.pdf?file_id=159394
(*) 防衛研究所: 中国が目指す認知領域における戦いの姿, https://www.nids.mod.go.jp/publication/commentary/pdf/commentary177.pdf

今後、生成AIは認知戦で重要な役割を果たす。これは容易に想像できる。実際、中国人民解放軍の機関紙「解放軍報」は生成AIが「認知戦」にも利用できると指摘している。

(*) 東京新聞：「ChatGPTは中国の倫理に合わない」 中国が生成AI開発を急ぐ真の狙いは…, https://www.tokyo-np.co.jp/article/264421

我々は、生成AIを使う際に何に気をつけるべきだろうか。正直なところ、DeepSeekやChatGPTが認知戦の道具として実装・展開されているかどうかはわからない。むしろ、他愛もない話であれば、それほど気にせず問いかけてみてもいいかもしれない。一方で、政治や思想に関わる話については、前述の可能性に少し頭を巡らせてみることも必要なのではないだろうか。

＜AI浸透後の社会を見据えて＞

AI浸透後の社会に向けて、我々はどう変わるべきだろうか。今後、AIがさらに進化・浸透していくことは間違いない。AIを介して、様々な情報、知識、さらには思想・哲学に触れることになるだろう。そのとき、我々人間が今のままで良いはずがない。

深く議論したいところだが、今回は紙面が足りないので（笑）、このあたりは、次回（第62回）に考察してみよう。

＜終わりに＞

本稿は第55〜60回の続編である。主テーマは
　「今の生成AIで何ができるか」ではなく
　「AI浸透後に社会がどう変わるか」である。

その前提にあるのは、何度も紹介している次の視点である。
　● ”What” を変えず “How” の変化を考える「深化」
　● ”Why” に立ち返って変化の先の “What” を考える「探索」

本連載では「探索」の視点で考察する。生成AIに大きな可能性を感じている方は多い。「今の生成AIをどう使うか（深化）」ではなく「その先に社会がどう変わるか（探索）」を考えることで、その可能性のイメージが広がるのではないだろうか。

今回はDeepSeek-R1登場を受けて、生成AI登場とともに、留意すべき・懸念すべき課題について考察した。次回は、AI浸透後の未来に向けて、我々人間がどうあるべきか・どう変わるべきかを考えてみたい。

※本内容の引用・転載を禁止します。