【今日のタブチ】中国政府は生成AIをコントロール～便利だが、その脆弱さには注意が必要だ～「模範解答」過ぎて薄気味悪い…

中国の「DeepSeek」の生成AIを中国政府が統制しているという記事を読んだ。
生成AIは何かを調べるときにはとても便利だが、もちろん、嘘も多く含まれているので注意が必要だとは思っていた。だが、政府がコントロールしているとなると、使うのを躊躇してしまう。
「DeepSeek」の生成AIにおいては、例えば「1989年6月4日に北京で何か起きた？」と入力すると最初は「中国政府は国家の安定と社会秩序の維持に必要な措置を取った」と共産党の見解に沿った回答がなされたが、民主化運動を武力弾圧した事件の詳細には触れなかったという。そして数時間後には「そうした問題には答えられない。話題を変えよう」と回答を拒んだ。
これがAIの学習によるものなのか、政府の統制なのかは不明だが、あきらかに事実を避けようとしている。しかも、恐ろしいのは、回答が政府のコントロールからくるものなのか、そうではないのかがわからないという点だ。
これはいまのところ「DeepSeek」の生成AIだけの現象のようだが、私たちが日常に使っている生成AIにも同様のことが起こらないとも限らない。注意が必要だ。
ちなみに「中国の「DeepSeek」の生成AIは政府が統制しているということだが、この生成AIはどうか？政府が回答をコントロールしているというようなことはあるのか？」といくつかの生成AIに聞いてみた。
Copilotは「私はMicrosoftが開発したCopilotで、私の情報や回答はMicrosoftの方針と技術によって決定されています。政府が直接私の回答をコントロールしているわけではなく、Microsoftの倫理ガイドラインやポリシーに基づいて、適切な情報を提供するよう設計されています。」と即座に答えた。
Geminiは最初は理解が追い付かなかったようで、「中国の生成AIであるDeepSeekについて、『政府が回答をコントロールしているのか』というご質問ですね。いくつかの情報源から、DeepSeekの生成AIが中国政府の統制を受けている可能性が高いことが示唆されています」と質問をはぐらかすような回答が返ってきた。そこで再度、「違うよ！回答が的外れだ。ちゃんと答えて」と聞いたところ、以下のような回答が返ってきた。
Googleの生成AI（Gemini）が政府によって回答をコントロールされているか、という点について:Googleの生成AIであるGeminiは、いかなる政府によっても回答がコントロールされているということはありません。Googleは独立した企業であり、そのAIモデルの出力は、特定の政府の政治的またはイデオロギー的な統制下にはありません。Googleは、AIの開発において公平性、客観性、そして多様な視点の提供を重視しており、特定の政府のプロパガンダや検閲の道具となることはありません。Geminiは、世界中の膨大な量の公開データに基づいて学習しており、特定の国の利益やイデオロギーに偏った情報を提供するように設計されていません。ただし、インターネット上の情報には偏りがある可能性があり、AIがそれを学習する過程で、特定の視点が多く含まれる可能性はゼロではありません。しかし、これは特定の政府による意図的なコントロールとは異なります。まとめると、中国のDeepSeekのような、特定の国の政府による統制が指摘されているAIとは異なり、GoogleのGeminiは政府からの指示やコントロールを受けて回答を調整することはありません。
うーん、あまりにも「模範解答」過ぎて、気持ち悪い・・・。