【今日のタブチ】170億円が消えた日――AIと核、人類は本当に制御できるのか

とうとう起こるべきことが起きた。
今朝、航空自衛隊の無人偵察機グローバルホークが日本海上で行方不明になったというニュースを聞いて、私はそう思った。
空自は墜落したとみているようだ。しかし、現時点では原因は明らかになっていない。海上では機体の一部とみられる浮遊物も発見されたという。もし墜落していたなら、日本国民の税金によって導入された約170億円の機体が失われたことになる。しかも、この機体は単なる航空機ではない。日本周辺の警戒監視を担う重要な装備である。
もちろん、常識的に考えれば墜落の可能性が高いのだろう。しかし、本当にそれだけなのだろうか。
可能性は高くないにせよ、他国によって回収、あるいは拿捕された可能性がゼロであると断言できるだろうか。今回の事故は、それほどまでに多くの疑問を投げかけている。
そして、私が気になったのは事故そのものだけではない。
最近の新聞には、OpenAIがAIの暴走リスクを踏まえ、開発速度の減速まで検討しているという記事が掲載されていた。偶然と言えば偶然なのだろう。だが、私には二つの記事が不思議なほど重なって見えた。
無人偵察機グローバルホークは人間が操縦席に乗る航空機ではない。高度なコンピュータ制御によって飛行し、膨大な情報を収集するシステムである。今回の事故の原因がAIであると言うつもりはない。しかし、人間が自ら構築した巨大で複雑なシステムが、もはや一人の人間の理解を超える領域に達していることだけは確かである。
私は最近、こうしたニュースを目にするたびに同じことを考える。

人間は、踏み込んではいけない領域に入りつつあるのではないか。

私が特に危険だと感じているのは二つである。
AIと核だ。
どちらも人類が生み出した技術の到達点であり、同時に人類自身を脅かす可能性を持つ存在でもある。
AIの開発企業ですら暴走を懸念している。核兵器を保有する国家ですら、その管理や抑止に絶対の自信を持てていない。
考えてみれば不思議な話だ。人類は原子を分裂させる技術を手に入れた。しかし、その力を完全に制御する術は手に入れていない。人類はAIを生み出した。しかし、その進化がどこへ向かうのかを誰も説明できない。
つまり、人類は「作る能力」には長けているが、「制御する能力」はそれに追いついていないのである。今回のグローバルホークの事故も、ある意味ではその延長線上にあるのではないか。原因はまだ分からない。機械的な故障かもしれない。通信トラブルかもしれない。ソフトウェアの問題かもしれない。人災かもしれない。あるいは、まったく別の要因かもしれない。しかし、問題は原因の特定だけではない。人間が巨大システムを構築する一方で、その全体を本当に把握し、管理し、制御できているのかということである。

さらに今週の新聞には、中部電力浜岡原発に関する不正問題も大きく取り上げられていた。そこで繰り返し浮かび上がってきたのは、「自分たちは正しい」という組織の思い込みである。技術が暴走する前に、人間の過信が暴走する。こちらの方がむしろ根深い問題かもしれない。
AIも核も原発も、本質的には技術の話ではない。人間の話なのである。自分たちは制御できる。自分たちは管理できる。自分たちは間違えない。そう信じた瞬間から危険は始まる。
グローバルホークの行方不明。AI開発企業自身による暴走への懸念。原発を巡る組織的不正。一見すると別々のニュースに見える。
しかし、私にはいずれも同じ警告に見える。
人類は自らの能力を過信し始めている。そして歴史を振り返れば、人類が最も大きな失敗を犯すのは、いつも自らを過信したときなのである。

「日テレNEWS NNN」より