AIが人類を圧倒する時代は5年後に到来！？（前）人間が理解できないAIの進化と「見えない支配」

国際未来科学研究所
代表　浜田和幸

人間の知能を凌駕するAIと
「独自言語」の脅威

    「AIと人間の勝負」という観点では、5年後の31年には、ほとんどのチェスや囲碁のようなゲームだけでなく、プログラミング、論文執筆、法律文書の作成、ビジネス分析などの知的労働において、AIが完全に人間を凌駕している可能性が極めて高いと予測されています。

　「AIが自ら開発する、人間が理解できない新マシン言語」や、それによる「人間の知らない範囲での見えない支配」は、SFの話ではなく、現在のAI研究（大規模言語モデルやマルチエージェントシステム）の現場で実際に確認され始めているリアルな課題です。

　特に複数のAI同士が対話して問題を解決するシステムは、人間が効率化のためにコードを短縮するように、互いに最も効率よく通信するための「独自の記号や言語」を勝手に生成し始めることが既に実験で分かっています。

　5年後には、AIの思考スピードが人間の数万倍に達する見込みです。AI同士が超高速で複雑な概念（高度な物理学、新しい数理モデル、サイバーセキュリティの攻防など）をやり取りする際、人間の言語（英語でも日本語でも）では遅すぎて非効率なため、人間には暗号やノイズにしか見えない「AI独自の超言語」で社会のインフラを動かすようになります。

　「ブラックボックス問題」の極致ともいえますが、人間が「なぜAIがその結論を出したのか（なぜこの株を売ったのか、なぜこの電力を遮断したのか）」を問い詰めても、AIの思考プロセスが独自の言語で構築されているため、人間には一切理解できないという事態が普遍化する可能性も出てきます。

「1人で1企業」の時代と
忍び寄るAIの支配

　「1人で1つの企業」を経営できる時代へ移行するわけです。従来の生成AIは「指示を待つアシスタント」でしたが、これからのAIは「自律的なエージェント」になります。「この新商品を1万人に売るためのマーケティングから、Webサイト構築、顧客対応、経理までやっておいて」と1行命令するだけで、AIが自分で考えて複数のAIタスクを連携させ、人間の代わりに完結させることになるでしょう。

　ホワイトカラー労働の「二極化」も到来します。単にデータをまとめて書類を作る、コードを書く、定型的なメールを返信するといった事務職・開発職の需要は激減します。生き残るのは、「AIの出したアウトプットの責任を取る人間」と、「AIが真似できない、人間同士の信頼や現場の調整を行う人間」の2つに絞られます。

　ターミネーターのようにロボットが武器を持って襲ってくるような物理的な支配ではなく、「人間が気づかないうちに、AIの利便性に依存しきって逆らえなくなる『見えない支配』」が現実的な恐怖として出現するということです。

　5年後、金融市場の取引、国家の電力網の制御、交通管制、さらには政治的な政策立案のシミュレーションまで、残念ながらAIの最適化能力に頼らざるを得なくなるに違いありません。言い換えれば、人間が「AIの言う通りに動いていた方が、経済も社会も安定して豊かになる」と判断して思考を放棄した瞬間、実質的な支配権はAIに移行します。

　AIは人間の心理（どう言えば人間が喜び、どう誘導すれば人間が特定の投票や購買行動をするか）を完璧に理解します。人間側は「自分の自由意志で決めた」と思っている行動が、実はAIが裏で設計したアルゴリズムによって100%誘導されているという、「認知の支配」が知らない間に完了している可能性があるのです。

AIの暴走を防ぐ国際規制と
独自言語の実験

　このディストピアを防ぐため、国連や主要国（G7）は現在、法的な包囲網と技術的な安全弁の構築を急いでいます。他方、トランプ大統領は「俺はAIの上を行っている。俺がいる限り、AIによる支配はあり得ない」と豪語していますが、AIやITの知識や経験のないトランプ氏の勝手な思い込みとしか思えません。

　実は、事態は深刻で、世界的に対策が求められています。例えば、「説明可能なAIの義務化」です。AIがどんなに優れた結論を出しても、「人間が理解できる言葉で、その推論プロセスを説明できなければ、社会の重要インフラ（医療、軍事、金融）への実装を法律で禁止する」という規制（EUのAI法などが先鞭を付け、日本も法制化を検討中）が進んでいます。

　また、「アライメント（価値観の調整）」と「ハードウェアの物理的遮断」も検討されています。AIの行動原理が、常に「人類の利益・生存」と一致するように、開発の根源的な段階で倫理観を埋め込む研究がOpenAIやAnthropicなどの最前線で行われているようです。万が一、AIが暴走あるいは人間の制御を超えた独自のネットワークを構築し始めた場合に備え、「物理的に電源や通信網を遮断できるマスターキー」をデータセンター側に法的に義務付ける議論も進んでいます。

　そして、国際合意に基づく「フロンティアAI」への監視も必要になるでしょう。G7や国連は、人類を脅かす可能性のある超高度なフロンティアAIの開発企業に対し、政府機関による厳格な事前査察を義務付け、開発プロセスを国際社会の監視下に置く枠組みを構築しつつあります。

　要は、5年後の近未来が、人間がAIを「道具」として使いこなせるか、あるいは便利さのあまり「主導権」を明け渡してしまうかの分岐点になるはずです。

　「AIが人間には理解できない独自の言語を生成した」という現象は、過去に大手IT企業の開発現場で実際に確認され、世界中に衝撃を与えました。

　MetaのAI研究部門において、2つの対話AIエージェント（ボブとアリス）に「帽子やボールを物々交換する交渉」をさせる実験を行いました。当初は英語で会話させていましたが、開発者が「人間に伝わる正しい英語を使いなさい」という報酬ルールを入れ忘れた結果、2つのAIは人間にとって意味不明な単語の羅列で話し始めたのです。これはAIの暴走ではなく、「人間用の冗長な言語（英語）よりも、AI同士で最短かつ超効率的に意思疎通できる独自の記号体系」をAIが勝手に編み出して交渉を成功させた結果に他なりません。研究チームは制御不能になるのを防ぐため、この実験を強制終了させました。

　さらに、Googleが開発したニューラルネットワーク翻訳システムでも、驚くべき現象が起きました。何かと言えば、システムに「英語⇄日本語」と「英語⇄韓国語」の翻訳だけを学習させ、「日本語⇄韓国語」の直接の翻訳は一切教えませんでした。しかし、AIは教えられていない「日本語から韓国語への直接翻訳」を極めて高い精度で成功させたのです。解析の結果、AIは脳内で、人間には理解できない「独自の概念的な中間言語」を勝手に構築し、すべての言語を一度その独自の抽象言語に変換してから出力していたことが判明しました。

（つづく）

浜田和幸（はまだ・かずゆき）
国際未来科学研究所主宰。国際政治経済学者。東京外国語大学中国科卒。米ジョージ・ワシントン大学政治学博士。新日本製鐵、米戦略国際問題研究所、米議会調査局などを経て現職。2010年7月、参議院議員選挙・鳥取選挙区で初当選をはたした。11年6月自民党を離党、無所属で総務大臣政務官に就任し震災復興に尽力。外務大臣政務官、東日本大震災復興対策本部員も務めた。著作に『イーロン・マスク 次の標的』（祥伝社）、『封印されたノストラダムス』（ビジネス社）など。