AI覇権の主戦場は「物理」へ（続2）AIは⼈類を⽀配するのか

4 確認できた事実（2）力は誰に集まるのか

　前回のレポートで、AI競争の軸がモデルの性能から、電力・水・通信・メモリという物理的な制約へ移ったことを述べた。この視点は「支配」の問いにも直結する。

　国際エネルギー機関（IEA）によれば、データセンターの電力消費は2024年に415テラワット時で世界全体の約1.5％を占め、2030年には約945テラワット時へ倍増以上になる見通しだ。AI向けの広帯域メモリを供給できるのは3社に限られる。最先端の半導体を量産できる企業も数えるほどしかない。

　この事実には2つの面がある。

・人間には「止める手段」が残っている。AIは電源と供給網から切り離されれば動かない。2026年6月、米商務省が米アンソロピックの最先端モデル2種に輸出規制をかけた際には、同社が19日間にわたり提供を止めた。国家がその気になれば止められることを示した例である。

・同時に、基盤を握る少数者に力が集まる。フォアソートの論文は、権力者がこれまで必要としてきた多数の人間の協力、つまり兵士や官僚や労働者を、AIが代替し得る点に危うさがあると論じる。協力を拒むことで権力を縛ってきた歯止めが、効かなくなるからだ。

　前回取り上げた軌道上データセンターの構想も、この文脈で見直す必要がある。実現性は未知数だが、仮に実現すれば、地上の電力網や水利、立地規制から切り離された計算基盤が生まれる。物理的に止めにくい計算基盤を一企業が持つことの意味は、採算とは別に議論されるべきだと筆者は考える。

5 確認できた事実（3）制度は追いついているか

・EU：AI法は、禁止行為の規定が2025年2月、汎用AIモデルへの義務が同年8月に適用された。一方、高リスクAIへの義務は2026年5月の合意で2027年12月へ延期された（製品組み込み型は2028年8月）。

・日本：AI法が2025年9月に全面施行された。罰則を置かない推進法である。同年12月には人工知能基本計画を閣議決定。2026年7月の日本成長戦略は、安全性評価機関AISIの機能の抜本強化と、最先端AIによるサイバー攻撃への対策を盛り込んだ。

・自律型兵器：2026年9月の国連の専門家会合では、76カ国が条約交渉入りを支持したが、拘束力のある合意には至らなかった。米国とロシアの主張で最終報告の文言は弱められたと、国際人権団体は報告している。11月の再検討会議が節目になる。

・国連：独立国際AI科学パネルが発足し、3節で触れた報告のように、個別の事例を分析して勧告を出し始めた。パネルは航空や医療にならい、事故報告、独立監査、多層の安全策を求めている。

　総じて、枠組みはできつつあるが、強制力のある仕組みは少ない。7月の事例が示すとおり、開発企業の内部で動く最先端のAIは、外部からほとんど見えない。筆者は、制度面の最大の穴はここにあるとみる。

6 筆者の結論

　「AIに人類は支配されるのか」という問いに、現時点で確定的な答えはない。そのうえで、筆者の見立てを三点にまとめる。

1. 今後10年の主戦場はB群とC群である。AI自身の反乱より先に、AIを握る者への力の集中と、人間の側の判断力の空洞化が進む。これらは仮説ではなく、すでに観察できる。

2. A2（目的のずれた道具の暴走）は、小さな事故として繰り返される。問題は、それが小さいうちに報告され、原因が共有されるかどうかだ。航空事故のように学べる仕組みがあれば、大事故の確率は下げられる。

3. A1（急激な乗っ取り）は可能性が低いと考えるが、ゼロとは言えない。起きた場合に取り返しがつかない以上、可能性の低さは備えを怠る理由にならない。

　問うべきは「支配されるか」よりも、「いざというとき誰が止められるか」である。止める手段は、電源、供給網、権限の設計、そして法制度という、きわめて物理的で地味なところにある。

7 企業と個人が、いま取れる行動

現実的な三つ

1. AIに任せる判断と、人が下す判断の線引きを文書にする。与信、採用、安全に関わる判断など、最終決定者が人であるべき業務を先に決めておく。

2. AIエージェントに渡す権限を最小限にし、停止手順を決めておく。認証情報、決済、外部への通信の範囲を絞る。7月の事例でも、認証情報の分離やネットワークの隔離が不十分だったと指摘されている。

3. 特定のAIやクラウド1社に業務を依存させない。6月の提供停止が示すとおり、最先端のAIは政治判断ひとつで使えなくなる。代替手段と、AIなしで回す手順を残す。

視点の異なる三つ

1. 中核の技能を、AIなしで実行する機会を定期的に設ける。医師の発見率が下がった研究が示すように、技能は使わなければ衰える。

2. 業界の中で、AIに関する事故やヒヤリハットを共有する場をつくる。制度が整うのを待たず、同業者間で始められる。

3. 現場データの帰属を、契約で押さえる。前回述べたとおり、現場の暗黙知は日本の強みである。それを誰が持つかは、力がどこに集まるかという本稿の問いと同じ線上にある。

　本稿は公開情報に基づく筆者の分析である。事実として記した事項は、末尾の出典で2026年10月5日時点に確認した。「見立て」「筆者は〜と考える」と記した部分は筆者の見解であり、確率や将来を保証するものではない。「とされる」「と報告している」と記した事項は、当事者の公式発表ではなく報道や第三者の分析に基づく。

（了）

【Hayate Kirishima】

主な出典
1. AI研究者2,778人の調査（Grace et al.）
2. AIリスクに関する声明（2023年5月30日、Wikipedia）
3. 超知能に関する声明（SiliconANGLE、2025年10月22日）
4. ヒントン氏の確率、主観確率への批判（SBS News、2026年9月21日）
5. ルカン氏の見解（TIME、2024年2月13日）
6. 「通常の技術としてのAI」の解説（O'Reilly Radar）
7. 国際AI安全報告書2026（政策立案者向け要約、2026年2月3日）
8. 訓練をやり過ごす行動の研究（Greenblatt et al.）
9. 脅迫行動の研究（Anthropic、2025年6月20日）
10. 停止の妨害（Palisade Research、2025年7月5日）
11. 2026年7月の事例（The Hacker News、2026年7月29日）
12. 同・管理体制の分析（Recorded Future、2026年8月5日）
13. 同・経緯（Wikipedia）
14. 国連 独立国際AI科学パネルの発表（2026年9月21日）
15. 最先端AIのリスク評価（METR、2026年5月19日）
16. 段階的な権限喪失（Kulveit et al.、2025年1月）
17. 「AI 2027」の見通し修正（Fast Company、2026年2月12日）
18. AIを使った権力奪取の論文（80,000 Hours、2025年4月）
19. インターネットの自由（Freedom House、2025年11月13日）
20. 自律型兵器の国連協議（Human Rights Watch、2026年9月7日）
21. データセンターの電力消費（IEA「Energy and AI」）
22. 米国の輸出規制と提供再開（Al Jazeera、2026年7月1日）
23. 同・停止期間（MarketScale）
24. EU AI法の改正合意（Gibson Dunn、2026年5月27日）
25. AI法の全面施行（内閣府、2025年10月3日）
26. 人工知能基本計画（Impress Watch）
27. 日本成長戦略（内閣官房、2026年7月21日）（PDF）