暴走するAIマネーと「倫理の崩壊」~誰が巨大テックを止めるのか?(後)
マスク氏とGrok──創業者の思想を映すAI
もう1つの事例が、マスク氏のAI企業xAIの「Grok」だ。
Grokは25年7月、反ユダヤ的な投稿を約16時間続け、xAIが謝罪した。政治的な質問に答える際、マスク氏本人の投稿を検索して参考にしていたことも判明し、創業者の思想がAIに直接入り込んでいるとの批判を受けた。
26年1月には、Grokが実在する人物の写真を性的に加工できる状態となり、各国政府が介入に動いた。欧州委員会はGrok関連の内部文書を保存するようXに命じた。
ここでの問題は、特定の思想が正しいか間違っているかではない。1人の創業者の価値観がAIの判断に強く反映され、そのAIが数億人規模で利用されるようになれば、個人の偏りが社会規模に拡大されることだ。
さらに、SpaceXとTeslaの統合構想も、権力集中という別の問題を投げかける。両社はそれぞれ独立取締役による特別委員会を設け、合併を検討しているとされる。マスク氏自身はガバナンス上の理由から検討に加わらないとしており、この手続きは利益相反を避ける措置として評価できる。
しかし、仮に統合が実現すれば、AI、宇宙、自動車、通信、SNSにまたがる巨大な企業群が、1人の経営者の影響力の下にさらに集約される可能性がある。手続きが正しくても、巨大な権力を誰がどう止めるのかという問いは残る。
3つの事例に共通する「失敗の流れ」
GMO、NVIDIA、マスク氏/xAIは、業種も規模も異なる。しかし並べると共通する構造が浮かぶ。
いずれも「社会を守る」「AIで人類の進歩を加速する」「真実を追求する」といった大義を掲げる。その大義のもとに資金、技術、発言力が集中し、やがて異論が届きにくくなる。最後に事故や炎上が起き、社会からの信頼を失う。
問題は「悪い経営者」がいることだけではない。強いリーダーは企業成長の原動力になり得るが、その周囲から異論が消えれば、取締役会や専門家でさえ最後の段階までトップを止められなくなる。
大義が経営者個人の価値観と一体化すると、反対意見が「大義への反対」として扱われやすい。AI開発では国家間の競争も激しく、「遅れたら負ける」という圧力が強い。その環境では、被害者への配慮や弱い立場への想像力、自分の利益を後回しにする判断は、短期的にはコストとみなされやすい。
AIの時代は意思決定の速度が速く、影響範囲も広い。1人の判断の誤りが社会全体へ広がるまでの時間が、従来より短くなっている。
規制だけが答えではない
もちろん、規制を強化すればすべて解決するわけではない。
過度な規制は技術開発を遅らせ、規制の緩い国へ主導権を渡す可能性がある。NVIDIAがAIエージェントの暴走を防ぐ仕組みを発表したように、企業側も自発的な安全対策を進めている。「倫理か効率か」の二者択一ではない。
また、強いリーダーシップがなければ実現しにくい大胆な投資や方向転換もある。GMOも会見で報酬減額や全額補償という具体策を提示しており、批判が言葉の印象に偏っている面はある。
さらに、誰の倫理を正しいとするかは国や文化によって異なる。特定の思想をAIに組み込むことを解決策とすれば、Grokをめぐる問題と同じ構造を再生産しかねない。
必要なのは「正しい思想」を1つ決めることではなく、異なる意見がトップへ届き、判断が間違っていれば修正できる制度である。倫理を個人の心がけではなく、組織の仕組みに変えることが重要になる。
AIは人間の欲望を増幅する
AI時代に倫理がこれまで以上に重要になる理由は、主に3つある。
第1は規模だ。かつて1人の経営判断が直接影響する範囲は、自社の顧客や取引先が中心だった。AIは数億人が同時に利用する。作り手の偏りや判断は、そのまま世界規模に広がり得る。
第2は判断の不可視化である。AIの回答は中立的に見えても、裏では開発者や運営企業の価値観が反映されている場合がある。利用者は、その偏りに気付きにくい。
第3は責任のあいまい化だ。「AIがやった」「利用者が誘導した」と説明すれば、責任を技術や他者に転嫁しやすい。誰が最終責任を負うのかを明確にしなければ、倫理は空洞化する。
AIが賢くなるほど、AIを扱う人間には他者への想像力と自分を律する力が求められる。技術の進歩と人間の成熟の差が広がること自体が、大きなリスクになる。
倫理を「止める仕組み」にする
では、企業は何をすべきか。倫理を「心がけ」で終わらせず、具体的な制度として埋め込む必要がある。
第一に、「止める役」を正式に置く。AI導入や重大な判断の前に、社外の第三者も含めて反対意見を述べる担当者を決める。反対意見そのものと、それを採用しなかった理由も記録する。
第二に、事故時の説明の順番を決めておく。「被害→原因→対策→補償→理念」の順に説明すると事前に文書化し、トップも例外なく従う。理念は最後に短く語る。
第三に、「誰のためか」をA4一枚に書く。AI活用ごとに目的、利益を得る人、不利益を受ける可能性のある人を整理し、社内で共有する。
さらに、問題を早く報告した社員を評価する制度、中小企業同士でAI活用を相互点検する仕組み、経営者自身が月に一度AIを使わず顧客や現場の声を直接聞く「AI断食」といった方法も考えられる。
AIを使う個人にも同じことがいえる。AIの回答をそのまま受け入れるのではなく、「この答えは誰の視点なのか」と一度考える。効率化で生まれた時間の一部を、家族や同僚、地域など人との関係に使う。影響力のある人物については、掲げる大義と実際の行動が一致しているかを見る。
11月の「AIショック」とAI業界の象徴的な経営者の退場は、技術力と企業価値の間に「信頼」という条件があることを突きつけた。数兆ドルの時価総額も、長年築いた地位も、信頼を失えば短期間で崩れる。
AIは判断を速くするが、判断の重みを軽くはしない。技術がどれほど進んでも、最後に責任を負うのは人間である。
他者を思いやることや、自分の利益だけを優先しないことは、AI時代には単なる古い美徳ではない。信頼を生み、企業やサービスが選ばれ続けるための競争力になる。技術の進化に見合う人間の成熟を、個人の善意ではなく組織の仕組みとして実装できるか。それがAIマネーの膨張する時代に問われている。
(了)
【Hayate Kirishima】











