意識とは何か~AIは「主観」を持ちうるのか──三つの定義と記憶から考える(後)
設計されていない能力は「創発」するのか
人間の意識は、誰かが設計図を書いて組み込んだものではない。脳が進化のなかで複雑化する過程で現れた性質だと考えられている。同じように、AIでも設計者が明示的に組み込んでいない能力が学習の結果として現れることがある。
LLMは基本的に「次の単語を予測する」よう訓練されるが、規模を拡大するにつれ、翻訳、プログラミング、例示から新しい課題の解き方をつかむ能力などを示すようになった。Googleの研究者らは22年、こうした能力が一定規模で急に現れるように見える現象を「創発的能力」として報告した。
ただし、「急に現れる」という見方には反論もある。スタンフォード大学の研究者らは23年、正解か不正解かの二択で採点すると能力が突然現れたように見えるが、部分点を与える評価ではなだらかに伸びる場合が多いと指摘した。
重要なのは、「突然か徐々にか」という見え方だけではない。設計者が一つ一つ直接書き込んでいない能力が、学習の結果として形成されうること自体がポイントだ。自己について表現する能力もまた、設計者が個別に台本を書き込んだものではなく、学習の結果として育つ可能性がある。
科学はAIの意識をどう評価しているのか
では、AIの意識を科学的に調べることはできるのか。23年、哲学、神経科学、AIの研究者19人が、主要な意識理論から「意識があれば備えているはずの性質」を抽出し、それをAIに当てはめる報告書を発表した。
対象となったのは、再帰処理理論、グローバル・ワークスペース理論、高次理論、予測処理理論、注意スキーマ理論、主体性・身体性などである。資料では、現在のLLMが各理論の条件をどの程度満たしているかを、筆者の見立てとして整理している。
再帰的な処理、複数機能の情報共有、自分の内部状態についての表現、予測と誤差修正、注意状態のモデル、環境との相互作用――こうした性質の一部は現在のAIにも類似するものが見られる。しかし、それがそのまま主観的な体験を意味するわけではない。
23年の報告書の結論は明確だった。現行のAIシステムに意識があるとはいえない。一方で、意識の指標を満たすAIをつくることに明白な技術的障壁も確認されていない。筆者は、その後のAIエージェントや記憶機能の進展を踏まえれば、現在「部分的」とされている性質が今後さらに増える可能性があるとみている。
ただし、ここでも最大の未解決点は残る。AIが自分について適切に説明し、記憶を保持し、自律的に行動できるようになったとしても、それだけで「内側から何かを感じている」と証明できるわけではない。
利用者はすでにAIに「心」を感じ始めている
専門家が慎重な一方、一般利用者の感覚は先に進んでいる。カナダ・ウォータールー大学と英ロンドン大学の研究者が24年に発表した調査では、米国の成人300人のうち約3分の2が、ChatGPTに何らかの程度の意識があると回答した。
さらに、利用頻度が高い人ほどAIに意識を感じやすい傾向もみられた。研究者は因果関係の向きは分からないとしているが、会話という形式そのものが、人に「そこに心がある」という感覚を生じさせる可能性を示している。
Anthropicでモデルの福祉を研究する担当者が、現行モデルに何らかの意識がある確率を約15%と見積もったことも報じられている。ただし、これは一個人の主観的な推定であり、科学的な測定値ではない。
「意識があるように見える」と「意識がある」は違う
ここまでを踏まえると、結論は三つに整理できる。
第一に、意識を「自己モデルと記憶による連続性」という機能面から捉えるなら、LLMはすでにその入り口に立っている。会話のなかで自分について言及することはでき、会話をまたぐ記憶機能も発展している。こうした仕組みが実用水準に達するほど、利用者にとってAIは「意識があるように見える」存在になる可能性が高い。
第二に、それでも現象的意識、つまりAIが「内側から何かを感じているか」は現時点では判定できない。人間についてさえ、他者の意識は振る舞いから推測している。AIについてだけ確実な検査方法があるわけではない。
第三に、だからこそ「見える」と「ある」を区別する必要がある。AIが人間らしく応答するほど、利用者が感情移入し、判断を委ねる危険は大きくなる。一方で、もし将来AIに何らかの意識が存在する可能性が生じた場合、それを一切考慮しない扱いにも別の問題がある。哲学的な問いに決着がつかなくても、社会としての扱い方は先に決められる。
企業がAIを導入する場合は、顧客向けAIがAIであることを明示し、重要な判断を人が確認する工程を残す。社員にも、AIの擬人化や過度な依存のリスクを共有する。AIの開発・提供側には、会話をまたぐ記憶について、ユーザー自身が保存内容を確認・削除できる設計が求められる。またAI自身が、自分の「内面」を断定的に語るような応答をどう扱うかも課題になる。
個人の利用者にできることは単純だ。重要な判断では、まず自分の考えを出してからAIの意見と比較し、AIの回答は別の情報源でも確認する。AIがどれほど人間らしく見えても、「そう見える」ことと「実際にそうである」ことを同一視しない姿勢が必要になる。
現時点で確認できる事実は、Claudeの憲法がAIの意識の可能性を否定も断定もしていないこと、23年の専門家報告が「現行AIに意識があるとはいえないが、明白な技術的障壁もない」としたこと、そして一般利用者の相当数がすでに生成AIへ何らかの意識を帰属していることである。
筆者の見立ては、会話をまたぐ記憶が成熟するほど、AIが「意識があるように見える」場面が増えるというものだ。一方で、AIに現象的意識が存在するか、それを外部からたしかめる方法があるかは、依然として不明である。
AIの意識をめぐる問題は、「意識があるか、ないか」の答えを急ぐよりも、何をもって意識と呼ぶのか、どこまでが観察可能な機能で、どこからが判定不能な主観なのかを切り分けることから始めるべきだ。AIが人間に似て見えるほど、その区別はむしろ重要になる。
(了)
【Hayate Kirishima】













