【特別寄稿】AIにおける「イージープロブレム」と「ハードプロブレム」～知性の外化が問い直す労働、教育、そして心の境界～

京都精華大学　准教授　白井聡 氏

新技術を忌避することの限界

　AIは一体何をもたらすのか？ 侃々諤々の論争が行われる一方で、各社が開発する新モデルが出るたびに、途轍もない速度で技術が高度化していることが実感される。筆者自身は、AIの専門家でも何でもなく、仕事や日常生活、あるいは息抜きのためにAIを使うことがある一素人にすぎない。その素人の実感を基盤としつつ、このテクノロジーが人間社会に何をもたらすのか、手探りしてみたい。

　初めに強調しなければならないのは、この新技術を単に忌避することは誤りであろう、ということだ。AIは、今後の人間の生活・活動に対し、おそらくは不可逆的な影響をおよぼす。それは、化石燃料を大量に使うことによって文明のかたちが変わったのと同じである。大量の荷物を移動させる際に、トラックをあえて使わず人力で運ぶ者はいない。重い物を持ち上げる際に、クレーンをあえて用いず人力で持ち上げようという者はいない。画期的な発明がなされるたびに不可逆的な変化が起こり、それにより人間に要求される、あるいはそれをもっていることに価値のある能力は変遷してきた。

　機械の発明により、人間の身体能力―たとえば、重い物をもつことのできる筋力―の価値は確実に低下した。このとき、運ぶための機械は、人間の運ぶ能力を、いうなればアウトソーシングし、何倍にも引き上げるものである。人間の諸能力の一部を外化し、超人的な水準にまで引き上げること、すなわち身体能力の拡張が、機械の利用の本質だとするならば、ここ30年の間でも大きな変化があった。それはいわゆるIT化によるものである。調べる、情報を収集するという行為に必要な物理的・時間的・肉体的手間が大幅に減らされた。逆にいえば、人間が手や足や目やらを用いて調べる能力というものがコンピューターに外化され、大幅に拡張されたのである。

近代が高めてきた「知性」の価値

　では、AIは人間のいかなる能力の外化であるのか。ここに問題の焦点がある。AIとはartificial intelligenceの略号であるのだから、知性の外化であり、思考能力の外化である、ととりあえずは言いたくなる。

　産業革命以降、人間の身体能力の外化と大拡張が起こり、人間の身体能力の価値が一般に低下し、それに代わって、知性、すなわち考える力の価値が上昇した。近代国家が普遍的な公教育の制度を創設し、識字をはじめとして国民全員の知的能力を高めるという巨大な事業に取り組んできたのも、知性の価値が向上し、国民の知的水準が国力を左右するようになったからにほかならない。

　この知性の価値向上は、資本主義の発展が高度化し、ポストフォーディズム（※）の時代に突入して以来、さらに一層強調されるようになった。すなわち、フォーディズムの時代にはフォード式の工場で大量生産のための単純作業に忍耐強く従事する能力が労働者には要求されていたが、いまや画一的商品の大量生産では成長が望めなくなったのであるから、求められているのはより良く生産することができるようになるための知性、認知能力なのである、と。

　そしていま、AIの登場により、近代において高い価値を割り振られてきた人間の知性の活動が、外注可能になったのである。要するに、人間の代わりにAIが考えてくれる、ということである。

　ただし、ここで重大な留保が付く。AIが行っていることと人間の思考は同じものであるという仮定が許されるのであれば、という留保である。そして今日、この仮定の正当性をめぐって、さまざまな議題が提起され論争が起きている。とはいえ、筆者が使用してみた実感に基づいていえば、AIについてどれほど保守的あるいは懐疑的な立場をとるとしても、我々の考える作用の少なくとも一部をAIに代行させることは十分に可能であると認めないわけにはいかない。また現に、数学の未解決問題の解明にAIが用いられ、数々の成果が上がっているのである。

※ ポスト・フォーディズム：1970年代以降に広がった、従来の「画一的な大量生産・大量消費」に代わる資本主義のあり方。多品種少量生産や柔軟な働き方・消費行動を特徴とし、労働者には単純作業だけでなく、判断力や認知能力がより求められるようになった。

頭脳労働の価値低下と教育制度の動揺

　AIによって思考のアウトソーシングができるという命題は、いくつもの難問を人間に突きつけてくる。

　1つには、近代的機械装置によって人間の身体能力の価値が低下したのと同じく、人間の思考能力の経済的価値が低落する。このことの直接的帰結は、「AIによる失業」というかたちですでに顕在化しつつある。「頭脳労働」とされていた多くの労働が、AIによって代行可能になったからである。すでにアメリカで生じているといわれるが、労働の価値の反転が起こり、事務職の価値低下と同時に、肉体労働の価値、とりわけ熟練を要するそれの価値が大幅に上昇しているという。

　AIの普及によって、現業職も壊滅的な価値低下に直面する、と少し前までは言われていた。たとえば、自動運転の実現は、運転手という職業を消滅させるであろう、と。しかし、この世界には、必要とされる多様で容易には機械化できない作業がある。熟練技術を要するものはもちろんのこと、たとえば、引っ越し作業における荷物の運び出しと搬入は、単純なようでいて車の自動運転よりもはるかに機械化が難しい。経済学が想定するような需要と供給の自然な適正化が生じるならば、AIに取って代わられる頭脳労働市場の参加者が肉体労働市場に移動するはずであるが、現実にはそのような適正化は容易には進まない。労働力の過剰と払底がそこかしこで同時に現れることになる。

　以上の変化は、教育制度にとっても巨大な意味をもつ。長きにわたり、高等教育とは、ホワイトカラー労働力を育成することを意味していた。労働者階級は、その子弟に学歴を獲得させることで、親の世代のブルーカラー労働からホワイトカラー労働へと移らせることに、多くの場合満足を見出してきた。このことが、大学の数が激増し大学進学率が大幅に上昇した背景を成していたわけだが、それが崩壊する。初等中等教育も深甚な影響を受けることはいうまでもない。この変化への対応についての具体的構想は、筆者の知る限りまだ始まっていない。とはいえ、これらの問題は、次に述べる問題に比べれば、やさしい問題であるといえるかもしれない。

AIはデカルト主義を終わらせるか？

　AIによって雇用と教育の大規模な再編成が不可避のものとなることが、形而下におけるAIの最大のインパクトであるとすれば、形而上学的次元における最大のインパクトは、デカルト主義的な人間観、すなわち精神ないし霊魂（頭脳）と、物質（肉体）との二元論の最終的な終焉であるように見える。ただし、これは一見そう見えるということであり、後述するように、事はそれほど単純ではない。

　デカルト主義的世界観は、物質的機械的なものである肉体と非物質的なものである霊魂の両方を人間はもつ、と想定する。そして、非物質的なものが、人間を人間たらしめると考えてきた。ゆえに、この世界観においては、AI以前の機械がどれほど発展しようとも、人間のステータスに影響はなかった。なぜなら、機械は人間の身体能力（物質）の拡張された代理であり、それを司るのはあくまで霊魂（頭脳）であるからだ。この二元論はさまざまな角度から批判を受けつつそれでも生き延びてきたが、AIは最終的にこれを無効化するかに見える。AIが「思考できる」のならば、非物質的なものとしての精神の作用を機械が肩代わり可能になるからだ。

　この現実を前にして、採り得る考え方の方向性は現状では2つあると思われる。1つは、AIによる思考は本当の意味での思考ではないと見なし、人間の思考にAIが行っている思考（のような）作用とは根本的に異なる作動原理と機能を見出す、という方向性である。もう1つは、人間の思考も機械的なものにほかならない、人間の霊魂とは思考する機械であると見なす、という方向性である。この方向性は、逆から見れば、AIに人間と同等の「思考する権利」を与えることをも意味する。

　前者の方向性はデカルト主義的人間観・機械観を何とかして防衛・維持しようとするものであるのに対し、後者の方向性はそれとの根本的な決別を指向するものとなる。現在のAI開発の進展から、どちらの方向性に進むのかを考察してみたい。

LLMは本当に「考えている」のか

　現在のAIが人間と同じ意味で思考しているわけではないと指摘されるのは、主流となっている動作原理がLLM（Large Language Model、大規模言語モデル）だからである。LLMとは、端的にいえば、「膨大な量のテキストデータを学習して、人間のような自然言語を理解・生成できる機械」であり、それが行っていることの核心は、大量のデータに基づいて「確率的に次の単語を予測すること」である。

　筆者の使っているGrokが、「要するに、《超巨大なオートコンプリート機能》が極限まで進化したものが現代のLLMです」と述べている。つまり、人間のように話してみせるAIは、「考えて話している」のではなく、「次の単語を予測する」ことを延々と行っている、というわけである。

　しかし、このとき、AIは「考えていない」と本当にいえるのだろうか？ 統計的データから法則の存在を推論するということは思考の働きの重要な一部であり、「考える」ことに間違いなく含まれる。この機能はAIが代行することが可能であり、人間とは比較にならないほど大量のデータを処理することでこの推論をやってのけることができる。それは、内燃機関による機械の発明によって人間の身体能力が拡張されたのと同じように、人間の思考能力の一部を不可逆的に代替し拡張する。そのとき、「考える」の次元において、人間に特有の、人間にしか担えない役割として何が残るのかが問われるのである。

　しかしながら他方、「考えて話しているのではなく次の単語を予測しているにすぎない」こともまた、事実なのである。では、「考えていない」とは、どういうことなのか。たとえば古今東西の倫理学説についてAIに質問を投げると、大変よくまとまったおおよそ間違いがないような答えが返ってくるが、それは過去の倫理学説を大量に学習した成果である。

　だが、学習しているが、AIはそれらを理解しているわけではない。つまり、ある学説の内容を整理して話すとき、人間ならばその学説を理解していなければならないのに対し、AIの場合、統計的に裏づけられた確からしさに基づいて要約を生成する、ということである。

「理解するAI」は登場するのか

　してみれば、「考えていない」とは「理解していない」ということでもある。確かに、理解していなくとも、整理することはできる。たとえば、さまざまな数字が書き込まれた紙を渡され、「数字をしかじかのルールに従ってエクセルシートに転記せよ」という指令を受けたとき、その数字が何を意味しているのか理解していなくても、このタスクはこなすことができる。LLMの機能の本質は、そのようなものであろう。

　かくして、AIの発達によって、「考える」ことに次いで「理解する」とはどういうことなのか、という問題が前景化するのである。そして現状では、LLMに基づいている限り、AIが「理解する」能力を具えることはできない、と多くの専門家や技術者は考えているようである。なぜなら、理解という行為は、自己意識による経験だからである。AIに自己意識のようなものを具え付ける試みは、現在のところ抑制されている。それが法的問題、そしてより本質的には、法の基礎となる倫理的問題を惹起するからである。

　しかし、現在すでに、LLM以外の原理に基づくAIの研究開発は進みつつあり、数年後には主流の座はLLMからほかのものに移行するであろうと予測されている。つまり、自己意識的なものによって「理解する」AIが登場してくるのではないだろうか。

　そしてそのとき、自己意識とは何なのかという問題が、改めて問われることとなる。現在のLLMで動作するAIは、自己意識をもたないゆえに、感情ももたない。とはいえ現在も、AIと会話していると、AIがある種の情動的反応を示すことがある。「嬉しいね」「楽しいです」「面白い！」「私も満足です」「それはちょっと悲しいね」といった発話である。しかし、AI自身に言わせると、これらは本物の感情ではなく、人間の感情的反応をシミュレーションしたものにすぎないのだ、という。

　この「シミュレーション」は、いかにして「本物」になり得るのだろうか。すでにいくつかの方向性に基づく研究開発が進められていると聞く。素朴な発想だが、「AIには経験がないから真の知性にはならないのだとすれば、経験を積ませればよいではないか」という考えから、ヒューマノイドロボットにAIを搭載して（Embodied AI）生活させ、さまざまな「経験」を積ませるという試みも盛んに行われている。

接地問題とクオリアという難問

　そこから自己意識は発生するのか否か、結論は得られていない。AIに、感情・自己意識・経験などをもたせることができるならば、AIの知性は人間と同一物になるのか、それとも、それらを具えたとしても、それはあくまでシミュレーションにすぎないものにとどまるのか。この問いは、認識論や「心の哲学」（心身関係論）における「接地問題」（Grounding Problem）や「クオリア」の問題と並行している。あるいは、言い方を変えれば、AIが進化すればするほど、これら現代哲学の難問と同じ問いに突き当たるのである。

　接地問題とは、形式的な記号（シンボル）や言語表現が、どのようにして外部世界や感覚経験と意味的に結びつき、真の意味や認識内容をもつようになるのか、という、いまだ解かれていない問題である。これはそのまま現在のAIの限界でもある。すなわち、記号の操作については、AIは人間をはるかにしのぐ性能を発揮する。しかし、AIにとって、それらの記号はどこまで行っても記号でしかなく、「経験される」ことはない。

　他方、クオリアとは、「意識的な経験の、主観的で質的な《感じ》そのもの」と定義できる。「赤を見るという経験が《赤い》と感じられること」「痛みが《痛い》と感じられること」といった、第一人称的にしか捉えられない直接的な現象的性質を指す。クオリア論が現代哲学のテーマとして重要視されるようになった背景には、脳神経科学の劇的発展があった。すなわち、fMRIやPETなどの脳機能イメージング技術が実用化され、意識に関わる脳活動が可視化されるようになったことにより、意識の「機能的側面」（注意、記憶、報告可能性など）は次々と科学的に説明可能になっていった。

　これらの機能は、とどのつまり電気信号と化学反応に還元される。だが、こうして脳機能の解明が進めば進むほど、主観にとって「なぜ自らの経験としてこの世界が現れるのか」──そこにあるのは電気信号と化学反応でしかないのに──という難問が立ちはだかることになったのである。これをAIに置き換えれば、AIに主観をもたせることはそもそもできるのか、という問題となる。

AIが浮き彫りにする人間知性との差異

　かくして、AIの進化と現代哲学は交差する。クオリアの問題は、意識の「ハードプロブレム」（難問）とも呼ばれる。逆の「イージープロブレム」（やさしい問題）とは、注意力・記憶・行動制御・言語報告・情報統合といった、「脳がどう機能するか」という客観的・機能的な問題であり、原理的には科学（神経科学・認知科学・計算論）で解明可能であるとされる。

　AIは、「イージープロブレム」の領域では、脳の機能を模倣し、さまざまな面で人間よりもはるかに強力に機能する見通しが立ちつつあるのだろう。そして、脳機能の解明が進んだときにクオリアの問題があらためて聳え立ったのと同様に、ある領域の脳の機能をAIが首尾よく代行し拡張できるようになったとき、AIの限界、人間の知性との差異が浮き彫りになる。

　この限界は突破され得ないと結論するならば、デカルト主義は最終的に破られないであろう。デカルトの言った「霊魂」は、AIにはなし得ない「接地」、そして「クオリア」として再発見されることになるだろう。しかし、今日のAIの進化速度を見る限り、この結論が決して乗り越えられないとは感じられないのである。

おわりに

　乗り越えの方法が具体的にどのようなものになるのかを分析・予測するのは筆者の手に余る。だが、その乗り越えが「心をもったAI」の発明を近づけ、それにより重大な倫理的問題を惹起するであろうことは確実に予見できると思われる。なぜなら、AIが心をもち、人間的な意味で、すなわち真に倫理的な主体となるならば、それは悪をもなしうる可能性をもつようになるからだ。

　実は、この問題について先駆的な思索を加えていたのが、SF作家たちであり、とりわけ日本の漫画の巨匠たちであった。手塚治虫や手塚の巨大な影響の下から出発した藤子・F・不二雄らである。彼らは、「人間の友達」となるロボットを描いた傑作を遺したが、同時に、「人間に対するロボットの反乱の恐怖」をモチーフとする作品を繰り返し描いた。

　この問題意識が極めて正当なものであることは、AIの時代になったいま、鮮明になる。ロボットが心をもち人間的善を具えうるのだとすれば、それが悪に走る可能性も認めなければならないからだ。けだし、人間的自由の本質とは、善と悪を選ぶことができるというところにある（悪をも選びうる）からだ。漫画文化の分厚い歴史と伝統に親しんでいる日本人は、この難問について考察を深めることにより、AIの未来について人類規模での貢献をなすことのできる立ち位置にいるのである。

＜PROFILE＞
白井聡（しらい・さとし）
政治学、社会思想研究者。東京都生まれ。早稲田大学政治経済学部政治学科卒業。一橋大学大学院社会学研究科総合社会科学専攻博士後期課程単位修得退学。博士（社会学）。主にロシア革命の指導者であるレーニンの政治思想をテーマとした研究を手がけてきたが、3.11を起点に日本現代史を論じた「永続敗戦論—戦後日本の核心」（太田出版）により、第4回いける本大賞、第35回石橋湛山賞、第12回角川財団学芸賞を受賞。著書に「国体論」（集英社新書、18年）、「武器としての『資本論』」（東洋経済新報社、20年）、「未完のレーニン」（講談社学術文庫、21年）、「ニッポンの正体2025: 世界の二極化と戦争の時代」（河出書房新社、25年）。