人工知能（AI）はこれからが本来の意味での発展に向かう！（4）

慶応義塾大学理工学部 教授　栗原　聡　氏

「アシロマAI 23原則」に世界のAI研究者1,000名が署名

　――話題を転じます。本書では「AI兵器」についても言及されています。それはなぜでしょうか。

　栗原　「人工知能（AI）は人を殺すのか？」という問いがあります。結論からいえば、私は現在の技術・道具型のAI（低汎用型）であれば、AIが自らの意志で人を殺すという、SF映画のような状況は起きることはないと考えています。AIが自らの意志で動くように見えたとしても、それは開発者がAIにそのような動きをさせるプログラムを実行させているに過ぎません。あくまで人がAIを使って人を殺すのです。これまでの科学技術と人との関係と同じあり、技術を良いことに使うも悪いことに使うも人次第です。

　しかし、今後登場するであろう「自律型AI（高汎用型）」について考えてみた場合は、そう簡単な話ではありません。自律型AIには、能動的な動作を起こすための目的が埋め込まれることになるからです｡それも、床掃除とか食器洗いとといった具体的な目的ではなく、「家をきれいにする」といった抽象的な目的（「メタ目的」といわれる）が埋め込まれることになります。つまり、自律型AIはメタ目的を達成させるための具体的な目的を自らの判断にて選択することになり、道具感が薄れていくことになるのです｡

　科学技術の平和利用と軍事利用は表裏一体であり、兵器を使う側の倫理として「平和を守る上で必要」という理由があれば、人は兵器を開発します。現在、自律型致死兵器開発はイスラエル、ロシア、中国、米国、フランス、韓国の6カ国で行われています。これが現実であり、そのため昨今AI兵器の利用についての議論が世界では盛り上がっています。しかし、日本ではそのような気運が今のところありません。そこで、本書でも触れて、警鐘を鳴らしておきたかったのです。

　世界ではFLI（フューチャー・オブ・ライフ・インスティテュート）という研究支援団体がAIの安全性の研究を主流にすべく尽力しています。AIが人類にとって本当に有益なものであるために問われるべき倫理的問題や安全性への対策を23の原則としてまとめた「アシロマAI23原則」を2017年に発表しました。これまでに世界の1,000人を超えるAI研究者がこの原則に署名しています。私も署名しました。（2019年4月現在）

人間は科学技術の進展とは逆に退化しているのではないか

　――時間になりました。近未来、未来に、人工知能（AI）との共存は避けられない読者にメッセージをいただけますか。

　栗原　人工知能（AI）をこれまでの科学技術とまったく違うものと考え、身構え、気負う必要はありません。産業革命以降、我々人類は、さまざまな科学技術による劇的な変化にも適応してきました。「生きるために」持っている知識や経験を総動員して打開策を考えるのが生物の本来の姿です。生物が、生き抜くことが容易でない環境に適用しようとすることこそが「知能」なのです。もちろん、AIがさらに格差を拡大させることも大いに懸念されます。しかし、そのような状況下でこそ、政治がつくりだすさまざまな社会制度（ベーシックインカムなど）のサポートが必要なのです。

　高い汎用性と自律性を持つ本来のAIが、医学、物理化学、社会科学などさまざまな分野で、混沌化する社会と我々の仲介となり、我々に安定と安心をもたらす存在となることを期待しています。AIが発達し、人間を高度にサポートしてくれる社会は必ずしも機械的な社会になるのではなく、文化的に豊かな社会になるのかも知れません。

　最後に、ではこのようなAI時代を生きて行く上で最も必要な能力とはどのようなものでしょうか。私は高い「人間力」であると確信しています。ところが、今、人間力は低下の一途を辿り、人間社会そのものの基盤が壊れつつあります。人がしっかりした社会性やモラルを失いつつあるのです。

　また、本来、人の長所は点と点を繋ぎ、ネットワークとして理解する能力をもっていることであり、現在のAI（低汎用型）が苦手とする能力であったはずです。しかし、不思議なことに、今の人間は人工知能に近づこうとしているようにさえ見え、点のみを見て、点と点を繋ぐ本来の能力すなわちネットワーク構築能力などが低下しているように見えます。人間は科学技術の進展とは逆に退化しているのではないかと危惧しております。

（了）
【金木　亮憲】