【技術の先端】人工知能の判断を明確化して自動運転の安全・安心を（中）

九州工業大学 大学院生命体工学研究科 人間知能システム工学専攻
准教授　我妻　広明　氏

　2020年の実用化を目指して研究が進む「自動車の自動運転」。さまざまな技術が用いられているなかで、とくに注目されているのが、ドライバーの代わりに自動車を操縦する人工知能（AI）技術だろう。現在、自動運転を普及させるうえでの課題の1つとされているのが、AIによる運転時に事故が発生した場合の原因把握の難しさだ。この課題に対して、産業技術総合研究所・人工知能研究センターと九州工業大学は共同で、自動運転時にAIがどのような判断を行ったのかを記録するシステムの開発を進めている。この研究に取り組んでいる我妻広明准教授に話を聞いた。

2つの人工知能で安全・安心を確保

　――先生の本来の研究領域は、脳科学と聞いています。

　我妻　私は、もともと脳科学が専門で、人間の知能や論理推論などを研究しています。人の脳の回路化を目指していますが、現時点では基礎研究で、すぐには実現化のレベルに到達しないでしょう。そのため、研究内容について基盤技術を組み合わせて、技術転用を考えるなかで、こういう方式はどうでしょうと提案したものが、現在のプロジェクトで開発している「論理知識型AI」との組み合わせAIの発想です。データ駆動型AIだけでなく、同時に論理知識型AIと併用することによって、説明責任を果たせるようになります。
　簡単に説明すると、「信号を認識した」「青なので大丈夫と判断して進んだ」というように、認知と判断のデータ、つまり行動の内容を分析し、その履歴を記録する仕組みです。
　ドライブレコーダーが普及して事故の瞬間を映像で分析できるようになりましたが、それと同じように、データ駆動型AIがどういう判断を下したかを明確にしつつ、ドライバーの運転内容も全部モニタリングできます。「制限速度40kmの場所でそれ以上のスピードを出していた」「この地域は現在幼稚園の下校時間です。気をつけましょう」など、データから論理的に推論をしてくれます。

　――地図データやセンサーが感知した周囲の状況など、膨大な情報から統計的に判断して自動運転を行っているデータ駆動型AIを、論理知識型AIがモニタリングするんですね。

　我妻　たとえば、将来的に自動運転車同士が衝突して、保険の問題が発生したときに、「統計的に正しく運転していました」では説明になりません。でも、この方式なら「どのタイミングで、どういう判断をしてハンドルを切った」ということが履歴に残ります。どちらが何％悪いと明確にわかりますから保険も適用できるはずです。

　このように、AIが下した判断内容を可視化することで、社会インフラとしての自動運転が現実のものになってくる。判断の過程が見えるのなら改善もできますしね。これで自動運転の安全・安心が担保されて、市場に事業化されて入っていくことができる。それが今、我々が進めている国のプロジェクトです。

　――別々の判断を行う2つのAIを使うという発想に驚きました。

　我妻　人工知能を考えるときに難しいところがあります。それは人間は現実的な「ズル」をするということです。制限速度が40kmといっても、人間のドライバーは実際にぴったり40kmで走らないことが多い。周囲の状況に合わせて調整していて、制限速度より速く走っていることもあります。人間の使っているルールは杓子定規なものではなく、「この範囲なら安全」と幅を持って解釈する必要があります。

　――「曖昧さ」は、コンピュータが苦手といわれている部分ですね。

　我妻　そこをカバーするために、データ駆動型AIと論理知識型AIを併用するわけです。論理知識型AIは条件や結果を論理的に可視化できますが、「AかBのどちらか」と線引きすることは難しい。データ駆動型AIは、学習しておけば「統計的にこちらです」と線引きしてくれます。ベースのシステムはデータ駆動型AIを使用して、AかBか決まった時点で論理知識型AIが判断を下す。論理的に「もしかしたら人に危害がおよぶ可能性がある」と判断されれば、システムが別の選択を導き出します。

　――このシステムが今後、日本の自動運転におけるスタンダードになるのでしょうか。

　我妻　自動車メーカーさんも困っていたと理解しています。各社で競って高速道路では自動運転できるようになったのに、一般道で安全を重視するとノロノロした自動運転しかできない。自動車メーカーはデータベースの設計に関してはプロではないので、そこは規格をつくりましょうと、国家プロジェクトとして動き始めました。これは私たちが先手を取っていますが、おそらく海外も同じようなことを考えているでしょうね。開発が進んで規格化しようというときに、国際規格の戦いになるかもしれません。

（つづく）
【犬童　範亮】

＜プロフィール＞
我妻　広明（わがつま・ひろあき）
1967年、山形県生まれ。理科学研究所基礎科学特別研究員、同研究所脳科学総合研究センター研究員を経て、2009年より九州工業大学大学院生命体工学研究科准教授。脳型人工知能・ロボット工学ならびに身体動作支援機器研究に携わる。「NEDO次世代ロボット中核技術開発/次世代人工知能技術」に参加。