AI（人工知能）にモラルはあるのか？

From:朴成浩

すっかり暑くなりましたね。

先週、富士通フォーラムのセミナーで大変、勉強になる話を聞いてきました。

参加させて頂いたのは、産総研 人工知能研究センターの辻井潤一センター長をお招きした「進化を続ける人工知能 ‐「人」と「AI」が拓く未来の可能性を考える‐」というセッションです。

実は、辻井先生はちょうど私が大学にいた頃、東大に着任された先生なのです。「今度来る先生は超すごい人らしいぞ」と当時、学生・院生たちの間で大いに話題になったことをよく覚えています。

あれからもう20年経つとは思えないほど、先生は相変わらずダンディーでスマートで格好良くて、お話も相変わらず知的で、静かな口調とは裏腹に熱く、刺激的で、かつ含蓄に富んでいました。

こういう素晴らしい先生方が身近にいっぱいいらしたのに何でもっと勉強しなかったのだろう？と心から後悔しています。タイムマシンがあったら昔の自分に「バカヤロー！」と言ってやりたい！

と、私の青春時代の悔悟はさておき、辻井先生は勉強になることをたくさん仰っていたのですが、中でも「おおおおおっっ！！！」と思わずうなったのは次の言葉ですね。

AIはモラルを学習できるか

パネリストのスプツニ子！さん（本当に「スプツニ子！」さんというお名前の方なのです）が、AIのモラルって一体、誰から学習させるの？という問題提起をしたのですが、それに対して、辻井先生はあっさり

「現状はAIのモラルは(学習ではなく)誰かが入れる状況」と認められたのです。

そして、驚いたのが次の見解です。

私の記憶と理解に基づく説明なので、もしかしたら先生の真意をうまく汲めていないかもしれないのですが、先生は次のような趣旨のことを仰ったのですね。

「モラルというものは実は身体性と切り離せない（だから体のないAIが我々のように良い感じのモラルを学習によって身につけるということには、もしかしたら本質的な不可能性があるかもしれない）」

モラルと身体との不可分性、これは非常に重大な指摘です。

モラルというものは言うまでもなく、人間の知的な機能におけるもっとも人間らしい、非常に重要な部分です。ですから、先生が示唆しているのは、モラルだけに留まらず、人間の人間らしい知性の中には、どんなに学習しても身体を持たないAIが決して習得できない部分があるのではないか？ということにもなります。

確かに、これは考えてみたらものすごく納得のいく話で、善悪の判断や規範意識というものは、自分が感じる痛みや喜びを他者の物として想像するところから始まるわけです。なので、人間でも、脳機能に問題があってある種の感情が欠落している人たち（よくサイコパスと総称されますが）は、社会的に問題のない程度の善悪の判断自体をそもそも身につけることができない、ということが起こるわけです。

AIの本質はサイコパス？

なお、ちょっと区別が難しいですが、単に悪いことをしてしまう、ということと、そもそも善悪の判断を身につけられていない、ということは全く異なるものなので注意が必要です。善悪の判断を身につけていないと、人を殺すことによって生じる様々な不利益は理解できても、人を殺すことがそもそも悪だという判断ができないわけです。

だから、逆に言えば不利益が生じないのであれば人を殺してしまっても一向に構わない。さらに言えば、人を殺すのに、それをすることで自分に利益が生じる、という理由さえいらないのです。

たとえば、ダイエットをしている人が、ふとショーケースに並んだ色鮮やかなケーキに目をとめる。それを食べることによって生じる不利益は理解できる。でも、結局、単にそうしてみたいから、という理由でケーキを食べてしまう。人間的なモラルを身につけられない、ということは、極端なことを言えば、そんなケーキを食べるような感覚で人を殺せてしまう、ということなのです。（「羊たちの沈黙」に出てきたシリアルキラーなんかまさにそんな感じでしたね）

こんな風に、人間でさえ、自分の痛みと他人の痛みをリンクさせられないと、モラルという判断を司る重要な知的機能の獲得に失敗するわけです。ましてや、痛みを感じないどころか、そもそも体すらないAIはどうなのよ？という話になるのですね。

・・・

あれ？ 全然、ロジスティクスAI戦略関係ないじゃん！？てな話になってしまいましたが、大丈夫です。ここまで大げさな話ではないのですが、実はこれ、AIでなく普通のシステム構築を考える上でも非常に重要な話なのです。この観点を持たずに進められたシステム化プロジェクトは、コスト削減にしても、業務改善にしても、必ずといって良いほど、所期の成果を達成できずに終わります。

ですが、何だかいきなりビジネスチックな話に戻るのも気が引けるので、続きというか本題は来週にします。というわけで、すみません、もしあなたが現在、配車システムのような何かの業務のシステム化を検討されているのでしたら、

「そのシステム化、来週の話を聞くまでちょっと待ってください！」

PS:

最後に「富士通に期待することを」と各パネリストの方々が言葉を求められたのですが、辻井先生の危機感にあふれる返答が強く印象に残りました。

先生は、日本のメーカーはすぐに全技術を自社だけで囲い込もうとするが、AIに関してはそれは絶対にダメ。1社での囲い込みという路線はすでにGoogleなど米IT大手が日本とは桁違いの規模でやっていて、日本のメーカーではとても太刀打ちできるようなものではないことをよく認識しないといけない、というような趣旨のことを仰っていました。

長く世界の最前線で研究されている先生の、正直な感想なのだと思います。確かに日本ではIT大手を自認する企業でも、研究開発に対する投資金額では米のベンチャーにすら及ばないわけですし、その上、「失われた20年」の間にすっかり就職先としての魅力も消え、ここ10年以上は東大、京大の情報系のトップ学生たちの第一の選択肢はGoogle、という流れが続いていますしね。

とはいえ、そそくさと会場を後にする聴衆の多さを見ると、果たして、会場の中のどれだけの方にこの日本に対する現状認識と危機感が伝わったかは不安になるのですが･･････。

PPS:

しかし、もし、本物の人工知能を作るには脳のコピーだけではダメで、体含めて人間を完コピしないといけないとなると、そうやって作られた人工知能は一体、人間と何が違うのでしょうか？ 自分が生きている間に、手塚治虫的なテーマが現実の課題になるとは胸が熱いです。

＋＋朴成浩