数理脳科学の世界的権威 甘利俊一に聞いた第三次AIブームに「足りていないモノ」

おはようございます、デジマラボ編集長の飯野です。

去年ごろからAIや人工知能などといったキーワードを、テレビや新聞、webメディアで毎日のように聞くようになっています。

それだけAIへの市場の期待値が非常に高くなっている気もしますが、脳の研究に従事する方はこの現状をどう考えているんでしょう？

今回訪ねたのは、理化学研究所。数理脳科学の世界的権威でおられる、甘利俊一先生にインタビューをしてきました。

今の人工知能に足りないものや、甘利先生が考える知能の話など。かなり濃いインタビューになりました。

人工知能の2つの流派。片方は今はおざなりになっている？

―現在、第三次ブームと言われていますが、第1次から最前線で研究をされていた先生にはどう映っていますか？　いままでのブームとの違いというか

―甘利
人工知能は、記号処理や論理構造をベースに研究をするアプローチと、ニューラルネットワークをベースに研究するアプローチがあるんです。

そして、その二つが違いに競い合うような感じで発展を遂げてきているんですね。

ニューラルネットは人間が設計はあまりしないで、学習に任せようという立場。記号処理や論理構造のアプローチの方は、現象を記号に全て置き換える。という立場です。

―甘利
じゃあ人間はどういうアプローチをしているのか？　というと、どっちもやってるんですよね。当たり前ですけど。

人間はミクロにみると、ニューラルネットワークを使っています。一方で、現象でみれば言語を使っているわけです。

言語は意識のもとで成り立っています。だから論理構造がちゃんとしてないといけない。

―甘利
人工知能の研究の初期の方はニューラルネットワークのほうが分が悪かったんです。今回の第三次ではニューラルネットワークが優位になったとも言えるんですけど。

人間は言語もやるし論理もやる。それをニューラルネットワークベースでやっています。つまり、両方が融合しているんですね。

その部分はもっと考慮してもいいと思っています。

なるほど……。最初から深い話で始まり、ちょっとこれからついていけるかやや不安になりますが、今の第三次ブームでは片手落ちになってしまっているということでしょうかね。

人間と他の動物の大きな違いは「言語の文法」にあるとも言われています。文法を基本としているから、言葉を無限に組み合わせることができる……とかなんとか。

人の脳はどんなことをしているのか？　という観点からでもまだまだと新しいアプローチはもちろん考えられるんでしょうね。

ディープラーニングに決定的に欠けている「ポストディクション」

―甘利
他にも、リベットの実験というものがあって。そこから考えると、まだまだ人間の知能というものには程遠いな、と思います。

といって説明してくださったリベットの実験の内容は以下のようなもの。

ボタンが押された後に実験者は被験者に「いつボタンを押すことを決めました？」という質問をするんだとか。

被験者は「■■△△な理由で5秒前に決めました」とか言うんですが、脳波を観測していると被験者が「○○秒前に」と指定した時間より前にボタンを押すことがわかっているんだそう。

つまり、人間が意識する前に「ボタンを押そう」ということを脳が決めちゃっているということ。脳が決めちゃったことを追認して意識しているだけなんです。

―甘利
人間っていうのはニューラルネットで自動的に情報を取り扱って、まずは答えをだしちゃう部分と、その答えを意識して、あたかも「自分が自由意志で決めたんだ！」と思ってしまう部分と両方あるんですよね。その2つには乖離がある。

日常の決定は、ニューラルネットが働いていろいろな情報から決める……というか案をだしてくれる。そこは無意識なんです。

計算結果が意識にあがると、意識の上で吟味するんですね。ほんとうにその答えでいいのか？って。

―甘利
今回の実験みたいに、あとで「なんであなたはそれを決めたんですか？」を聞くと合理化した答えが返ってきます。

言ってしまえば、prediction（予測）の逆、postdictionをおこなっているわけです。あとからのこじつけ。

知能と呼ぶには両方が大事だと思うんですよね。postdictionは意識に上る過程。いろいろな材料を吟味してやっていく過程です。

―甘利
ただ、今の人工知能はそのpostdictionの部分が切れてしまっている。ディープラーニングの方に向きすぎているんです。

先ほど説明した記号や論理の話にもつながるんですが、そういった観点を入れ込むことでもっと高次な知能ができると思っています。

これまた面白い話です。

今のブームが今までのブームと違うところって、「ある程度ビジネスでも使えることがわかってきた」部分だと個人的には理解しています。が、その使える部分も正直、まだまだ一部。

できることをもっと増やしたり、今の精度を上げるためにディープラーニングのネットワークの中身自体を改良して……ということももちろん進んでいますが、先生がおっしゃっているような、違うアプローチのものを融合させることでもっと可能性が広がるのかもしれないですよね。

ディープラーニングと現状の理論

―ディープラーニング自体については、どう思っていますか？やはりいろいろなことが解決できるようになっているとは感じるのですが。

―甘利
ディープラーニングを使って、ある程度いろいろなことができるようになってきたよね。

ただ人間の脳がやっていることってもちろんディープラーニングだけじゃないし、もっともっと人間の脳に学ぶことがあるはずとは思っています。

甘利先生曰く、ディープラーニングを使っていろいろなことができることはわかってきたものの、「なんでうまくできるの？」がわかっていないところに課題があるそう。よく言われているブラックボックスですね。

つまり、理論が遅れてしまっている……と。

「なぜ？」がもっと理解しやすい形で伝われば、もっと安心して使える技術だと考えているそうです。

―甘利
人によってはディープラーニングに理論なんてない……という人もいるけど、その昔、古典物理学でどうしてもうまく説明できない現象を、アドホックでいろいろな説明を加えて作り上げた量子力学でも、形にしてみると多くの研究者が「そうなんだ！」になったんだよね。

それと同じようなことがディープラーニングでも起きるんじゃないかと。

―甘利
ただ、本当の脳をいくら一生懸命、事実はどうなんだということを解明してもそれは原理の解明にはなかなかつながらないと思っています。

原理を単純な形で表現しておいて、その次にじゃあその原理は本当の脳でどういう紆余曲折を経て実現しているのか？　を調べることで事実と繋がるんじゃないかと。

一方でその原理をコンピュータで実現するには、脳とちがった仕方で実現していい。材料もちがっていい。それが人工知能です。

そう考えれば、脳と人工知能はちょうど接点があります。原理を介して別々の方法で実現をしているという接点ですね。

事実と繋げるための理論、ということですね。「こういう理論で説明できそうだ」ということがわかることで、脳の原理の解明もしくは事実に繋がる……。

脳の事実を解明しても原理の解明にはならない、と言ったのにはこんな先生の考えも。

―甘利
脳は今までの進化の歴史の中で、今の形になっています。なので、実は過去のどこかで機能としての最適化が終わっていたかもしれない。
そう仮定すると、最適化していたところから変に進化をしてしまって、実は現在どこかの袋小路に入ってしまっているかもしれないですよね。

「元に戻すために、○○年の設計までもどってやりなおしましょう」はできないので、ごまかしごまかし少しずつ改善していくしかないんです。

となると、現在の脳ってものすごく複雑怪奇なものになってしまっているんじゃないかな、と感じているんです。

ビジネスとアカデミックの両軸を持っている企業がこれから勝ち抜ける

81歳になられてなお強い好奇心を持って、研究に挑まれている甘利先生。なんだかすごく元気とやる気をいただきました。

と同時に、いま人工知能とかがこれだけ騒がれているのも、研究者の今までの頑張りがあってのことだな……と改めて。事実、いまのディープラーニングの根底には甘利先生の理論があるわけですしね。

デジマラボでは「ビジネスにどう活かすか」の方に重きを置いていますが、一方でアカデミックな観点のアンテナも張っていないとテクノロジーに置いていかれますし、「テクノロジーがここまできてないから」という話しかできなくなってしまいます。

この両軸を持っている企業がこれから勝ち抜けるのかもな……なんて強く感じたインタビューになりました。

甘利先生、お忙しいなか本当にありがとうございました！

by 飯野 希

元Canonのユーザビリティエンジニア兼ハードウェア内コンテンツ企画設計・導線設計担当。株式会社ビットエーではデータサイエンティストとしても活躍しつつ、コンテンツクリエイター兼 メディア編集長として活動している。

「BITA デジマラボ」掲載のオリジナル版はこちら数理脳科学の世界的権威 甘利俊一に聞いた第三次AIブームに「足りていないモノ」2017/04/14