ドン・キホーテの復権 - 未来世紀アラカワ

今もやってるのかは知らないが、ちょっと前NHKで「ドクターG」という番組があった。

ゲストの医師がなかなか病名が判明しなかった患者の病名を特定するまでの過程を再現ドラマにするのだが、スタジオには数人の医学生がいる。そして、再現ドラマの要所要所で医学生に「ここまでの情報から病名はなんだと思うか？」というクイズを出していくというものだ。で、最後に病名が判明してよかったね(治療の方針が立てられるので)という終わり方になる。

この病名を明らかにしていく過程は、決定木を使っている。(といえる)

ja.wikipedia.org

でも別にこの分類は決定木にではなくてもいいはずだし、事実から分類を行うというのは機械学習の得意分野でもある。診断に使うような画像や音から異常を発見するのも得意分野だ。というわけで、この分野も徐々にAIが人間を置き換えていくことだろう。

いまのところ、その分野は発展途上であるようだが、この世界は1年たてば全然事情が変わっているのでものの数年後には人間が束になってもかなわないくらいまで進歩していることだろう。

gigazine.net

機械学習にもいろいろな方式があるが、１つのわけかたとして「理由を説明してくれるやつ」と「理由はわからないやつ」がある。たとえば、決定木を生成するような手法では、決定木が生成されるのでそれを読めば一応そのモデルが出す答えがどういう理由で導き出されるのかを読み解くことができる。さきほどのWikipedia「決定木」の項目に載っているゴルフの件も、あの決定木が自動的に生成されたものであったとしてもそれぞれの要因とパラメータの重みを見れば人間に理解できる形で分類がなされることがわかる。

人工知能は人間を超えるかディープラーニングの先にあるもの (角川EPUB選書)

作者: 松尾豊
出版社/メーカー: KADOKAWA/中経出版
発売日: 2015/03/11
メディア: 単行本
この商品を含むブログ (39件) を見る

しかし、今流行りのディープラーニングを含むニューラルネットワークなんかは、分類はできるんだけどなんでできるのかはわからない。それぞれのパラメータの重みを要素還元主義的に眺めても無意味である。

wired.jp

近代以降、人間が意思決定を機械に代理させることはあっても、決定がくだされた理由がわからないものに頼るようになるというのはニューラルネットが初めてなのではないかと思う。現在のCPUなんかは全容を人間が把握するのは無理だと思うんだけれども、個別の要素としてはAND回路がありOR回路があり、、、というのはわかっているし、それを組み合わせて機能ブロックを作り、さらにそれを組み合わせてより大きな機能ブロックを作り…というように作っていくことができる。

AIが理由はわからないけど人間の医師よりもはるかによい精度で診断を下せるようになったとしたら、人間に医学教育を施していいく意味はなくなっていき、手術のときに機械の指示に従って手を動かすだけの存在に成り下がっていくのだろうか。

仮にそういう時代になったとして、知識の継承というのはどうなっていくのだろう。 (かつて)論理的な推論のみが診断の手段だったときは、その理論を体系だって伝えることができた。しかしニューラルネットがそれを置き換えるのだとしたら、そのモデルをシリアライズしてストレージに保存しておくことが知識の継承ということになるのかもしれない。

人間には読めないけど、それを使えば大いなる力が手に入るアーティファクトを大事に伝えていくというファンタジー的な世界がやってくる。

今、ホモ=デウスを読んでいるんだけど、人間が自分の意志で意思決定を行うというのは人類普遍の原則でもなんでもなく、近代以降に生まれた概念であるという。