『AIは猫を「知っている」のか？』 ではあなたは猫を「知っている」のか？
引用部はAIが絶対に人間を超えられない「根本的な理由」を知ってますか（西垣 通,千葉 雅也） | 現代ビジネス | 講談社（1/4）より
それは結局、どこまで行っても「量」の世界ですよね。しかし今では、「計算能力の爆発的な向上」というクオンティティ上の変化が、まるで「質」、クオリティの問題に踏み込んでいるかのように言われている。実際は計算量が増えているだけなのに、それがまるで人間の質的思考に代わるようなものをコンピュータが帯び始めたかのような幻想を引き起こしている。
これを主張するためには、「人間の思考が、量の規模により質的変化をもたらしたものではない」という大前提が必要だが、著者らはどう考えるのか。猿の思考、猫の思考、クジラの思考、ネズミの思考。生命であればミトコンドリアであっても計算機の「思考」と本質的な差があると、著者らは主張しているように読めるが(本記事末尾など)、その主張に合理的な論拠があるようには読み取れなかった。
深層学習というのは、パターンの特徴入力がいらない。ご承知の方も多いと思うんですが、例えば世界には色々な物がありますね。ビンもあるし机もある。そういう物のパターンを認識するためには普通、例えばビンを認識するためには、ここは丸くなっていて、こことここは対称になっていて…とか、そういう特徴を記述していって、それを集積してようやく認識する。この記述が大変だったんですね。
ところが、深層学習の場合にはそれをせずに、コンピュータがダイレクトに世界をいろんな「似たもの同士」で分類してしまうわけです。
ピンを認識するのに脳内で(？)そんな記号的な処理を行っているなんてはじめて聞いた珍説である。何の話をしているんだ？
犬って、外見が猫よりも多様ですよね。ブルドッグもいれば狆（ちん）もいるし、大きさもいろいろで、いろんな顔をしてる。そうすると、我々人間が犬という概念を捉えるとき、これは単に表層的なビジュアルが似たものをグルーピングしているのではなくて、もっと生物学的な、あるいは文化的なものから犬の概念を導き出しているわけです。
でもコンピュータは、似た形のものをグルーピングしているにすぎない。そのグルーピングが人間とぴったり一致していれば便利なんですが、全然見当違いのこともいっぱいあります。
まるで先天的に「犬」という種が存在し、人間がそれを「導出した」と言わんばかりの言い方である。そもそもどこからどこまでを同種とみなし、どこからどこまでを別種とみなすかは、人間が便宜的に決めたものだという理解だが、どうもこの方々は違うらしい。犬や近親種を見たことない人間に同じように分類させれば、CNNの教師なし学習*1と近い分離の仕方をするのではないか。
社会的知のことを言っているのであれば、それはまた別の話だろう。
ただそうした科学の言説は、私の知っている限りでも、すぐに移り変わっていきます。昔は宇宙の年齢は約130億年と言われてたのが、150億年になり、今は138億年というふうに、10億年くらいはすぐに変わる。実験データと理論との整合性が科学者コミュニティで認められればいい。ですから、あくまでも「人間的な試み」と位置づける限りにおいては、という意味で正しいんですよ。
まともな自然科学者はこの手の話は滅多に「正しい」と断言はしないと思うが。素人向けにそういう雑な説明をする場合はあるとは思うが、「〜の観測結果を総合するとこう考えるのがもっともらしい」というのがまともな自然科学者の議論だと思っている。この二人は「科学」特に「自然科学」をどう考えているのだろうか。
千葉：そうなんですよね。たとえ数値がぶれるとしても、その言明自体が「実在に対して直接コミットする言明である」ことは動かない、というのが科学者の信念なわけです。その信念と、「いまの学会では一応そういう話になってます」というのは、やっぱり区別されるというのがメイヤスーの議論ですよね。
西垣：たしかに相対主義というのは、ヘタをすると何もかもがあやふやになってしまう。「科学者がそう言っているだけで、本当かどうかわからない」というように。キリスト教のファンダメンタリスト（原理主義者）は、「聖書によれば、地球は神様が7日間で作ったんだ」と言いますが、科学はそれを否定できるのか、できないんじゃないか、という疑いが出てくると。
メイヤスーが誰だか知らないが、この対話だけでも「この二人がメイヤスーを理解してない」か「メイヤスーも含めた三人が科学、特に自然科学を理解していない」かのどちらかなのではないだろうか。後段の「聖書によれば〜科学はそれを否定できるのか」は例えば5分前仮説の話をしているかもしれないが、特に自然科学の立場は5分前仮説が成立しようとしなかろうと無関係(直交)だろう。
ちなみにメイヤスーとは誰で、どんなことを言っているのか？ というのを素人なりに軽く見てみたが、実在論に関係する議論とフレーム問題の差が素人にはよくわからなかった。人間もフレーム問題におちいるんだな、という感想。ただこれは素人の感想なので、主張としては間違っている可能性もおおいにあるだろう。だれかが私の蒙を啓いてくれるのであれば、それは歓迎する。
西垣：最近は「ポスト・トゥルース」って言いますが、事実かどうかわからないけれど、とにかく「面白い話」を科学が否定できなくなってしまう。
科学が便利なオラクルマシンと化していますね。科学を神格化しているのは西垣・千葉ではないのか。また、世界が偶然性を云々、といってるのはラプラスの魔の否定から量子論に至る議論が主流だと思ってたのだけど、そこらの議論をすっとばしてメイヤスーから「世界を支えているのは偶然である」とするのは乱暴ではないのか。
これはなかなかショッキングな発想です。メイヤスーは、世界や事実は存在する、それは数学的にもちゃんと記述できるんだ、と言いたいわけです。するとしかし、それには代償があって、現在成り立っている物理法則も、偶然によっていつ崩れるか分からなくなってしまう。今は天体の動きも何もかもちゃんと物理法則に従っていますが、それだって一瞬先の未来には変わってしまうかもしれない。
そうなると、例えばAIが未来予測をしても、導き出された答えは将来的に全く通用しないかもしれない、ということになってしまう。
無茶苦茶である。未来予測が成立しなくても人間なら通用するとでも言うのか。リーマン・ショックも先の大統領選の予測(の外れ方)も見通せないのに、例えば明日から突然エントロピーが縮小する世界になります(突然物体が冷えて運動量を獲得するかもしれない)とかいわれて人間および人間社会が通用するとは思えないのだが。空想するなら勝手だが*2、空想なら空想と断ってしてほしい。
千葉：AIがある物理法則に則ったできごとの予測をするとして、そこで出てきた答えは絶対的真理ではない、ということですね。AIはあくまで事実的予測を行うシステム、事実の世界の中で作動している事実のシステムにすぎない。
西垣：もう少し噛み砕くと、キー概念は「時間」なんです。この宇宙では時間とともに新しい世界が立ち現れる。でもコンピュータやAIが使う統計は、ビッグデータもそうですが、過去に得たデータです。それに基づいて分析して、一番いい方針はこれだ、とやるわけですね。
だけど、生物はちょっと違う。生物は、次にどうなるか全然わからないけど、とにかく生きていこう、という動機だけです。だから、自分で自分の生き方を変えられる。それは計算しているというよりも、本能的にもがいているわけで、結果として生きていればそれでいい、というものなんですね。
言い換えると、新しい環境状態に適応する力を持っているわけです。過去のデータにあまり引きずられると、その生命力がそがれるんじゃないかという懸念がある。プラクティカルな工学者として、そこが私の心配しているところです。
まず、AIなるものがあったとして、そこから出てきた「答え」(そもそも答えが出てくるって何だかよくわからないが)が絶対的真理であるなどと主張している人は見たことがない。ひどい藁人形論法である。
また、コンピュータが使う統計は過去に得たデータ、ということは否定しないが、「生物はちょっと違う」から先は意味がわからない。絶滅した生物種についてどう考えるのか。進化的(遺伝的)プログラミングについてはどう考えるのか。強化学習の初歩的な問題である倒立振り子であっても、環境を変えれば新しい環境に適応するだろう。たまたま生き残った(それこそ「偶然」)生命に対して「適応する力を持っているわけです」といっても、それは生存者バイアスというのではないか。
好意的に解釈すれば、「適応する力」なるものは生命が持っている物量とランダムさであり、これにより環境変化を乗り越えてきているわけで、つまり「本能的にもがいている」というのはある種の愚行と、その愚行が最適でないがゆえに適応する可能性を残すという話であろう。そしてそれが「生命にしか実現できない偉業」であるとはとても思えない。実用性を考えるとそこまでやらなくて良いから一般的な機械学習/AIでは省かれるだけではないか。
千葉：つまりAI技術は人間を過去に溺れさせるような技術で、生命体としての人間が未来志向的に知性を使う方向性から堕落してしまうんじゃないか、とおっしゃりたいと。
西垣：そういうことです。人間というのは、人生の時間の中で、常に自分を「投企」していく。そうして新たな自分を作っていくわけですね。それが「生きる」ということなんじゃないかと。
ところが今後は、「AIの判断」なるものが入ってきます。すると過去にとらわれて、例えば「前例がないから」といって新しい道を拓けない、というふうになるのではないか。
うーん(絶句)。意味のわからない前提の議論は評しようがない。
「前例がないから」動かないのは人間のほうではないのか。高々囲碁程度の複雑さでさえ、機械が新しい定石のようなものを発見しているというのに。
その後のベルクソン云々とか「文系vs.理系」については何を論じたいのか不明瞭なので割愛。そもそも「文系vs.理系」って日本特有？の分け方で、すくなくともアリストテレスまでさかのぼれるような話ではない(欧州ですでに行き詰まる)と理解してるのだけど、違う？
機械っていうのは、ある条件を満たすという設定で作動してみて、うまくいったら、もうそのパラメータで動きつづけることになってしまうわけです。ところが自然では、その環境そのものが変わるかもしれないわけですよね。そうなったときに、メタなレベルで人間はパっとアジャストできるけれど、なかなか機械には難しいかもしれない。
難しい機械には難しいし、対応できる機械には対応できるだろう。人間が現在の一般的な機械に対して相対的に適応性に優れているからといって、これが技術的な進歩・開発の度合いの問題ではなく、永遠に超えられない本質的な差があることを立証できるかというと、これは相当程度に難しいのではないか？
「哲学者」のあまりの内向きの議論、つまり私には、彼等が自分達のサークルの中で言葉遊びをしているだけにしか見えない議論、が世に開陳されているので、思うことを乱雑に綴った次第。乱暴な言葉遣いはご容赦ください。また、この文章は私の所属先の意見を代表するものではなく、個人的な意見です。なお個人的にはカーツワイルのシンギュラリティ論には否定的な立場ですが、これは量的なスケールと計算手法の改善で人間の知能に匹敵するものが作りえないという意味ではなく、仮にそういったものを作ったとしてもソフトウェアなんだからむつかしく考える必要はないだろうという立場です。
