『人工知能のための哲学塾』を読んでみた。

『人工知能のための哲学塾』を読んだので、感想とか。

人工知能のための哲学塾

この本は「何を」扱っているのか

ディープラーニングの成功によって、最近何かと話題になっている人工知能。
ただ、この本で議論しているのは、そういった「人工知能の『技術』」についてではない。

あるいは、人工知能が発展してきたことで、自動運転が可能になったり、プロ棋士がAIに負けてしまったりと、社会が変わりつつあるような風潮がある。
そうなると出てくるのが、人工知能をめぐる社会的な問題。
例えば、自動運転で事故が起きたら誰が責任を取るのかや、人工知能に人の仕事が奪われてしまわないのかや、はたまた、人工知能が人類に対して反乱を起こしたりしないか、などなど。
けど、そういった「人工知能をめぐる『社会的な問題』」の議論をしているわけでもない。

それらの内容を期待してこの本を買うと、ちょっとガッカリするかも。
もしかしたら、いい意味で期待を裏切られて、知的好奇心を満足させられるかもしれないけど。

じゃあ、この本で扱っているのは、人工知能の「何」なのか？

誤解を恐れずにあえて書けば、それは「人工知能の『心』」。
「『知能』とは何なのか？」を人工知能を通して哲学しながら、その実、その対象は上辺の「知能」を通り越し、より深いレベルの「知能」ーーすなわち、「この『心』とは何なのか？」を考えている。
それがこの本。

と、ここまで書くと、何とも野心的な、すごい本のように感じられるだろうけど（そして、実際そうなんだけど）、自分の感想は「いろいろ惜しい本だなぁ」と。
もちろん、知能を考えるうえで、「身体性」というものがどれだけ重要なのかということに気付けているだけで、そこらへんの哲学書なんかよりもずっと鋭いんだけど、惜しいかな、問題意識が伝わってこないので、「哲学的な議論」と「人工知能に関する議論」がどう結びついているのかが伝わってこない。

ある意味、致命的とも言えるのだけど・・・

例えるなら、そば屋に行ったら、なぜか主人がうどんについていろいろ語ってくれて、その話はとても納得できるものだったし、出てきたそばも絶品で美味しかったんだけど、なんでそばじゃなくてうどんの話をしたの？というような。
もちろん、そば屋の主人からしたら、そこでうどんについて話すことは必然だったんだろうけど、そば屋の主人の問題意識（例えば、「美味いうどん」とは何かを知らないで、それに勝って選ばれ続ける「美味いそば」を出し続けられるはずなどない、とか）を知らない客からしたら、うどんの話とそばとの関係がよく分からず、「？」となってしまう。

この本もそういうところがあって、哲学の議論も（慣れてないと難しく感じるだろうけど）読めば納得できるものがあるし、人工知能の議論も興味深いものがある。
けど、その2つがどう繋がっているのかがよく分からないということが多かった。

もちろん、自分は似たようなことを考えてきたので、問題意識を推測することが出来て、こういうことが言いたかったのねというのはある程度伝わってくるのだけど（それでも結びつきが「？」な部分はけっこうあった）、そうでない人には、哲学的な部分の難しさもあいまって、「何が言いたいのかよく分からない」となってしまいそうに感じた。
結論はいいものなのに、議論を追うことでそこに辿り着いてくれる読者が、果たしてどれだけいるのか・・・

人工知能の「課題」は何なのか

ということで、ここからはこの本のガイド。
この本で議論されている各要素が、どのような繋がりを持っているのかについて、書いてみたい。

まず、根本的な話として、三宅先生の問題意識は何なのか、ということ。
これはすなわち、ゲームAIの開発者である三宅先生が、現状のゲームAIの開発において、「課題」であると思っていることは何なのか、ということになる。

現状のゲームAIの開発において「課題」となっていること、それは、ゲームのキャラクターが、自らの意思を持って動く主体的な存在に見えず、外側から操られて動く操り人形に見えてしまうこと。

これは、古典的なRPGのキャラ（NPC: Non Player Character）とオンラインRPGのキャラ（PC: Player Character）を比較してみれば、分かりやすい。
NPCは外側からプログラムで動かされているだけで、決まりきった動き、反応しか返さない（返せない）ので、「何かをしよう」という意志は感じられない。
一方、PCは、その背後には実際に何かを感じ、判断を行い、操作している人間がいるので、決まりきった動き、反応しか返さないということはなく、それゆえ、「何かをしよう」という意志が感じられる。
もちろん、PCの動きは人それぞれなので、NPCにしか見えないPCがいることもあるけど・・・

もし、ゲームのキャラクターが、決まりきった動きをするだけでなく、自らの世界を獲得し、自らの意志を持って動き出したとしたら、どうだろう。
ゲームはきっと、より面白いものになってくれる。

そこで、そのような「主体的に行動する」ゲームのキャラクターを作り出すには、どうしたらいいんだろう？というのが、三宅先生の問題意識。

さて、いま見たようなキャラクターの人工知能を作るには、二つのアプローチがあります。
すなわち、

• 外から「知性を持ってふるまっている」と見えるように作る
• 中から主観的な知性を作る

という方法です。
前述したパス検索は、外側から制御し、プレイヤーから見て知能を持っているようにふるまうための技術です。
しかし、外側から制御するという発想ではどうしても到達できないところがあります。
プレイヤーには、制御されているものと自律的に考えているものの区別がはっきりわかるのです。
（中略）
しかし、キャラクターの人工知能で必要なことは、機械的な仕組みだけでなく、生物の持つ主観的な世界を人工知能（キャラクター自身）に与えてあげることです。
では、「どのように生物の持つ主観的な世界を形成すればよいか？」というのが、僕のもっとも根幹にある意識です。
主観的な世界を持つことで、操り人形のようなキャラクターはそのゲーム世界で生き生きと生きるキャラクターへ変貌し、ユーザーに知能と遭遇するという新しいリアリティと体験を与えるのです。
（『人工知能のための哲学塾』第一夜より引用　※強調は自分が付与）

ところで、上記のような提案すると、次のような意見が出てくるかもしれない：
それは単に、外側から制御するアルゴリズムが単純すぎるだけで、より複雑で巧妙になれば、「主観的な世界」とか考えなくても、生き生きしたキャラクターは作れるんじゃないか。

こういった意見をそもそも本では取り扱っていないんだけど（おそらく、三宅先生の中では「いや、どんなに複雑で巧妙になろうと、ダメなんだよ」と結論が出てるから）、実際のところ、難しい。
というのは、その主張は第三夜に書かれている方法論の延長線上にあるもので、哲学的には「『記号』を世界全部と対応させることは可能なのか」という問題や「『欲求』をどう扱えばいいのか」という問題があったり、また、本には書かれていないけど、数学的には「フレーム問題」という頭の痛い問題が転がっているから。
これらについては、後述。

人工知能への古典的なアプローチ

ところで、本では第一夜から現象学を扱っていて、デカルト的な機械論（つまり、人工知能に対する古典的なアプローチ）を乗り越える話から始まっている。
いや、そこは重要な話なんだけど、いきなりそこから始まっても、おそらくほとんどの人は「？」だと思う・・・
なぜって、そもそも、乗り越えようと思っている古典的なアプローチというものがどんなものなのかが分かっていないから。

この、人工知能への古典的なアプローチについて書かれているのは、第三夜。

これまでの人工知能の研究は、数学的な枠組みで、人間の「論理的な思考」を写しとることで、機械にも同様の「論理的な思考」が出来るようにすることを目指してきた。
その発端とも言えるのがデカルトで、公理から演繹を重ねることで誰でも真理に到達できると解き、それをライプニッツやフレーゲが記号の運用という形で引き継いで、ヒルベルトが（書かれてないけど）形式主義を打ち立てた、という話。
その結果、「意味」を考えずとも「形式的な」記号の操作をすることで「証明」が出来るようになり、それを応用した論理プログラミングが生まれた。

これは、三段論法を考えてみると、分りやすい。

三段論法というのは、「 である」「 ならば である」という前提から、「 である」が正しいという帰結を出す論法のこと。
このとき、 とか には何が入ってもいい。

例えば、「今日は月曜日である」「今日が月曜日なら、明日は火曜日である」という命題が真であれば、「明日は火曜日である」という命題も真となる。

このときポイントとなるのが、 や の「意味」を知らなくていい、ということ。
なので、「意味」を理解できない機械でも、真である命題の集合（モデル）が与えられれば、そこから真となる様々な命題を「形式的に」導き出すことが出来る。
すなわち、「機械的に」論理的な思考が出来るようになる、と。

これが古典的な人工知能の考え方で、「意味」なんてよく分からないものは扱わないで、「形式」だけ扱うことで、論理的な思考を実現しようという発想になっている。

これは、第四夜で扱われている構造主義に通じるものがある。

構造主義では、「真理とは何なのか」や「どうしてそうなるのか」といったよく分からないものは横に置いといて、「いろいろ観測すると、（どうしてかは分からないけど）こういう共通した構造がある」とか「（どうしてかは分からないけど）こういう構造があると想定すると、いろいろ分りやすく説明がつく」といったように、「モノそれ自体がなんなのか？」を問うのではなく、「モノとモノとの間にある関係（構造）」を抜き出していく。
そして、その抜き出された構造を使うことで、物事に説明をつけていく。

上のように言うとちょっと分かりにくいかもしれないけど、これは物理を考えてみると分りやすい。

例えば、地球上でボールを持っていて、手を離せばボールは当然下に落ちる。
何回やっても、毎回同じように下に落ちる。
これはなぜかといえば、重力が働いているからなわけだけど、「なぜ重力が働くの？」と言われれば、難しい。
「物体と物体の間には引力が働くようになっていて、その引力は質量が大きいほど強くなるから、質量の大きい地球は引力も強く、それゆえボールは下に落ちる」とか、説明をつけようとするわけだけど、「じゃあ、なんで引力が働くの？」とか「力が加わると物体に加速度が生じるのはなぜ？」とか、「なぜ？」の疑問にはキリがない。
そこで、そういった「なぜ？」の質問は置いといて、「物体と物体の間には引力が働く」「力を加えると物体に加速度が生じる」という構造（関係性、法則性）だけを抜き出す。
これが構造主義的な考え方。
そうすれば、「なぜ？」の疑問には答えられないけど、いろいろな問題に対して、具体的な答えを与えることは出来る。

本には書かれていないけど、構造主義的なアプローチで作られる人工知能として、人工無脳というものがある。
これは、人間の会話を模倣するAIで、単語の意味とかは知らないけど、単語間の繋がり、会話での文の繋がりには一定の規則があるので、その法則性を抜き出し、法則性に従って文を組み立てることで、会話を実現するというもの。
もちろん、実際にやっているのは記号処理だけなので、どんなに巧みに会話をしようが、その会話が現実世界において何を指し示しているのかは、一切理解していないのだけど。
（興味のある人は「中国語の部屋」を検索してみるといいかもしれない）

ちなみに、人工無脳については以下の本が面白かったので、興味のある人は読んでみるといいと思う：

恋するプログラム―Rubyでつくる人工無脳 (Mynavi Advanced Library)

古典的なアプローチの問題点

さて、これまでの議論を見ると、至極まっとうなアプローチで、何が問題なのか分からないと思う。

実際、何でダメなのかについては、本でもあまり明確には書かれていない。

記号接地問題

本でさらっと指摘している問題は、「記号接地問題」というもの。
すなわち、「『記号』を世界全部と対応させることが出来るのか」という問題。

たしかに、世界全部を記号と対応させることが出来たのなら、その記号の中で人工知能は自由に思考を展開することが出来るだろう。
（ホントは「フレーム問題」という厄介な問題がいるのだけど・・・それは置いといて）
けど、そもそも世界全部を記号と対応させることなんて、可能なのか？

これは構造主義で指摘されていることだけど、記号が世界をどのように切り分けるのかは「恣意的」であることが分かっている。
例えば、日本なら虹は七色に切り分けられるけど、アメリカなら六色が普通だし、国によっては三色だったり、場合によっては二色（明るい色と暗い色、といった分類）だったりする。

「そんなの、どうやって切り分けるかだけで、お互いの合意さえ取れれば意図は通じあうでしょ？」と思うかもしれないけど（自分も最初そう思った）、実際にはそれでは済まされない。

例えば、色の見えない人に、「色の感覚」を伝えることが出来るかどうか。
「色の感覚」を伝えられなくても、RGBの値を伝えれば問題ないじゃないか、とも思うかもしれないけど、話はそんな簡単じゃない。

ちょっと昔に、次のようなツイートが話題になった：

例のワンピースの件は白金に見えたから色弱とかでなくつまりこう pic.twitter.com/Jl979KobvH

— 宇崎うそ (@U_s0) February 27, 2015

ドレスが白と金に見えるか、青と黒に見えるか、という話題。

上のツイートのドレスの端の部分は、RGB値にすると、まったく同じになっている。
けど、実際には、白と金のドレスに見える人と、青と黒のドレスに見える人がいる。
これは、色をRGB値でしか色を認識できない人には、まったく意味の分からない話題だ。

さて、じゃあこの「色の感覚」というものを、どうやって「記号」で表現するのか？
当然、これを「記号」で表現できないのなら、その人工知能は、この話題について話すことは出来ない。

これは第二夜の話と繋がることだけど、このように、「世界をどのように見るのか」というのは、身体と切っても切れない関係があったりする。
それを無視して、世界全体を記号と対応付けられるのかというと、難しい。

「欲求」の扱い

また、本では別の指摘として、「『欲求』をどう扱えばいいのか」ということを挙げている。

「仕事を早く片付けなければならない」でも「お腹が空いた」というところから、「もういいや、ご飯食べちゃおう」と思うのか、「でも、もうひと頑張りしよう」と思うのか。
前者は要求を優先させた結論で、後者は論理的思考（理性）を優先させた結論なわけだけど、このように、欲求と論理的思考というものは、相反する場合がある。
このとき、どのように折り合いをつけたらいいのか、という問題。
もう少し言うと、このように欲求と論理的思考とが相反したときに、論理的思考（機械的思考）だけで、どちらにもなりうる思考というものが生まれてくるのかどうか？

欲求に従って動くことしか出来ないキャラクターは、知性的だとは言い難い。
かと言って、欲求に負けることがなく、論理的な思考しか出来ないようなキャラクターもまた、人間離れしていて魅力的だとは言い難い。

例えば、RPGでゲームのキャラクターと一緒にラスボスに臨んだとする。
このとき、我が身可愛さで逃げることしかしないキャラクターというのではダメだし、逆に、恐れも知らずにただ突っ込むだけのキャラクターというのもまた、非人間的でダメ。
「くっ、俺はもうダメかもしれないが、死んでもここは食い止めるから、その隙にあいつを倒すんだ！」というセリフを吐いてくれるようなキャラクターじゃなきゃ、面白くない。
けど、死にたくないという欲求と、ラスボスを倒さないといけないという論理的思考がせめぎ合う葛藤を、論理的な思考一本だけで、生み出せるものなのか。
論理的思考で導き出されるのは、真か偽か、それだけだ。

フレーム問題

最後にーーそしてこいつが一番厄介なんだけどーー「フレーム問題」というものがある。
（これは本では触れられていない）

感覚的な話で説明されることが多いけど、これはつまり、真となる命題の数が膨大すぎて、どれとどれをどう組み合わせたら、今欲しい「答え」に辿り着けるのかが、実用的な時間の範囲内で求まらなくなるという問題。

例えば、今、真である命題（＝知識）が10個あるとする。
ここから、2つの知識を用いて、ある命題が正しいかどうかを推論したいとする。
そうすると、知識の組合せは、 通り。
45通くらいなら、あっという間だ。

じゃあ、今度は10個の知識のうち、5つの知識を用いて、ある命題が正しいかどうかを推論したいとする。
そうすると、知識の組み合わせは、 通り。
まだまだ余裕・・・？

それなら、今度は知識の数を100個にして、そのうち50個を使うようにしてみる。
この場合、知識の組合せは、 通り。
わぉ。
これは無理。

たった100個の知識を組合せようとしただけでも、こんな酷いことになってくる。

「いやいや、普段考えるとき、100個も同時に知識を使ったりしないよ」と思うかもしれないけど、そこが人間のすごいところで、必要であるたった数個の知識を膨大な数の知識の中から「直感的に」引っ張ってこれるのは、人間だからこそ。
そういったことが出来ない機械は、まったく関係のない知識だろうと何だろうと、とにかく組合せて使えるものかどうかを判断しないと始まらない。

これはコンピュータ将棋とかを考えてみると分りやすいと思う。
コンピュータは、ある程度、枝刈りという方法を使って読む手を限定しているけれど、基本的には全部の手を読む。
一方、プロ棋士は、正解と思われる数手を中心に読む。
（そういったことが「直感的に」出来る）
そのせいで、コンピュータは人間に比べて膨大な計算量を誇るけど、効率という意味ではとても敵わないとなってくる。

が、最近のコンピュータ将棋やコンピュータ囲碁（特にAlphaGo）の活躍を見ていると、より上手い方法が見つかり、コンピュータの計算速度も上がれば、効率が悪くてもなんとかなるんじゃないの、と思えてしまうのも、また事実。

これについては、 予想という数学の大問題が関係してくる。
この予想は、コンピュータの計算速度がどんなに速くなっても、問題のサイズが大きくなると、途端に手のつけられなくなる本質的に難しい問題というものが存在するだろう、という予想。
これまでに述べたような、組合せの数が急激に大きくなる現象のことを「組合せ爆発」と言ったりするのだけど、この予想が正しかった場合、そういった組合せ爆発を起こす問題は、組合せ爆発を起こさないような簡単な問題には変換できないことになる。
（※厳密には違うのだけどーーというのは、計算量は上から抑えるので、無理やり組合せ爆発を起こさせるアルゴリズムを作ることは容易に出来てしまうからーーここでは、そうやって意図的に組合せ爆発を起こさないものとしている）
なので、 予想が正しかった場合、どんなにコンピュータの計算速度が速くなっても、膨大な知識が存在する「世界」においては、それは「焼け石に水」にしかならない。

知能を「より深く」、「ありのまま」観る

ここでやっと、第一夜の議論に辿り着ける。

これまで議論してきたように、古典的なアプローチでは、限界がある。
そこで、それを乗り越えるためには、どうしたらいいんだろう、という話になる。

これまでの古典的なアプローチの何が問題なのかというと、本質的には、知能の「上辺」の部分しか見ていないところにある。

これは、小さい子の描く絵を思い浮かべると、分りやすい。
丸い顔を肌色で描いて、その中に黒い丸をグリグリと二つ書いて目とし、オレンジ色で鼻を塗って、赤い線で口を描く。
首があって、四角い胴体があって、そこから横に腕が二本、下に脚が二本生えている。
空は水色、太陽は赤、地面は茶色。
そして、背景は画用紙の白。

こんな感じw

実はこれは、小さい子が「見たまま」を絵に描いているのではなく、「観念」を絵として表現していることを意味している。
「顔」には「目」、「鼻」、「口」というパーツがあって、「顔」は丸くて肌色、「目」二つあって黒、「鼻」は一つあって肌色なんだけど、肌色で描くと鼻が見えないから、それっぽいオレンジで描くことで「鼻」があることを分かるようにし、「口」は一つあって赤。
「胴体」があって、「腕」と「脚」は二本ずつ。
上には「空」と「太陽」、下には「地面」があって、「空」は空色、「太陽」は赤で、日差しを放ち、「地面」は茶色。

この絵を見ると、いろいろおかしいところが見つかって（例えば、鼻はオレンジじゃないとか、股がないとか、太陽を実際に見ると赤くないとか、背景の白い部分は現実には何か存在しているとか）、ダメだなぁと思うわけだけど、人工知能の古典的なアプローチというのは、本質的にこれと同じことをやっている。
すなわち、「モノ」や「概念」を「記号」として表現し、その「繋がり」を描くことで、「知能はこうなっているんだ」と主張している。

上のように指摘すると、古典的なアプローチというのが、方向性としてどれだけ幼いものなのかに気がつくと思う。
（と同時に、人間の凄さも感じるーーそんな小さい子ですら、物事を「観念」と「その繋がり」の中で理解しているわけだから）
そして、このチグハグに描き出された知能を、どのようにすれば「まともな」知能として描き出すことが出来るようになるのかという方向性も見えてくる。

それはつまり、「観念」は一旦忘れて（エポケー）、「ありのまま」をまずはちゃんと見て（現象学的還元）、そこからどのように「観念」が見出されてくるのかという「心の働き」（志向性）を観測するという方向性。
これが現象学の方法論。
そして、この方法論を使うことで、古典的なアプローチが取りこぼしていた、「観念」が発生するよりも前の、より深い心の働きをキャラクターに実現させようというのが、三宅先生の目論見とも言える。
ここで取り扱うのは、記号化される以前の現象そのものなので、記号接地問題は起きないし（これはもう少し考慮する必要があるーーそれが第二夜の話に繋がる）、欲求というものも当然現象なので、扱えるようになるし、フレーム問題も、数多ある知識を相手にするのではなく、目の前にあるーーあるいは心に浮かんできたーー現象（知識）だけを扱えばいいとなるので、起こらなくなる。
（もっとも、今度は逆に、「心に浮かばなかった」というところから、「その問題は想定外でした」となる問題が起きてくるわけだけどーーただ、それはそれで、人間らしいとも言える）

こういったことを踏まえて第一夜を読むと、より内容が伝わってくると思う。

「世界」は誰にとっても同じなのか

これで「現象学」という方法論を得たわけだけど、下手すると、ここで罠にハマってしまう場合がある。
というのは、現象学では、「身体が世界を見ているんだ」とかいうことすら忘れて考え始めるから。
なので、身体の存在を忘れてしまい、意識こそが至高、意識こそがすべてなんだという「意識だけの世界」に引きこもってしまう危険性がある。

「忘れる」というのは、「それを当然のように使える前提では無くす」ということであって、「それを否定する」というところまでは言っていないことに注意しないといけない。
意識だけのところから世界を観測した結果、「身体が世界を見ているんだ」というふうに自分たちは捉えているんだ、という帰結が得られるのは、何も問題ない。
これは、 というのを、無反省な計算で求める（分子分母を で割り、 であることを利用する）のは一旦やめて、 論法から捉え直して、正しいと帰結するのに似ている。

三宅先生が幸運だったのは、キャラクターに身体があったことだと思う。
そのおかげで、このような「意識だけの世界」に引きこもってしまうということを防げた。

さて、「ありのまま」を見ていくとしたわけだけど、その「ありのまま」というのは、何にも依存することなく、誰にとっても同じものになるのか、というのが、第二夜の話。

ここで引き出されるのが、生物学の知見。
つまり、「ありのまま」見ると言っても、その「ありのまま」というのは、環境と身体に大いに依存しているという話。

例えば、上の方で記号接地問題について書いたとき、色の見えない人にとって「色の感覚」というのは何なのか、ということを書いた。
これはまさにこのことを表現していて、つまり、色の見えない人にとって、「世界」というのは「色のない世界」ということになる。
「世界」にないのだから、当然それについて語ることは出来ない。

色の見える人がほとんどなので、「色のない世界」がその人にとっては「世界」なんだと言っても、実感が持てないかもしれないけど、それなら、逆に考えてみるといい。

例えば、周りの人間がみんなニュータイプになったとしたら、どうだろう。
よく分からないんだけど、とにかく直感で、みんなは「分かっている」。
その「とにかく直感で分かる」という謎の感覚を自分も分かろうとするんだけれど、分からないものは分からない。
「それってXXXっていう感じ？」とか聞いてみても、「いやー、そういうんじゃなくて」という反応しか返ってこない。
これは、自分にとっての「世界」というのが、ニュータイプのみんなの「世界」とは異なっているから。

もし、何かのきっかけでニュータイプになれたとしたら、「あぁ、こういうことだったんだ！」と目が開ける思いがするだろう。
そして、自分が過去に聞いていた「XXXっていう感じ」というのが、どれほどズレたものだったのかというのも、分かるだろう。
けど、そうなるには、自分がニュータイプになって、その感覚（クオリア）を実際に経験してみないことには、始まらない。
だって、それは自分の「世界」の「外側」なのだから。
（気になる人は、「マリーの部屋」で検索してみるといい）

このように、「知能」をちゃんと考えるなら、まず上辺の「論理的思考」だけを見ててもダメで、さらに「心の働き」だけを見るのでも足りなくて、「環境と身体の関係」ーー特に、身体は環境から何を受け取り、環境に対して何を行えるのかというインタフェースーーについてまで考えないといけないということが見えてくる。
そして、「知能」について考えてたはずなのに、いつの間にか、思索は「身体」にまで及ぶことになる。

「身体」について考える

そうして議論は、第五夜の身体の話に辿り着く。

現象学的に知覚、そして身体を研究したメルロ＝ポンティを引き合いに出しつつ、身体に対する様々な実験の結果を通して、自分たちが「身体」というものを（そして「身体のイメージ」を）捉えているのかについて、議論されている。

ここで議論されている遠心性コピーというのは、非常に面白い。
そして、身体感覚を持ったキャラクターを作る上で、考慮に入れないといけない項目だと言える。

この遠心性コピーというのは、すごく簡単に言ってしまうと、針で指を刺したときに、「痛っ！」という感覚を「指に」感じる仕組みとも言える。
「痛い」という判断をしているのは「脳」なのに、実際に「痛い」と感じられるのは「指」の方であるというのは、クオリアをめぐる議論で、よく取り上げられる。
これは、遠心性コピーを考えると分かりやすくて、つまり、「指」が痛いと感じるのは、脳で作られた身体のイメージの「指」に対して遠心性コピーが働くから、と考えると、スッキリする。
身体の外部からの情報と、身体の内側からの情報が統合されて現れるイメージが、そこにはある。

以下は自分の書いた同人誌からの引用。
哲学少女のゆうらがお風呂の中で自分の身体について思索を巡らせているシーン。

改めて考え直してみると、腕の感覚が（痺れて）なくなったって、その腕の動脈にカッターをスゥーッと走らせたなら、血はどんどん溢れ出て、やがて僕は意識を失い、そして死んでしまう。
そういう意味で、僕の腕はたとえ感覚がなくなったとしても、やっぱり僕の身体なんだ。

きっと、「僕の身体」と言っても、そこには二つの「僕の身体」が存在するんだろう。

一つは物理的な「僕の身体」。
その「僕の身体」は僕を生かし、僕を僕としてくれている。
この「僕の身体」は非常に寡黙だ。
意識の下で黙々と働き、普段認識されることもない。
けど、そういった「意識」や「認識」が生まれているという事実が、暗黙的にその「僕の身体」の存在を教えてくれることになる。

もう一つは意識によって認識された「僕の身体」。
僕は感覚によって「ここまでが僕の身体」という境界線を引くことになる。
この「僕の身体」は非常に雄弁だ。
いろんな感覚を僕に教えてくれるし、僕もそれによって身体をどのように動かそうかと意識を向けることになる。

この二つの「僕の身体」は表裏一体として統合されていて、普段そのズレを意識することはない。
けど、腕が痺れたりしたときには、そこにズレが生じてくる。
そのせいで「僕の身体なのに僕の身体じゃないようだ」ということが起きてくる。

（中略）

そうやって考えたときに、簡単にズレが生じてしまってもおかしくない二つの「僕の身体」が、まるで一つしかないかのように一体混然となって存在しているという事実は、不思議に思えてくる。
あまりに重なりすぎていて、寡黙な物理的な「僕の身体」の声に気づけず、「なんで『僕』は『僕』なんだろう？」と考えてしまう人がいるくらいに。
（これは物理的な「僕の身体」が「僕」という意識を生み出しているのだから当然だ。けど、寡黙な「僕の身体」の声に気がつけないと、「僕」という意識と、意識によって認識された「僕の身体」の繋がりの必然性が見出せずに、このような疑問が生じてくる）

改めて身体に意識を向けると、そこには二つの「僕の身体」が一つあった。

（『ゆうら 意識の眼差し』より引用）

遠心性コピーというのは知らなかったけど、似たような考えに至っていたので、まさに本で議論されていたような内容になっているのが面白い。

それと、強化学習の観点から見ても、これは面白い内容だったりする。

強化学習の手法の一つに、プランニングというのがある。
これは、環境との相互作用によってAIが直接学習を行うだけでなく、その相互作用をモデルに反映することで、モデルからも学習を行おうとする手法。

遠心性コピーがやっていることは、これにかなり近い。
遠心性コピーによって身体のイメージを作るというのは、このモデルへの反映に相当している。
そして、そのモデルを使うことで予測を行えるようにし、うまく身体を動かせるようにしているというわけだ。

さらに先へーー受動意識仮説

ここから先は、本には書かれていない内容。

さて、知能を考えるには、より深い、身体の知能にまで考えを巡らせないといけないということが、本では見えてくる。
そのうえで、「論理的な思考」と「身体の知能」をどう結びつければいいのか、という話が出てくる。

これに関して本で言及していたのは、「先導レベル」という概念。
「先導レベル」というのは、意識レベルでの「〜をやろう」という意思のこと。
例えば、腕を動かす場合、「腕を動かそう」という意識レベルの意思が「先導レベル」で、それを受けて、あとは身体がうまいことやってくれる、と考える。

けど、そんな「先導レベル」なんて本当にあるの？というのが、大きな問題。
というのも、リベットの行った、興味深い実験結果があるから。

リベットの実験とは、次のようなものだ：

リベットは、時計回りに光の点が回転する時計のような点滅型モニターを作った。
そして、脳に運動準備電位を測るための電極を取り付けた人に、モニターの前に静かに座ってもらった。
その人には、心を落ち着けてもらい、「指を動かしたい」という気持ちになったときに、指を動かしてもらった。
さらに、「指を動かしたい」と自発的に「意図」した瞬間に、光点の位置がどこにあったかを尋ねた。
つまり、「意識」が「動かそう！」と「意図」する指令と、「無意識」に指の筋肉を動かそうとする準備指令のタイミングを比べたのだ。
（中略）
人が指を「動かそう！」と「意識」するのが最初で、その指令が随意運動野に伝わるから、「無意識」のスイッチが入り、運動準備電位が生じ、最後に指が動くんじゃないか。
（中略）
ところが、結果は衝撃的だった。
なんと、「無意識」下の運動準備電位が生じた時刻は、「意識」が「意図」した時刻よりも350ミリ秒早く、実際に指が動いたのは、「意図」した時刻の200ミリ秒後だったからだ。
（『脳はなぜ「心」を作ったのかーー「私」の謎を解く受動意識仮説』著：前野隆司　より引用）

これは非常に面白い。
つまり、自分たちは、「〜をやろう」と思って身体が動く準備を始め、そして身体が動くと思っているけど、実験結果は、身体が動く準備を始めたあとに「〜をやろう」と思い、そして身体が動くというものだったということだ。

この実験結果と＜私＞をめぐる考察から、前野先生は「受動意識仮説」という面白い説を出している。

脳はなぜ「心」を作ったのか「私」の謎を解く受動意識仮説 (ちくま文庫)

この本では、身体のイメージという話にまでは及んでいないけど、フィードフォワード制御については語られている。
そういう意味でも、一緒に読んでおきたい本だと言える。
（前野先生は、ロボットの制御工学が専門（だったはず））

「身体性」の必要性に関する議論

また、人工知能の「身体性」を考えるのがどう重要なのかについては、このブログでもいろんな観点から述べてきた：

これらの記事も、ぜひ参考に。

今日はここまで！

人工知能のための哲学塾

恋するプログラム―Rubyでつくる人工無脳 (Mynavi Advanced Library)

脳はなぜ「心」を作ったのか「私」の謎を解く受動意識仮説 (ちくま文庫)