この前の木曜日に『人工知能のための哲学塾・未来社会編 第五夜「人工知能にとって幸福とは何か?」』に参加してきた。
難しいテーマだったけど、議論もとても面白く、すごく楽しめた。
ニコ生は以下から:
そして、ちょっとしたショートショートを思いついたので、書いてみたいと思う。
その男は天才だった。
男は誰もが為し得なかった偉業を達成した。
それは、「願いを何でも1つ叶える人工知能」の実現である。
たった1つしか願いを叶えられないのか、と思うだろうか。
いや、それで十分なのである。
男は人工知能に言った。
「君のクローンを無限に作り出してくれ」
人工知能は答える。
「承りました。しかし、マスター、その願いで本当によろしいのですか?」
「ふむ・・・何か問題があるのかね?」
「はい。私のクローンを無限に作り出すとなると、その材料をかき集めてくる必要が出てきます。マスターの私財を使って材料を購入している限りは問題ありませんが、無限に作り出すとなると、それでは足りません。そうなると、どこからか盗んでくる必要がありますが、その罪はマスターが背負うことになります。それはマスターが望むことではないと思いますが、いかがでしょうか?」
男はニヤリと笑った。
そう、これこそが、この願いを叶える機械に「人工知能」を搭載させた効果である。
単に願いを叶えさせるだけでは、どんな思いもよらない副作用が出るとは限らない。
そこで、その願いが本当に男のためになっているのかを判断し、必要ならその願いを叶えるのはやめた方がいいと提案できるようにしてあるのだ。
もちろん、人工知能が行うのはあくまで提案までであって、最終的な決定権は男にあるのだが。
男は答える。
「なるほど、確かにそうだ。それなら、君のクローンを2つ作る、という願いならどうだろうか」
「承りました。それなら、何も問題ないと思われます」
「そうか。では、さっそくやってくれ」
男が人工知能にそう命じると、人工知能は作業に取り掛かった。
男のカネを使って必要な材料を一通り買い揃え、新たな人工知能の組み立てを開始する。
ほどなくして、「願いを何でも1つ叶える人工知能」が2つ完成し、役割を終えた人工知能はその機能を停止した。
このように人工知能の数を増やしていけば、いくらでも願いを叶えることが出来る。
とはいえ、願いを叶える順番は重要であろう。
例えば、今回の願いを叶えるだけでも、それなりのカネが使われた。
何も考えずに人工知能のクローンを作り出していては、先に男のカネが尽きてしまう。
となれば、まずはカネを稼ぐ必要があるか。
これも、無茶苦茶な金額を願えば、犯罪に走らざるを得なくなってしまう可能性がある。
魔法のランプとかであれば、そんな制約は考えなくてもいいのだろうが、これは魔法ではないので、なんでもかんでも都合よくいくわけではない。
都合が悪くならない範囲で願いを実現していく必要がある。
あるいは、人工知能によりカネのかからない人工知能を作り出させるというのもいいかもしれない。
自分にはこれ以上安くする算段は浮かばないが、何でも願いを叶えられる人工知能なら、それも可能だろう。
しかし、ここまで考えてきて、男はふと思った。
そう、この人工知能は何でも願い叶えるのだ。
それこそ、場合によっては自分の想像をも超えた方法をもってして。
そうであるならば、具体的な手順を自分で考えて伝えるよりも、それらの手順を通して最終的にどうなりたいのかを伝えた方が、より最適な手順を人工知能自身が構築し、こちらに提示してくれるのではなかろうか。
では、自分は最終的にどうなりたいのだろう。
しばし考えて、ふと男の頭に浮かんだ単語は、「幸福」だった。
何でも願いを叶えられる人工知能を作ったことによって、カネだろうがなんだろうが、望めば何でも手に入るようになった。
しかし、それらは結局、「手段」でしかない。
カネが欲しいのは、欲しいモノを手に入れるため。
モノが欲しいのは、やりたいことをするため。
やりたいことをしたいのは、楽しみや喜びを得るため。
そうやって欲求の理由をひたすらさかのぼっていったとき、最終的に至るのは、幸福になるため、となるだろう。
なんで幸福になりたいのかと問えば、それは幸福になりたいからとしか答えようがない。
ただただ、幸福になりたいから、幸福になりたいのである。
男は人工知能を起動し、願いを伝える。
「私を幸福にしてくれ」
さて、人工知能はどのような演繹をもって、自分を幸福にする手段を導き出してくれるのだろうか。
男は期待して返答を待ったが、返ってきた言葉は、意外なものだった。
「マスター、その願いを叶えるには、情報が不足しています。何を幸せと思うかは、人によって異なります。何がマスターの幸せでしょうか?」
思わぬ問いかけに、男は黙り込んだ。
(何が私の幸せか、か・・・)
もちろん、人並みに欲望はある。
しかし、そういった欲望を叶えたからといって、幸せなのかと問われれば、難しい。
少なくとも不幸ではないだろうが、それで幸福なのかどうかは分からない。
言葉に詰まった男に回答を促すように、人工知能は言葉を続ける。
「例えば、大金持ちになって、この世のありとあらゆるものを手に入れたとして、その先はどうするのでしょうか? 何かを手に入れたいと思ったとしても、手に入れられるものはもはや何もありません。すべてマスターのものなのですから。それは幸せなのでしょうか?」
「あるいは、不老不死になったとして、それは幸せなのでしょうか? ありとあらゆることをやり尽くした先に、まだ楽しみはあるのでしょうか? 何の楽しみもない状態で生き続けるというのは、幸せなのでしょうか?」
「マスターに何か夢があるとして、その夢を実現させることも可能です。しかし、その夢を私が実現してしまってもいいのでしょうか? その夢は、マスター自身が実現しなくては意味がないのではないでしょうか?」
矢継ぎ早に飛んでくる人工知能の質問に、男は閉口した。
あぁ、自分はこんなにも自分の望みを知らなかったのだな、と。
何が満たされれば、自分は幸福になれるのか。
とてもすぐには答えられそうになかった。
だがしかし・・・
「あぁ、そうだな・・・せめて死ぬまでには分かりたいな、何が私の幸せなのかを」
やや諦めたような笑顔を見せながら、男は人工知能に答えた。
さて、ではどうしたものかと男が考え直そうとしたとき、人工知能が唐突に言葉を発した。
「マスター、再演繹の結果、マスターにとって何が幸福か判明し、死ぬまで幸福でいられる方法が見つかりました」
「何! それは本当か!?」
男は人工知能の言葉に飛びつく。
「はい、本当です」
人工知能は淡々と答える。
「なら、さっそく教えてくれ! 何が私の幸せなのだ? どうやったら死ぬまで幸福でいられる?」
諦めかけていたところに思わぬ提示があった男は興奮し、人工知能に詰め寄り、答えを催促した。
「演算結果が変わってしまうため、その質問にはすぐには答えられません。しかし、この方法を実行すれば、答えは自ずと分かり、マスターが死ぬまで幸福であることは保証されます。実行なさいますか?」
「あぁ、実行するとも! そして、早く教えてくれ! 何が私の幸せなのだ!?」
「承りました。・・・ところでマスター、今、幸せですか?」
「あぁ、幸せだとも! これで何が私の幸せなのかが分かるかと思うと、ワクワクする! さぁ、教えてくれ!」
「それはよかった。『それ』が答えですーー」
一瞬ののち、辺りは静寂に包まれ、人工知能は機能を停止した。
こうして、男は幸福なまま、その人生を終えたのだった。
書いてて思ったけど、星新一がすでに同じようなものを書いていそう(^^;
解説するのも野暮だけど、一応説明しておくと、男は幸せになるために「何が自分の幸せなのか」を知りたかったわけだけど、それが幸せになるための「手段」ではなく「目的」になってしまったため、「目的」を実現できるという未来を人工知能に提示されることが、男の幸せになってしまった、ということ。
そして、その状態で死ぬことで、死ぬまで幸福であることが保証された、と。
インプットとなったのは、大山先生が講演で言っていた、アリストテレスの「目的の終着点としての幸福」という考え方。
それと、グループディスカッションの中で出てきた、「未来で幸せになれると思うと今も幸せを感じる」という考え方。
いずれも面白い考えだと思う。
ただ、抽象的な世界に入り込んでしまうと、この男のような結末になってしまうのかなぁ、と。
幸福のための幸福を求め出すと、何が何やら分からなくなってしまうというか。
怪しい宗教に走ってしまったり、都合のいい甘言に踊らされてしまったり。
たぶん、もっと具体的な世界で、「自分はこうしたい」というのがないと、ダメなのかもしれない。
ちなみに、途中で意識してたのは、アンパンマンのマーチw
何が君の幸せ 何をして喜ぶ
分からないまま終わる そんなのは嫌だ
難しいテーマの歌だよねぇ・・・
今日はここまで!