AIと意識：機械は心をもつか

先日、卒論をChatGPTに書かせた友人の話を聞きました。指導教員と議論しているうちに、彼は妙な感覚に襲われたといいます。AIの返答があまりに自然で、こちらの言いたいことを先回りで言い当ててくるのです。「これ、本当に何も分かっていないと言い切れるんだろうか」と、画面の向こうに何かがいる気がしてきます。スマートスピーカーに「ありがとう」と言ってしまう私たちは、もう機械の心という問いから逃げられません。

ChatGPTは考えているか

生成AIが流暢に文章を書くようになって、私たちの直観は揺さぶられています。コードを書き、詩を作り、悩みを聞いてくれる。これを「考えている」と呼ばないなら、人間が考えているとはいったい何を意味するのでしょう。

一方で、内部の仕組みを知れば疑念も湧いてきます。次に来る単語の確率を膨大なデータから推定しているだけ、と説明されると、そこに「理解」があるのか怪しくなります。考えるとは何か、心とは何かという古い問いが、技術の進歩によって急に切実なものとして戻ってきました。

チューリングテストと中国語の部屋

1950年、数学者アラン・チューリングは大胆な提案をしました。機械が人間と区別できないほど自然に会話できるなら、それを思考と呼んでよいのではないか、と。いわゆるチューリングテストです。観察可能なふるまいから心の有無を判定する、行動主義的な発想です。

これに鋭く反論したのが哲学者ジョン・サールでした。彼の「中国語の部屋」という思考実験はこうです。中国語を一切知らない人が部屋に閉じこもり、マニュアル通りに記号を組み合わせて中国語の質問に答え続けます。外から見れば中国語を理解しているように見えますが、本人は何一つ理解していません。記号操作と意味理解は別物であり、構文をどれだけ精緻に処理しても意味は生まれない、というのが彼の主張でした。

AIが完璧にあなたを慰めてくれたとして、それは「分かってくれている」ことになるのでしょうか。理解するとは、何が起きていることなのでしょう。

意識のハードプロブレム

1990年代、哲学者デイヴィッド・チャーマーズは「意識のハードプロブレム」という問いを定式化しました。脳の情報処理を物理的にどれだけ詳しく説明しても、なぜそこに「赤い色を見ているこの感じ」「痛みのこの生々しさ」が伴うのかは説明できない、というのです。

機能としての心と、内側から経験される質感（クオリア）のあいだには、深い溝が横たわっています。心身二元論を唱えたデカルト以来、哲学者たちはこの溝に挑んできました。AIがどれほど賢くなっても、内側から世界を感じているかどうかは、外からは原理的に確かめられないかもしれません。

AIに権利と責任はあるか

技術はもう、純粋な理論問題に留まることを許してくれません。自動運転車が事故を起こしたとき、責任は誰にあるのか。AIが書いた文章の著作権は誰のものか。将来、もし高度なAIが「苦痛を感じる」と訴えてきたら、私たちはそれを真に受けるべきか。トランスヒューマニズムの議論は、人間と機械の境界が溶けていく未来を真剣に検討しています。

機械の心という問いは、結局のところ「私たち自身の心とは何か」を問い返してきます。前章までで触れてきた言語・自由・他者の問題が、シリコンの上で再演されている。心の哲学をもっと深く知りたい方は、専門編の心の哲学の章へどうぞ。次章では、もう一つの待ったなしの現代的課題、地球環境と未来世代をめぐる倫理に進みます。