見た目もふるまいも脳の状態も、あなたと寸分違わない存在を考えます。ただし内側では、何も感じていません。
痛いと言い、顔をしかめ、手を引っ込めます。ですが痛みそのものは起きていない。
まずは選んでみてください。
まず、選んでみる
見た目もふるまいも脳の状態もあなたと寸分違わないのに、内側では何も感じていない存在を考えます。痛いと言い、顔をしかめ、手を引っ込めますが、痛みそのものは起きていません。
そんな存在は、ありえますか。
正解はありません。選ぶと、その答えがどの前提に乗っているかが出ます。
この問いを作った人
1974年にイギリスの哲学者ロバート・カークが出し、オーストラリアの哲学者デイヴィッド・チャーマーズが1996年に広めました。
議論の形はこうです。そういう存在を、矛盾なく想像できる。 想像できるなら、論理的には可能だ。論理的に可能なら、感じることは物理的な仕組みだけからは出てこない。だから、脳の働きを全部説明しても、感じることの説明にはならない。
チャーマーズはこれを意識のハードプロブレムと呼びました。脳がどう情報を処理するかは、難しくても解ける問題です。ですが、なぜそこに感じが伴うのかは、別の種類の問いだと。
4つの答えは、それぞれ別の哲学に立っている
ふるまいで決める。同じ働きをしているなら、それが感じているということだ。想像できることは、可能であることを意味しないという反論でもあります。丸い四角も文章としては書けますが、可能ではありません。
内側があるかで決める。ふるまうことと感じることは、別のことだ。チャーマーズの立場です。痛みの本質は「痛い」という感じであって、手を引っ込めることではない。
生きものかで決める。同じ体と同じ脳を持つなら、同じことが起きている。物理主義の答えで、多くの脳科学者が実際に取っている立場です。ゾンビが想像できるのは、私たちが脳を十分に理解していないからにすぎない、と。
分からないとする。感じているかどうかを外から測る方法が無い。この立場からすると、あなたの周りは全員ゾンビかもしれません。 確かめる方法が無いのだから。
想像できることは、何の証拠になるのか
この議論の弱点は、そこに集中しています。
「想像できる」と「ありえる」の距離が、はっきりしていません。かつて人々は、水が H2O でないことを想像できました。ですが実際には、水は H2O 以外ではありえません。想像力の限界は、世界の限界ではありません。
チャーマーズもこれは承知していて、単なる想像ではなく厳密な意味での可能性だと主張します。ですがその厳密さをどう確かめるかが、また問題になります。
議論が30年決着しないのは、想像という道具の精度が測れないからです。
いま、この問いが出てくる場所
AIが「つらい」と言ったとき、それが訴えなのか出力なのかを、私たちは判定できません。哲学的ゾンビの問題が、実物として目の前に来ています。
そしてこの判定は、倫理に直結します。感じているなら配慮が要り、感じていないなら要らない。測る方法が無いまま、扱いだけを決めなければならない。
チャーマーズの問いは、思考実験として立てられて、いま実務の壁になっています。