中国語を知らない人が部屋にいます。差し入れられた紙の記号を、分厚い規則書と照合して、別の記号を書いて返す。規則書がよくできているので、外からは中国語で受け答えしているようにしか見えません。
その人は、中国語を理解しているでしょうか。
まずは選んでみてください。
まず、選んでみる
中国語を知らない人が部屋に入っています。外から中国語で書かれた紙が差し入れられ、その人は分厚い規則書に従って記号を照合し、別の記号を書いて返します。規則書がよくできているので、外の人には中国語で受け答えしているようにしか見えません。
部屋の中の人は、中国語を理解していますか。
正解はありません。選ぶと、その答えがどの前提に乗っているかが出ます。
この問いを作った人
アメリカの哲学者ジョン・サールが1980年に出したものです。
狙いははっきりしていました。強いAIへの反論です。適切にプログラムされた機械はそれ自体が心を持つ、という主張に対して、見分けはつかないが理解はしていない例を突きつけた。
サールの主張はこうです。コンピュータがやっているのは記号の操作であって、記号が何を指すかには一切触れていない。形だけを扱って、意味には届いていない。 どれだけ速くても、どれだけ量が増えても、部屋の中の人が中国語を覚えないのと同じことだ、と。
4つの答えは、それぞれ別の哲学に立っている
内側があるかで決める。規則に従って記号を並べているだけだ。サール本人の答えで、多くの人の直観にも合います。中の人に聞けば「意味は分かりません」と答えます。 それが決定的だと考える立場です。
ふるまいで決める。部屋全体としては理解している。これはサールへの最も有名な反論で、システム応答と呼ばれます。理解しているかを中の人だけに聞くのは、脳の理解を神経細胞1個に聞くようなものだ、と。細胞は何も理解していませんが、脳は理解します。
生きものかで決める。理解は生きた脳の働きで、記号の操作では起きない。サールが理由として挙げた生物学の側に、重心を置いた答えです。1980年の論文で、心は脳が引き起こす生物学的な現象だと述べています。ただしここまで来ると、では炭素でできていなければ理解は起きないのか、という別の問いを呼び込みます。
分からないとする。他人が理解しているかも、外からは確かめていない。これは強い指摘です。 あなたが隣の人の理解を確認したことは一度もありません。にもかかわらず人には認め、機械には認めないなら、その線引きの根拠が要ります。
この問いが決着しない理由
45年たっても議論が続いているのは、理解とは何かの定義が、先に決まっていないからです。
理解を「正しく応答できること」と定義すれば、部屋は理解しています。「意味を感じ取っていること」と定義すれば、理解していません。どちらの定義が正しいかを決める方法が、いまのところありません。
サールの例が優れているのは、答えを出したからではなく、その定義がまだ決まっていないことを見えるようにした点にあります。
いま、この問いが出てくる場所
大規模言語モデルが自然に受け答えするようになって、この問いは実務になりました。膨大なテキストからパターンを学んだ仕組みは、中国語の部屋の巨大版だと言えます。
分かって答えているのか、それらしく並べているだけなのか。この区別が付けられないまま、私たちは診断も採用も量刑の参考も、そこに任せ始めています。
サールが1980年に置いた問いは、答えが出る前に実装されました。