自動運転車が、避けきれない事故に直面します。まっすぐ進めば5人、ハンドルを切れば1人。
トロッコ問題と同じ形です。ただし決定的な違いがあります。この判断は事故の瞬間ではなく、何年も前に設計者が書いたプログラムで決まっている。
まずは選んでみてください。
まず、選んでみる
自動運転車が、避けきれない事故に直面します。まっすぐ進めば5人の歩行者に当たり、ハンドルを切れば1人の歩行者に当たります。この判断は事故の瞬間ではなく、何年も前に設計者が書いたプログラムで決まっています。
車は、ハンドルを切るべきですか。
正解はありません。選ぶと、その答えがどの前提に乗っているかが出ます。
トロッコ問題と、どこが違うのか
古典的なトロッコ問題では、レバーの前に立った人がその場で決めます。時間がなく、動転していて、あとから責められても情状酌量の余地がある。
自動運転では、そのどれもありません。
決めるのは事故現場にいない人です。何年も前に、落ち着いた部屋で、資料をそろえて決めます。咄嗟だったという言い訳が使えません。 そして一度決めれば、同じ判断が何万台にも複製されます。
つまりこれは、トロッコ問題を個人の窮地から、制度の設計へ移した問題です。
4つの答えは、それぞれ別の哲学に立っている
数で決める。助かる人数が多いほうを選ぶ。ベンサムの功利主義をそのままプログラムにした形で、実装としては最も単純です。ただし「誰を数に入れるか」という問題が残ります。 乗員と歩行者を同じ1として数えるかどうかで、答えが変わります。
手を下さない。進路を変えれば、1人を狙って轢いたことになる。カントの義務論に立つ答えです。ただし自動運転では何もしないこともプログラムされた選択なので、この区別が成り立ちにくくなります。
立場で決める。誰を犠牲にするかを先に決める立場に、設計者はいない。これは技術者から実際によく出る答えです。 権限のない者が決めるべきでない、という感覚には筋があります。ただし決めなければ車は走りません。
本人が決める。買う人が自分で設定できるようにする。自己決定を重んじるミルの流れですが、車外の歩行者は何も選んでいません。 選ぶ権利が誰にあるのかが、ここでずれます。
実際に調査が行われました
2016年から、世界中の人がこの種の選択を答える大規模な調査が行われました。数百万件の回答が集まっています。
分かったのは、答えが文化によってはっきり違うことでした。年長者を守るか若者を守るか、法を守っている人を優先するか。地域ごとに傾向が分かれます。
これが厄介なのは、車が国境を越えるからです。ある国の基準で設計された車が、別の基準を持つ国を走る。どちらに合わせるかを決める場所が、どこにもありません。
いま、この問いが出てくる場所
自動運転だけの話ではありません。医療の優先順位を決めるアルゴリズム、与信の審査、採用の書類選別。人が咄嗟に判断していたことを、事前に書いておく仕組みへ移す動きが、あらゆる場所で進んでいます。
移した瞬間に、トロッコ問題と同じことが起きます。判断が可視化され、記録され、繰り返される。 咄嗟だったという逃げ道が消えます。
これはたぶん、良いことです。ただし、逃げ道が無いということは、先に答えを決めておかなければならないということでもあります。