ある勉強会で議論したこの問題。
この前のテスラでの自動運転の事故があり、再度考えたくなったので、ここで考えてみます。
事故を起こした自動運転
テスラ「モデルS」の自動運転機能による追突事故 悪いのはオーナー？ それともクルマ？
今年に入ってこんなニュースも出てましたし、実際に先日自動運転機能作動中に死亡事故を起こしたということで調査が始まりました。
今は自動運転も黎明期ですし、これからもっとこういう事故が起こるでしょうね。
全ての車が自動運転になればむしろ事故は起きないかもしれませんが、少なくとも数十年のスパンで自動運転車と一般運転車（今の車）とが混ざるでしょうし、ややこしい時代だと思います。
今後来る時代に備えて、ということではありませんが、人工知能など含めてコンピュータと倫理というのはどうしても避けても通れません。
ただ、近い将来これに近い機能は全ての車に搭載されると思っています。そうなった時のための考えです。
どれが正しいとかではなく、どうすべきかのルールでしょうけどね。
トロッコ問題
雑な絵ですが、こういう問題です。
文章としてwikiから引用します。
(a) 線路を走っていたトロッコの制御が不能になった。このままでは前方で作業中だった5人が猛スピードのトロッコに避ける間もなく轢き殺されてしまう。
そしてA氏（濃い青）が以下の状況に置かれているものとする。(1) この時たまたまA氏は線路の分岐器（赤い棒）のすぐ側にいた。
A氏がトロッコの進路を切り替えれば5人は確実に助かる。
しかしその別路線でもB氏が1人で作業しており、5人の代わりにB氏がトロッコに轢かれて確実に死ぬ。A氏はトロッコを別路線に引き込むべきか？
なお、A氏は上述の手段以外では助けることができないものとする。
また法的な責任は問われず、道徳的な見解だけが問題にされている。あなたは道徳的に見て「許される」か、「許されない」かで答えるものとする。
５人を殺すか、１人を殺すかです。
これは難しい問題です。私ならレバーを切り替える、という回答になるかなと思います。
では、別のケースを考えます。
ケース１：５人は全て老人で１人は子供（小学生）だったら？
これまた回答が変わってきてもおかしくないと思います。
未来ある子を殺すのは忍びない。ここは老人に死んでもらって…という人も出てきそうなシチュエーションです。
ケース２：母親と恋人なら？
HUNTER×HUNTERのドキドキ２択クイズです。
ハンター試験は沈黙が正解らしいです。
ただ、これの真意は「あらゆる残酷な空想に耐えておけ。現実は突然無慈悲になるものだからな。いつか来る、別れ道に備えて。」とばあさんが言っています。
と、まぁ結論は出ませんが、こういう問題があります。
自動運転のプログラムを組むならどう設計する？
自分を自動運転の設計者兼プログラマーと仮定して考えます。
ケース１：他人を助けるか否か
このパターンです。
あなたが乗っている車が危険を察知しました。
どうやら隣の車にこのままいくと衝突しそうです。
目の前を人が歩いていますが、普通に走っていたら轢くことはありません、ただ、隣の車から逃げるためにはスピードを上げないといけません。
その場合、車同士の衝突は避けられますが、歩いている人は死にます。
もしくは、車からも人からも避ける選択をします。
ただし、隣は壁になっていて、ここにぶつかるしかありません。
その場合、（エアバッグはありますが…）あなたの車は自爆することになり、あなたは死にます。
さて、どうしましょうか？
私がプログラマであれば、歩いている人を殺す方を選択するかもしれません。
もちろん、何キロ以下なら死なないという制御しますが、もし乗っている人が死ぬのであれば、それを守るのが車としての義務であろうということで、歩いている人は申し訳ないですが、死んでもらいます。
ケース２：対象によって制御すべきか否か
このパターンです。
急ブレーキを踏めば前の対象物との衝突は避けられます。
が、後ろの車との激突は避けられません。あなたは後ろから思いっきりぶつけられて死んでしまいます。
一応ネコや子供、老人とおよそ車が判断できるものとします。
さて、どうしましょうか？
ネコなら迷いなく轢きます。残念ですが犠牲になってもらいます。
問題は次です。
子供なら…私は轢きます。
自動運転のプログラマーとして、乗っている人を守る義務があると思うからです。
同様の理由で老人も轢きます。
でもこれもどうなんでしょう。
何をもって正義とするかですので、答えはないでしょうが、決めないといけないシーンは必ず来ると思います。
自動車保険はどうあるべきだろうか？
自動運転保険、自動運転特約とかはかなりカスタマイズ対応するだろうなって思います。
こういうのは多分選べるようにしておくんでしょうね。
ドナーカードみたいな感じです。
他人を轢いても自分が助かるというのを選んだ場合、補償はしっかりしていないといけませんし、何かあった時償わないといけないので保険料も高めに設定されてしまうのかな。
逆に何かあったら自分がとにかく死ぬ方向で、というのを選んだら、自損事故ですみますから、補償は最小限で生命保険だけ入ってください、とか。
保険金を決めるのは心理テストだったり、倫理観だったりするので、車を決める時にまずは自分がどうしたいかを選び、それを基に自動運転制御の設定を行います。
その設定ファイルを基に保険料が決まるなんて未来が来るかもしれないなって思いました。
もしくは心理テストで保険料が決まったりするかもしれません。
緊急時にはもちろん自分が運転できるようにするでしょうけど、今回のテスラの事故の様にＤＶＤを見ていた（？）場合や、自動だからといって運転席で寝ていた場合など、誰も指示する人がいない場合は車が判断することになります。
設定１つで自分の人生が決まるかもしれないというのもなんかなーと思う反面、とても可能性がある技術だけに進歩してほしいとも願ってしまいます。
難しい問題ですね。
