自動運転とトロッコ問題

そんなジレンマは自動運転には発生しない.
素人の良くある間違いの一つで,「うーんまたか」以上の感想はない.

言わずもがな、自動運転車の“ドライバー“はAIだ。AIは、通常人間の脳が行っている、判断、記憶、学習、推測といったことを人工的に行ってくれるシステムだ。

ここから間違いだらけ.他の部分もほぼデタラメだ.

さて、話を自動運転車に戻そう。この「トロッコ問題」に対して自動車メーカーは、どのような反応を示しているだろう。

「論外」の一言でいいと思うよ.


ロッコ問題はブレーキがない,または故障しているトロッコを例にした思考実験だ.
しかし自動運転車にはブレーキがある、前方に障害物があればブレーキをかける.ただそれだけ.*1
ブレーキが故障したまま走り続けているなら,そちらの方が問題だ.まずは故障を検出し,速やかに(回生ブレーキで)速度を落として路肩に停車するなどの対策を実装すべきだろう.

https://b.hatena.ne.jp/entry/s/amp.review/2019/10/13/trolley-problem/

  • id:aa_R_waiwai 自動運転だろうが何だろうが、急ブレーキする以外に、取る方法はないだろう。
  • id:Yagokoro これ、ほんと馬鹿みたいな議論で、自動運転車は交通法規守るだけですよ。
  • id:blueeyedpenguin 自動運転のトロッコは警報を鳴らしながら緊急ブレーキをかけて管制室に連絡するから誰も死なないって言えばいいの?下らない空論。
  • id:Kenju どちらにハンドルを切っても誰かが犠牲になる場合、ハンドルは切らずにブレーキを踏む、でいいと思うのだが。状況が想定できない。
  • id:okamotoy  「暴走する」時点で「故障している」のですが,「故障しているAI」に何を期待しているのか解んない. で,「故障した」時点で(AIの外の)安全装置が働いて「車を止める」と予想します.
  • id:filinion AIの倫理は超長期的には問題になるだろうけど、自動運転車でそれが問題になるとは思えないんだよなあ…。とりあえず急ブレーキかけるしかないし、それで人が死んだらブレーキやカメラの欠陥が問われるだけだと思う。


  • id:mory2080 ロボット工学の3原則に沿って考えるなら答えは簡単「AIの機能停止」。後のことは知ったこっちゃない。/ 納車時の契約書にも書いてあるはずだから、ちゃんと読もう。

アシモフロボット三原則の話なら,それは間違い.

「後は野となれ山となれ」というのは「人間に危害が加えられるのを看過する行為」以外のなにものでもなく,完全に第一条違反だ.*2

  • id:taku-o 車の場合はケースによっては壁に激突してもらって、ドライバーのみに被害を抑えたいが、それでは車が売れないって話聞くよね

そんな状況は起こりえない.


「壁にぶつけて停止させた方が被害が少ない」と判断するには,その壁が自動車の衝突に耐えられる強度があり,その壁の前後に人がいないことを,事前にセンサーで検出できなければならないから.そんな高性能なセンサーが実用化されたなら,道路にいる人を遙か彼方から検出し,危険な状況になる前に速やかに減速して停止することくらい造作もないだろう.

崖下に転落するなどのパターンも同様.崖下に民家や釣り船などがないということを,崖から飛び出す前に検出できるセンサーが開発できない限り,安全に身投げすることなどできないのだ.*3

  • id:t-murachi 自動運転車の所有者による整備不良でブレーキが利かなくなった場合などは想定されるべきだと思う。ブコメで何言ってだ的な反応示している方々はその手の異常系のユースケースを考えられない人(´・ω・`)

単なる異常検出の話であって,トロッコ問題ではない.

故障の検出やフェイルセーフ実装は重要だけど,トロッコ問題とは無関係.故障がおきるのはブレーキだけとは限らない.ハンドルだってLiDARだって故障する可能性はある.
http://javablack.hatenablog.com/entry/2019/06/16/073014

単純にカメラのレンズに飛んできたゴミがはりつくみたいな問題だって起きるかも知れない.故障がなくても集中豪雨や濃霧,砂嵐でも視界が遮られ,カメラやLiDARが機能停止状態になることはあるだろう.異常事態を自動検出できないようでは自動運転はおぼつかない.

  • id:turanukimaru 交通法規を守るとか急ブレーキを踏むというコメントが☆を集めているがバリエーションとして「正面からトラックが突っ込んできたら」なんてのもあるんだよ。交通法規を守ってドライバーが死ぬような車でも乗る?

そんなレアケースをだされても.

逆走してくるパターンについては,どのみち「避けられない」.Waymo が事故った例の一つがこれに近い奴.

http://javablack.hatenablog.com/entry/20180505/p1

こんなのでハンドル切るとかえって危ない.正解は「ハンドルそのままでブレーキ踏め」だろう.


こんな事例に対処するよりは,煽り運転対策モードとかつけた方が実用的かも知れない.煽り運転の一部始終を記録して警察に生中継するとか.

ロイターの記事より


歩行者に信号無視の車が急接近!カメラが捉えた「奇跡の瞬間」(24日)

アリゾナ州フェニックスの幹線道路で、ベビーカーのようなものを押している歩行者が横断中の交差点に、猛スピードの車両が赤信号で突っ込んできた。信号無視の車は、青信号で交差点に進入してきた別の車と衝突。結果としてこの車が信号無視の車の行く手を阻んだので、歩行者らは奇跡的に難を逃れた。警察によるとこのニアミスが起きたのは今月14日で、信号無視をした23歳の運転手は複数の罪で訴追され、拘置所に送られた。

現時点では故意なのか偶然なのか不明だけど,こういう時に歩行者を守るか車体を守るかというジレンマなら,自動運転車にも起こりうる.

だがプログラムするのは大変だろう.

*1:下手にハンドル切ったせいで犠牲が増えたという事件が,この前あったな. https://www.asahi.com/articles/ASM584SD0M58PTIL017.html
「県警によると、交差点で右折しようとした新立容疑者の乗用車と、直進してきた下山さんの軽乗用車が接触。その後下山さんの車が、散歩中に信号待ちをしていた園児らがいる歩道へ突っ込んだとの目撃証言があるという。
新立容疑者は「前をよく見ていなかった」、下山さんは「右折車をよけようとハンドルを左に切った」との趣旨を供述。」
車同士がぶつかった方が,遙かに被害は少ない.

*2:それと,なにもないのに自分を破壊するのも第三条違反だな.

*3: 「飛び降り自殺の巻き添えになる」のは,さほど珍しい事例でもないらしい.自殺者は後のことなど考えてないからな. https://www.afpbb.com/articles/-/2945703 https://www.fnn.jp/posts/00370430HDK