Uber自律走行車の死亡事故、ソフトウェアが歩行者を無視したのが原因か
2018年5月10日 18:02
headless曰く、 3月にアリゾナ州で発生したUberの自律走行タクシーによる歩行者の死亡事故について、ソフトウェアのチューニングが原因だったとThe Informationが報じている(The Verge、Ars Technica、SlashGear)。
自律走行車ではセンサーにより周囲の物体を検知し、回避が必要かどうかの判断を行う。たとえば、道路上で風に舞うコンビニの袋や、通常は動き出すことのない道路脇に置かれたゴミ箱などの物体は回避不要な物体にあたる。そもそも存在しない物体をセンサーが誤検知することもあるという。
Uberのソフトウェアには誤検知や回避不要な物体を無視する機能が備わっており、回避が必要かどうかの判断レベルを調整できるようになっている。The Informationの情報提供者2名によれば、センサーは歩行者を検知していたものの、ソフトウェアが反応不要と判断していたのだという。誤検知と判断されていた可能性もあるようだ。
センサーが検出した物体をより多く回避するよう調整すれば安全性は高まるが、ブレーキングや方向転換が頻発して乗り心地は悪くなる。一方、より多く無視するよう調整すれば乗り心地はよくなるものの、衝突事故の可能性が高まる。ソフトウェアを後者寄りにチューニングし過ぎたことで、歩行者に反応できなかったとUberの経営陣は考えているとのことだ。
関連記事
最新記事
- Google DeepMindからトップ研究者6名がMetaやOpenAIらへ移籍、背景に「商用コーディング重視」への戦略転換か
- 「宇宙AIデータセンター」は実現するか? ソフトバンク孫氏がSpaceX構想のコストと遅延を疑問視
- 【未確認】カルパシー氏の作とされる「CLAUDE.md」10原則が流出か、AIコーディングの自律ループを制御する新ルール
- 米商務省、Anthropicの「Claude Mythos 5」を重要インフラ防衛向けに限定復旧、一般向けの「Fable 5」は停止継続
- 投機的デコーディングの限界を突破、新手法「DFlash」がBlackwell GPUで15倍のスループットを達成