糞記事「AIは勘違いする―テスラとトヨタにみる自動運転カー戦略の違い」

自動運転 人工知能

http://itpro.nikkeibp.co.jp/atcl/column/14/090100053/071300170/
一見面白そうに見えて，実は問題だらけの糞記事．どーしてこーなった．*1

  • センサーや画像処理の誤認識問題はあるが，それは必ずしもＡＩとは関係しない．*2
  • 自動操縦やハイテク機のブラックボックス問題はあるが，それはAIなど関係無く存在する．
  • 自動車のオートパイロットには，まだまだ多くの弱点がある．人間の補助無しで安全に走行できるような代物ではない．
  • 記事全般として印象操作の側面が非常に強い．

ハイテク機はなぜ落ちるか―コンピュータ化が引き起こす新たな航空機事故 (ブルーバックス)

ハイテク機はなぜ落ちるか―コンピュータ化が引き起こす新たな航空機事故 (ブルーバックス)

手書きの数字（0〜9）を99.8％の精度で認識できる人工知能（この場合はディープニューラルネット）

まず，なんでもかんでもAIっで呼ぶのやめませんかね？深層学習による画像認識は，普通は人工知能って呼ばないんじゃね．「やつら，プログラムを魔法と勘違いしているわ」．

に入力すると、なんと人工知能はほぼ100％の自信度で「1」と判別してしまう。

それって，最初から「１〜９のどれかを識別するニューラルネット」なのでは．選択問題なら，そのどれかに丸を付けるのは人間だってやるよ．

しかも，

この画像は、特定のニューラルネットを「だます」目的で、AI技術開発のカラフル・ボードが作成したものだ。学習済みのニューラルネットに画像を入力し、その出力結果が「1」に近づくよう、画像に繰り返しフィードバックを与えたものである。

そりゃ特定のプログラムを騙すつもりで書けば錯視画像くらい作れるだろうさ．*3

ホモサピエンス用に作った，「一見長さが違うようにに見えるけど実は同じ長さ」とか「色が違って見えるけど，実は同じ色」とかあるでしょ．あれと同じ．

錯視と錯覚の科学 (ニュートンムック Newton別冊)

錯視と錯覚の科学 (ニュートンムック Newton別冊)

google:image:錯視

研究的には興味深いけど，現実的なリスクとしてはマネキンや偽の看板や信号機ほどじゃない．あるいは大雨や吹雪や濃霧とか． *4 *5

人工知能は、往々にしてだまされ、勘違いし、間違った判断を下してしまう。

それはそうだけど，

そのことを最も残念な形で示したのが、米テスラモーターズの電気自動車「Model S」で2016年5月7日に発生した死亡事故だろう。

テスラのアレは人工知能とはなんの関係もないと思うが．単に現在のセンサー技術や画像認識ソフトウエアの制限の問題．今の人類の科学力の限界はその程度．


アレに人工知能が使われているなんて，いったいどこ情報なんだろう．読売新聞？*6

　そこへ、側道からトレーラーが行く手を塞ぐように進入した。米国で運転経験がある方なら分かると思うが、料金所のない米国の高速道路では、側道からクルマが自由に進入できるケースが往々にしてある。

たしか対向車が左折（言うまでもなく日本とは左右反対)のため方向転換したはずだが．地図にもそうハッキリ書かれていた．


https://www.yahoo.com/tech/everything-know-fatal-tesla-model-crash-215345819.html

反対側からやってきた大型トラックが，おそらくは一度減速してから，９０度以上向きを変えてこちら側の道路を横切ってる所に，後からやってきたテスラ モデルSが真横から突っ込んでいっただけ．*7


人間ならば対向車が速度を落とした時点で，たとえウインカーを出してなくても10人中9人は「対向車はこの後に方向転換するだろう」と予測して身構える．しかし今の自動運転車にそんな高度な状況判断はできないし，未来予測も不可能．

Model SのAutopilotでは、光学式カメラに加え、ミリ波レーダーでも車両を検知できる。だが、テスラのイーロン・マスクCEOのツイートによれば、Autopilotはミリ波レーダーの情報から、トレーラーの車体を「高速道路上の道路標識」と勘違いしたという。

　トレーラーは、一般的な車両よりも車高が高い。このためレーダーの電磁波がトレーラーの車体の下をすり抜け、「上方に標識はあるが、前方には障害物なし」と誤認した可能性がある。この結果、Model Sはフロントガラス部がトレーラーと衝突し、車体はトレーラーの下を突き抜けた。

下のような18wheeler トラックの車高が高く，コンテナ下にバンパーなどが付いてないのは事実のようだ．

アメリカレベル 1/32 フレイトライナー w/トレーラー 01981 プラモデル

アメリカレベル 1/32 フレイトライナー w/トレーラー 01981 プラモデル

だからといって，特に「上に標識がある」などという認識もしてないと思う．

あくまで「正面に障害物無し」であって，それ以上の難しい事は考えてない．むしろ何も考えてない．そもそもレーダーだもん．反射波の有無は分かっても，それがどんな形状の何なのかを判別するのは容易ではない．


これは要するに古いAFカメラの「中抜け」と同じ問題だと思う．AIとか全く関係無く，古くからある問題の一つ．
http://www.antaresdigicame.org/photo_gallery/camera/camera7.html
http://www.geocities.jp/musyagan/aflock.html

しばらくして「３点測距のマルチAF」などの新技術が登場して，単純な中抜けは発生しにくくなった．*8 だがこれとおなじことを緊急ブレーキに実装すると対向車や道路標識などを誤認識して，危険がない場所で急ブレーキをかけて事故を起こす危険があるために使えない．*9 上の話はそのことを指しているものだと思う．



また人間だって高さに対する判断はいいかげんなものだ．「高さ制限何メートル」って標識を見て判断しているだけで，本当の意味で高さを読み取っているわけではない．なので，しばしば勘違いして事故を起こす．

http://www.nydailynews.com/news/national/truck-collides-overpass-long-island-parkway-article-1.1793510
大型トラックやバスなどを除く中小型の車両でそういう事故が滅多に起きないのは，単純にそういう車が通れるように道路が設計されているからにすぎない．

トレーラーについては，「普通の車ではトレーラーの下をくぐる事は出来ない」「スケボーならできるかもしれないが自殺行為」みたいな知識に基づき，ヒューリスティックに処理しているだけ．*10



それは、「距離の測定では、ステレオカメラが優位であるはずなのに、単眼カメラでなぜ高精度の距離測定が可能なのか？」という点だ。

　これについてMobileye側は、「前方の対象物に対して、実際の距離を測るのではなく、信号機や道路標識などの“ランドマーク”と自車との位置関係を考慮し、画像の中にあるさまざまな物体を認識するアルゴリズムを使っている」と説明する。

http://monoist.atmarkit.co.jp/mn/articles/1602/17/news014.html

というわけで，おそらくAIとは関係無い．*11

http://b.hatena.ne.jp/entry/itpro.nikkeibp.co.jp/atcl/column/14/090100053/071300170/

  • id:pilpilpil 清水和夫のDSTにおける低ミュー路面旋回ブレーキテストだと現行市販車でも一部高級ドイツ車を除いてブレーキと姿勢制御のロジックが勘違いする車が多い状態なので先は遠いよね。

清水和夫のダイナミック・セイフティ・テスト (Gakken Mook ル・ボラン)

清水和夫のダイナミック・セイフティ・テスト (Gakken Mook ル・ボラン)

せやな．

  • id:Panthera_uncia "今回の事故で亡くなったドライバーは、Model SのAutopilotの特性を試した数十件の映像をYouTubeに投稿していた" DVD観てたアホみたいな記事は印象操作だったのか

DVDが再生されていたのまでは事実らしい．ドライバーの不注意が事故の主な原因なのも事実だろう．

ただし本人が亡くなっているので，事故の瞬間に本当にDVDを見てたのか，スマホでも弄ってたのか，はたまた熟睡してたのかまでは不明だが．


アホかどうかというのなら，まぎれもないアホだろう．以前の動画を見ればわかるが，不注意から事故になりかけたのをテスラのオートパイロットに助けられて九死に一生を得たのに，それでもテスラを絶賛してたらしい．その時に自分のミスを認めて反省してれば，死なずに済んだんだろうけどね．

  • id:androidzaurus あの死亡事故が起きた仕組みがやっとわかった。

．．．たぶん誤解させられてると思う．

  • id:heppokopg2013 普及すれば、車同士が通信しあうから車同士の衝突は減る。対人は、積極的に認識してもらえるガジェットが出てくるんじゃないかな。そうなると意図的なジャミングにはどう対応するのか。

それは自動運転とは直行した話なので，この話題とは直接の関係はない．


またイタズラやテロ行為によるジャミングだけでなく，ノイズや故障はありえるので，いずれにせよ外部からの誘導電波に頼らずに自律運転できるだけの技術が，(レベル3やレベル４の)自動運転車には求められる．

  • id:khtno73 自動運転は近くて遠い。現行ゴルフのACCは稀に湾岸線/国道357の葛西-新木場間でミリ波レーダー(77MHz?)が無効になる。(みんカラ等で複数報告あり)。先代ベンツ(24GHz帯)は電波望遠鏡と干渉、ステレオカメラも天候によるし
http://b.hatena.ne.jp/entry/www.nikkei.com/article/DGXLASGN01H0T_R00C16A7000000/

自動運転車が常時電波を出しまくるようになったら，それがまた誤動作の原因になるかも．東京の渋滞中なんかきっとノイズだらけだぞ．

  • id:ROYGB ＡＩだまし絵
  • id:quwachy まるで人間が勘違い（錯覚）しないみたいな理論だな、そういえばこの間信号の色を勘違いして殺した人間の記事があったような
  • id:locust0138 「AIって何だ」「ためらわないことさ」「悔やまないことさ」

「Juicy tidbits on Autopilot, deep learning, Tesla's advantage from Nov 3 Mobileye Call」

https://teslamotorsclub.com/tmc/threads/juicy-tidbits-on-autopilot-deep-learning-teslas-advantage-from-nov-3-mobileye-call.56815/

Tesla／Mobileyeとdeep learningについてこういう記述はあった．
収支報告(Earnings Call)で「こんな研究もしてるよ」って話が出たらしい．

"Recently, we launched our first deep learning functions on Tesla auto pilot feature. These capabilities include semantic free-space which uses every pixel in the scene to help us understand where are the curves, barriers, [indiscernible] drills, moving objects and anything that is not part of the driving path. Once we know the free-space, the big challenge is where to locate the vehicle in this free-space. We saw this with the holistic path prediction, which uses the context of the road to determine exactly where the car should go at all the time."

典型的にはセンターラインや障害物検知などに使うと思われる．センターラインが掠れてたり色が違ってたり汚れてたり，LEDや反射板など他の素材で作られていたりしていても，ニューラルネットで正しく認識できるようになれば，自動運転の利便性や安全性は向上する．「電柱や自動車の影から頭だけ出している子供」などを認識できれば，危険を事前に察知できるようになるかもしれない．


いずれにせよ，Deep Learningは学習のためのビッグデータがないと機能しないから，異常事態を対象とする緊急ブレーキ開発には適さないだろう．今間でだけでなく，今後もその手の機能とDeep Learningとは関係ないままだと思う．

ついで

最後のは，たぶん間違ってると思う．反射波の強いものを無視してたら，近距離のトラックなんか全部「見えなくなる」よ．細かいアルゴリズムは企業秘密だけど，強いから無視なんてことはしてないと思う．パターンマッチングについても同様．



ひょっとして，正面とか関係無く静止目標（相対速度 ≒ 自分の移動速度の物体）はレーダーの観測結果から除外してる？

*1:やっぱプログラミングは必修化したほうがいいのかな．こんな記事書いちゃう人がいるくらいだもんねえ．

*2:http://plus1world.com/face-swap-funny-photo

*3:「Deep Learningの実力と限界、人工知能のロードマップ」 http://ventureclef.com/blog2/?p=2827

*4:「世界一紛らわしい信号」とか． http://www.afpbb.com/articles/-/2929108

*5:ところで「目玉案山子」を見て，それを目玉と判断するのは誤認識か否か？

*6:「人工知能誤判断？テスラ、自動運転中に死亡事故」 http://www.yomiuri.co.jp/economy/20160701-OYT1T50060.html

*7:大型トレーラーの左折だから，減速して，90度以上向きを変えてから改めて加速するまでに，それなりに時間がかかってるはず．スポーツカーみたいにスピードを落とさないまま急ターンするのは不可能．

*8:今ではこれが「65点自動選択AF」と言ったレベルになってるんだな．ビックリである． http://cweb.canon.jp/eos/special/7dmk2/guide/page18/ http://ascii.jp/elem/000/000/517/517653/index-3.html

*9:AFカメラのマルチ測距AFでも，意図したとおりの写真が撮れるとは限らないため，ベテランはマニュアルでAFロックを使うことも多いのだ．

*10:AIは非常識．広義の「ペンギンは飛べない鳥である」問題は，今でも解決困難な問題だと思う．

*11:「スペースハリアー」みたいな三次元を二次元画像で擬似的に表現したゲームでも，人間のプレイヤーは「立体的に」見ているような物だと思う．対象物の重なり具合（前に重なってるものが手前にある）やパースと消失点の関係，遠くの物の方が小さく見える等々から，遠近感を構築して，脳内で距離感を再現している．実際に映画やテレビを片目で見てる時だって，立体感が０になるわけではないのだ．
逆に「各物体の元の大きさ」を距離の推測に使用しているため，ミニチュアなどではしばしば距離感が狂わされる． ミニチュアっぽく見せた写真などもある． http://thegoldexp.blog99.fc2.com/blog-entry-872.html