パン認識AIの脆弱性
https://togetter.com/li/1756501
日記です pic.twitter.com/MMhZOUo7hK
— 斗々窪 (@boat_10ku) August 7, 2021
まあしょうがない．
「有限個の種類のパンから，どれが何個乗っているか？」を認識させてるだけで，不特定多数のオブジェクトの中から当店のパンのみを抽出し，さらに種類を特定させているわけえじゃないから．
https://b.hatena.ne.jp/entry/s/togetter.com/li/1756501
- id:nakex1 その精度でパンの種類をちゃんと見分けられるのかな？似た形は同じ値段にするとか，見分けやすいようにパンの形をはっきり分けて作るとか？
- id:Galaxy42 千葉駅のピーターパンもこういうの。パンのシルエットで判別してるっぽい。パンのデザインも対応して変化するし、人間もパンの種類がわかりやすい。
- id:Bosssuke 会計システムの都合上、同じ形のパンを作れなくなるデザイン上の制約が課せられるのはおもしろい。大型パン店（？）では、デザインガイドラインが生まれたりするんだ！夢がある！
これはAIを導入する前から，「見分けられるようにデザインする」ものだと思う．
たとえば「アンパンは丸くて上にゴマが振られている．クリームパンは半月状でゴマがなく，少し切れ目が入ってる物も多い．（店によっても異なる．）」「ソーセージややチョココルネなどは，なるべく具材が外からも確認できるようにする」など．昔からそうなってる．
- id:bukomekusa 「子供の手がクリームパンと判定されるのはレベルが低い」って言ってるブコメに笑う。範囲内にはパンしか置かないという制約上で学習させてるだろ。有象無象からパンを抜き出し判定させるコストが想像できないかなあ
- id:ardarim 画像認識の世界は一般人が想像する以上に難しいので、AIのレベルが低いとか言っちゃうコメもまあご愛嬌だよ
ホント，夢見すぎな人の多いこと．自動運転や機械翻訳も酷かった．
- id:omioni この手のシステムは確か精度が出ないこと前提で修正を簡単する方向で作られてたはず https://bakeryscan.com/bakeryscan https://ledge.ai/bakery-scan/
- id:lifefucker クリームパンで学習してたらそうはならんやろ
クリームパンで学習してるかどうかじゃなくて，子供の手を学習してないんですよ．
「自分の知ってる範囲では，これはクリームパンにソックリ．クリームパンに違いない．」というロジック．一度も見たことがないものは正しく認識できない．
