ロボット工学三原則を守ることは困難……か？
- 「実験の結果ロボットがロボット工学三原則を守るのは困難だと判明」 http://www.kotaku.jp/2014/09/cool-experiment-puts-asimovs-first-law-of-robotics.html
ロボット三原則を全く分かって無い人が書いてるなあ．
イギリスにあるブリストル・ロボティクス・ラボラトリーのロボット学者のアラン・ウィンフィールド氏は、アシモフのロボット工学三原則の第一条を単純化した実験をしたそうです。彼とそのチームが行ったのは、ロボットにプログラムを施し、人間の代理となる他のロボットが穴に落ちるのを妨ぐというものです。
最初、ロボットは人間代理ロボットが穴に向かって動いていくのを察知して軌道修正させてから自らのゴールに向かうというタスクをこなすことが出来ましたが、もう人間代理ロボットをさらに1体加えて同時に穴に向かって動かすと、ロボットは選択を迫られてしまいました。
何回かは2体とも穴に落ちるのを防ぐことに成功しましたが、1体だけ助けてもう1体を見過ごしてしまうということもありました。しかし33回の内14回は、ロボットは考えることで時間をロスし、結果的に両方とも穴に落としてしまうという結果になりました。
それ実装の問題で，ロボット工学三原則と関係ねーし．
これを作った人の実装がショボいだけで，Ｒ・ダニールやＲ・ジスカルドなら優先順位をつけて，どちらか片方だけを助けるか両方とも助けるか，或いは両方とも助けられないので諦めるか決めるだろう．*1
なんかその昔の「空飛ぶ乗り物」が失敗続きなのを見て，「万有引力の法則により，空を飛ぶことは不可能であることが判明」って言ってる感じ．それは空飛ぶ乗り物の実装がショボすぎるだけであって，万有引力の法則が悪いわけじゃない．
- http://www.gizmodo.jp/2014/09/kt_robot.html
- http://news.nicovideo.jp/watch/nw1244349
- http://slashdot.jp/story/14/09/24/048259/
- http://dailynewsagency.com/2014/09/19/ethical-trap-robot-paralysed-by-2go/
- http://tocana.jp/2014/10/post_4920_entry.html
- http://business.nikkeibp.co.jp/article/opinion/20150414/279910/
- http://wired.jp/2014/10/18/ethic-of-robot/
- http://d.hatena.ne.jp/JavaBlack/20140926/p1
- http://d.hatena.ne.jp/JavaBlack/20120104/p1
- http://d.hatena.ne.jp/JavaBlack/20070705/p1
http://b.hatena.ne.jp/entry/www.kotaku.jp/2014/09/cool-experiment-puts-asimovs-first-law-of-robotics.html
せやな．
- id:John_Kawanishi 元々Isaac Asimovって人の小説の中でこういうDilemmaが起きる話のネタだったのが他の人の作品や現実のロボット工学の中でまで｢規定｣になっちゃったんだろう。現実のTechnologyが進みすぎて先人の創作に拠り所を求めた故か
- id:Lhankor_Mhy 原作の「われはロボット」でも「堂々巡り」という短編があってだな……
- id:takisok 一見有用なルールを定めても、それを厳密に実行すると想定外の状況になるのがアジモフの小説の面白い所。彼はコンピュータの出現以前にそこまで考えて小説にしたのが偉い。ロボット工学三原則は一人歩きしすぎてるな
- id:filinion アシモフにとっての三原則は「明解な規則に縛られているはずのロボットが奇妙な行動をとる」という小説を書くための小道具でもあるので、この状況こそまさにアシモフ的と言える。アシモフが存命なら大喜びしたかも。
- id:prdxa この記者アシモフ読んだことないんじゃね？
- id:youichirou そもそも、アシモフのはこういうジレンマに陥るところがストーリーのキモなので、三原則の矛盾や弊害をツッコんでも無粋なだけというか何というか。
- id:fan-tail プログラムは思った通りに動かない。書いた通りに動く。
- id:blueboy 「こういう事例があった」というたった１例から、「常にこれこれだ」というふうに敷衍するなんて、論理的な間違い。「１回のセルフスターがあったから、常に〜」と結論するような、はてな民レベルだな。ひどい。
- id:shin-uemon プログラムの問題なんじゃね？
- id:junetan 学習法が悪いだけ
- id:neo2184 単にソフトとハードの性能不足じゃん…
- id:hattoushinha 優先順位をつけて守るってことは、結局、優先順位が低くて守れなかった方は三原則違反になるんじゃねえの？ 単純化実験なんだから、ルールは絶対じゃね？
たぶんこれが良くある誤解なんだと思う．ロボット三原則はそういうものじゃない．*2 *3 詳しく書くと推理小説のネタバレになるので省略．
今でも面白い作品なので，興味がある人は一度読んでみて欲しい．自分のお勧めは「鋼鉄都市」「はだかの太陽」「夜明けのロボット」のイライジャ・ベイリ＆R=ダニール物．もちろんロボット三原則を理解する上では「われはロボット」も外せない．
スーザンキャルビンもの等短編
われはロボット 〔決定版〕 アシモフのロボット傑作集 (ハヤカワ文庫 SF)
- 作者: アイザック・アシモフ,小尾芙佐
- 出版社/メーカー: 早川書房
- 発売日: 2004/08/06
- メディア: 文庫
- 購入: 27人 クリック: 453回
- この商品を含むブログ (161件) を見る
- 作者: アイザックアシモフ
- 出版社/メーカー: 早川書房
- 発売日: 2014/09/30
- メディア: Kindle版
- この商品を含むブログ (25件) を見る
ロボットの時代 〔決定版〕 アシモフのロボット傑作集 (ハヤカワ文庫 SF)
- 作者: アイザック・アシモフ,小尾芙佐
- 出版社/メーカー: 早川書房
- 発売日: 2004/08/06
- メディア: 文庫
- 購入: 2人 クリック: 14回
- この商品を含むブログ (44件) を見る
- 作者: アイザックアシモフ,Isaac Asimov,小尾芙佐
- 出版社/メーカー: ソニーマガジンズ
- 発売日: 2004/08
- メディア: 単行本
- クリック: 1回
- この商品を含むブログ (23件) を見る
- 作者: Isaac Asimov
- 出版社/メーカー: Spectra
- 発売日: 1991/11/01
- メディア: マスマーケット
- クリック: 2回
- この商品を含むブログ (7件) を見る
イライジャ・ベイリ＆Rダニール
- 作者: アイザック・アシモフ,福島正実
- 出版社/メーカー: 早川書房
- 発売日: 1979/03
- メディア: 文庫
- 購入: 7人 クリック: 63回
- この商品を含むブログ (123件) を見る
The Caves of Steel (The Robot Series Book 1) (English Edition)
- 作者: Isaac Asimov
- 出版社/メーカー: Spectra
- 発売日: 2011/04/13
- メディア: Kindle版
- この商品を含むブログ (3件) を見る
はだかの太陽〔新訳版〕 (ハヤカワ文庫 SF ア 1-42) (ハヤカワ文庫SF)
- 作者: アイザック・アシモフ,Ryan Malone,小尾芙佐
- 出版社/メーカー: 早川書房
- 発売日: 2015/05/08
- メディア: 文庫
- この商品を含むブログ (12件) を見る
- 作者: アイザック・アシモフ,冬川亘
- 出版社/メーカー: 早川書房
- 発売日: 1984/05
- メディア: 文庫
- 購入: 1人 クリック: 9回
- この商品を含むブログ (53件) を見る
The Naked Sun (The Robot Series Book 2) (English Edition)
- 作者: Isaac Asimov
- 出版社/メーカー: Spectra
- 発売日: 2011/04/13
- メディア: Kindle版
- この商品を含むブログ (4件) を見る
- 作者: アイザックアシモフ,Isaac Asimov,小尾芙佐
- 出版社/メーカー: 早川書房
- 発売日: 1994/06
- メディア: 文庫
- クリック: 3回
- この商品を含むブログ (37件) を見る
- 作者: アイザックアシモフ,Isaac Asimov,小尾芙佐
- 出版社/メーカー: 早川書房
- 発売日: 1994/06/01
- メディア: 文庫
- 購入: 1人 クリック: 3回
- この商品を含むブログ (26件) を見る
The Robots of Dawn (The Robot Series Book 3) (English Edition)
- 作者: Isaac Asimov
- 出版社/メーカー: Spectra
- 発売日: 2009/01/21
- メディア: Kindle版
- この商品を含むブログ (6件) を見る
- 作者: アイザックアシモフ,Isaac Asimov,小尾芙佐
- 出版社/メーカー: 早川書房
- 発売日: 1998/12/01
- メディア: 文庫
- 購入: 1人 クリック: 4回
- この商品を含むブログ (20件) を見る
- 作者: アイザックアシモフ,Isaac Asimov,小尾芙佐
- 出版社/メーカー: 早川書房
- 発売日: 1998/12/01
- メディア: 文庫
- 購入: 2人 クリック: 3回
- この商品を含むブログ (16件) を見る
- 作者: Isaac Asimov
- 出版社/メーカー: Voyager
- 発売日: 1986
- メディア: マスマーケット
- この商品を含むブログ (2件) を見る
その他
- 作者: アイザック・アシモフ,池央耿
- 出版社/メーカー: 東京創元社
- 発売日: 1979/03/09
- メディア: 文庫
- 購入: 3人 クリック: 20回
- この商品を含むブログ (26件) を見る
- 作者: アイザックアシモフ,ロバートシルヴァーバーグ,Isaac Asimov,Robert Silverberg,中村融
- 出版社/メーカー: 東京創元社
- 発売日: 2000/04
- メディア: 文庫
- クリック: 12回
- この商品を含むブログ (24件) を見る
- 作者: Isaac Asimov
- 出版社/メーカー: Gollancz
- 発売日: 2000/03/09
- メディア: マスマーケット
- この商品を含むブログ (2件) を見る
さらに番外
表題作「サリーはわが恋人」はロボット三原則に従わないロボットの一例．
一部絶版のもあるけど，ファウンデーション・シリーズが電子化され始めたことだし，ロボット物も電子書籍でコンプしてほしいなあ．
- id:megane1972 なんであるSF小説の設定の一つが、他の小説どころかロボット工学の大前提みたいに扱われているのか、不思議でならない。
誰も他に代案が示せてないから．*4
現在において最も有名で，且つ合理的で実用的な指針がアシモフのロボット三原則なので，それが議論の出発点になるのは至極当然だと思う．
- id:cider_kondo 価値判断を実装したら第0原則が発案されて月にポジトロン脳を隠してあったのを見つけるとガイアがギャラクシアに拡張される話がどうしたって？（端折りすぎ
つまりファロムは今すぐ殺すべきだとｗ
http://b.hatena.ne.jp/entry/www.gizmodo.jp/2014/09/kt_robot.html
- id:ya_ken この実験から、この結論が導ける理由がわからない……???ロボット工学三原則を守ることは困難であると判明 (via @Pocket)
- id:masakih ロボットシリーズはそれが困難であるからこそ事件が起こるわけで... もともとそういう設定でしょ？
*1:現在の人工知能でも，そのくらいの判断はやろうと思えばできるだろうなあ．やってないのは制作者のスキルの問題．
*2:こういう人達って，ロボット三原則が，「法律」じゃなくて，いわば「アルゴリズム」だってことが分かってないんじゃないかな？これに対して鉄腕アトムに出てくるロボット法は，たしか法律なんだよね．
アルゴリズムなので「三原則違反になる」というのはすごく変な表現．「三原則に準拠しない陽電子頭脳」ならともかく，三原則に準拠した陽電子頭脳ロボットが行う行動は全て三原則に基づくもので，「違反」は起こりえない．あるとするなら違反ではなく「バグ」だろう．
*3:「ロボット三原則(Three Laws of Robotics)」は「万有引力の法則(the law of gravitation)」なんかに近い．全てを支配する(法律ではなく)「法則」なので，それに従わない運動は存在しない．宇宙船内の無重力（正確には自由落下かな）も，(素人目には)一見従ってないように見えても万有引力の法則の範囲内の運動でしかない．
もし真に万有引力の法則に従わない運動が観測されたとしたら，それは「宇宙船が万有引力違反した」ではなく「万有引力の法則に欠陥が発見された」と言うニュースになるだろう．
*4:ある意味で「シェイクスピアの格言を知ってるのが，英語ネイティブの常識みたいに言われるのか不思議でならない」と言ってるようなものだよなあ．
