「ロボット法　新８原則」とロボット三原則

ロボット三原則 人工知能

The Robot Series (3 Book Series)

The Robot Series (3 Book Series)

「ロボットの社会導入に向けて、法律家も技術者もともに議論を」??「ロボット法学会」の設立準備イベント開催

https://wirelesswire.jp/2015/10/46992/

慶應義塾大学総合政策学部の新保史生教授

その上で新保教授は「ロボット法　新８原則」として提案を発表。（1）人間第一の原則、（2）命令服従の原則、（3）秘密保持の原則、（4）利用制限の原則、（5）安全保護の原則、（6）公開・透明性の原則、（7）個人参加の原則、（8）責任の原則の８原則からなる、ロボット法を提言した。

えっと，それだけ？


優先順位は？競合時の解決法は？或いはアルゴリズムとかリファレンス実装は？
そこが決まってないのは，何も決めてないのと同じ．

なお、アメリカの化学者で作家のアイザック・アシモフが1950年に発表したSF小説「私はロボット（I, Robot）」の中で示した「ロボット工学三原則」（第1条：ロボットは人間に危害を加えてはならない、第2条：ロボットは人間に与えられた命令に服従しなければならない、第3条：ロボットは1，2条に反するおそれのないかぎり自己を守らければならない）が知られているが、新保教授は「これは思想であって法や規範ではない」として、ロボットを扱うにあたっての法原則を新たにつくる必要性を強調した。

うーん，分かってんのか分かってないのか．．．いわゆるロボット法とロボット三原則は全く別物なんだけどなあ．

なんか，完璧に勘違いしてそうなんだよなあ．．．少なくとも思想ではないような．

弁護士で明治大学法学部の夏井高人教授は、「これまでは労働現場だけで規則をつくってきた。法律家だけで空想をしても仕方がないし、技術家だけが空想をしても進まない。みんなが集まって議論をして修正をしていく、プラットフォームが必要だ」という。

SF大会かなにかに間借りして，意見を出してもらった方が早そうな気が．いまのままだと議論のたたき台にもなってない．

「「法律が普及の足かせになってはいけない」ロボット法学会の設立目指し、準備会開催」

https://www.bengo4.com/internet/n_3805/

この日の研究会には、研究会代表の新保史生・慶應義塾大学教授が登壇。新保教授は、SF作家のアイザック・アシモフ氏が1950年に示した「ロボット工学の3原則」を紹介。
（中略）
新保教授は「その後、現在に至るまで、これに替わるものは提案されなかった」として、自身の試案として新たな原則を提唱した。それが、人間第一の原則、命令服従の原則、秘密保持の原則、利用制限の原則、安全保護の原則、公開・透明性の原則、個人参加の原則、責任の原則の8原則だ。

人工知能のように、知能・制御系が独立して発展することで、必ずしも3要素だけでとらえられなくなっていることを解説。

「これまでは1つのハードにすべて備わってきたものと考えてきたが、バラバラになることも考えている。必ずしも（定義を）限定的に考える必要はないだろう」と語った。

ちなみにアシモフの著作でも既に，手足のない頭脳だけの陽電子頭脳ロボットである「ブレーン」も登場しているし，そのブレーンが世界初のワープ機関搭載宇宙船をリモコン操作している．*1　また親ロボットが六台の子ロボットを操作するタイプの親子ロボット「ＤＶ５」も登場している．*2

われはロボット〔決定版〕

われはロボット〔決定版〕

アシモフの「われはロボット」の時代から，「ロボット」は一つのハードに限定されてなどいなかったのだ．

ホーガンの「未来の二つの顔」なら，無数のドローンを操るステーション全体を統括する頭脳ネットワークそのものだからね．最終的には全地球，或いは全太陽系レベルで分散制御する「インターネット」全域が彼の体となる予定．

未来の二つの顔 (創元ＳＦ文庫)

未来の二つの顔 (創元ＳＦ文庫)

「タイタンのようなものは，地球の表面やその外にまで分布した何十億という知覚回路を通じて宇宙を感知するだろう．のみならず，それの”感覚”は，実験室の高倍率顕微鏡から軌道上の巨大な天体望遠鏡まで，銀河系重力波検出器から海溝に沈めた赤外線センサーまでの広大な範囲に及んでいる．」

「タイタンは，何百万という場所で同時に自分の分身を動き回らせる．木星を探りまわるISAの探測機……北極の氷冠の下の自動貨物輸送機……ありとあらゆるものだ．こんなまるで異質の意識が自分自身やその周りの宇宙をどう感知するかが，このわれわれにほんのおぼろげにでも想像できるだろうか」*3

しっぽのさきっちょ「今日の戯れ言：ロボット法学会」

http://text.baldanders.info/remark/2015/1013-diary/

「人間はロボットよりも肉体能力が高いけれど、知的能力は結構、負け始めている。頭はロボット、体は人間という仕事の体制ができることになる。つまり、トップの人間がロボットに基本的な命令を出し、ロボットがゴーグルを通じて下級の労働者に命令を出して、人間がその通りに仕事をすることになる。言葉もいらず、すごく安く人間を使える。この危険性を指摘している人は少ない」

とあるが，現時点において人工知能が「知的」かというと首をひねらざるをえない。 たとえば IBM の Watson は，いわゆる「エキスパート・システム」としては現時点での究極と言えるかもしれないが，「知的」ではない。 Watson は「問いを解く」ことに関して人を凌駕しつつあるかもしれないが，「問いを立てる」ことはできないからだ1。

自律的に「問いを立てる」ことができるようにならないかぎり，人工知能は危険でも脅威でもない。 でも，もしそれができるようになれば，まさしく「進化」だし，そうなれば進化の階梯を機械に譲ることになっても仕方ないだろう。

ですよねー．


電卓は「人間より早く計算ができる」けど，「人間より賢い」とは言えないのだ．人工知能についてもその辺は同様．「未来の二つの顔」を読んでから出直してきなさい．

未来の二つの顔 (創元ＳＦ文庫)

未来の二つの顔 (創元ＳＦ文庫)


労働者が「一見すると（人間が使う）機械に使われる奴隷に見える」くらいなら，ロボット関係無く今でもあるんじゃないかな．Amazonの倉庫なんかが顕著だけど，お客からの注文を受け，コンピュータが必要な商品リストや倉庫内で移動する最短経路を割り出し，人間はその経路通りにコンピューターの指示通りに商品を集めて梱包して出荷するだけだとか．これは人間がコンピューターの奴隷になっているのか．それともコンピュータが人間の作業を手伝っているのか．*4

Twitter

*1:「われはロボット」の「逃避（Escape!)」

*2:「われはロボット」の「野ウサギを追って(Catch That Rabbit)」．

*3:「われわれがそれと話ができるとは，私は思わない……その全体とはだ．それはまるで，君の足の親指のどこかの細胞が，全身を管理している誰かと話そうとするようなものだろう．両者は初めから同じレベルで考えたり話したりしてはいないのだ」

*4:的確な指示を出してくれるなら，相手が人間だろうとロボットだろうとどっちでもいいけどね．多重下請け構造の上の方に何も分かってないお偉いさんがいて，そこから伝言ゲームで降りてくる冗長で矛盾する命令に絶対服従を求められる社畜の方が，よほど不幸だ．