ロボット三原則の実装

考察

http://ja.wikipedia.org/wiki/ロボット工学三原則

    • 第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
    • 第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
    • 第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

知られてる問題。
・フレーム問題
・記号着地問題(記号接地問題)


他の、思いついた問題とか、疑問とかを以下に書きます。


第一条に対して。「地獄への道は善意で舗装されている」

ロボットが悪意を持って行動するのではなく、善意を持って行動することはできるわけです。それが高度な計算に基づいてのものかもしれないし、風が吹けば桶屋が儲かる的なものかもしれない。


行動した結果、最悪の事態を引き起こすかも知れない。たとえば銃撃戦の最中、ロボットが人間を守る使命を受けて、守ることができたが、ロボットに弾が当たって跳弾し、別の人間を死なせるとか。


それに大して、「先を見通せるようにすればよい」というアイディアがあるけれど、ゲーム理論でいうところの「水平線問題」があり、これから打つ1手が、7手先読みした場合には最善の手だったにも関わらず、14手先読みした場合には最悪の手だった、ということもありえるわけで。手を読む、というのは、基本的に全幅探索(MinMaxとかαβ探索とかNegaScoutとか)なのか？という問題もあるか。世界は零和有限確定ゲームじゃないしねえ。モンテカルロ法とかなのか…。


「ロボットが行動した結果、人間に危害を加えてはいけない」に置き換えると、ロボットは一切行動できなさそう。ロボットが行動した結果、被った危害は危害じゃない、というノーガード戦法、というか法整備したほうがラク。


小島アジコさんのロボットを労働者に置き換えるってのは、意外に真理かも知れない。ロボットを自律行動させず、パワードスーツ主体で労働者が自律的に行動させればいいってことで。


第二条に対して。「人間にあたえられた命令」の優先順位は？

工場の主任技師の命令と、派遣プログラマの命令と、視察に訪れた通りすがりの社長の命令と、どれを優先するんだろう。


第三条に対して。「自己」の範囲は？

スタンドアロンで独立した1台として動いているのであれば、自己とは自分1台を指すことになる。危険がせまったロボット仲間を守らないのか？


ネットワーク接続がある同じハードとソフトを持つロボット数台を「自己」と見なすのであれば、それは何台まで？　適用範囲は？　たとえば、一般家庭に普及しまくったニンテンドーDSが自律型のロボットだとすると、自己を守るという一見なんてことなさそうな行動が、大規模、広範囲の行動になるわけ。


ラブプラス…　という言葉が脳裏に浮かびましたが、今の僕にはこれがなんだかわかりません。

「雄二･･･　ちゃんと聞いてなかったの？」

　「幕之内さんは」

　　　「『今の』って言ったのよ」

とりあえず、殴ればいいのかな。