科学と技術

「ロボット三原則」をロボットにプログラミングするとものすごく人間くさくなる


2人の人間がいて、どちらかを助けるともう片方は死ぬ……そんなジレンマをどう解決するのか人間はいつも迷います。同じような状況に「ロボット三原則」をプログラミングしたロボットを投入すると、驚くほどに人間くさい動きを見せてくれます。

ロボット三原則はSF作家アイザック・アシモフが自作の中に登場させたもの。ミステリの「種明かし」部分なのですが、実際のロボット開発者にも影響を与えてきました。

第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

出典:ロボット工学三原則 – Wikipedia

ロボットである「A-Robot」はゴール(Goal)に到達するという任務を達成する一方で、人間たる「H-Robot」が穴(Hole)に向かって直進しようとするのを止めなければいけません。

人間1人だけの時は簡単に問題を溶けるのですが、2人に増えると面白いことが起こります。実際に動画を見てみましょう。
Ethical robots save humans – YouTube

基本的には自分に近い方を助けますが、ほんのちょっとしたタイミングや距離の違いから、どちらに向かうか迷ってしまって動けないケースも発生します。この実験は33回行われ、そのうち14回はどちらを助けるか迷っているうちに両方共が穴に落ちてしまったそうです。

まだこのロボットはごく単純なルールしか知らない状態ですが、これからもっとシステムが複雑になった時、ちゃんと言うことを聞いてくれるのでしょうか。

ソース:Ethical trap: robot paralysed by choice of who to save – tech – 14 September 2014 – New Scientist

関連記事

倫理的にものすごくけしからんことになっている「セサミ・ストリート」の動画 - DNA

「日本には『レンタルフレンド』サービスがあるらしい」というニュースに外国人騒然 - DNA

「自動スナック菓子食べさせロボットアーム」が全力でスナックを叩きつけてくる失敗動画 - DNA

ものすごく自然に会話して「自分はロボットじゃないです」と否定までする自動電話営業ロボットの音声がすごい - DNA

人間はロボットに指示される方が効率よく働けることが判明 - DNA

インド生まれの超絶特濃アクションSF映画「ロボット」5月12日から日本公開、公式サイトがリニューアル - DNA

[字幕動画]あのアンドロイドっぽいお手伝いロボットが少しずつ狂気に蝕まれるホラーSFショートフィルム「Blinky」 - DNA

この記事をブックマーク/共有する


前後の記事

DNAをこれからもよろしくお願いします!

Facebook上のコメント一覧

Twitter上のコメント一覧