コラム

今改めて考えたい「ロボット工学三原則」

2016.09.14 / 最終更新日：2023.08.07

無料相談可能ロボット・ビジョン・センサー開発・ロボットシステム導入・工場自動化の相談はこちら

人の姿を模し、人と同じように歩いたり話したりするロボットが人間と共存する世界は、長い間マンガやSF小説の世界の中だけで実現可能な夢物語のように思われてきました。

しかし、近年になって飲食店で使われている配膳ロボットやコミュニケーションがとれる、LOVOT・ロボホンをはじめとした高機能なロボットが続々と姿を現し始め、いよいよ「人間とロボットが手を携えて生きてゆく時代」が訪れようとしています。

かつては想像の産物でしかなかった「ロボット」が日に日に現実味を持ち、我々にとって極めて身近な存在となりつつある今、改めて「ロボット工学三原則」について考えてみましょう。

1 ロボットが従うべき三つの原則
2 これが「ロボット工学三原則」だ
3 ロボット三原則とフレーム問題
4 フレーム問題は解決するか！？

ロボットが従うべき三つの原則

ロボット工学三原則とは、ロボットが必ず従うべきとされる三つの原則で、もともとは米国の作家アイザック・アシモフの作品内に登場する「2058年のロボット工学ハンドブック」の中で定義されていたものですが、現在では小説の世界の枠を超えて、現実社会のロボット工学にも少なからぬ影響を与えたと言われています。

意思を持つロボットと人間がこの社会で安全かつ平和に共存していくためには、

ロボットが人間に対して安全であること
（人間からの）命令に服従すること
自分自身を防衛すること

という三つの原則に従うように設計されている必要がありますが、この三つの原則をまとめたものが「ロボット工学の三原則」です。

ロボット工学三原則は原則として、自ら思考し、自己の判断で動く自律型のロボットに対して適用されるものと考えられています。
逆にいうと、人間が搭乗して操作するモビルスーツタイプのロボットには、この原則は適用されません。

これが「ロボット工学三原則」だ

ロボット工学三原則は、次の三つから構成されています。

＜第一条＞
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
＜第二条＞
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
＜第三条＞
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

2058年「ロボット工学ハンドブック」第56版
（出典：『われはロボット』アイザック・アシモフ著／早川書房）

アシモフは、「ロボットシリーズ」と呼ばれる、ロボットを扱う一連のSF小説を発表していますが、「ロボット工学の三原則」はこれらの作品を貫く、非常に重要な主題として扱われています。

アシモフの作品内において、ロボット工学三原則に従わないロボットは「存在してはならない」というのが大前提となっています。

しかし、何らかの事情で三原則のうちの一部が「弱められた」ロボットが作られ、その結果、ロボットとしては考えられない行動を取ったりするのです。
そうした矛盾が、小説としての「面白み」となっているわけです。

ロボット三原則とフレーム問題

ロボット三原則は人とロボットの安全な共存生活のためにはなくてはならないものですが、一方で、実際にこの三原則に従うロボットを開発しようとすると、いわゆる「フレーム問題」を引き起こすと言われています。

フレーム問題とはもともと人工知能の領域において指摘されている問題です。

我々人間には現実社会に存在する取り巻く無数の要素の中から、「今、この瞬間の行動に関係のある事柄」だけを選び、その他の要素を意図的に無視する（つまり、必要なことだけを枠＝フレームで囲んで、その範囲内で判断する）ということを、あたりまえに行っています。

しかし、人工知能（以下、AI）やロボットにこのような力を持たせるのは、非常に難しいのです。

このため、有限の処理能力しか持たないAIやロボットは、現実世界の無限の選択肢を人間のように「うまくさばく」ことができません。
つまり、ロボット工学の三原則を守るためにあらゆる可能性を検討しようとすると、実在するコンピュータでは計算能力が追いつかず、コンピュータでいう「フリーズ」のような状況に陥ってしまうのです。

アシモフの小説の中にも、ロボット工学の三原則に矛盾する困難な問いを投げかけられた結果、コイルが焼き切れて壊れてしまうロボットの話が登場します。