Future is mild : ロボットの安全基準

次世代ロボット実用化プロジェクト
「愛・地球博」での実証と「ロボットの安全性に関する考え方」(社団法人日本ロボット工業会(JARA)プレスリリース)
今回の「愛・地球博」での実用化ロボットの実証運用を行うにあたり、対人安全ルールについては、現時点で考えられる限りの合理性と運用可能性のもとでロボットの安全性の考え方をまとめました。

NEDO、愛・地球博におけるロボットの安全基準を公開
NEDO技術開発機構(独立行政法人新エネルギー・産業技術総合開発機構)は1月31日、愛・地球博におけるロボット運用の安全性に関する考え方についての記者説明会を実施した。

万博では色々なタイプのロボットの実証実験が行われることが発表されていましたが、NEDO技術開発機構(独立行政法人新エネルギー・産業技術総合開発機構)は、その際のロボット運用の安全性に関する考え方についての記者説明会を実施しました。

発表された内容は

ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。(A robot may not harm a human being, or, through inaction, allow a human being to come to harm.)

ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。(A robot must obey the orders given to it by the human beings, except where such orders would conflict with the First Law.)

ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。(A robot must protect its own existence, as long as such protection does not conflict the First or Second Law.)

と言うのでは全くありません。
(引用元/ロボット工学三原則-Wikipedia)

冗談はさておき、愛知万博/愛・地球博では実用化ロボットの実証実験が行われ、一般の人とも触れ合うために、ロボットの展示運用の安全性ガイドライン作成を社団法人日本ロボット工業会(JARA)に委託し、「愛知万博のロボット安全性ガイドライン調査専門委員会」のもとで検討を行なってきたとのこと。

基本的な考え方を記事から引用すると以下の通り。

その基本的考え方は「States of the arts」、すなわち「開発者・設計者の説明責任」だ。技術側は、機械のどこが危険であるか、危険性はどのくらいなのか説明する義務を負う。そしてリスク低減のために、その時代の最善を尽くす。これが国際規格ISO12100の基本になっており、説明責任と技術的最善を果たしていれば、そこから先はアクシデントだと見なされるのだという。

確かに、産業としての成長性が論じられることが多いサービス型あるいは生活密着型ロボットですが、普及することにより同時にリスクも発生するわけで。上記ロボット三原則を理解できる"知性"を持ったロボットと言うのは中々難しいと言うことが素人にも想像されるのですが、それゆえ工学的な安全基準が求められると言うわけですね。インプレスの記事中ではそこから先はアクシデントだと見做される、とありますが、それゆえ仕方ない、と言うのではなく、その後は"事後の責任"と言う形で、保険を用意するという考えのようです。

具体的な内容については、日本ロボット工業会のプレスリリースに載っています。

かいつまんで説明すると、「愛知万博のロボット安全性ガイドライン調査専門委員会」内に「ガイドライン検討WG」を設置し、ロボット開発者の安全仕様書を審査し、十分な安全確保対策がとられているか評価。(以下引用)

ロボットの設計には「本質安全設計」の考え方を求め、想定される危険源に対して、安全設計により十分リスクが低減できているかを評価しました。これは例えば、人に危害を与えないよう十分安全な形状、構造、材料、駆動構造、動力源の採用等の設計仕様とすることや接触センサや非常停止装置による機能停止に加え、非接触センサにより人が近接した場合には一時停止するなどの機能を持たせることにしました。

このような対策をしても残るであろう小さなリスク(残留リスク)については、危険性回避のため監視、運用が可能かどうかと評価。
上記の評価を得たロボットのみが万博で展示が可能になると言う。
また、安全性確保のための体制・運用とに関する指針も検討したとか。

残念ながら、人と共生するロボットは産業としては未だ黎明期あるいは揺籃期にあるため、今回の基準がスタンダードにはなりえないとか。impressの記事にあった杉本教授の言葉を引用。