Rob Miles:AI の暴走を防止するために Asimov のロボット工学 3原則が使えない理由 (全体)

What's New


・(2017-03-16 追加)手抜きの文章を追加して完成。

はじめに


・(映画『ターミネータ』に登場するような)進化した AI が暴走して人間を支配するのを防止するための方法が AI 研究者の間で真剣に検討されだしている。

・その防止策の一つとして SF の世界では、下に引用する Asimov のロボット工学 3原則が有名だが、それは使えないのだ…という主張を紹介する。


第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

??2058年の「ロボット工学ハンドブック」第56版
、『われはロボット』より[1]。

Ref:https://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88%E5%B7%A5%E5%AD%A6%E4%B8%89%E5%8E%9F%E5%89%87


抜粋(デタラメ)


・Asimov のロボット工学 3原則に含まれる言葉(例えば「人間」や「危害」)を明確に定義し、それをロボットのプログラム・コードとして実装することが事実上、不可能だから。

インタビュー動画(8:15)


・Why Asimov's Laws of Robotics Don't Work - Computerphile


コメント


・Rob Miles のこの手の主張は AI 研究者の間ではごく当たり前の話の筈。だが、この手の主張は基本的な所で論旨が大きくズレている…と私は思う。

・Rob Miles は他にも AI 関連の動画を多数、Youtube に up しているが、それらの動画のメインテーマは「もしも、人間の知能を凌駕する AI が出現したら人間を支配したり、 X や Y や Z のような思いがけない危機的状況を招くかも知れない」というもの。(たとえば、X の具体例として切手蒐集用 AI が人類社会を破壊するシナリオを彼が熱く語った動画などが up されている)。

・今回上で紹介した解説動画はそういった事態を避けるために、「Asimov のロボット工学 3原則」をロボットに組み込みたいのだが、それは事実上無理だ…という文脈になっている。

・だが、彼の論旨がズレているのは、人間の知能を凌駕する AI が出現したと仮定するならば、

  ・Asimov のロボット工学 3原則に含まれる言葉(例えば「人間」や「危害」)を明確に定義し、それをロボットのプログラム・コードとして実装する

 必要性など最初から存在しない…という点。それらの厄介で複雑な作業こそ、「人間の知能を凌駕する AI 」の仕事なのだから。

・「Asimov のロボット工学 3原則」の文章すら期待通りに解釈できないような、ポンコツ・レベルの AI ならば、「人間の知能を凌駕する AI 」とは到底言えない。

・ゆえに…

  ・「人間の知能を凌駕する AI 」が出現したのなら、「Asimov のロボット工学 3原則」を人間が苦労してプログラム・コードに実装する必要はない。(そもそも そのレベルの AI なら、どんな人為的に押し付けた原則も巧妙に回避してしまう筈)

  ・(「人間の知能を凌駕する AI 」がまだ出現せず)ポンコツ AI しか存在していない内は、その AI が人間を支配することなどありえない。(想定外の事態はありうるだろうが、それは今でも同じ。例:福島原発事故)

・というわけで、Rob Miles らの論旨はズレている。

履歴


(2017-03-12) 作成
(2017-03-16) 完成
関連記事

コメントの投稿

非公開コメント

プロフィール

横着者 (ご連絡はコメント欄にて)

Author:横着者 (ご連絡はコメント欄にて)

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QR