Rob Miles:AI の暴走を防止するために Asimov のロボット工学 3原則が使えない理由 (途中:その1)

はじめに


・(映画『ターミネータ』に登場するような)進化した AI が暴走して人間を支配するのを防止するための方法が AI 研究者の間で真剣に検討されだしている。

・その防止策の一つとして SF の世界では、下に引用する Asimov のロボット工学 3原則が有名だが、それは使えないのだ…という主張を紹介する。


第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

??2058年の「ロボット工学ハンドブック」第56版
、『われはロボット』より[1]。

Ref:https://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88%E5%B7%A5%E5%AD%A6%E4%B8%89%E5%8E%9F%E5%89%87


抜粋(デタラメ)



……途中……
……途中……
……途中……
……途中……


インタビュー動画(8:15)


・Why Asimov's Laws of Robotics Don't Work - Computerphile


コメント


・Rob Miles のこの手の主張は AI 研究者の間ではごく当たり前の話の筈。だが、この手の主張は基本的な所で論旨が大きくズレている…と私は思う。

……途中……
……途中……
……途中……
……途中……

(2017-03-12)
関連記事

コメントの投稿

非公開コメント

プロフィール

横着者 (ご連絡はコメント欄にて)

Author:横着者 (ご連絡はコメント欄にて)

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QR