進化したAI と脳を融合させると人間の知性が劇的に増強するだろうか? (途中:その2)

What's New


・(2017-04-02)追加。

はじめに


・Elon Musk が、コンピュータと直接接続するための脳内埋め込み用インタフェース・デバイスの開発に本格的に取り組む(会社設立)…というニュース(下)が話題になっている。


Elon Musk Is About To Turn Us All Into Spacefaring Cyborgs With Neuralink



Plus, as Musk says, we're going to need to be able to compete with AI - which will be able to think orders of magnitude faster than our clunky biological grey matter.

Ref: http://www.zerohedge.com/news/2017-03-27/elon-musk-about-turn-us-all-space-faring-cyborgs-neuralink



his latest venture the billionaire entrepreneur now "wants to merge computers with human brains to help people keep up with machines."

...

“If you assume any rate of advancement in [artificial intelligence], we will be left behind by a lot,” he said at a conference last June. The solution he proposed was a “direct cortical interface”-essentially a layer of artificial intelligence inside the brain-that could enable humans to reach higher levels of function.

Ref: http://www.zerohedge.com/news/2017-03-27/elon-musk-launches-company-hook-people-computers


コメント


・Elon Musk は当面は癲癇などの脳障害者向けの治療を目指すというが、その次の段階の目標は

  ・(A) そのインタフェースで、進化したAI と脳を融合させ人間の知性を劇的に増強させる、

 事だろう。つまり士郎正宗の描いた『攻殻機動隊』の世界(草薙素子が AI と融合する物語)。

・さらに究極の目標は過去記事、

  Singularity:ギーク(理科系オタク)の信奉する携挙 (+追加) (2016-04-28)

 でも取り上げたが、

  ・(B) 人間の意識を AI に upload し、不死を実現させる

 というもの。以上が序論。

・ここからが本題。上の (A) や (B) は失敗する。その理由を以下で説明する。まずは (B) から。

(B) では不死は実現できない


・(B) では不死は実現できない。

・仮に 100万歩譲って、人間の意識をそっくりそのまま完全な形で AI に upload できたと仮定しよう。その場合でも不死にはならない。なぜなら、ある人物の意識(X)を AI にそっくり upload したとして、その AI 上の意識(X') はいわば「意識の影武者」でしかない。

・仮定上、X と X' は本質的に区別できないから、「X 以外の他人にとっては」X が死んでも X' が存続している間は X は実質的に不死と見なしても、さして不都合は生じない。

・だが、問題は X それ自身。「X 自身にとって」は、コピーの X' があろうがなかろうが、死は死のままで不死にはならない。「自分の意識のコピーが存在するから、「この意識」が死んでも「自分の意識」は不死だ」なんてタワケタことを本気で納得できる筈がない。

・実際に銃を頭に突きつけられれば、それは錯覚だったと心底から思い知らされるだろう。

・分かり易い思考実験として…。突然、神が顕れてこう告げたとする。

今、お前の完全なコピー、しかも超長生きのヤツを作ってやった。これでお前は不死なんだろう?  だから(権利・義務面で面倒が生じるから)、オリジナルのお前は即刻 完全消去することにするが、もちろん構わないよな?

Yes はい、と言えるだろうか? (2017-03-29 追記:神の質問が否定疑問文だから、 Yes ではまずいことに気づいたw)

(A) では人間の知性の劇的な増強は生じず、逆に衰退する


・進化した AI と脳を融合させると、逆に人間の知性は衰退する。以下でその理由を説明する。

・「AI と脳を融合」の度合いは技術レベルによって様々に異なるだろうが、話を簡単にするため

  ・(L1) 単なるコンピュータを脳内部に埋め込んだレベル。

  ・(L2) 進化した AI を脳内部に埋め込んだレベル。

  ・(L3) 進化した AI と脳の融合レベルが極めて高い場合。

 の 3通りだけを取り上げる。

・L1 も L2 も L3 も脳の内部に CPU や AI を埋め込み、脳の神経細胞と CPU/AI がダイレクトに情報のやり取りを行う事は同じ。もちろん、CPU/AI とインターネットはリンクしている。

・L1 はいわば脳内にパーソナルコンピュータがあり、キーボードやマウス、液晶モニタを介在させずに脳が直接にそのパーソナルコンピュータを操作しているようなレベル。慣れや訓練次第で AI との情報のやり取りの手間や速度は現状より向上するだろうが、人間の知能面で本質的な変化は生じない。ただ苦手な外国語は脳内で同時通訳されるのでかなり便利になるかも。

・L2 はいわば『2001年宇宙の旅』に登場した HAL が脳内に埋め込まれたようなもの。とても気が利き、物知りで賢い執事が脳内部に同居していて、脳が与える大雑把で曖昧な指示を適切に解釈して有能にこなす…というようなもの。

・その HAL を脳に埋め込んだ人間の挙動を外部から観察すれば、極めて高い知能をもった有能な人物に見える筈。だが、その高い知能や有能さは全て HAL の寄与分であり、本来の脳はより怠惰になっている。よって、L2 では、ほぼ確実に脳の知性が大幅に低下することが容易に予測できる。人間は脳内 HAL によって巧みに躾けられ、教導されるようになる。馬鹿な三代目のボンボンを有能な番頭がつきっきりで世話をやき、教育するようなものw

・L3 は L2 の HAL が((脳内他者としての)有能な執事としてではなく)、自己の意識の下層と融合したようなイメージ。つまり、もはや脳内他者ではなく、自己の下部意識の一部に近いものとして「感じられる」筈。HAL の知能や有能さが、ごく自然に自分自身の一部であるかのように「感じられる」。

……途中……
……途中……
……途中……
……途中……

履歴


(2017-03-28) 作成
(2017-04-02) 追加
関連記事

コメントの投稿

非公開コメント

プロフィール

横着者 (ご連絡はコメント欄にて)

Author:横着者 (ご連絡はコメント欄にて)

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QR