Sam Harris:高度な知性を獲得した AI は「意識」を持たないかも…

はじめに


・Sam Harris が AI や Singularity を語った対談の中でタイトルの発言をしているので紹介する。

・Sam Harris の話には特に目新しい内容は含まれていないが、タイトルの件には注目した。

・残念な事にタイトルの話題は Joe Rogan によって詰まらぬ方向(ET がどうの…w)へと逸らされ、より深く追求されなかったのが悔やまれる。

抜粋(デタラメ)


・15:20 あたり。

動画(41:30)


・Sam Harris and Joe Rogan talking about artificial intelligence


おまけ


・22:00 あたり。人間の意識を丸ごとコンピュータに upload したら不死になるか…の件。

・31:00 あたり。Joe Rogan が幻覚剤(LSD らしい)を摂取して数日間、現実感覚を失った時の体験を語っている。

コメント


・Sam Harris はタイトルの話で二通りの意味を持たせて語っているようだ。

  ・(A) 進化し高度な知性を獲得した AI ですら意識を生み出せず、人間でいう無意識状態のままかも。

  ・(B) 進化し高度な知性を獲得した AI は(人間が持っているようなタイプの意識ではなく)、人間にはもうそれが意識だとは把握することができないような、全く別のタイプの「何か」を持つようになるのかも。

(2017-04-26)

Noam Chomsky:「AI は思考できるか?」という質問は無意味だ

はじめに


・Noam Chomsky の AI(人工知能), 特に Singularity に関する主張については下の過去記事で紹介した。

  Noam Chomsky : Ray Kurzweil の主張する Singularity は「科学的な空想物語」だ (2016-01-01)

・その Noam Chomsky が、いかにも言語の専門家らしい(タイトルの趣旨の)主張をしているので紹介する。

・"Noam Chomsky - Artificial intelligence." という動画のタイトルに釣られて視たが、AI の話題はほとんど登場しない。そのかわり Noam Chomsky の言語に関する様々な洞察が聴ける(実際、そちらの方が価値がある)。

抜粋(デタラメ)


・ほぼ全編に渡って彼の専門である「言語」について語っている。その中で、チラリとタイトルの主張をしている。

・50:00 聴衆がタイトルの件についてより詳しい説明を求めている。その返事は基本的に上と同じ。

  ・「潜水艦は泳げる(と言える)だろうか?」という質問が無意味なのと同じだ。

講演動画(59:23)


・Noam Chomsky - Artificial intelligence.


コメント


・Noam Chomsky のタイトルの主張は、哲学的なはぐらかし のようでもあるし、洞察のようでもある…w  来月予定されている対決で囲碁の世界トップの中国人を Google の AI が打ち破った場合でも「AI は思考していない」と言えるだろうか?

・私は「(Google の例の)AI は思考している」と見なしても差し支えない…と思っている。ただし、例の AI は意識を持っていない。意識を持たずに思考している。アレは意識は持っていないが、思考していると「見なして」差し支えない…という意味。

・「意識をもたない(伴わない)思考」は異様ではない。人間だって、通勤ルートを運転する時、さして意識を持たずに各種の思考(=複雑な判断処理)をやってのけている。一方で、思考を伴わない意識も稀だが起きうる(例:判断処理を伴わずに感受している状態で瞑想中などに起きる)。

・思考の有無の判断は他者の評価に委ねて「差し支えない」。だが、意識の有無の判断は他者の評価に委ねることはできない(異常時の医師による診断を除く)。なぜなら意識の有無が自己の存在の成否そのもののと深く関わっているゆえに。言い換えれば「自分が意識を持っているかどうか私には判断がつかないので、教えてください」と聞いて回る人などいない。(いたとすれば意識に異常を抱えている) その意味で AI 的手法では思考マシンは作れるが、意識をもった(=自我を備えた)マシンは原理的に作れないだろう…と。

・Ray Kurzweil らの説く Singularity は、現代版の(錬金術師が追い求めた)「賢者の石」だ…と私は思っている。

(2017-04-26)

進化したAI と脳を融合させると人間の知性が劇的に増強するだろうか? (途中:その2)

What's New


・(2017-04-02)追加。

はじめに


・Elon Musk が、コンピュータと直接接続するための脳内埋め込み用インタフェース・デバイスの開発に本格的に取り組む(会社設立)…というニュース(下)が話題になっている。


Elon Musk Is About To Turn Us All Into Spacefaring Cyborgs With Neuralink



Plus, as Musk says, we're going to need to be able to compete with AI - which will be able to think orders of magnitude faster than our clunky biological grey matter.

Ref: http://www.zerohedge.com/news/2017-03-27/elon-musk-about-turn-us-all-space-faring-cyborgs-neuralink



his latest venture the billionaire entrepreneur now "wants to merge computers with human brains to help people keep up with machines."

...

“If you assume any rate of advancement in [artificial intelligence], we will be left behind by a lot,” he said at a conference last June. The solution he proposed was a “direct cortical interface”-essentially a layer of artificial intelligence inside the brain-that could enable humans to reach higher levels of function.

Ref: http://www.zerohedge.com/news/2017-03-27/elon-musk-launches-company-hook-people-computers


コメント


・Elon Musk は当面は癲癇などの脳障害者向けの治療を目指すというが、その次の段階の目標は

  ・(A) そのインタフェースで、進化したAI と脳を融合させ人間の知性を劇的に増強させる、

 事だろう。つまり士郎正宗の描いた『攻殻機動隊』の世界(草薙素子が AI と融合する物語)。

・さらに究極の目標は過去記事、

  Singularity:ギーク(理科系オタク)の信奉する携挙 (+追加) (2016-04-28)

 でも取り上げたが、

  ・(B) 人間の意識を AI に upload し、不死を実現させる

 というもの。以上が序論。

・ここからが本題。上の (A) や (B) は失敗する。その理由を以下で説明する。まずは (B) から。

(B) では不死は実現できない


・(B) では不死は実現できない。

・仮に 100万歩譲って、人間の意識をそっくりそのまま完全な形で AI に upload できたと仮定しよう。その場合でも不死にはならない。なぜなら、ある人物の意識(X)を AI にそっくり upload したとして、その AI 上の意識(X') はいわば「意識の影武者」でしかない。

・仮定上、X と X' は本質的に区別できないから、「X 以外の他人にとっては」X が死んでも X' が存続している間は X は実質的に不死と見なしても、さして不都合は生じない。

・だが、問題は X それ自身。「X 自身にとって」は、コピーの X' があろうがなかろうが、死は死のままで不死にはならない。「自分の意識のコピーが存在するから、「この意識」が死んでも「自分の意識」は不死だ」なんてタワケタことを本気で納得できる筈がない。

・実際に銃を頭に突きつけられれば、それは錯覚だったと心底から思い知らされるだろう。

・分かり易い思考実験として…。突然、神が顕れてこう告げたとする。

今、お前の完全なコピー、しかも超長生きのヤツを作ってやった。これでお前は不死なんだろう?  だから(権利・義務面で面倒が生じるから)、オリジナルのお前は即刻 完全消去することにするが、もちろん構わないよな?

Yes はい、と言えるだろうか? (2017-03-29 追記:神の質問が否定疑問文だから、 Yes ではまずいことに気づいたw)

(A) では人間の知性の劇的な増強は生じず、逆に衰退する


・進化した AI と脳を融合させると、逆に人間の知性は衰退する。以下でその理由を説明する。

・「AI と脳を融合」の度合いは技術レベルによって様々に異なるだろうが、話を簡単にするため

  ・(L1) 単なるコンピュータを脳内部に埋め込んだレベル。

  ・(L2) 進化した AI を脳内部に埋め込んだレベル。

  ・(L3) 進化した AI と脳の融合レベルが極めて高い場合。

 の 3通りだけを取り上げる。

・L1 も L2 も L3 も脳の内部に CPU や AI を埋め込み、脳の神経細胞と CPU/AI がダイレクトに情報のやり取りを行う事は同じ。もちろん、CPU/AI とインターネットはリンクしている。

・L1 はいわば脳内にパーソナルコンピュータがあり、キーボードやマウス、液晶モニタを介在させずに脳が直接にそのパーソナルコンピュータを操作しているようなレベル。慣れや訓練次第で AI との情報のやり取りの手間や速度は現状より向上するだろうが、人間の知能面で本質的な変化は生じない。ただ苦手な外国語は脳内で同時通訳されるのでかなり便利になるかも。

・L2 はいわば『2001年宇宙の旅』に登場した HAL が脳内に埋め込まれたようなもの。とても気が利き、物知りで賢い執事が脳内部に同居していて、脳が与える大雑把で曖昧な指示を適切に解釈して有能にこなす…というようなもの。

・その HAL を脳に埋め込んだ人間の挙動を外部から観察すれば、極めて高い知能をもった有能な人物に見える筈。だが、その高い知能や有能さは全て HAL の寄与分であり、本来の脳はより怠惰になっている。よって、L2 では、ほぼ確実に脳の知性が大幅に低下することが容易に予測できる。人間は脳内 HAL によって巧みに躾けられ、教導されるようになる。馬鹿な三代目のボンボンを有能な番頭がつきっきりで世話をやき、教育するようなものw

・L3 は L2 の HAL が((脳内他者としての)有能な執事としてではなく)、自己の意識の下層と融合したようなイメージ。つまり、もはや脳内他者ではなく、自己の下部意識の一部に近いものとして「感じられる」筈。HAL の知能や有能さが、ごく自然に自分自身の一部であるかのように「感じられる」。

……途中……
……途中……
……途中……
……途中……

履歴


(2017-03-28) 作成
(2017-04-02) 追加

James Clerk Maxwell の科学的偉業を解説した動画 (途中:その1)

はじめに


・James Clerk Maxwell の科学的偉業を解説したドキュメンタリー動画を紹介する。

抜粋(デタラメ)


・9:00 あたり。Maxwell が土星の輪の構成を数学的に解明した。3つの可能性の中から一つだけ可能だと証明。

・20:00 あたりから。肉眼の三原色による色認識を証明した簡単な装置が下の切り出し静止画( Maxwell 本人の自作。本物)。
20170330_maxwell_original.jpg

・彫像の手に持っているのもその装置。
20170330_maxwell___.jpg
20170330_maxwell_.jpg
20170330_maxwell_old2.jpg
20170330_maxwell_old.jpg
20170330_maxwell_color3.jpg
20170330_maxwell_color2.jpg


・彼の墓。
20170330_maxwell_ts.jpg


BBC ドキュメンタリー動画(58:59)


・Maxwell, The history of Electromagnetism - Documentary


コメント


・James Clerk Maxwell の最大の業績、「Maxwell の電磁方程式」(別人が整理した数式)が下。最後の数式にミスがあるw

20170330_maxwell_eq.jpg


・この「Maxwell の電磁方程式」の暗記法を一年前の過去記事で紹介したことがある。

  「Maxwell の電磁方程式」の語呂合わせによるトホホな暗記法 (2016-03-06)

・たぶん、一般人が習う知識(学部レベルの数学、物理)で理解、納得が可能なのは「Maxwell の電磁方程式」あたりが上限かも。量子論は専門家でも理解できない(by Feynman)し、相対論はテンソル計算で挫折するだろうし、ひも理論の難解さは言うまでもないし。

(2017-04-01)

進化したAI と脳を融合させると人間の知性が劇的に増強するだろうか? (途中:その1)

はじめに


・Elon Musk が、コンピュータと直接接続するための脳内埋め込み用インタフェース・デバイスの開発に本格的に取り組む(会社設立)…というニュース(下)が話題になっている。


Elon Musk Is About To Turn Us All Into Spacefaring Cyborgs With Neuralink



Plus, as Musk says, we're going to need to be able to compete with AI - which will be able to think orders of magnitude faster than our clunky biological grey matter.

Ref: http://www.zerohedge.com/news/2017-03-27/elon-musk-about-turn-us-all-space-faring-cyborgs-neuralink



his latest venture the billionaire entrepreneur now "wants to merge computers with human brains to help people keep up with machines."

...

“If you assume any rate of advancement in [artificial intelligence], we will be left behind by a lot,” he said at a conference last June. The solution he proposed was a “direct cortical interface”-essentially a layer of artificial intelligence inside the brain-that could enable humans to reach higher levels of function.

Ref: http://www.zerohedge.com/news/2017-03-27/elon-musk-launches-company-hook-people-computers


コメント


・Elon Musk は当面は癲癇などの脳障害者向けの治療を目指すというが、その次の段階の目標は

  ・(A) そのインタフェースで、進化したAI と脳を融合させ人間の知性を劇的に増強させる、

 事だろう。つまり士郎正宗の描いた『攻殻機動隊』の世界(草薙素子が AI と融合する物語)。

・さらに究極の目標は過去記事、

  Singularity:ギーク(理科系オタク)の信奉する携挙 (+追加) (2016-04-28)

 でも取り上げたが、

  ・(B) 人間の意識を AI に upload し、不死を実現させる

 というもの。以上が序論。

・ここからが本題。上の (A) や (B) は失敗する。その理由を以下で説明する。まずは (B) から。

(B) では不死は実現できない


・(B) では不死は実現できない。

・仮に 100万歩譲って、人間の意識をそっくりそのまま完全な形で AI に upload できたと仮定しよう。その場合でも不死にはならない。なぜなら、ある人物の意識(X)を AI にそっくり upload したとして、その AI 上の意識(X') はいわば「意識の影武者」でしかない。

・仮定上、X と X' は本質的に区別できないから、「X 以外の他人にとっては」X が死んでも X' が存続している間は X は実質的に不死と見なしても、さして不都合は生じない。

・だが、問題は X それ自身。「X 自身にとって」は、コピーの X' があろうがなかろうが、死は死のままで不死にはならない。「自分の意識のコピーが存在するから、「この意識」が死んでも「自分の意識」は不死だ」なんてタワケタことを本気で納得できる筈がない。

・実際に銃を頭に突きつけられれば、それは錯覚だったと心底から思い知らされるだろう。

・分かり易い思考実験として…。突然、神が顕れてこう告げたとする。

今、お前の完全なコピー、しかも超長生きのヤツを作ってやった。これでお前は不死なんだろう?  だから(権利・義務面で面倒が生じるから)、オリジナルのお前は即刻 完全消去することにするが、もちろん構わないよな?

Yes はい、と言えるだろうか? (2017-03-29 追記:神の質問が否定疑問文だから、 Yes ではまずいことに気づいたw)

(A) では人間の知性の劇的な増強は生じず、逆に衰退する



……途中……
……途中……
……途中……
……途中……


(2017-03-28)
プロフィール

横着者 (ご連絡はコメント欄にて)

Author:横着者 (ご連絡はコメント欄にて)

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QR