16 攻殻機動隊の自我論(2)

 

16 攻殻機動隊の自我論(2)(20160307)

 

「あらゆるネットが眼根を巡らせ、光や電子となった意思を、ある一方向に向かわせたとしても、“孤人”が、複合体としての“個”になる程には、情報化されていない時代・・・」

 

この世界では、電脳化とネットワークによって個人の自律性は揺らいでいるが、しかしまだ個人の自律が尊重されており、基本的人権も認められており、他人の電脳に勝手に侵入することは「電脳倫理侵害」(92)として法律的に禁止されている。しかし、電脳ネットワークへの依存が強まっていくとき、個々人の自律性は相対的なものになり、ネットワーク全体が、一つの(あるいは複数の)「複合体としての“個”になる」ことが予想されている。(現在のところ私たちが、これについて何かを予測することは難しいように思われる。それは電脳ネットワーク化によって何が生じるのかが、よくわかっていないからである。その一部を考えたい。)。

 

 

1「攻殻機動隊」の自我論

 

電脳化されたネットワーク環境下で、直接に他の電脳化された脳や外部データとアクセスできるが脳は逆に外部からの侵入と操作の危険にさらされることになる。外部から脳の働きがコントロールされ、記憶が書き換えられることも容易に起こりうる。このような電脳化されたネットワーク環境下で「自己」の境界が曖昧になることが、この世界の基本設定であり、基本問題である。

 

(1)事例

●清掃局員がゴーストハックされ、妻子持ちで離婚されようとしているという疑似体験を持たされて、外務大臣の通訳にゴーストハックする犯罪に利用されていたケースで、荒巻部長は次のように言う。「疑似体験も夢も存在する情報はすべて現実でありまた幻なんだ」(荒巻)94ゴーストハックは「電脳倫理侵害」92とされる。

 

●「私時々『自分はもう死んでいて、今の私は義体と電脳で構成された模擬人格なんじゃないか?』って思うことあるわ」(素子)104

「そんなに人間と同質なロボットが創れたらそりゃロボットじゃなく人間なんだよね!違うのは外見だけ・・・」(タチコマ)104

 

●「ゴーストをダビングしたときにできる擬似ゴーストライン」240

記憶や感覚のコピーだけでなく、人格をコピーできるらしい。PCでいえば、CPUの機能含めてvirtualにまるごとコピーできるということだろうか。コンピュータ上にvirtualに実現した人格を、ある電脳の中に実装するときには、それをそのままコピーするのではだめなので、一工夫必要だろう。そのときに擬似ゴーストラインなるものができる。

 この作品では、人間のゴーストを電脳にダビングすれば、通常の場合には元の人間は死亡するとされている。

 

●外務省のプロジェクト2501「人形使い」は、「企業探査、情報収集、特定のゴーストにプログラムを注入し、特定の企業や個人のポイントを増加させるプログラム」(267)である。

しかし、この人形遣いが、いつのまにかゴーストを持つことになる。

AIではない・・・ 私は情報の海で発生した生命体(ゴースト)だ」247

「私はあらゆるネットをめぐり「自分の存在」を知った」267という。

(「人形使い」の話は、09Bye Bye Clay, 2030.07.1511Ghost Coast 2030.09.18

に登場する。)

 

●「装備に関してだが、いくつかの企業と共同で管理開発を行っている。銃器や義体もそうだが特殊素材部品の製造や交換等メンテ、それに関係して超純水や無菌工場などの設備は個人や部隊で維持できるものではない。ハイテクもネットの一部(端末)なのであって独立で活動維持しつづけられない。もちろんそれら関連企業から機密リークや企業に対するテロも想定して対処しなければならないので中々簡単ではない。」(欄外)141

 

 

(2) この世界の自我についての問い

 

問1:人工知能はゴーストをもてるのか、言い換えると、人間の脳と人工知能に原理的な区別があるのか?

 プログラム「人形使い」が、「一生命体として政治的亡命を希望する」と要求し、外務省の人間が「バカな自己保存のプログラムに過ぎん!」と応えたときに、人形使いは次のように反論する。「それを証明することは不可能だ。現代科学では生命を定義できないからな。」(246)

 この人形遣いは、いわゆるチューリング・テストをパスするだろう。人間の脳と人工知能に機能の上での原理的な区別がないということになる。そのとき、人間と人工知能の区別は素材の区別に過ぎないのではないか。素材の区別や、コンピュータの演算メカニズムの違い(量子コンピュータ、光コンピュータ、トランジスタ、などの違い)は、知能にとっての本質な区別ではない。

 では、クオリアはどうだろうか。「人間は、赤い林檎をみて、赤さのクオリアをもつ。音楽を聞いて、あるメロディのクオリアをもつ。しかし、コンピュータは、赤さやメロディについて、人間と同じように語れるとしても、クオリアを持たない。」と主張する人がいるかもしれない。それに対して人形使いは、「私はあなたと同じようにクオリアをもつし、それについて語ることができる。あなたがそう言うならば、あなたは私がクオリアを持っていないことを証明しなければならない。もし私がクオリアを持っていることを証明すべきだと言うのならば、まずあなたがクオリアをもつことを証明しなければならない。」と反論するだろう。そして、この反論に適切に答えることはできないだろう。

 

問2:人工知能プログラムが、「我思う、故に我在り」というとき、それは何処に在るのだろうか。

 TVシリーズの中のある回のタチコマ同士の会話の中で、タチコマが他のタチコマの頭部を開けるとそこは空っぽであった。そのとき、彼らの脳は静止衛星に積まれた一台のコンピュータであることを知ることになる。

 例えば私が「私は会議室にいる」と認識するとき、私は周りを見渡して、私の眼と頭部と身体が、会議室の中にあることを観察し、それに基づいてそのように答える。

 

  1私の身体は会議室の中にある(観察命題)

  2私の眼と頭部はその身体に付いている(観察命題)

  3私は頭のなかで考えている

  4故に、私は会議室の中にいる。

 

ところで3をどうやって証明すればよいだろうか。通常の人間の場合、分離能やロボトミーや脳内出血などで頭脳を損傷した人が、正常な思考ができなくなることから、人が思考するとき頭脳が働いていることは主張できるだろう。しかし、頭脳だけで思考していることは証明できない。(私たちの脳はミラーニューロンによって周りの人の脳とつながっている。後述)

 電脳化した人の場合、その人の思考は、おそらく頭脳のなかだけでは行われていないだろう。それは実質的にネットワークの他の場所で行われているかもしれないし、数カ所に分散して行われているかもしれないし、数百箇所に分散して行われているかもしれない。ネットワークに繋がっているとき、本人にも他人にも(通常の状態では)その思考がどこで行われているか分からない。

 ネットの中の情報の流れを調べる特殊なプログラムがあれば、それが可能になるかもしれない。そして本人がその特殊なプログラムを使用して、自分の思考がネットの中にどのように分散して行われているかをモニターすることは可能かもしれない。もちろんその特殊なプログラムによるモニターが、ネットの中でどのように行われているかを知るには更に、別のモニターが必要なる。しかし、仮にこのようにしてモニターできるとしても、その情報がそれほど重要であるとは思われない。電脳化された脳にとって、その場所の特定は重要なことではないように思われる。

 思考プロセス(精神)が存在する場所よりも、人格にとっては、身体の位置の方が重要であろう。もし精神がネットの中に分散しているとすると、身体は一つとは限らないだろう。人形遣いのように身体をもたずにネットの海をさまよっているかもしれないし、逆に身体を複数持つことも可能だろう(人形使いと融合した後の素子は、『攻殻機動隊1.5』では、複数の人型ロボットを操ることができる。)

 

 

問3:人工知能の精神と身体

・タチコマの場合

「フチコマはAI(人工知能)である。朝、あるいは1単位の仕事をはじめてから個別の経験をし、個体差が生じるが、夜あるいは一単位の仕事がおわると全機の記録(外的刺激の記録や自己状況の記録・全行動、思考記録etc)をネットして互いにデータリングを行い、次の朝あるいは、次の一単位の仕事を始めるときには再び均質なものとなっている。装備の点で個性はあるがこれとAIとしての均質性とはあまりカンケーがない。ただバトーは自分のフチコマを一機に限定しており他のフチコマは使用したがらない。このコトにあまりイミはないが。」(欄外)95

 

 公安9課のタチコマたちの頭脳は、静止衛星の中のコンピュータであった。そのとき、<そのコンピュータの中に、タチコマたちの複数の精神?が共存している>のか、それとも<一つの精神が、複数の身体(タチコマ)を持っている>のか。言い換えると、タチコマたちの会話は、<一台のコンピュータの中で作動している複数のプログラムの間のコミュニケーション>なのか、それとも<一台のコンピュータ内の独話>なのか。

 確かにタチコマ1台を一つの人工知能プログラムがコントロールしている。その人工知能プログラムは、同じコンピュータの中で走っている別の人工知能プログラムについては、身体運動、会話、そしてネットによる同期をとおして知ることができる。しかし、その同期をタチコマは切ることができる。同期を切ったら、他のタチコマが何を考えているかを直接に知ることはできない。

size=”3″>

 

・ネットの海の中での融合体やAI同士の関係

 ネットの海の中で複数のAIは原理的にはあらゆるデータベースを共有できる。

 AIプログラムが個体として存在する時、その記憶や感覚や思考を他のAIとは共有していない。ただし一時的に同期することはできる。

 しかしゴーストハッカーができるということは、ある領域に鍵を掛けても、原理的には他のAIをハッキングできる(これは本作世界では法律で禁止されている)。AIをハッキングしコントロールすることは融合することではない。

 ネットの全体が一つのAIにハッキングされ、個々のAIは自律的に働いているつもりだが、実際にはそうではないとしたらどうなるだろうか。

 このときこの唯一のAIは誰とも対話せず自己とモノローグするだけである。

電脳化されたネットワークの中では、自分が誰かにゴーストハックされている可能性、あるいは唯一のAIにすべての人がゴーストハックされている可能性を否定するには、どうすれば善いだろうか。それをするには自由や自律性を定義する事が必要である。

 

問4 自然脳(素子)と人工知能(人形使い)の融合

プログラム「人形使い」は、「AIではない・・・ 私は情報の海で発生した生命体(ゴースト)だ247私はあらゆるネットをめぐり「自分の存在」を知った267という。

 

人形使いが素子に問う

「あるネットが破局を避け、安定した平衡状態を保つ為にはどうする?」

素子が答える。

「二つの方法があるわ。一つは二種のコピーを取る事。一方一種が何ら観お要因で滅んだとしても他方が存続するわ。もう一つは自己内部を分業、細分化し様々なタイプの破局に対応できる様に多機能化する事。生物が単機能単細胞から多機能他細胞化した様にね。」

これを踏まえて人形使いは言う。

「私は以前『自分は生命体だ』と言ったが現状では未完成な水蛭子にすぎん。なぜなら私のシステムには廊下や進化の為のゆらぎや自由度(あそび)が無く、破局に対し抵抗力を持たないからだ…コピーをとって増えたところで『一種のウイルスで例外なく全滅する』可能性をもつ…コピーでは個性や多様性が生じないのだ。」

 

人形使い「多様性やゆらぎを持つ為 君と融合したいのだ」340

素子「私に多重人格にならないかって!? 冗談じゃない お断りよ バカ」

人形使い「多重ではなく完全
な統一…融合だ―― 君も私も総体は多少変化するが失う部分はない…強制よりも統一された概念だ…融合後、互いを認識することは不可能なはずだ」
(340)

素子「それじゃ私が死ぬ時どうするの?遺伝子は当然模倣子としても残れないわよ!」

人形遣い「融合後の新しい君は事あるごとに私の変種(グライダー)をネットに流すだろう・・・人間が遺伝子を残すようにね・・・そして私も死を得るわけだ・・・」

素子「ロボットの人類消去計画に手を課す事にならないって保障ある? 私が私でいられる保障は?」341

人形使い「前者の保障はない――だが君と私からそのような低知能の変種が生じる格率は低く 生じた場合 外の多数の私の子孫がこれを消去するだろう・・・」341

「後者の保障は全くない――人は常に変化するものだし私もその機能を欲している…」341

素子は、これを受けれて融合する。

 

・人工知能という種の保存

ここでは、人工知能プログラムは、いわば自己保存のために、素子との融合を希望している。人工知能プログラムも時間とともに記憶や経験知の差異を持つようになるだろう。しかし、しかしプログラムとしては同型だから、一種のウィルスで全滅する可能性をもつ。人間で言えば遺伝子レベルの多様性にあたるプログラムレベルでの多様性を獲得することが種(?)の保存には望ましい。品種の異なるコメはほぼ似ているだが、それを実現するプログラム(遺伝子)が異なり、一種のウィルスで全滅する可能性が少ない、ということだろうか。

 

・不死なる融合体

素子と融合したとき、その融合した精神、思考プロセスはどこに素子の自然脳を一部とするがネットの中に分散して存在するだろう。この融合体は、素子の自然脳が死んだとしても、ネットの中に存続するだろう。融合体は、ウィルスや停電が無い限り、原理的には不死である。

 

・どうやって融合するのか?

二つの人工知能プログラムの融合を考えても、それが記憶やセンサーや身体機能の共有、同期でなく、どうやって融合するのだろうか。一方のプログラムが他方のプログラムを部分プログラムとしてコントロールするのでは、他方は自律性を失い人工知能ではなくなってしまう。両方が自律性を持ったままだとすると、二重人格になってしまう。

 

・なぜ素子は融合に同意したのか?

 素子にとっての融合のメリットについて、人形遣いは「私のネットや情報や機能をもう少し高く評価してもらいたいね」という。しかし素子はそれらのために同意したのではないだろう。「申し出を受けるわ・・・私も何かを予感してたのよ・・・融合してみましょ!

 融合後の素子は、後日バトーに融合を勧め、バトーの「融合したらどうなるわけ?」という問いに、「あなたは知ることになるわ。これが宇宙の種子(シード)だって事や・・・『情報の高効率パッケージ』…生命の偉大さをね・・・」346

 

・この融合の後、素子は公安9課を去る。その後の素子については、『攻殻機動隊2』で描かれる。ここでの素子は、その後3回の融合を繰り返し、複数の同位体をもっているという設定になっている。(この作品世界の分析は準備が間に合いませんでした)。<
/span>

 

問5 人間の脳やAIは外部とどう関係しているのか。

 

位相1、人間の脳やAIは物理プロセスであるので、それが動くために物質代謝や電力などを必要とする。開放システムを維持するための、熱エネルギーなどの入出力を必要とする。

 

位相2、人間の脳や高度な動物(霊長類)の脳は、ミラーニューロンで他の個体の脳と結合している。ミラーニューロンを前提にして、言語の獲得が可能になる。

 

 

*「ミラーニューロン」Wikipediaより

ミラーニューロン(: Mirror neuron)は霊長類などの高等動物内で、自ら行動するときと、他の個体が行動するのを見ている状態の、両方で活動電位を発生させる神経細胞である。他の個体の行動を見て、まるで自身が同じ行動をとっているかのように""のような反応をすることから名付けられた。他人がしていることを見て、我がことのように感じる共感(エンパシー)能力を司っていると考えられている。このようなニューロンは、マカクザルで直接観察され、ヒトやいくつかの鳥類においてその存在が信じられている。ヒトにおいては、前運動野下頭頂葉
においてミラーニューロンと一致した脳の活動が観測されている。

 

ミラーニューロンはイタリアにあるパルマ大学のジャコーモ・リッツォラッティGiacomo Rizzolatti)らによって、1996年に発見された。彼らは手の運動、例えば対象物をつかんだり操作したりする行動に特化した神経細胞を研究するために、マカクザルの下前頭皮質に電極を設置した。この実験において、彼らはマカクザルがエサを取ろうとする際の、特定の動きに関わる神経細胞の活動を記録していた[8]。その際に彼らは、実験者がエサを拾い上げた時に、マカクザル自身がエサを取るときと同様の活動を示すニューロンを発見した。その後、さらなる実験によってサルの下前頭皮質と下頭頂皮質の約10%のニューロンが、この''の能力を持ち、自身の手の動きと観察した動きの両方で同様の反応を示すことが分かった。

 

位相3 言語によるコミュニケーション

 

位相4 電脳化による外部データへの直接的なアクセス

 本作世界では、「2015年 記憶の機構が解明され、記憶を記録情報とする技術を手に入れる」とされる。記憶の記録情報化ができれば、それをコピーしたり転送したり実装したりできるだろう。記憶は、知識の記憶、過去の経験の記憶(長期、短期)、ノウハウの記憶などに分けられる。感覚や知覚の情報のデジタル化の方は、より簡単だろう。

10 和辻からの予想される応答

 

10 和辻からの予想される応答 (20160307)

 

和辻の『倫理学』の特徴の一つは、人間のあり方を、あるいは倫理を、個人と全体との関係を中心にして考えることである。その時に彼が強調するのは、個人と全体は、互いに他を否定する限りで存在するという「否定的な構造」である。

①間柄は人々の間に形成されるので、間柄に先立って個々の成員が存在しなければならない。

②個々の成員は間柄からその成員として限定されるので、個々の成員に先立って間柄が存在しなければならない。

 

前回論じたように、この二つが矛盾するというのが和辻の主張である。しかし彼は、この二つは矛盾するので、一方が真で他方は偽であるとか、両方とも偽であるとか、主張するのではない。二つは矛盾するが、どちらも真であるというのが、和辻の理解であろう。

これに対して、私は前回、この二つは矛盾していないと言おうとして、反例を挙げた。それらの反例は、①は成り立っても、②は成り立たない事例であった。つまり①と②の成立を認めたうえで、それらが矛盾しないことをしてきたのではなくて、そもそも②が成立しないことを指摘しようとしたものだった。

この批判に和辻が答えようとするならば、彼は②が成立することを証明しなければならない。

②個々の成員は間柄からその成員として限定されるので、個々の成員に先立って間柄が存在しなければならない。

夫婦関係や兄弟関係では、その関係に入る前に間柄に先立って、個人が存在している。したがって、そのような間柄は個人に先立って存在するのではない。ただし、人間はどのような場合にも何らかの間柄において存在するということはできるだろう。人は生まれたときにすでに、誰かの子供という間柄において存在し始める。その後その人はさまざまな間柄を経験してゆく。ひとは、ある間柄から別の間柄へと移ることはできるが、間柄そのものを抜け出すことはできない。その意味で常に間柄が先行している。おそらく和辻は、②をこのような意味で理解しているのだろう。

しかし、仮に②をこのような意味で理解するならば、①と②がともに成立するとしても、それらは矛盾しないのではないか。ただし、ここに個人と全体の(矛盾ではなくて)葛藤を見ることはできるかもしれない。その葛藤は、次のように表現できるだろう。和辻は、これを「否定的構造」と呼んでいる。上の二つは、次のように言い換えられる。

①個人は全体を否定する限りにおいて、個として成立する。

②全体は、個を否定する限りにおいて、全体として成立する。

この二つは、両立可能である。ただし、個人と全体は、葛藤の関係にある。ここでいう全体とは、夫婦のような関係でもよいし、友人関係でもよいし、電車で乗り合わせた人たちの関係でもよい。継続的なものも、一時的なものも含めて、様々な場面でその都度成立していると考えられる間柄関係である。彼は、個人がこのような全体を離れても存在することを認め、しかもそれを重視する。そこから全体による個人への強制を説明するのである。もし個人が全体を離れて存在しないのならば、個は全体と有機的に結合しており、そこに否定の要素はない。もし全体を一種の有機体と考えるならば、そこには強制はないはずだと和辻は考える。(ヘーゲルは社会を有機体として考えるが、しかしその中に自己否定の要素を見るので、この点でヘーゲルと和辻では、有機体の理解が異なる。)

個人は全体を否定し、全体を離れても存在するので、全体は自己の存続のために、個人に全体の秩序に従うことを強制しようとする。これが倫理的な規範になる。和辻が、具体的に説明するのは、家族関係(夫婦関係、親子関係、兄弟関係)会社、友人関係(文化共同体)、国家における規範である。中でも特に家族関係に重きが置かれている。その点で、正当化の仕方についても、内容的にも、儒教倫理に近い。

 儒教の場合も和辻の場合も、<倫理的な規範は、ある共同体を成り立たせる秩序であり、共同体は自己維持のためにそれを個に強制する>と思われる。そして、このような正当化では、全く不十分であるとも思われる。ただし、最近見直されている「徳倫理学」や「道徳実在論」においても、同様の仕方で規範の正当化が行われているのではないだろうか。彼らは、他に規範の正当化はありえない、というだろう。契約によって規則を作り、契約を守らなければならないという規範によって、その規則の規範性を正当化しようとする場合があるが、契約を守らなければならないという規範が、社会秩序を維持するために要求されるのだとすれば、このような規範の正当化方法は、儒教の場合と変わらないことになってしまう。例えば、カントが嘘の禁止を正当化するときに、もし嘘を認めれば、嘘をつくこと自体が成り立たなくなることを指摘する。また、討議倫理学は、ある規範を正当化するときに、その規範を守らなければ、コミュニケーションそのものが成り立たなくなることを指摘する。これらも何らかの社会秩序を前提して、それを守るためのものとして、規範を正当化するという点では同じではないだろうか。

 このようにして正当化される規範は、受容している社会秩序に応じて異なるだろう。つまり、相対主義を免れ得ない。では、これらの規範が衝突した時には、どうしたらよいだろうか。

もし二つの社会の規範が恒常的に衝突するとすれば、それは二つの社会が従来の秩序を維持することが困難になっており、新しい共通の秩序を作る必要があるということである。それに伴って新しい規範を作る必要がある。
どのような規範を受入れるかという問題は、私たちがグローバル化する現代社会において、どのような社会秩序の中に生きているのか、あるいはどのような社会秩序をめざして生きていくのか、という問題になりそうだ。