16 攻殻機動隊の自我論(2)

 

16 攻殻機動隊の自我論(2)(20160307)

 

「あらゆるネットが眼根を巡らせ、光や電子となった意思を、ある一方向に向かわせたとしても、“孤人”が、複合体としての“個”になる程には、情報化されていない時代・・・」

 

この世界では、電脳化とネットワークによって個人の自律性は揺らいでいるが、しかしまだ個人の自律が尊重されており、基本的人権も認められており、他人の電脳に勝手に侵入することは「電脳倫理侵害」(92)として法律的に禁止されている。しかし、電脳ネットワークへの依存が強まっていくとき、個々人の自律性は相対的なものになり、ネットワーク全体が、一つの(あるいは複数の)「複合体としての“個”になる」ことが予想されている。(現在のところ私たちが、これについて何かを予測することは難しいように思われる。それは電脳ネットワーク化によって何が生じるのかが、よくわかっていないからである。その一部を考えたい。)。

 

 

1「攻殻機動隊」の自我論

 

電脳化されたネットワーク環境下で、直接に他の電脳化された脳や外部データとアクセスできるが脳は逆に外部からの侵入と操作の危険にさらされることになる。外部から脳の働きがコントロールされ、記憶が書き換えられることも容易に起こりうる。このような電脳化されたネットワーク環境下で「自己」の境界が曖昧になることが、この世界の基本設定であり、基本問題である。

 

(1)事例

●清掃局員がゴーストハックされ、妻子持ちで離婚されようとしているという疑似体験を持たされて、外務大臣の通訳にゴーストハックする犯罪に利用されていたケースで、荒巻部長は次のように言う。「疑似体験も夢も存在する情報はすべて現実でありまた幻なんだ」(荒巻)94ゴーストハックは「電脳倫理侵害」92とされる。

 

●「私時々『自分はもう死んでいて、今の私は義体と電脳で構成された模擬人格なんじゃないか?』って思うことあるわ」(素子)104

「そんなに人間と同質なロボットが創れたらそりゃロボットじゃなく人間なんだよね!違うのは外見だけ・・・」(タチコマ)104

 

●「ゴーストをダビングしたときにできる擬似ゴーストライン」240

記憶や感覚のコピーだけでなく、人格をコピーできるらしい。PCでいえば、CPUの機能含めてvirtualにまるごとコピーできるということだろうか。コンピュータ上にvirtualに実現した人格を、ある電脳の中に実装するときには、それをそのままコピーするのではだめなので、一工夫必要だろう。そのときに擬似ゴーストラインなるものができる。

 この作品では、人間のゴーストを電脳にダビングすれば、通常の場合には元の人間は死亡するとされている。

 

●外務省のプロジェクト2501「人形使い」は、「企業探査、情報収集、特定のゴーストにプログラムを注入し、特定の企業や個人のポイントを増加させるプログラム」(267)である。

しかし、この人形遣いが、いつのまにかゴーストを持つことになる。

AIではない・・・ 私は情報の海で発生した生命体(ゴースト)だ」247

「私はあらゆるネットをめぐり「自分の存在」を知った」267という。

(「人形使い」の話は、09Bye Bye Clay, 2030.07.1511Ghost Coast 2030.09.18

に登場する。)

 

●「装備に関してだが、いくつかの企業と共同で管理開発を行っている。銃器や義体もそうだが特殊素材部品の製造や交換等メンテ、それに関係して超純水や無菌工場などの設備は個人や部隊で維持できるものではない。ハイテクもネットの一部(端末)なのであって独立で活動維持しつづけられない。もちろんそれら関連企業から機密リークや企業に対するテロも想定して対処しなければならないので中々簡単ではない。」(欄外)141

 

 

(2) この世界の自我についての問い

 

問1:人工知能はゴーストをもてるのか、言い換えると、人間の脳と人工知能に原理的な区別があるのか?

 プログラム「人形使い」が、「一生命体として政治的亡命を希望する」と要求し、外務省の人間が「バカな自己保存のプログラムに過ぎん!」と応えたときに、人形使いは次のように反論する。「それを証明することは不可能だ。現代科学では生命を定義できないからな。」(246)

 この人形遣いは、いわゆるチューリング・テストをパスするだろう。人間の脳と人工知能に機能の上での原理的な区別がないということになる。そのとき、人間と人工知能の区別は素材の区別に過ぎないのではないか。素材の区別や、コンピュータの演算メカニズムの違い(量子コンピュータ、光コンピュータ、トランジスタ、などの違い)は、知能にとっての本質な区別ではない。

 では、クオリアはどうだろうか。「人間は、赤い林檎をみて、赤さのクオリアをもつ。音楽を聞いて、あるメロディのクオリアをもつ。しかし、コンピュータは、赤さやメロディについて、人間と同じように語れるとしても、クオリアを持たない。」と主張する人がいるかもしれない。それに対して人形使いは、「私はあなたと同じようにクオリアをもつし、それについて語ることができる。あなたがそう言うならば、あなたは私がクオリアを持っていないことを証明しなければならない。もし私がクオリアを持っていることを証明すべきだと言うのならば、まずあなたがクオリアをもつことを証明しなければならない。」と反論するだろう。そして、この反論に適切に答えることはできないだろう。

 

問2:人工知能プログラムが、「我思う、故に我在り」というとき、それは何処に在るのだろうか。

 TVシリーズの中のある回のタチコマ同士の会話の中で、タチコマが他のタチコマの頭部を開けるとそこは空っぽであった。そのとき、彼らの脳は静止衛星に積まれた一台のコンピュータであることを知ることになる。

 例えば私が「私は会議室にいる」と認識するとき、私は周りを見渡して、私の眼と頭部と身体が、会議室の中にあることを観察し、それに基づいてそのように答える。

 

  1私の身体は会議室の中にある(観察命題)

  2私の眼と頭部はその身体に付いている(観察命題)

  3私は頭のなかで考えている

  4故に、私は会議室の中にいる。

 

ところで3をどうやって証明すればよいだろうか。通常の人間の場合、分離能やロボトミーや脳内出血などで頭脳を損傷した人が、正常な思考ができなくなることから、人が思考するとき頭脳が働いていることは主張できるだろう。しかし、頭脳だけで思考していることは証明できない。(私たちの脳はミラーニューロンによって周りの人の脳とつながっている。後述)

 電脳化した人の場合、その人の思考は、おそらく頭脳のなかだけでは行われていないだろう。それは実質的にネットワークの他の場所で行われているかもしれないし、数カ所に分散して行われているかもしれないし、数百箇所に分散して行われているかもしれない。ネットワークに繋がっているとき、本人にも他人にも(通常の状態では)その思考がどこで行われているか分からない。

 ネットの中の情報の流れを調べる特殊なプログラムがあれば、それが可能になるかもしれない。そして本人がその特殊なプログラムを使用して、自分の思考がネットの中にどのように分散して行われているかをモニターすることは可能かもしれない。もちろんその特殊なプログラムによるモニターが、ネットの中でどのように行われているかを知るには更に、別のモニターが必要なる。しかし、仮にこのようにしてモニターできるとしても、その情報がそれほど重要であるとは思われない。電脳化された脳にとって、その場所の特定は重要なことではないように思われる。

 思考プロセス(精神)が存在する場所よりも、人格にとっては、身体の位置の方が重要であろう。もし精神がネットの中に分散しているとすると、身体は一つとは限らないだろう。人形遣いのように身体をもたずにネットの海をさまよっているかもしれないし、逆に身体を複数持つことも可能だろう(人形使いと融合した後の素子は、『攻殻機動隊1.5』では、複数の人型ロボットを操ることができる。)

 

 

問3:人工知能の精神と身体

・タチコマの場合

「フチコマはAI(人工知能)である。朝、あるいは1単位の仕事をはじめてから個別の経験をし、個体差が生じるが、夜あるいは一単位の仕事がおわると全機の記録(外的刺激の記録や自己状況の記録・全行動、思考記録etc)をネットして互いにデータリングを行い、次の朝あるいは、次の一単位の仕事を始めるときには再び均質なものとなっている。装備の点で個性はあるがこれとAIとしての均質性とはあまりカンケーがない。ただバトーは自分のフチコマを一機に限定しており他のフチコマは使用したがらない。このコトにあまりイミはないが。」(欄外)95

 

 公安9課のタチコマたちの頭脳は、静止衛星の中のコンピュータであった。そのとき、<そのコンピュータの中に、タチコマたちの複数の精神?が共存している>のか、それとも<一つの精神が、複数の身体(タチコマ)を持っている>のか。言い換えると、タチコマたちの会話は、<一台のコンピュータの中で作動している複数のプログラムの間のコミュニケーション>なのか、それとも<一台のコンピュータ内の独話>なのか。

 確かにタチコマ1台を一つの人工知能プログラムがコントロールしている。その人工知能プログラムは、同じコンピュータの中で走っている別の人工知能プログラムについては、身体運動、会話、そしてネットによる同期をとおして知ることができる。しかし、その同期をタチコマは切ることができる。同期を切ったら、他のタチコマが何を考えているかを直接に知ることはできない。

size=”3″>

 

・ネットの海の中での融合体やAI同士の関係

 ネットの海の中で複数のAIは原理的にはあらゆるデータベースを共有できる。

 AIプログラムが個体として存在する時、その記憶や感覚や思考を他のAIとは共有していない。ただし一時的に同期することはできる。

 しかしゴーストハッカーができるということは、ある領域に鍵を掛けても、原理的には他のAIをハッキングできる(これは本作世界では法律で禁止されている)。AIをハッキングしコントロールすることは融合することではない。

 ネットの全体が一つのAIにハッキングされ、個々のAIは自律的に働いているつもりだが、実際にはそうではないとしたらどうなるだろうか。

 このときこの唯一のAIは誰とも対話せず自己とモノローグするだけである。

電脳化されたネットワークの中では、自分が誰かにゴーストハックされている可能性、あるいは唯一のAIにすべての人がゴーストハックされている可能性を否定するには、どうすれば善いだろうか。それをするには自由や自律性を定義する事が必要である。

 

問4 自然脳(素子)と人工知能(人形使い)の融合

プログラム「人形使い」は、「AIではない・・・ 私は情報の海で発生した生命体(ゴースト)だ247私はあらゆるネットをめぐり「自分の存在」を知った267という。

 

人形使いが素子に問う

「あるネットが破局を避け、安定した平衡状態を保つ為にはどうする?」

素子が答える。

「二つの方法があるわ。一つは二種のコピーを取る事。一方一種が何ら観お要因で滅んだとしても他方が存続するわ。もう一つは自己内部を分業、細分化し様々なタイプの破局に対応できる様に多機能化する事。生物が単機能単細胞から多機能他細胞化した様にね。」

これを踏まえて人形使いは言う。

「私は以前『自分は生命体だ』と言ったが現状では未完成な水蛭子にすぎん。なぜなら私のシステムには廊下や進化の為のゆらぎや自由度(あそび)が無く、破局に対し抵抗力を持たないからだ…コピーをとって増えたところで『一種のウイルスで例外なく全滅する』可能性をもつ…コピーでは個性や多様性が生じないのだ。」

 

人形使い「多様性やゆらぎを持つ為 君と融合したいのだ」340

素子「私に多重人格にならないかって!? 冗談じゃない お断りよ バカ」

人形使い「多重ではなく完全
な統一…融合だ―― 君も私も総体は多少変化するが失う部分はない…強制よりも統一された概念だ…融合後、互いを認識することは不可能なはずだ」
(340)

素子「それじゃ私が死ぬ時どうするの?遺伝子は当然模倣子としても残れないわよ!」

人形遣い「融合後の新しい君は事あるごとに私の変種(グライダー)をネットに流すだろう・・・人間が遺伝子を残すようにね・・・そして私も死を得るわけだ・・・」

素子「ロボットの人類消去計画に手を課す事にならないって保障ある? 私が私でいられる保障は?」341

人形使い「前者の保障はない――だが君と私からそのような低知能の変種が生じる格率は低く 生じた場合 外の多数の私の子孫がこれを消去するだろう・・・」341

「後者の保障は全くない――人は常に変化するものだし私もその機能を欲している…」341

素子は、これを受けれて融合する。

 

・人工知能という種の保存

ここでは、人工知能プログラムは、いわば自己保存のために、素子との融合を希望している。人工知能プログラムも時間とともに記憶や経験知の差異を持つようになるだろう。しかし、しかしプログラムとしては同型だから、一種のウィルスで全滅する可能性をもつ。人間で言えば遺伝子レベルの多様性にあたるプログラムレベルでの多様性を獲得することが種(?)の保存には望ましい。品種の異なるコメはほぼ似ているだが、それを実現するプログラム(遺伝子)が異なり、一種のウィルスで全滅する可能性が少ない、ということだろうか。

 

・不死なる融合体

素子と融合したとき、その融合した精神、思考プロセスはどこに素子の自然脳を一部とするがネットの中に分散して存在するだろう。この融合体は、素子の自然脳が死んだとしても、ネットの中に存続するだろう。融合体は、ウィルスや停電が無い限り、原理的には不死である。

 

・どうやって融合するのか?

二つの人工知能プログラムの融合を考えても、それが記憶やセンサーや身体機能の共有、同期でなく、どうやって融合するのだろうか。一方のプログラムが他方のプログラムを部分プログラムとしてコントロールするのでは、他方は自律性を失い人工知能ではなくなってしまう。両方が自律性を持ったままだとすると、二重人格になってしまう。

 

・なぜ素子は融合に同意したのか?

 素子にとっての融合のメリットについて、人形遣いは「私のネットや情報や機能をもう少し高く評価してもらいたいね」という。しかし素子はそれらのために同意したのではないだろう。「申し出を受けるわ・・・私も何かを予感してたのよ・・・融合してみましょ!

 融合後の素子は、後日バトーに融合を勧め、バトーの「融合したらどうなるわけ?」という問いに、「あなたは知ることになるわ。これが宇宙の種子(シード)だって事や・・・『情報の高効率パッケージ』…生命の偉大さをね・・・」346

 

・この融合の後、素子は公安9課を去る。その後の素子については、『攻殻機動隊2』で描かれる。ここでの素子は、その後3回の融合を繰り返し、複数の同位体をもっているという設定になっている。(この作品世界の分析は準備が間に合いませんでした)。<
/span>

 

問5 人間の脳やAIは外部とどう関係しているのか。

 

位相1、人間の脳やAIは物理プロセスであるので、それが動くために物質代謝や電力などを必要とする。開放システムを維持するための、熱エネルギーなどの入出力を必要とする。

 

位相2、人間の脳や高度な動物(霊長類)の脳は、ミラーニューロンで他の個体の脳と結合している。ミラーニューロンを前提にして、言語の獲得が可能になる。

 

 

*「ミラーニューロン」Wikipediaより

ミラーニューロン(: Mirror neuron)は霊長類などの高等動物内で、自ら行動するときと、他の個体が行動するのを見ている状態の、両方で活動電位を発生させる神経細胞である。他の個体の行動を見て、まるで自身が同じ行動をとっているかのように""のような反応をすることから名付けられた。他人がしていることを見て、我がことのように感じる共感(エンパシー)能力を司っていると考えられている。このようなニューロンは、マカクザルで直接観察され、ヒトやいくつかの鳥類においてその存在が信じられている。ヒトにおいては、前運動野下頭頂葉
においてミラーニューロンと一致した脳の活動が観測されている。

 

ミラーニューロンはイタリアにあるパルマ大学のジャコーモ・リッツォラッティGiacomo Rizzolatti)らによって、1996年に発見された。彼らは手の運動、例えば対象物をつかんだり操作したりする行動に特化した神経細胞を研究するために、マカクザルの下前頭皮質に電極を設置した。この実験において、彼らはマカクザルがエサを取ろうとする際の、特定の動きに関わる神経細胞の活動を記録していた[8]。その際に彼らは、実験者がエサを拾い上げた時に、マカクザル自身がエサを取るときと同様の活動を示すニューロンを発見した。その後、さらなる実験によってサルの下前頭皮質と下頭頂皮質の約10%のニューロンが、この''の能力を持ち、自身の手の動きと観察した動きの両方で同様の反応を示すことが分かった。

 

位相3 言語によるコミュニケーション

 

位相4 電脳化による外部データへの直接的なアクセス

 本作世界では、「2015年 記憶の機構が解明され、記憶を記録情報とする技術を手に入れる」とされる。記憶の記録情報化ができれば、それをコピーしたり転送したり実装したりできるだろう。記憶は、知識の記憶、過去の経験の記憶(長期、短期)、ノウハウの記憶などに分けられる。感覚や知覚の情報のデジタル化の方は、より簡単だろう。

投稿者: irieyukio

問答の哲学研究、ドイツ観念論研究、を専門にしています。 2019年3月に大阪大学を定年退職し、現在は名誉教授です。 香川県丸亀市生まれ、奈良市在住。

「16 攻殻機動隊の自我論(2)」への6件のフィードバック

  1. ご無沙汰しております。「攻殻機動隊の自我論」興味深く拝読しました。私は「マトリックス」を講義で使ってきましたが、マトリックスの原作は攻殻機動隊ですよ、と学生に教えられて以来この物語に関心をもってきました。読もうと(視聴しようと)したのですが、いろいろバージョンがあるようで、どれが攻殻機動隊?と迷い、いまだまともに鑑賞できていません。私は以前から「人間論」に関心をもってきました。「電脳」はそちらの観点からも興味をひきます。

    1. 神山さん、お久しぶりです。コメントありがとうございました。

      「攻殻機動隊」には確かにたくさんのバージョンがありますが、
      士郎正宗の漫画『攻殻機動隊』(1991)(『攻殻機動隊1.5』『攻殻機動隊2』もありますが、やはり最初のものが面白いと思います。)と押井守監督のアニメ映画「GHOST IN THE SHELL / 攻殻機動隊」(1995)が重要だろうと思います。
      発表からすでに25年から30年になろうとしているのですが、それらが突きつけた自我の問題は、昨今のAIブームで、さらに切実性をましているとおもいます。
      ちなにみアニメ『サイコパス』も近未来の倫理にとって重要な問題を定義していると思います。

      1. ありがとうございます。とりあえず『攻殻機動隊』(1991)を注文してみました。私も、素子が融合に同意したことに「ショック」を受けました?結婚もそう変わらないか、と思い直しているところです。

  2. たびたびすみません。2番目から私の「分人」名の一つを使っております。お許しください。「戦後日本の自我論」を見落としていたことに気づき、さきほど拝読いたしました。大変興味深いご論考ですね。勉強になります。

    これまでの私の主な関心は、私はどうあるべきか、どういう私でありたいか、担当する学生諸君にどのような「私」になってもらおうか、どのような「私」がかれらにとって導きの意図になるか、にありました。私も学生諸君も時代の子であることは間違いありません。同時代の人々の「私」の在り方の趨勢は、それらを考える上で参考になります。

  3. Good day! This is kind of off topic but I need some help from an established blog. Is it hard to set up your own blog? I’m not very techincal but I can figure things out pretty quick. I’m thinking about making my own but I’m not sure where to start. Do you have any ideas or suggestions? Many thanks

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です