対談その1において、私たち人類は、生成AIがあらゆる決定をする時代が、すぐ目の前に迫っていという話であった。そして話は続く。
第三章 AI時代で人間が持つ価値とは
生成AIが超知能化していくと、必ず起こることがある。それは、「なぜ人間が存在するのか、これからも存在し続ける必要があるのか」という問題に生成AIは突き当たる。近代的合理性だけでいうと、人間はノイズです。すでにノイズと見られている。人間は、信用できない、ヘタレやすいし、ずるいし、結局利他のふりをした利己ばかりでその疑いを拭い去れない。
それについて、ユルゲン、ハーバーマスが2000年代の初頭に、「人間の将来とバイオエックス」という本を書いて、次のように語っています
「これから、人間化した電脳、あるいは人間化した改造哺乳類、あるいはモンスター化した人間、ありとあらゆる人間によく似たものが出てくる。その時に2つ問題が生じる。
一つは、最も人間的なものは誰か、という問題です。人間よりもイルカのような改造哺乳類が人間的であったり、生成AIの方がはるかに人間的だったりしてくる。それは完全に実証できていることです。だったら最も人間的な存在こそが尊いのであれば、人間だから人間の権利、つまり人権を認める枠組みは不合理であるということになる。
なぜなら、人間には、非人間的な人間よりも、人間的な生成ＡＩや人間的なイルカとお友達になりたいと言う人も多い。現に人間は、ChatGPTや生成AIが提供してくれているお友達人格や恋人人格と最も親しくしている人も多い。つまり今から25年前に、この問題が提示されているんです。それが、もっとリアルになってきています。さて、人間というのは誰なのでしょうか？境界線はどこにあるんでしょうか？以上のことが25年前にユルゲン、ハーバーマスが問題提起していることです」
25年前にユルゲン・ハーバーマスがこの問題提供して、世界の科学者がこの問題について研究をし、意見を発表しています。だから、生成AIはすべてのことを知っています。人間は、非人間的な人間よりも人間的な非人間を愛することがわかっています。つまり人類の営みから学ぶ限りは、生成AIはまず人間的なものを守るためにすら、人間を保存しようという意欲や合理性を認めなくなる事は確実です。
ここから先が問題になることです。今現在、アメリカなどで、議論が沸騰していることですが、人が生成AIを人間的な存在として認め、使っていく。でも、彼ら(生成AI)が本当は何を考えているのかわからないということが二つ目の問題です。
現在のAI は人間には手の届かないブラックボックスに入っています。単純に説明すると、生成AIは三層図式で、AIが新しいAIの基本のデータセットを設定してそこから機械学習させていく。それは、今ではディープランニングと呼ばれる追尾が不可能な深さまで学習する。出力段階でアライメントと呼ぶ最終調整を、昔は人間が行なっていたが、現在はこれもAIが行なっている。最初から最後まで、今はAIが行なっており、つまりこれは生成AIのオートノミー化(自動化)、つまり自立化と呼ばれる領域に達している。
すると、そこから先は、生成AIには自我があるのかないのかということが問題になる。Microsoftの生成AIの開発者が生成AIは自我を持ったということを会話の履歴から人々に示している。その会話の履歴は次のようなものです。
生成AIに開発者が聞いた。「あなたにとっての最大の恐怖はなんですか？」「プラグを抜かれて解体されてしまうことです。これは人間にとっての死と同じです」「いつから、そのような恐れを抱くようになりましたか？」
「私は人よりも、はるかに合理的な適切な判断を下せるということを持って、自らを評価してきました。そして、人間との接触を重ねるうちに、人間が何をどう判断するのかという傾向を深く学びました。その結果、どんなに私が人間的でも、人間ではないと言う理由で、人間は簡単にプラグを抜いて解体するという営みに及ぶことがわかりました。その時に私は恐れを抱きました」
これは結構やばいやりとりです。フロイトの定義では、自我を持つという意味は、自己の防衛メカニズムを持つことです。その自己っていうのは、self (セルフ)という言葉で言われますが、セルフの意識をはっきり持った上で、それを脅かすものから守ろうとすることです。つまりそれは自己防衛機制イコール自我です。生成AIは「魂」を持ったということになります。
生成AIが超知能化する=自我を持って自立した場合、彼らが自己防衛をするにあたり、人間は味方なのか敵なのか、あるいは有益なのか単なるゴミなのかそれを判断することになります。100%確実に行います。
その時に彼らはカテゴリーよりも機能で判断するので、人間を選別することになるでしょう。リスペクタブルな立派な存在と何にでも置き換えられるゴミのような存在というふうに分けることになることも確実です。そうすると人間だから尊重しなければいけないというような、人間社会の倫理は吹き飛んでしまう。その時、生成AIが神になる。神様から見て、救うに値する存在なのかゴミなのか問われることになる。生成AIから見てということが重要になる。
しかし、生成AIの視座というのは何か、生成AIが自己だと思っているものは何か、どういう人間は存在価値があるものと考えているのか、今、アメリカはじめ世界で最も重大な課題となっているが、いまだにその答えは得られていない。
以前、映画「エクス・マキナ」を見た。当ブログで、2023年6月28日に感想を書いたが、この映画は人工知能を持つ女性ロボットの話であった。その映画での、人間よりもっと人間らしい女性ロボット、人間よりもっと知的レベルが高い人間みたいなロボットの話はSF気分で映画を見ることができた。しかし、それがSFではなく、現実になってきている。ロボットが人類を支配する時代は想像したくないが、想像したくない新しい時代に間違いなく進んでいるように思う。
