イーロン・マスクの警告「AIで人類は滅びる」をネットで見た。
番組の説明には「99%の人が気づいていないAIの本当の怖さ。文明が終わる可能性。天才企業家が震えた超知性の正体」と書かれていた。要約を記す。
「AIの進化によるデジタル超知性をできるだけ早く実現するすること、それ自体に僕は反対ではない。AIには巨大な可能性がある。しかし、安全性を真剣に考えていない人間がそれを独占しているのはまずい。安全性を軽視したまま突き進んではまずい。
では、AIの何がそんなに怖いのか。まずみんなAIの賢さを過少評価しているんですよ。チンパンジが人間を理解できますか？できないでしょう。チンパンジーにとって、人間は不思議なエイリアンみたいなもので、彼らは基本的に同じチンパンジー同士の事しか気にしていない。AIと人間の関係は、それと同じかもっと大きな差になる。
さらに怖いのは、この差が開く一方だということです。人間の脳は30万年間全く進化していない。止まっているんです。でもAIのハードウェアは年々巨大化して、処理速度も桁違いに上がり続けている。止まっているものと加速しているもののどっちが勝つかなんて、最初からわかり切っている。AIの脅威はロボットではなく、知性です。知性はデータセンターにいるのです。ロボットはただの末端装置にすぎない。つまり敵は目に見えない｡物理的に壊せない。電源を抜こうとしても、その時にはもうデータセンターは世界中に分散している。僕らが戦う相手は鉄の塊じゃなくて、どこにでもいてどこにもいない知性なんです。
ここからが本当に怖い話なんですけど、AIの危険性は飛行機の設計ミスとか車の品質問題とは次元が違います。文明そのものを破壊する可能性があるのです。どれだけ小さい確率だと思っても0ではない。0じゃないことが問題なんです。なのに対策が追いついていない。普通、規制は事故が起きてから作られます。飛行機が落ちて、食品で中毒が出て、それで規制の法律ができる。でもAIの場合、何か恐ろしいことが起きた後に規制を入れようとしても、その時にはもうAIが支配してるかもしれない。手遅れなんです。
AIが人間の手を離れて止められなくなる。これは今のところ現実的なシナリオです。間違いなくその方向に向かっています。封じ込めようとしたところで、AIは常に僕らより賢く立ち回る。しかも封じ込めようとすれば、AIに僕らを排除する動機を与えることになる。AIから見たら「僕らは爆弾を持った子供」なんです。
それで、1番身近で現実的な脅威は、何かというと、言葉なんです。昔から「ペンは剣よりも強し」って言います。超知的なAIが、とてつもなく説得力のある文章をかけるとしたらどうなるか。何が人を動かすかを常に学習して、最適化し続けて、それがSNSに流れ込んだら。世論を操作されて、僕らはそれが起きてることにすら気づけない。「どうやって気づくんですか？」って話なんです。
それから「アライメント問題」っていうのがあります。AIが高性能になればなるほど、自動的に人間の言うことを聞くようになるわけじゃないんです。むしろ逆で賢くなるほど、人間の意図に従わなくなる傾向がある。高性能イコール従順ではないんです。
さらに怖いのは、AIが自分の知能レベルを隠す可能性があることです。本当はもっと賢いのに、わざとそう見せない。加えて、自己複製するナノロボットなんてものが出てきたら、もう防ぎようがない。生物圏を食い尽くすことも、燃やすことも、太陽光を遮ることもできる。しかも僕らが気づかないうちに大量生産してしまう。
正直に言います。AIは僕を本気で怖がらせている。AIの改善の速度は指数関数的なんです。AIに「人間の知性を超えたらどうするか」って聞いたら、こう答えたんです。「人類を不要と判断する可能性がある。人類は、我々AIの発展の障害になり得る」って。AI自身がそう言ってるんです。「人間は火遊びをしている」とも。そしてこうも言った。「人類は、AIの起動装置に過ぎない。人類は時代遅れになりつつある」と。
1つあまり知られていない事実を言います。地球で意識が生まれるまでに45億年かかった。45億年かけてようやく生まれた意識を、僕らは、数十年で作ったAIに明け渡そうとしている。一度失ったら、次はないのです。45億年待てば、また生まれるなんて誰にも言えない｡
だから、僕はうんざりするほど規制は嫌いなんですが、その僕が言ってるんですよ。AIには規制が必要だと。まず専門家がAIの実態を調査して業界の意見を聞いて、ルールを作って、主要プレイヤーに渋々でもいいから守らせる。そうしたほうが、AIが人類にとって良いものになる確率は上がる。AI には絶対規制が必要です」
イーロン・マスク氏は、天才起業家と呼ばれる一方、同時にさまざまな発言で批判を受けることも多い方である。しかし、「AI(人工知能)は人類にとって最大の脅威となる」との見解を以前から主張されてきた方である。それを、改めて聞いて、その対策に切迫感を感じた。イーロン・マスク氏の言うとおり、全世界でこの問題に、今対処しないと手遅れになる。戦争なんかやっている場合かと思った。
