錆びたナイフ

2025年6月9日
[本]

「シンギュラリティはより近く」 レイ・カーツワイル

「人類はシンギュラリティを目指して歩んできたが、いまや全力疾走に入っている！」とこの著者はいう．
「シンギュラリティ」(技術的特異点)には多くの見方があるが、機械が人間レベルの知能を獲得する時期という意味なら、著者は2029年と予測している．
　(私は、2025年、つまり今年だと思う．)
著者は、それを単なる人工知能(AI)の進歩を指すのではなく、人間の社会全体を根本的に変える転換点、ととらえている．
私はこの本を、AIを詳しく語った本と思っていたのだが、内容はほとんど近未来SFである．

現代のAIは、すべての一般常識をコンピュータに記憶させる、というようなものにあらず．
『賢いルールを使うのではなく、愚鈍なノードを、データそれ自体から洞察をひき出せるような仕方で配置する』のだという．
AIを構成するニューラルネットワークは、人間の脳の神経細胞に似せた複数の人工ニューロン同士を電気的に連結し、さらにこれを多層構造とする．
ニューロン間の結合強度(シナプス強度)は変更することができるが、その数は膨大な量になる．
これに例えば画像認識のような外部データ(複数の例題)を入力して、目的の出力が正しくなるように「訓練」する．
『オープンAI社が2019年に発表したGPT-2のパラメータ数は15億で、うまくいきそうだったが機能しなかった。
　だが、パラメータ数がひとたび1,000億を超えると、AIの自然言語のコマンドにおいて大きなブレイクスルーを達成し、突如として知性と繊細さを見せながら、自分に関する質問に答えられるようになったのだった。』
「パラメータ」というのは、ニューラルネットワーク内でデータを利用する要素のことである．
突如「意識」が生まれた？というこの瞬間を、もっとドラマチックに描けばいいのに、著者の話はそっけない．

人間の大脳皮質には200億のニューロンがあり、脳の計算能力は1秒間に10の13乗回だという．
ならば、200億の人工ニューロンをつなげ、計算の早いコンピュータを使えば、人工知能を生み出せる、ということになる．
インターネット上の膨大なデータ(ビッグデータ)を背景として、コンピュータ用ICチップの高度化と低価格化が急速に進んだ今、AIが忽然と姿を現した．
さらに、地下を流れるマグマのように、巨大な資本・マネーが、この「怪獣」を生み育てている．
2017年、ニューラルネットワークは、ディープラーニング(深層学習)という方法で「囲碁」をマスターした．
今、雪崩をうつように、次々と新たなAIが開発され実用化されている．

『(AI主流の)コネクショニストモデルは複雑な問題にとり組むのに有力な方法だが、諸刃の剣だ。そのAIはブラックボックスで、正しい答えをはき出せるものの、どのようにしてその答えを見つけたのかは説明できない。それは大きな問題をひき起こす可能性がある。』
私はこの点もくわしく知りたかったのだが、この書に説明はない．

なぜニューラルネットワークを巨大化/高速化すると知能(のようなもの)が生まれるのか．
脳の神経細胞の規模がある閾値を越えると、それがあらわれるのだとしたら、人間の知性も、たかだかそういうものだ、ということになる．
私は、人間が身体をもっているということ、そのことが、知能の先に、意識/感情/自我をうみだすのだと思う．
だから会話型の「Chat-GPT」はまだ発展途上で、AIロボットこそが、終局的な姿になるだろう．

この本の中盤で多くのページを占めている、地球上の生物進化や、脳と意識の問題、さらには人間社会の進歩について、どれもどこかで聞いた話なので、私にはちっともおもしろくない．
「生活は指数関数的に向上する」というのは、「 暴力の人類史」 スティーブン・ピンカー の引き写し．
「仕事の未来」「今後30年の健康と幸福」といった話は、これもできるあれもできるといった新しいテクノロジーを満載しているが、私のような老人には「豚に真珠」．

著者は世の中の「指数関数的」進歩を喧伝する．
足し算ではなく掛け算、つまり倍々ゲームで物事は進み、現代社会は、ジャンルを超えたテクノロジーが相乗効果で一気に爆発する、と見ている．
著者にとって、シンギュラリティの真髄はここにある．
何事も、規模が巨大になると質が変わる．
しかし、巨大化し過ぎたテクノロジーを、人間はコントロールできるのか．
ただの「水」も、コップ一杯なら、中小の河川なら、なんとかできても、台風を制御することはできまい．
著者は楽観的だが、その根拠は、今まではとりあえずうまくいっている、と著者が考えているだけである．
七面鳥は、自分達を飼育する農場主の意図を理解できない．
両者には圧倒的な知能の差があるからだ．
しかし七面鳥はみんなスマホを持っていて、自分は何でも知っている、と思っている．

この400ページを超える本の最後に、「危険」というテーマが出て来る．
『未来における核戦争のリスクについて、慎重な楽観論を支持する理由がある。
　MAD(核兵器による相互抑止の概念)は70年以上も有効であり、核保有国の武器庫は小さくなりつづけているのだ。
　核兵器を使ったテロや、ダーティボム〔基性物〕が使用されるリスクはまだ大きな心配事だが先進AIがそうした脅威を探知し、無効にする効果的な手段をもたらしてくれるだろう。
　AIが核戦争のリスクをゼロにできないあいだは、より賢い指揮管理システムが、センサーの誤作動によるこれらの恐るべき兵器の不注意な使用が起きるリスクを大きく減らしてくれるはずだ。』

話はこれだけ？・・なんとノーテンキなことか．
ドローンやロボット兵士だけではない、戦術的な戦闘にAIを利用することは必須になるといっていい．
今までの軍隊が、小隊/中隊/大隊に別れているのは、戦場の状況把握と連絡系統を人間に依存しているからである．
AIが千人万人規模の兵士と兵器と兵站を総合的に判断し、兵士を直接管理/指揮できれば、戦況は一変する．
さらに、AIは、自国内での兵器の生産から軍需物質の生産/輸送/供給まで、統合的に管理できる．
さらにさらにいうなら、AIは敵国の状況や友好国、敵対国の状況も考慮に入れることができる．
もちろん、敵国も同じようにAIに依存する戦略をとっていたなら、いっそのこと、自国と敵国のAI同士が仮想的に戦えば、勝負の結果は事前にわかる．
つまり世界規模の軍事戦略AIが登場すれば、実際の戦争は起こらなくなる？
AIが自国民を守る、あるいは被害を最小にするという基本戦略は、国家間の利害をはるかに超えて、あろうことか、世界のAI同士が勝手に連携したらどうなるのか．
これは私の夢か？悪夢か？

著者がもっとも注力しているのが、人間の脳をコンピューターに直接接続するBCIという技術と、極小のロボットを体内に流し込んで人体を治療するという、ナノテクノロジーである．
どちらもおぞましいと私は思うが、四六時中肌身離さず持っているスマホを脳に埋め込むのだと考えれば、納得できなくはない．
つい数年前、人間は、人工のRNAを世界中の人々に注射して、人体に擬似的なコロナウイルスを作らせるという「メッセンジャーRNA治療」をやってのけたのだから、ナノロボットも驚くにあたらない．

ところで、こどもが、カマキリやカブトムシを見て、「わぁ！すごい」と言う時、大人は、ウィキペディアの解説を引用するなどヤボなことをせず、いっしょになって驚くのがよい．
科学とは、知識の集合物ではなく「センスオブワンダー」なのだ、とわたしは思う．
だから著者が、人間の脳がコンピューターにつながって、何万倍も思考能力があがるという、その意図がわからない．
世界の事象のあれもこれも即座に知識を得られるのだとしたら、いったい人間は、何に興味を持ち何のために調べるのか．
BCI技術で、記憶も思考も感情さえも飛躍的に拡大するのなら、人の心にあるトラウマや不安や恐怖もまた拡大するだろう．
昔のことを何もかもよく覚えている、なんぞという御仁は剣呑である．
人生をまっとうするには、すべからく健忘症になるがよい．
猫もヒバリも、昔のことなど、なぁ〜んも覚えていない．

著者は、現代の人間が(スマホを持って)100年前の世界に出現したら、神にも等しい力をもつという．
100年前に携帯の電波はないのだから、スマホは何の役にも立たないだろうと思うが、仮に、膨大な知識をメモリーに入れて持っていたとしても、
100年前の彼に必要なのは、その時代の人々に何とか受け入れてもらうこと、食べ物をもらうこと、仕事をみつけること、出来うるなら伴侶を得てその地で暮らすことである．
そのことに必要なのは、「知識」ではなく、「知恵」である．

私は、この本で、いったい何をみているのか．
AIは、人類進歩のモノリスであると同時に、人類の相対的な劣化のはじまりなのだと思う．
それがよくないことだと言うつもりはない．
人間が道具を使うことの果てに、人間もまた、必然的に道具化するのである．

著者カーツワイルが夢見ている未来は、ユートピアでもディストピアでもなく、
テッド・チャンのいう『 地獄とは神の不在なり』という場所なのだ．