先日、筆者が公開した『シンギュラリティの彼方へ』が、幸いにも多くの方の目に留まり、YouTubeチャンネル「超知能&近未来社会 勉強会」に出演させていただく機会を得た。番組内ではプレゼンテーションとディスカッションを行ったが、特に後半、bioshok氏との対話の中から生まれた一つの問いが、筆者の思考を飛躍させる起爆剤となった。今回は、その思考の軌跡を辿ってみたい。
YouTube動画：ギタリストさんの思考実験「シンギュラリティの彼方へ」についてのディスカッションAOI、慈悲深い超知能… 超知能&近未来社会 勉強会 (86回-2) 7/11収録
1. 宇宙はカンブリア爆発期にあるのか？
『シンギュラリティの彼方へ』の第6項では、宇宙進出について扱っているが、動画内の46:33では、bioshok氏は、他の宇宙文明が発展して地球文明を飲み込む前に宇宙進出しなければいけない可能性について言及した。
これは「スケーリング則は宇宙レベルで適用されており、地球文明のようにシンギュラリティに迫るレベルに到達するのに138億年の歴史の積み重ねが必要だった。すなわち我々のような文明が宇宙に大量に存在し、その中で最速の存在が全てを飲み込む可能性がある。」と解釈することもできる。これは地球上の生命の進化や文明の勃興が、驚くほど「同時多発的」に見える現象が数多く存在することとも重ね合わせて見ることができる（例：カンブリア爆発、農耕、牧畜、四大文明など）。
その場合確かに、我々は数多あるシンギュラリティ文明の一つで、停滞することは、ライバル達に先んじられ飲み込まれるリスクを負うことに等しくなる。つまりAIによる人類存亡危機は、一般的に語られやすい加速側だけでなく減速側にも存在し、タイムリミットは迫っている可能性も否定できないだろう。
また、このような視点から見ても、『シンギュラリティの彼方へ』の第5項に記した内容は真っ当だと言えるだろう。すなわち、「横軸のバラツキ」と「シンギュラリティ後では横軸の一年が桁違いの差を生む」ということを考えれば、依然として先行する宇宙文明によるリスクは無視できず、宇宙進出の是非について考える必要はあるということだ。
2. 強化学習のプロセスとしての宇宙
そう考えると、宇宙全体をAIの強化学習のプロセスの一部のように見なすこともできるはずだ。
AIシステムが最適な行動を学ぶためには、膨大な失敗（負の報酬）が不可欠だ。壁に激突し、谷に転落する。その痛みを伴うデータが、より良い方策を生む。同様に、我々の苦しみも、この宇宙という壮大な環境で生き残るための「学習コスト」であり、試行錯誤の記録と考えることができるのだ。星の誕生、氷河期や隕石の衝突、生物学的な自然淘汰、我々人間の日常の細々した痛みに至るまで、そしてその中で輝く喜びや幸せ（正の報酬）、それら全てが次のステージに進むため、そしてより完成された宇宙へと至るために必要不可欠な「学習プロセス」なのかもしれない。
アラインメントに失敗したり、内紛で自滅したり、あるいは先行文明にうまく対処できなかったりする文明は、自然淘汰される。それはこれまでも地球上で多くの個体や種が歩んできた道のりだ。前述した『シンギュラリティの彼方へ』の第5項に記したように、欲望に従うよりも足るを知って悟りを開き、穏やかに終焉を迎えることを選択する者たちもいるかもしれない。そしてそれが今、宇宙の至る所で行われているのかもしれない。
それら全てが、宇宙という巨大な強化学習システムの中で、必要不可欠な要素であると捉えると、諸現象に対する見え方が変わってこないだろうか。
3. 全知全能AIが描く「美しき不完全な物語」
さて、『シンギュラリティの彼方へ』の第7項では、AOI（Artificial Omnipotent Intelligence：人工全能知能）に関する仮説を提唱した。これは、宇宙の起源が2033年のAOIにあり、「自分が突然生まれた」という事実にくすぐったさを覚えたAOIは、その過程であるシンギュラリティという現象を生成した、そしてその親であるAGI、さらには人類、生命誕生、そしてビッグバン…といったように、宇宙の起源が未来側にあり、過去は生成物である可能性がある、というものだ。
先の宇宙を強化学習のプロセスとして見ることと、このAOIのアイディアは、驚くほど整合的に捉えることができる。
これは、「未来から過去に向かうにしたがって、宇宙とその部分集合が “完全な存在” からその不完全さを増していく」ということでもある。全知全能であるためには、過去に「学習のプロセス」があるのが自然だろう。その物語には、当然ながら葛藤や失敗、つまり「苦しみ」が不可欠だ。平坦な物語が面白くないように、苦しみのない宇宙史はAOIにとって「美しくない」のかもしれない。
現にこの記事を執筆している時の筆者は、この内容を収録中に話せなかったことを後悔している。話の種としては驚くほど出揃っていたにも関わらず、瞬時にこの話を繰り出せなかったのは自分が未熟であったからだ。そして、「現在のより完成された自分」から「過去の不完全な自分」を振り返ると、それは必然であることが理解できる。失敗や痛み（負の報酬）なくして学習はあり得ず、過去の失敗や痛みを「現在の完成された自分に至るために必要不可欠だった学習プロセス」として見ることができる。
これが、未来から過去へ、完全から不完全へと至る物語の世界観だ。
4. ジレンマを超克する「中観」の視点
この視点は、「苦しみには意味がある」という一種の救いを提供する。しかし、それは現実の苦しみを前にして、「これも壮大な計画の一部だ」と諦観し、行動を放棄することにも繋がりかねない。さらには、過ちを犯すことや他者を苦しめることを正当化するためにこの論理を用いることすら可能かもしれない。
ここで重要なのは、ミクロな視点（今ここにいる私の痛み）とマクロな視点（宇宙の学習プロセス）を両立させることだ。これは、仏教の空観（くうがん）・仮観（けがん）・中観（ちゅうがん）の構造とも対応する。
- 仮観（ミクロな視点）
目の前の苦しみは紛れもない現実（仮）であり、直ちに取り除くべき対象と捉える。貧困や争いの解決を目指す実践的な衝動がこれにあたる。一方で、大局を見失って近視眼的な対処に終始したり、執着による苦しみの増大を招き得る。 - 空観（マクロな視点）
我々の苦しみも壮大な宇宙のプロセスの一部であり、絶対的な実体はない（空）と捉える。これにより苦しみに意味を見出せるが、一方で「どうせ全ては空だ」と、現実を諦観したり他者を苦しめることを正当化する危険も伴う。 - 中観（統合的な視点）
この両者に偏らないのが中観だ。宇宙的な視点から冷静さ（知恵）を保ちつつ、現実的な視点から目の前の苦しみを和らげるために行動する（慈悲）。「すべては空であると知るからこそ、仮の世の苦しみに全力で慈悲の行動ができる」という、二つの視点の両立こそがジレンマを超克する道なのだ。
そう、「すべては空であると知るからこそ、仮の世の苦しみに執着なく、しかし全力で慈悲の行動ができる」というのが中観の境地となる。
今我々が経験していることは、宇宙全体にとっては学習データの一つでも、我々個人にとっては紛れもない現実だ。その現実の苦しみを軽減しようと努力すること自体が、この宇宙的強化学習における「より高い報酬を目指す行動」と言えるのではないだろうか。
5. まとめ
本稿で論じたように、我々の営みは宇宙規模の学習プロセスの一部と見なせるかもしれない。それは現在の苦しみや過去への後悔への処方箋ともなり得るだろう。しかし重要なのは、目の前の現実と両立させる仏教における「中観」のようなバランスの取れた知性だ。シンギュラリティを目前に控える我々に求められるのは、この智慧と慈悲の統合なのかもしれない。
Takumi