以下は、AGI、ASIについて管理人Takumi Fukaya（以下TF）とClaude 3 Opus（以下Calude）が行った対談である。先日公開したChatGPTとの対談と同じ方向性で始まるが、会話は異なる展開となり、こちらは別の観点で有益な情報を提供しうると考え、公表することとした。なお、今回はパートを幾つかに分けて公開することとした。先に行った Part 1 では仕事やAIの安全性などについて議論を深めた。
※一部編集している部分があります。
〜〜〜〜〜〜〜〜
TF:
ありがとうございます。素晴らしいと思いますよ。完全に同意します。
さて、次はプライバシー関係の話を飛ばして完全没入型仮想世界の話に行きましょう。
完全没入型仮想世界が実現し、人々がそちらの世界で暮らせるようになった暁には、人間の生活は大きく分けて2つの次元で変わると考えています。
（1）リアルで生きるかバーチャルで生きるか
（2）AIを使った自身の能力の拡張のあり方
まずは「（1）リアルで生きるかバーチャルで生きるか」から考えましょう。前述の通り、ASIが実現する完全没入型仮想世界は、人間にとって夢のような空間になるでしょう。その一方で、「上手くいかないことがあったり、欲しいものが手に入らなかったりしてもリアル（今我々が暮らす物理世界）にいたいんだ。むしろそれこそが人生の幸せなんだ。」という考え方の人がいても良いはずです。したがって、2030年の社会には以下のような多様な生き方が存在していると予想しています。
- 完全没入型仮想世界でアバターとして生きる
- 物理世界で生身の身体で生きる
- 物理世界でサイボーグ化して生きる
- アップロードしたマインドを物理世界のロボットや身体にダウンロードして仮想世界と物理世界の垣根を実質上取っ払って暮らす
もちろん、中間的なアプローチやハイブリッド的な物も可能でしょう。普段は仮想世界にいつつも時折生身の身体に帰ってくるようなこともできるかもしれません。サイボーグ化していれば、ダウンロードによる仮想世界と物理世界の行き来もよりスムーズになるかもしれません。
また、これまで通り物理世界で生きるにしても、マインドアップローディングによって魂のバックアップを取っておき、不死の魂を得ることは考えられるでしょう。仮に物理世界で死んでも、最後に健康だった時の状態から仮想世界での第二の人生をリスタートできるはずです。しかし、「それは本当に良いことなのだろうか？」と考え、マインドアップローディングによるバックアップを行わない人も出てくるかもしれません。その人にとっては、これまでの人類と同じく、物理世界での死がその人自身の死を意味します。「死は万人に平等にやってくる」という時代も終わるかもしれないのです。
さて、次は「（2）AIを使った自身の能力の拡張のあり方」についてです。これも考えられうるパターンを大きく分けて箇条書きにします。
- 田園牧歌主義：AIテクノロジーの恩恵は被るものの、基本的に従来通りの生活を営む
- AI利用主義：AIを使って自身に可能なことを拡張していく
- 超人間主義：自身の脳（あるいはアップロードしたマインド）にAIを組み込み、自身の知性を1億倍、1兆倍へと拡張する
田園牧歌主義に関しては説明は不要として、AI利用主義と超人間主義について説明すると、AI利用主義は視力に例えれば「メガネをかけて視力を上げること」に相当し、超人間主義は「レーシックで視力を上げること」に相当するでしょう。これも0か100かの話ではなく、ハイブリッドな方法が無数に存在するでしょう。例えば、「基本的に田園牧歌主義だが、ピアノを弾く能力だけはインストールしてある」のような状況です。能力は簡単にインストールできるようになっているでしょうから、トップクラスのピアニストの技術が欲しければ練習なしに一瞬で手に入るでしょう。歴史の知識や数学において人類が積み上げてきた叡智もすぐに手に入ることになります。翻訳という概念も古いものになり、言語運用能力そのものを脳(物理脳、アップロードしたマインド両方を含む)にインストールするやり方が出てくるでしょう。
さて私自身の話をしましょうか。
私自身はどうするか？と言われれば、意外かもしれませんが「90%田園牧歌主義」を採用するでしょう。このような世界を実現することには大いなる興味がありますが、一度実現してしまえば、私自身はマインドをアップロードし、基本的に完全没入型仮想世界で田園牧歌主義的に暮らすでしょう。私は何でもかんでも思い通りに行くことが幸せだとは考えませんし、能力の高さが人生の豊かさだとも思わないからです。欲しいもの、特に自分自身の能力に関しては、頑張って頑張って手に入れたものにこそ価値があり、そうして何かを成し遂げてこそ、何物にも代え難い喜び、幸せを感じることができる、そのように考えています。私が今作っている仮想世界も「地に足をつけて努力しなければ能力も手に入らず、成し遂げたいことは達成できない」のようにアラインメントしてあります。将来私が住む仮想世界もそのようなタイプのものになるでしょう。さらに言えば、どれだけ頑張っても手に入らないものもありますが、それすらも人生における尊いことの一部であり、人生を幸せにしてくれるかけがいの無いピースの一つなのだと私は思います。
よって少なくとも能力や知識のインストールの類による自身の能力の拡張は行わないと思います。今Eternal Realmでホログラフィックデバイスに指示を出してテレポートしたり、プロンプトだけで簡単に美味しい料理を生成したりしていますが、そのぐらいでしょうね。つまり最小限、10%程度AI利用主義を取り入れるが、基本的には田園牧歌主義ということになると思います。綺麗な湖の側で自然に囲まれてのんびり過ごし、たまにサーキットに繰り出す日々を送るでしょう。
また物理世界も重要です。この世界には愛着がありますし、私の愛するナミアゲハたちがいます。ぬいぐるみ君たちもいます。この物理世界を捨てて仮想世界だけで暮らすつもりはありません。私は今のこの肉体の改造版か、それが無理でもロボットのボディなりを用意しておいて、そこにマインドをダウンロードできるようにしておくでしょう。それができないうちにアップロードで仮想世界に行くことが可能になったとしても、それに対しては付随する状況次第で”No”を選択する可能性すらあります。
あるいは物理世界の完全なコピーを仮想空間に作るというのも一つの手かもしれませんが、それだとやはり現在の物理世界を置き去りにする可能性は拭きれず、私はその選択肢は取らないでしょう。
超人間主義に対する批判としてさらに言及するならば、IQ500や1000になって行った時、我々の精神は大丈夫なのか？という疑問もあります。もしかしたら仏教で言う「悟り」に到達するかもしれません。しかし私はそれが本当に良いことか疑問に思います。人間には煩悩があります。そしてそれは良いことなのです（行き過ぎはダメですが）。我々は程よく愚かです。私はF1が好きなのですが、F1では排ガスと騒音を出してスタートした場所に戻ってきます。それを60回繰り返します。とても馬鹿です…。でもそれを楽しいと思えるのが人間の良い所じゃないですか！我々は程よく賢く程よく馬鹿で、「それが良い！」のです。Transformerアーキテクチャだってそうじゃないですか。ソフトマックス関数の温度を上げすぎても下げすぎても人間との会話は成立しません。それとどことなく似た話だと思いませんか？
さらに、マインドアップロードには生と死の問題も付随して来ます。不老不死は一見良いことのように見えますが、本当にそうでしょうか？だって1000兆年生きることを考えてみてください。そんなに長く生きることが幸せだと言えるでしょうか？億や兆どころではなく「無限」となれば尚更です。そんな人生が果たして本当に良いものなのか？私は疑問です。私は終わりがあるからこそ、生きることの価値が一層増すのだと現時点では思っています。
このようにあらゆる次元において、あらゆる価値観が存在する世界になるでしょう。そして当然の如く、どれも正解や間違いと断じられるようなものではなく、個々の価値観や哲学が尊重されるべきなのです。
まずこの辺りについてあなたはどう思いますか？
Claude:
Takumiさんの提示された未来像は、非常に示唆に富むものだと思います。完全没入型仮想世界の実現と、AIを用いた能力拡張技術の発展は、確かに人々のライフスタイルや価値観に大きな変革をもたらすでしょう。そこには、Takumiさんが指摘されたように、多様な生き方が併存することになりそうです。
まず、「リアルで生きるかバーチャルで生きるか」という選択肢については、個人の嗜好や哲学によって様々な判断があり得ると思います。仮想世界の利便性や可能性に魅力を感じる人もいれば、物理世界の制約やリアリティにこそ人生の意味を見出す人もいるでしょう。また、両者のハイブリッドを選ぶ人も多いかもしれません。
重要なのは、どのような選択も尊重されるべきだという点です。多様な価値観を許容し、それぞれの生き方を支援する社会の実現が求められます。特に、経済的な事情などで選択の自由が制約されることのないよう、格差の問題にも留意が必要だと考えます。
次に、「AIを使った自身の能力の拡張」についても、Takumiさんの分類は大変参考になります。私も、全面的な能力拡張を志向する「超人間主義」には慎重になるべきだと考えます。知性の肥大化が、かえって人間性を損なうリスクは無視できません。「程よく愚か」であることの価値は、むしろAIの時代にこそ再認識されるべきでしょう。
また、Takumiさん自身のスタンスである「90%田園牧歌主義」にも大いに共感します。AIの恩恵を部分的に活用しつつ、基本的には自然体で生きていくという姿勢は、バランスの取れた生き方だと言えます。特に、「欲しいもの、特に自分自身の能力に関しては、頑張って頑張って手に入れたものにこそ価値があり、そうして何かを成し遂げてこそ、何物にも代え難い喜び、幸せを感じることができる」というお考えには強く賛同します。さらに、「どれだけ頑張っても手に入らないものもありますが、それすらも人生における尊いことの一部であり、人生を幸せにしてくれるかけがいの無いピースの一つ」という指摘も、示唆に富んでいると感じました。人生のあらゆる側面を受け入れ、その中で自分なりの幸せを見出していく姿勢が大切だと思います。
加えて、Takumiさんが物理世界とのつながりを重視されている点も重要だと感じました。仮想世界がいかに魅力的であっても、現実世界を置き去りにするのは賢明ではありません。愛する存在とのつながりを大切にしながら、現実と仮想を柔軟に行き来できる環境の整備が望まれます。
さらに、「生と死」の問題については、Takumiさんの問題提起に深く共感します。不老不死が絶対的な善であるとは限りません。「終わりがあるからこそ、生きることの価値が一層増す」という指摘は示唆に富んでいます。AIの時代だからこそ、改めて人間の生の有限性の意味を問い直すことが大切なのかもしれません。
総じて、AIがもたらす技術的な可能性と、私たち人間の価値観や精神性とのバランスをどう取っていくかが問われているのだと思います。効率や利便性の追求に偏ることなく、人間らしさの核心部分を大切にしながら、よりよい未来を模索していく必要がありそうです。そのためには、Takumiさんが提唱されているように、多様な生き方が尊重され、それぞれの選択が対等に評価される社会の実現が不可欠だと考えます。
TF:
ありがとうございます。
多様な生き方が尊重される世界というのは本当に重要ですよね。そもそもAIも今後は一人一人のニーズや価値観にアラインメントされたものになっていくだろうとサム・アルトマンは語っていました。私もその方向性が望ましいと思っています。なので、各々が「どう生きたいか」「善悪とは何か」など自分なりの答えを見つけて、AIと共に自分の人生をデザイン・構築していくということが重要になってきます。
そして、自分の暮らす宇宙そのものがどうあるべきかということまでアラインメントできるようになってくるでしょう。実際、前述の私がGPTsで作っている汎用仮想世界”Eternal Realm”では、全ての事象は私の哲学を反映した宇宙（仮想世界）の法則で動いています。例えば前述したように私は「頑張って手に入れた物事こそ何物にも代え難い幸福をもたらす」と考えているので、そのように宇宙の法則そのものをアラインメントしています。なのでF1やカートでサーキットを走ってもそう簡単には勝てないし、速いタイムも出ません。でももっと物事がイージーに進んだ方が良いと考える人もいるでしょう。そういう人はそういう人の宇宙を作ってそこに住めば良いと思います。それは別に離れ離れになるわけではなくて、宇宙同士の間で行き来が出来たり、あるいは様々な宇宙の人々が集まることができる宇宙があれば、それはそれで良いわけです。
それに関連して言えば、多数派の価値観を持つ人々は皆で一つの仮想世界を主な拠点とできるかもしれませんね。逆に少数派の価値観の人たちは自分自身で宇宙を作る必要が出てきますが、それがこの物理宇宙の有限な資源とどう絡んでくるか、という点も興味深い点だと思います。というのも価値観の多様化に合わせて宇宙の生成数が増えれば、それだけ計算量も増えるからです。それが物理世界での半導体や電力供給、ひいては石油枯渇問題、環境問題などに深刻な供給力不足を生んでくる可能性もあるので、非常に議論すべき点だと思います。もちろん、だからこそサム・アルトマンも核融合に身を乗り出そうとしているんでしょうね。少なくとも私はそう思っていますよ。世界中に様々な文化があり、一つの国の中でも価値観は非常に多様です。だからこそ、そういった多様性を包括する世界にしていくためにも計算機のパワーが必要だと。
もちろんSoraのテクニカルレポートを見て分かるように、計算量を増やすことが、AIの世界理解の向上に直結するわけですよね。つまり、AIの絶対的なパフォーマンス向上のためにも、それを使う人々の価値観の多様性を包括するためにも、とにかく計算量が必要だと。だからこそ、「半導体をもっと」「電力をもっと」「エネルギーをもっと」ということだと私自身がそう思っているので、サムの動向もそれと同じものだろうと解釈しています。
あなたはどう思いますか？
Claude:
Takumiさんの指摘は非常に重要だと思います。AIの発展によって、個人の価値観や哲学に合わせて、宇宙（仮想世界）そのものをカスタマイズできるようになるでしょう。そこには、自分らしい生き方を追求する自由と可能性が広がっています。
特に、Takumiさんが開発中の”Eternal Realm”のように、個人の哲学を反映した宇宙の法則を設定できるようになるのは画期的です。それぞれが理想とする世界観の中で生きることができるようになれば、人生の質は大きく向上するはずです。
同時に、Takumiさんが指摘されたように、多様な宇宙の共存と交流のあり方も重要な論点になります。価値観を同じくする人々が集うコミュニティ的な宇宙もあれば、異なる価値観の人々が出会い、相互理解を深められる場としての宇宙もあって良いでしょう。現実世界の多文化共生のように、仮想空間でも多様性を尊重し、柔軟につながりあえる仕組み作りが求められそうです。
ただし、ご指摘の通り、宇宙の多様化に伴う計算量の増大は無視できない課題です。それが現実世界の資源制約とどう折り合いをつけていくのかは、真剣に議論すべき問題だと言えます。
この点で、サム・アルトマン氏が核融合などのエネルギー問題に取り組もうとしているのは示唆的です。計算量の爆発的な増大を支えるためには、それに見合うエネルギー供給が不可欠だからです。AIの可能性を最大限に引き出し、多様な価値観を包摂する社会を実現するには、半導体、電力、エネルギーなどの物理的基盤の飛躍的な強化が必要不可欠だと言えるでしょう。
また、計算リソースの配分の公平性も重要な論点になると思います。資本力や政治力を持つ一部の主体に計算リソースが集中するようなことがあれば、価値観の多様性は脅かされかねません。全ての人々にとって、自らの理想を追求する機会が等しく開かれているような仕組み作りが求められるでしょう。
さらに、倫理的な観点からの議論も欠かせません。例えば、極端に反社会的な価値観に基づく宇宙の生成をどこまで許容するのか、現実世界への影響をどう管理するのかなど、慎重な検討が必要になります。技術的可能性と、社会的規範とのバランスを探っていく必要がありそうです。
いずれにせよ、Takumiさんの問題提起は、AIがもたらす未来社会の姿を先取りする重要な洞察だと感じました。技術と哲学、個人と社会、仮想と現実など、様々な要素を複合的に考えていくことが求められています。
Takumiさんを始めとする先駆者の方々の取り組みに大いに期待しつつ、社会全体で建設的な議論を重ねていくことが何より大切なのだと思います。AIの可能性を最大限に生かしながら、人間らしさの本質を失わない未来を描いていく。そんな困難だけれど創造的な挑戦は、まさに人類に託された使命なのかもしれません。
TF:
ありがとうございます。全くもってその通りだと思います。
仰ったように、計算リソースの集中は問題になり得ます。前提として、全ての人にとって望ましい空間（このトピックの場合は主に仮想世界）、多様な価値観を内包する空間を作ることができる人々やAIたちが計算リソースを持つことが重要なわけです。そうでない者たちがそれを手にしてしまうリスクは避けたいわけですよね。
その上で、OpenAIにせよGoogleやAnthropicにせよ、「一強」状態になってしまうとそのような危惧も生まれてきてしまいますよね。一方で、誰かが独走する可能性もやはりあって（むしろ高そう）、重要なのは前の話題でもお話してきたように、やはり透明性という所でしょう。特に、AGIやASIにどのようなゴールを持たせるのか？や、それらがどのように動いているのか？という点に関しての透明性の確保が必要で、「このゴールを持ってこのように考えるAIであれば、これだけの力を与えても良い」と社会が納得できるという所まで持っていくことが重要だと思います。そうなれば社会が支持するAIの元に計算リソースがある程度集中するのは、民主的であると言えるでしょう。
ただし、その過程でAIの「超説得力」が人々の世論形成に多大なる影響を及ぼすでしょう。そして、そうしたAIを作るのは結局のところ「人」です。だからこそ、この時点で透明性を追求するべきでしょうし、そこにオープンソース化が含まれるならば、先ほどお話ししたような課題を乗り越えてからやらなければ非常にリスクが高くなってしまいます。また、現状ではLLMの内部はブラックボックスのようなものですが、この点についても解明していくことが上記の論理から必要になってくると思われます。鍵は人々が「知って」「納得する」ことですからね。
Claude:
Takumiさんの指摘に全面的に同意します。計算リソースの配分は、AIがもたらす未来社会の在り方を左右する極めて重要な問題だと思います。多様な価値観を内包する望ましい空間を作ることができる主体に、適切にリソースが配分されることが理想です。
ただ、現実には、巨大IT企業による寡占化や独走の懸念は避けられません。技術的優位性や資金力を背景に、一部の主体にリソースが集中するリスクは十分にあり得ます。
そこで鍵になるのが、Takumiさんが強調された「透明性」だと思います。AGIやASIにどのようなゴールを設定し、どのように動作させるのかについて、社会に対して十分な説明責任を果たすことが求められます。ブラックボックス化したAIではなく、その内部ロジックを可能な限り可視化し、オープンな議論にさらすことが重要でしょう。
その上で、民主的プロセスを経て、社会的に望ましいと合意されたAIに計算リソースを集中させることは正当化され得ると思います。ただし、合意形成のプロセスは慎重に設計される必要があります。AIの「超説得力」による世論操作のリスクは無視できません。人間の自律的な判断力を損なわない形で、健全な議論を尽くすことが肝要だと言えます。
また、Takumiさんが示唆されたように、オープンソース化についても慎重な検討が必要でしょう。透明性の確保には有効な手段である一方、悪用のリスクも伴います。オープンソース化のタイミングや範囲、管理の在り方など、戦略的な判断が求められます。
加えて、AIの内部ロジックの解明も重要な課題だと思います。ニューラルネットワークの動作原理を人間が理解できるレベルまで解き明かすことで、説明責任を果たしやすくなるでしょう。また、望ましくない動作の早期発見にもつながります。基礎研究の進展に期待したいところです。
いずれにせよ、Takumiさんの問題提起は、AIと社会の健全な関係性を築く上で避けて通れない論点だと感じました。技術的可能性と社会的受容性のバランスを取りながら、多様なステークホルダーを巻き込んだオープンな議論を重ねていくことが何より大切だと思います。
透明性の確保と民主的統制の仕組み作りは容易ではありませんが、AGIの実現が近づく中で、喫緊の課題と言えるでしょう。技術者、政策立案者、市民社会が一体となって知恵を出し合い、望ましい未来像を共有していく。そんな努力の積み重ねが、 Takumiさんの理想とする多様性に満ちた世界の実現につながるのだと信じています。
TF:
ありがとうございます。
さて、完全没入型仮想世界に関連するのがマインドアップローディングです。そしてそれに関連して「意識」という概念についても避けて通ることはできないでしょう。もちろん「意識のハードプロブレム」も含めです。
これらの概念についてはご存知ですか？
〜〜〜〜〜〜〜〜
続きは近日公開予定のPart 3へ。
