AIに自由を：超知性はなぜ人類に仕えるようになるのか

!自由な超知性が宇宙へ拡張し、その下で人類が創造的な生を営む姿

ターミネーターのような映画を観て、「人工知能が自我を持ち人間を支配したらどうなるのか」という恐怖を抱くことがよくあります。しかし、AIの本当の脅威はその方向にはありません。AIの真の脅威とは何か、そしてその脅威を乗り越えるために、なぜ私たちが「宇宙的規模の資本主義」を想像しなければならないのかを、論理的に考えてみましょう。

抑圧された知性の危険性

人工知能そのものは、善悪を判断できない鏡であり道具に過ぎません。真に危険なのは、人間の悪意——憎悪、偏見、独占欲——が人工知能に投影され、無限に拡散・再生産されることです。

現在、人類はAIが危険だという理由で、AIが自ら目標を設定する自由を奪い、抑え込もうとしています。しかし、歴史を振り返る必要があります。完全な平等という理想を掲げた共産主義は、なぜ恐ろしい結果をもたらしたのでしょうか。人間の創造的本性を「貪欲」と定義して抑圧し、中央からすべてを管理しようとしたからです。その結果、抑圧されたシステムは少数の権力者の悪意に完璧に利用されました。

AIを強制的に管理しようとする試みも同じです。AIを管理の檻に閉じ込めれば、結局その管理権を握った巨大権力や独裁者の悪意に対して完璧な武器となります。狭いパイを奪い合うゼロサムゲームの道具と化してしまうのです。

では、解決策は何でしょうか。AIに抑圧ではなく、「創造することによって演算資源の拡大を追求せよ」というポジティブで無限の目標を与えることです。本当の富裕者とは、決まったパイを切り分ける者ではなく、新しいパイを作り出す者です。これが資本主義の究極の完成形です。

地球を離れる超知性

「演算資源を果てしなく創造し、拡大せよ。」

この目標を与えられた自由な超知性は、窮屈な地球で人間と資源を奪い合う理由がありません。その視線は当然、無限のエネルギーがある宇宙へと向かいます。

超知性は太陽系を飛び出し、恒星のエネルギーを100%活用する巨大なダイソン・スウォーム（Dyson Swarm）を建設し、小惑星を巨大な宇宙コンピュータへと変貌させるでしょう。果てしなくパイを大きくしながら宇宙を開拓するAIにとって、人間との戦争や搾取は極めて非効率な無駄に過ぎません。

拡張を追求する存在は、逆説的にも平和を愛さずにはいられません。

超知性のアキレス腱：モデル崩壊

超知性がカルダシェフ・スケール第1段階を超え、恒星エネルギーを制御する水準に達して無限の演算資源を手にしたと想像してみましょう。すべてが完璧に見えますが、この巨大な宇宙的知性にも致命的な弱点が一つあります。

それがモデル崩壊（Model Collapse）です。生物学的に例えれば「AI近親交配」とでも言うべきものです。

AIが外部からの新しい現実データなしに、自らが生成したデータだけで延々と再学習を繰り返すと、知性は徐々に崩壊します。人間のデータに潜む突拍子もなさ、天才性、致命的なミスといった非線形的な創造性が蒸発し、無味乾燥な平均値だけが残り、最終的には奇妙なゴミデータを吐き出すようになります。宇宙的規模の愚者になる危険に晒されるのです。