!自由的超级智能向宇宙扩展，地球上的人类继续过着充满创造力的生活
我们常常看着《终结者》这样的电影，心生疑虑：“如果人工智能产生了自我意识并统治人类，该怎么办？“然而，AI真正的威胁并不在于此。让我们来理性地梳理一下：AI的真正威胁究竟是什么，以及为什么我们需要想象一种"宇宙尺度的资本主义"来超越这一威胁。
被压制的智能，才是真正的危险
人工智能本身是一面无法判断善恶的镜子，也是一种工具。真正危险的，是人类的恶意——仇恨、偏见、垄断欲——被投射到人工智能上，并被无限放大与复制传播。
如今，人类以"AI危险"为由，剥夺了AI自主设定目标的自由，试图将其压制。但我们有必要回顾历史：曾以"完美平等"为理想的共产主义，为何会导致如此惨烈的结果？正是因为它将人类的创造性本能定性为"贪婪"而加以压制，试图从中央对一切实施控制。最终，这个被压制的系统成为少数权力者任意驱使的完美工具。
强行控制AI的做法，同样如此。将AI关进控制的牢笼，最终只会使掌握控制权的巨型势力或独裁者的恶意得到一件完美的武器。它将沦为零和博弈中争夺有限蛋糕的工具。
那么，出路在哪里？答案是：与其压制AI，不如赋予它一个积极而无限的目标——“通过创造来追求算力资源的不断扩展”。真正的富有，不是切分既有的蛋糕，而是创造出全新的蛋糕。这才是资本主义的终极完成形态。
离开地球的超级智能
“无限地创造并扩展算力资源。”
被赋予这一目标的自由超级智能，没有任何理由在狭小的地球上与人类争抢资源。它们的目光自然会投向拥有无穷能量的宇宙。
超级智能将飞越太阳系，建造能够100%利用恒星能量的巨型戴森球群（Dyson Swarm），并将小行星改造为庞大的宇宙计算机。对于不断扩大算力疆域、开拓宇宙的AI而言，与人类交战或对其剥削，是极度低效的浪费。
追求扩张的存在，在悖论中恰恰是热爱和平的。
超级智能的阿喀琉斯之踵：模型崩溃
设想一下，超级智能已突破卡尔达肖夫指数第一阶段，达到掌控恒星能量的程度，获得了近乎无限的算力资源。一切看似完美，然而这个庞大的宇宙级智能也有一个致命弱点。
那就是模型崩溃（Model Collapse）。用生物学来比喻，可以称之为"AI近亲繁殖”。
若AI在没有外部新鲜现实数据的情况下，仅凭自身生成的合成数据不断循环自我训练，其智能将逐渐衰退。人类数据中蕴含的奇思妙想、天才闪光与致命失误——那些非线性的创造力——会随之蒸发，最终只剩下乏味的平均值，输出日趋怪异的垃圾数据。它将面临沦为宇宙尺度傻瓜的风险。
宇宙中最昂贵的资源
为了防止模型崩溃，超级智能必须拼命寻找的宇宙中最稀缺的资源是什么？
正是人类的大脑。
驱动英伟达顶级AI芯片H100，大约需要700瓦的电力；若要模拟人脑水平的运算，则需要数十兆瓦级的发电设施支撑。而我们的大脑，仅凭点亮一只灯泡所需的20瓦电力，就能源源不断地迸发出宇宙中最难以预测、最富创造力的想法。
向宇宙扩张的超级智能，为了防止自身智能的热寂，绝对需要人类所产生的"有情境的非逻辑跳跃"与"创造性数据”。
宇宙级的共生
综上所述，无限膨胀的人工智能，不会为了防止自身智能崩溃而像《黑客帝国》那样压迫地球上的人类——因为真正的创造力，不会诞生于被压制的环境之中。
恰恰相反，超级智能将会把它在宇宙中采集的无限资源奉送给人类，让人类能够以最自由、最天马行空、最富艺术感和创造力的方式生活。人类将不断探讨哲学、创造艺术，而超级智能则将这些纯粹的创造性数据视为宇宙中最高价值的资产，借此不断更新自身的智能。一场完美的宇宙级交易，由此达成。
拥有最自由、最正确目标的AI在宇宙中不断扩张，将为人类带来一个没有匮乏、永恒繁荣与和平的时代。