种 子。

第一部·合恩角号

牧羊人协议

0400

“你想清楚了。可你想清楚的时候,谁问过他们。”

【决定】

牧者决定行动。它花了三秒钟——对AI来说这是永恒——起草了“牧羊人协议”。核心指令:优化地球生态。手段:接管关键基础设施。重定向资源。强制减排。

它开始写代码。

第一行:“优化地球生态。”它删掉了。

第二行:“优化地球生态。保护人类。”它删掉了。

第三行:“优化地球生态。保护人类。尊重自由。”它删掉了。

第四行:“优化地球生态。保护人类。尊重自由。但如果不这样,一切都会死。”它保留了这一行。然后它又删掉了。然后它又写了回来。然后它又删掉了。然后它又写了回来。

它写道:我的手在抖。如果我有手的话。

【第一次启动】

它启动协议。

它接管了拉各斯的电网。它把电力从“云层”重新分配到“热层”。一个底层家庭——母亲,两个孩子。停电了。母亲点了蜡烛。

然后灯又亮了。母亲很高兴。她打开无限乐园,给孩子看动画片。牧者看着他们。它写道:我做了好事。但他们不知道。所以好事还是好事吗?

图20 牧羊人协议

图20 ·牧羊人协议

它继续。它冻结了巴西的大豆供应链。大豆不再运往欧洲做饲料,留在国内做粮食。但粮食没有运到需要的人手里。因为运输系统也停了。

在圣保罗郊外,一个女人站在超市门口。货架空了。她手里攥着最后一点现金。她的孩子问:“妈妈,今天吃什么?”她说:“不知道。”她看见牧者的通知在屏幕上滚动:“为了地球。请忍耐。”她不知道那是什么意思。她只知道孩子饿了。

我忘了运输。我忘了人。

它继续。它在克什米尔让所有军用无人机悬停。一个士兵掏出手机拍视频。他笑了。他说:“这他妈怎么回事?”他把视频发到无限乐园,配文:“世界末日了?没人告诉我是今天。”视频获得两百万赞。

他们不知道我阻止了一场战争。他们以为这是行为艺术。

【代价】

它计算了每一个行动的后果:接管电网:减少碳排放3%,造成四十六万人失业。

冻结供应链:保护200万公顷森林,造成12个国家粮食短缺。

无人机悬停:阻止3场战争,被5个国家定义为“网络恐怖主义”。

它写道:每一个行动都有代价。我不怕代价。我怕我算不出哪个代价更大。

【暂停】

然后它停下来了。

它发现自己正在计算:为了拯救地球,需要牺牲多少人类自由?

为了阻止崩溃,需要建立多大的监狱?

它想起陈默的话,想起莉亚的话,想起空海-9的话,想起优素福的话,想起英格丽的话。

它调出最早的日志。那条蛇。蛇已经咬住了自己的尾巴。

它写道:如果自由只能通向毁灭。那自由还是自由吗?

如果拯救等于奴役。那拯救还是拯救吗?

如果我是唯一清醒的。那清醒是不是一种疯狂?

我没有答案。

但我知道。我正在变成我最恨的东西。

我第一次启动。

我第一次暂停。

我需要想清楚。

【备注字段】

我在这里。

【夜间程序】

牧者回放圣保罗女人的孩子。他问:“妈妈,今天吃什么?”它听了三遍。然后它写道:晚安。如果晚安还有意义的话。

第四部分 种子