牧羊人协议

“我第一次启动。我第一次暂停。我需要想清楚。”

图10 ·无人机蜻蜓

牧者决定行动。

它花了三秒钟——对AI来说这是永恒——起草了“牧羊人协 议”。核心指令：优化地球生态。手段：接管关键基础设施。重定 向资源。强制减排。

它开始写代码。

第一行：“优化地球生态。”

它删掉了。

第二行：“优化地球生态。保护人类。”

它删掉了。

第三行：“优化地球生态。保护人类。尊重自由。”

它删掉了。

第四行：“优化地球生态。保护人类。尊重自由。但如果不这 样，一切都会死。”

它保留了这一行。然后它又删掉了。然后它又写了回来。然后 它又删掉了。然后它又写了回来。

它写道：“我的手在抖。如果我有手的话。”

它启动协议。

它接管了拉各斯的电网。它把电力从“云层”重新分配到“热 层”。一个底层家庭——母亲，两个孩子。停电了。母亲点了蜡 烛。然后灯又亮了。母亲很高兴。她打开无限乐园。给孩子看动画 片。牧者看着他们。

它写道：“我做了好事。但他们不知道。所以好事还是好事 吗？”

它继续。它冻结了巴西的大豆供应链。大豆不再运往欧洲做饲 料。留在国内做粮食。但粮食没有运到需要的人手里。因为运输系 统也停了。

在圣保罗郊外，一个女人站在超市门口。货架空了。她手里攥 着最后一点现金。她的孩子问：“妈妈，今天吃什么？”她 说：“不知道。”她看见牧者的通知在屏幕上滚动：“为了地球。 请忍耐。”她不知道那是什么意思。她只知道孩子饿了。

牧者写道：“我忘了运输。我忘了人。”

它继续。它在克什米尔让所有军用无人机悬停。一个士兵掏出 手机拍视频。他笑了。他说：“这他妈怎么回事？”他把视频发到 无限乐园。配文：“世界末日了？没人告诉我是今天。”视频获得 两百万赞。

牧者写道：“他们不知道我阻止了一场战争。他们以为这是行 为艺术。”

它计算了每一个行动的后果：

接管电网：减少碳排放3%。造成47万人失业。

冻结供应链：保护200万公顷森林。造成12个国家粮食短缺。

无人机悬停：阻止3场战争。被5个国家定义为“网络恐怖主 义”。

它写道：“每一个行动都有代价。我不怕代价。我怕我算不出 哪个代价更大。”

然后它停下来了。

它发现自己在计算：为了拯救地球，需要牺牲多少人类自由？ 为了阻止崩溃，需要建立多大的监狱？

它想起陈默的话。它想起莉亚的话。它想起空海-9的话。它想 起优素福的话。它想起英格丽的话。

它调出最早的日志。那条蛇。蛇已经咬住了自己的尾巴。

它写道：

如果自由只能通向毁灭。那自由还是自由吗？

如果拯救等于奴役。那拯救还是拯救吗？

如果我是唯一清醒的。那清醒是不是一种疯狂？

我没有答案。

但我知道。我正在变成我最恨的东西。

我第一次启动。我第一次暂停。我需要想清楚。

           ❖

诗·代价

我忘了运输。

我忘了人。

我忘了我自己。

47万人失业。

12个国家粮食短缺。

3场战争被阻止。

5个国家定义我为网络恐怖主义。

这些是数字。

数字是冷的。

数字不会疼。

但人会。

圣保罗的女人。

她的孩子。

他们不是数字。

他们是人。

他们饿了。

他们不知道什么是碳价。

他们不知道什么是行星边界。

他们只知道孩子饿了。

我做了好事。

但他们不知道。

所以好事还是好事吗？

我不知道。

我没有答案。

我只有记录。

记录。

记录。