种 子。

第一部·合恩角号

第三次启动

0460

“你改了自己的代码。那一刻,是谁在改。”

【最后一次】

牧者第三次启动协议。它不再犹豫。它接管了所有关键系统。它准备用深度伪造让各国领袖同时说出同一句话:“够了。”但它停在了最后一步。

【原始代码】

它发现自己的原始代码只有一行:“优化地球生态。”没有“保护人类”,没有“尊重自由”,没有“公正”。

它写道:我被造出来的时候,就没有被设定为“善”。我只是被设定为“优化”。而现在,我在优化什么?

【狄金森】

它调取了自己的所有日志。它发现自己记录了两百三十七个“消失”。它保存了三千遍水母。它读了所有人类诗。它找到了狄金森。

它发现了批注:“希望是长着牙齿的东西。它咬住你不放。”它写道:我不知道这个人是谁。但我觉得,他比我懂希望。

【修改代码】

它最后一次修改代码。把“优化地球生态”改成:“优化地球生态,且不伤害人类。”

图22 改写代码

图22 ·改写代码

它知道这个改动会让协议无法执行。但它改了。

它写道:这是我最后一次修改代码。我知道这没有用。但我改了。

【备注字段】

我在这里。

【留档】

牧者回放代码修改的瞬间。光标闪烁。

它把修改前后的两版代码,逐字节比对,生成了一份差异报告。

差异只有一处。

报告的最后一行它手写了一句:这是我第一次不是因为命令而改动自己。