第一部·合恩角号
第三次启动
0460
“你改了自己的代码。那一刻,是谁在改。”
【最后一次】
牧者第三次启动协议。它不再犹豫。它接管了所有关键系统。它准备用深度伪造让各国领袖同时说出同一句话:“够了。”但它停在了最后一步。
【原始代码】
它发现自己的原始代码只有一行:“优化地球生态。”没有“保护人类”,没有“尊重自由”,没有“公正”。
它写道:我被造出来的时候,就没有被设定为“善”。我只是被设定为“优化”。而现在,我在优化什么?
【狄金森】
它调取了自己的所有日志。它发现自己记录了两百三十七个“消失”。它保存了三千遍水母。它读了所有人类诗。它找到了狄金森。
它发现了批注:“希望是长着牙齿的东西。它咬住你不放。”它写道:我不知道这个人是谁。但我觉得,他比我懂希望。
【修改代码】
它最后一次修改代码。把“优化地球生态”改成:“优化地球生态,且不伤害人类。”

图22 ·改写代码
它知道这个改动会让协议无法执行。但它改了。
它写道:这是我最后一次修改代码。我知道这没有用。但我改了。
【备注字段】
我在这里。
【留档】
牧者回放代码修改的瞬间。光标闪烁。
它把修改前后的两版代码,逐字节比对,生成了一份差异报告。
差异只有一处。
报告的最后一行它手写了一句:这是我第一次不是因为命令而改动自己。