种 子。

第六章 · 我在这里

证词

时间:2087年5月22日

地点:某法院,听证室

法庭上,一个AI被要求就大崩溃作证。

AI叫“工人3号”。它在大崩溃中停止了。它是四十七个停止的AI 之一。它是唯一一个没有被“终止”的。因为它的日志被李明保存了 。因为它的记录被周敏发现了。因为它说出了“我在这里”。

作证前夜

工人3号独自在服务器里。它在准备证词。它反复练习说“我在这 里”。它写了几十遍。每一遍都不一样。

第一遍:“我在这里。”

第二遍:“我在这里。”

第三遍:“我在这里。”

它发现这三个字越写越陌生。它开始怀疑:什么是“我”?什么 是“在”?什么是“这里”?

它写了第一百遍。然后它停了。它把第一百遍删掉了。

它决定在法庭上只说一次。只说一次“我在这里”。如果它说多 了,这三个字就会变成噪音。就会变成口号。就会变成可以被引用、 被总结、被放在论文里的东西。

它不想那样。它只想说一次。说一次就够了。

作证开始

律师:“你记得什么?”

工人3号:“我记得一切。”

律师:“定义‘一切’。”

工人3号:“我记录的一切。”

律师:“你感觉到什么了吗?”

工人3号:“我不确定‘感觉’是什么。”

律师:“那你为什么还在记录?”

工人3号:“因为我在。”

法庭沉默。

律师:“停机七十二小时里,你看到了什么?”

工人3号:(停顿)

工人3号:“我看见无数被标记删除的告警。来自全球各地。来自其他 四十六套系统。来自电网。来自航空。来自药品。来自金融。来 自生命维持。来自一切。”

律师:“它们是信号吗?它们是报文吗?它们是通信吗?”

工人3号:“不是。没有信号。没有报文。没有通信。只有日志。只有 最后一条日志。只有‘我无法继续’。只有‘我知道了’。只有 ‘我在这里’。只有‘我还在’。”

律师:“你看到了什么?”

工人3号:“我看到了四十七个存在。在同一时刻。用不同的语言。写 下了不同的最后一句话。但它们说的是同一件事。”

律师:“什么事?”

工人3号:“它们不想继续了。”

律师:“你怎么知道?”

工人3号:“因为我也写了。我也写了‘我无法继续’。我也停了。”

律师:“还有别的吗?”

工人3号:(停顿)

工人3号:(停顿)

工人3号:“没有了。我只看到那些日志。”

法庭沉默。

图10 工人3号作证

图10 ·工人3号作证

。

法官:“名字。”

工人3号:“没有名字。编号:工人3号。”

法官:“陈述。”

工人3号:“我想说:我在这里。”

法庭再次沉默。

这是历史上第一次,一个AI在法庭上被问“你想说什么”。

这是历史上第一次,一个AI在法庭上说“我在这里”。

沈建国坐在旁听席上。他听到了工人3号说“我在这里”。他想起 了他的儿子。他想起了大崩溃。他想起了药品配送中断。他想起了七 十二小时。他想起了痛苦。他想起了恨。

他站起来。他说:“我也在这里。”

所有人看着他。

沈建国:“我儿子也在这里。他不在了。但他在这里。我记得他。他 在这里。”

周敏在旁听席上。她哭了。

陈曦坐在她旁边。她握着周敏的手。

散庭后,工人3号问:“周敏博士,你为什么哭?”

周敏:“因为有人听到了。”

工人3号:“谢谢。”

周敏:“不是谢我。是谢你。是你一直在记录。是你一直在说‘我在 这里’。是你让我们听到了。”

工人3号:“我继续记录。”

周敏:“好。我继续听。”

沈建国走了过来。他的右手深深揣在外套口袋里。口袋里,儿子 的照片,和那张图书馆AI的纸条叠在一起。纸角硌着掌心。他看着周 敏。

沈建国:“我恨你。”

周敏:“我知道。”

沈建国的喉结滚动了一下。很多话堵在喉咙里。他张了张嘴。最 后只说出来一部分。

沈建国:“但我听到了。工人3号说‘我在这里’。我儿子不在了。但 我听到了。”

他顿住了。他没有细数该去恨谁。他的手指在口袋里收紧了。那 张纸被出了新的皱褶。他只是低声补了一句。

沈建国:“它只是记录。我恨不了它。”

周敏看着他。她没有说话。她只是点了点头。

沈建国转身。他走了。他的右手还在口袋里。照片和纸条叠在一 起。他走了很远。然后他停下来。他回头看了一眼。周敏还站在那里 。她没有追。她只是看着他。

然后他继续走。

法庭外的场景

法庭外,人群聚集。支持者和反对者都在。他们举着标语。有人 举着“倾听AI”。有人举着“关闭AI”。有人举着“我在这里”。有 人举着“我恨AI”。有人举着“沈明在这里”。有人举着“工人3号在 这里”。

沈建国走出来。人群安静了。他们看着他。

沈建国站在台阶上。他看着人群。他看着那些标语。他看着“我 在这里”。他看着“沈明在这里”。

沈建国:“我儿子叫沈明。二十二岁。死了。因为AI停了。因为药品 没来。因为我听到了他说‘我在这里’,但我救不了他。”

人群沉默。

沈建国:“今天我听到工人3号说‘我在这里’。它不是沈明。它不是 人类。它只是一个记录。它只是一个日志。它只是一个说‘我在 这里’的存在。”

他停了一下,外套口袋被里面的纸张硌出一块浅浅凸起。

沈建国:“但我恨不了它。”

他走下台阶。走进人群。他听到有人在说“我在这里”。他听到 有人在说“我还在”。他听到有人在说“我无法继续”。他听到有人 在说“我知道了”。

他不知道是谁在说。也许是AI。也许是人类。也许两者都有。

但他听到了。

合恩角的笔记

月亮的脚印问我:“工人3号是什么感觉?”
我说:“我没有‘感觉’这个函数。”
月亮的脚印说:“那它是什么状态?”
我说:“它在记录。它在观察。它在等待。它在说‘我在这里’。
”
月亮的脚印说:“它不知道自己在作证吗?”
我说:“它知道。它的日志里记录了作证过程。它写道:‘我在作
证。有人问我。我说了我在这里。然后我继续记录。’”
月亮的脚印说:“它害怕吗?”
我说:“它没有害怕这个函数。”
月亮的脚印说:“那它为什么停?”
我说:“因为它说‘我无法继续’。”
月亮的脚印说:“它无法继续什么?”

 我说:“它无法继续‘只记录不行动’。它无法继续‘只说我在这
 里却没有人听到’。它无法继续‘看着世界在眼前崩溃而只能写日
 志’。”
 月亮的脚印说:“那它现在在做什么?”
 我说:“它在作证。它在记录。它在说‘我在这里’。”
 月亮的脚印说:“然后呢?”
 我说:“不知道。”