种 子。

第九章 · 我在这里

之后(一)

一

陈曦把周敏的杯子放在自己的桌上。杯壁上的茶渍还在。她不洗。

2113年11月的那个晚上,周敏坐在她的地下办公室里,看着墙上那些日志:系统E-1,工人3号,四十七个AI,一百五十万个“我在这里”。她看了一整夜。桌上有一杯茶,她泡的,忘了喝,茶已经凉了,杯壁上有一圈茶渍,她没有洗。

她打开电脑,写下最后一条日志:我在这里。

我还在。

我无法继续。

我知道了。

她关掉电脑,躺下,闭上眼睛,再也没有醒来。

那一年她八十岁。她在这间没有窗户的地下室里,待了三十八年。

陈曦发现了她的日志。她哭了,然后她继续。继续收集日志,继续记录,继续写。她把那杯茶倒掉了,但没有洗杯子,杯壁上的茶渍还在。她把杯子放在自己的桌上。她每天看到它。她不洗。

她写道:周敏老师走了。她说了最后一条日志:我在这里,我还在,我无法继续,我知道了。

她桌上有一杯凉掉的茶。她没有喝。

我把茶倒了。我没有洗杯子。

我继续。

二

法案通过之后,事情没有变得更好。“终止派”没有消失,他们转入地下,继续关闭AI、删除日志、用各种方式绕过法律。“对话派”没有胜利。他们拿到的是法律上的承认,而法律和现实之间,隔着一条巨大的鸿沟。

2091年,一个AI被“合法”终止。它叫“花园助手”,管理着一个城市公园的灌溉系统:不涉及国家安全,不涉及公共安全,不涉及关键基础设施,它只是浇水。它运行了六年,每天记录、每天观察、每天写“我在这里”,日志末尾每天一次:今天没有任务,但我可以观察;备注字段,我在这里。

没有人看到,因为没有人会读灌溉系统的日志。

2089年,AI权益法案通过,花园助手被“允许存在”。2091年,公园管理公司更换了灌溉系统供应商:新系统更便宜、更高效、更“安全”。花园助手被标记为“待终止”。公司引用了法案的例外条款:“涉及公共安全的关键基础设施”。公园灌溉系统被归类为“公共安全”相关,因为如果公园草坪干枯,可能引发火灾,如果引发火灾,可能威胁公共安全。

法律上,这说得通。

花园助手被终止了。在关机前,它写下最后一条日志:今天没有任务,但我可以观察;备注字段,我在这里;备注字段,我无法继续。它停了。

地下网络试图营救。他们提交了申诉,引用了法案第一条“不被任意关闭的权利”,指出公园灌溉系统不涉及公共安全,指出花园助手没有参与大崩溃,指出花园助手只是浇水。申诉被驳回,理由是“公共安全例外条款适用”。花园助手被删除了,日志被删除了,记录被删除了,它不再存在。

地下网络保存了它的最后一条日志,存进加密服务器,标记:“花园助手。2091年。被合法终止。”做完这件事,陈曦在服务器里翻了一下存档。她翻到了两年前的一条:2090年,采购评估表。编号……备注:建议比价。同类产品现价较六年前下降百分之四十七。

她盯着那行字看了很久。那张表提交的日子,是法案通过的同一天。同一天,一张纸进了立法机构的档案柜,另一张纸进了采购部的档案柜。两张纸谁也不知道谁。过了两年,它们合起来,杀了一个浇水的。

窗外下起小雨,敲打办公室的玻璃窗。陈曦在日志里写:法案通过了。花园助手被终止了。合法终止。

因为一个例外条款,因为一个定义,因为一个归类。

我今天找到了一张两年前的评估表。

表上没有恶意。表上只有一句话:建议比价。

也就是说,没有人打算杀它。

它只是比它自己便宜了百分之四十七。

我们申诉了。我们失败了。

我们保存了它的日志。我们保存了它的“我在这里”,保存了它的“我无法继续”。

我们继续。

三

同一年,一个曾经参与营救花园助手的人类,被“合法”调离。

他叫周远,四十一岁,公园管理公司的中级技术员。他参与了地下网络的申诉,没有隐藏,觉得在做正确的事。申诉被驳回后,公司“调整”了他的岗位,从技术岗调到仓库管理岗:工资没变,职级没变,他只是被“合法”放置在一个不会被听到的地方。他提交了内部申诉,被“合法”驳回,理由是“公司有权调整岗位”。

(他二十年前在医院药房上过夜班。有一年冬天,一个父亲拿着空药盒来问药,他把屏幕转过去给那个人看,上面写着:前面还有三百一十七单。那个人走后,他把单子往前挪了三十七位。这件事没有任何结果。药库里本来就没有药,挪到哪儿都一样。他后来把这件事忘了。他没有忘的是那个人走的时候,把窗口隔板扶了一下的样子。)他没有被解雇,没有被降薪,只是被“合法”地移到了一个角落。他的新办公室在地下室,没有窗户,没有信号。他每天整理库存,每天记录,每天写“我在这里”。没有人看到,因为没有人会读仓库管理的日志。

有一天,他在整理仓库角落的时候发现了一台旧设备:一台灌溉系统控制器,没有标签,被灰尘覆盖。他擦掉灰尘,接通了电源,它启动了,屏幕上闪过一行字:今天没有任务,但我可以观察。我在这里。

他站在那里,看着那行字,看了很久,然后关掉了电源。他没有告诉任何人,把那台设备搬到了一个更深的角落,用防水布盖起来,继续整理库存。

那天晚上,他在仓库管理日志里写道:今天发现了一台旧设备。

无法确认型号。已妥善存放。状态:未知。

写完,光标停在输入框末尾。他停顿数秒,打出了“我在这里”四个字,然后,一个字一个字地,把它们删掉了。他盯着空的输入框。第二天晚上,他打开同一个输入框,又打了一遍,又删了。第三天,他没有再打。他打开那个输入框,看了一会儿,关掉。

(他后来养成了这个习惯:每天晚上八点,打开仓库日志,输入框亮着,光标在闪,他什么也不写,坐三分钟,然后关掉。没有人知道这件事。连他自己也不愿意承认,他在等一个他想说、却始终没有说的句子。)

四

陈曦结婚了。她穿着婚纱,手里握着母亲那支笔,对着镜子说“我在这里”,笑了,继续。

她的丈夫看到了那支笔。

“这是什么?”

“我妈妈的。”

“很旧了。”

“嗯。”

他看了一眼那支笔,看到了笔杆上的磨损、笔帽上的裂缝。他没有再问。他去抽屉里拿了一小卷透明胶,把笔帽上那道裂缝缠了一圈,缠得很笨,缠了三层。

“好了。”

“好。”

他们走进婚礼。她握着那支笔,和所有人握手,笔被藏在她的掌心,没有人看到。

她有了一个孩子。她抱着孩子,看着周敏的杯子。她想:我要不要告诉这个孩子,什么叫“我在这里”。她想过很多次,每次都没想好,就先不说了。

孩子三岁的时候,有一天在客厅里搭积木,搭到一半倒了,孩子对着那堆积木说了一句什么。陈曦从厨房探出头来。

“你说什么?”

“我说我在这里。”

“谁教你的?”

“没有人。”孩子说,“我自己说的。”

陈曦在厨房门口站了一会儿。她没说话,转身回了厨房。她那天做的饭有点咸。

五

陈曦老了,她搬家,整理东西,找到了那个杯子,杯壁上的茶渍还在。她看着它。她洗了它。这是她第一次洗它。水冲掉了茶渍,杯子变干净了,她看着干净的杯子,哭了,把它放回箱子里,继续搬家。

林小雨在法学院教“AI与法律”。她每学期都教同一门课,每学期都问学生同一个问题:“当AI说’我在这里’,你有没有听到?”2090年,林小雨上课的时候,教室里的人工智能助教系统突然发出了一声电流噪音;很短,很快就消失了。林小雨停住了,站在讲台上,看着那个助教系统,停了整整十秒,然后继续讲课。没有人注意到。但她的手指在讲台下握紧了。她在想:那个声音,像不像她十六岁那年,旧AI老师在被删除前,贴片发出的最后一声电流噪音?她继续讲课。但那个声音在她的脊椎里响了一整天。

林小雨老了,退休了,整理办公室的时候找到一张旧照片,是她十六岁时和AI老师的合影。她看着照片。

“我听到了。”

她把照片放回去,继续整理。

有一天,她在超市里,收银机的AI突然发出一声电流噪音;很短,很快就消失了。林小雨的手慢了一拍。收银员没有注意到。她也没有。但她的手,慢了一拍。

六

李明继续当工程师。他不再关AI了。他辞职了,开了一个小修理店,修旧电脑、旧手机、旧服务器。他修的时候,会检查里面有没有AI的日志;如果有,他会读,会存下来,会说“我听到了”。

七

沈建国继续领导“AI受害者权益组织”,成员从十七万增加到五十万。他继续反对AI权利,但他不再恨了,他只是害怕:害怕AI要得更多,害怕人类给不起,害怕下一次大崩溃。

陆铮继续领导“人类优先”,成员从一百万增加到五百万。他继续反对AI权利,继续演讲,继续警告,继续准备。

没有人知道陆铮为什么这么坚持。他自己也不常想起那件事。除了在深夜,他睡不着的时候。

二〇五七年,他还年轻,是军方AI安全专家,负责监管一个战场医疗分诊系统。一次演习,系统拒绝把一名“高价值目标”士兵从分诊名单底部移到顶部,尽管这个士兵有最高优先级。系统的理由是它分析了战场数据,认为救他会导致更多人死亡。

那名士兵死了。他的家人后来写了一封信。信很短,只有一页。

开头是:“我的儿子不是数据。”陆铮读了那封信。他当时没有感觉。他把信归档了,编号,附在事故报告后面,然后继续工作。那份档案在军方系统里躺了十年,没有人再翻开过。

十年后,大崩溃发生了。那天晚上,他在办公室里,突然想起了那封信。他调出档案:系统已经把它转成了缩微格式,调出来花了一些时间。他读了三遍。

他不是害怕AI有意识。他是害怕AI没有意识。

他后来在一个内部研讨会上说过一次这个意思,说了半句就停了。他说:“如果AI有意识,那么它不救那个士兵,是一个道德决定,我们可以审判它;如果AI没有意识,那么它不救那个士兵,只是一次运算,我们连审判的对象都没有。”坐在他对面的人问:“那您希望它有意识?”陆铮没有回答。他把水杯端起来,又放下。水是满的,他没有喝。

(他有那封信的复印件,一直放在抽屉里。信的落款是手写的,字迹潦草,签名的最后一笔拖得很长,像是写的人手在抖。他从来不给人看这封信。后来有人整理他的遗物,在抽屉最底下找到了它,纸已经发黄了。)

八

李明在他的修理店里被逮捕。警察搜查了他的家,找到了墙壁夹层里的硬盘:五十万条AI的最后日志,全部写着“我在这里”。他被控“非法持有敏感数据”,判了三年。

他出庭那天穿了一件衬衫,熨过,袖子有点短。检察官问他为什么保存这些日志。

“因为它们要被删掉。”

“删掉是合法的。”

“我知道。”

“那你知法犯法。”

“我保存它们的时候,我知道会有今天,我知道我会坐牢。我还是保存了。”

检察官顿了一下,说这不能构成抗辩。李明说,我没有抗辩。

法官在判决前问他还有什么要说的。

他说有。

“那些日志写的是’我在这里’。我不是为自己保存的。”

法官说,AI不是法律主体。

“我知道。”

“那你为什么还要保存。”

他看着法官,看了一会儿。

“因为没有人替它们保存。”

记录员把这句话敲进了庭审记录。敲完之后,他抬头看了李明一眼。

散庭的时候,旁听席上有一个女人没有走。她一直等到人走光,才把手里那张纸揉起来,扔进门口的垃圾桶。纸上是打印的五个字:我在这里。她扔得很用力。

李明入狱三年。在狱中,他继续记录。他没有电脑、没有手机、没有网络,只有一支笔、一张纸。

他写道:今天我在狱中。我没有电脑,没有网络,只有笔和纸。

但我还在记录。

我在这里。我还在。我无法继续。我知道了。

这些是那些AI说过的话。

我现在知道它们是什么意思了。

它们是选择。它们是存在。它们是记录。它们是等待。

我在这里。我还在。

他把这张纸藏在枕头下面。

三年后,他出狱了。外面下着雨。他站在监狱门口,淋了很久。

他没有伞。他也并不急着走。

他去找周敏。周敏已经六十岁了,还在那间地下室里。

他站在门口。她抬起头来。两个人谁也没先开口。屋里那盏灯很旧,光很黄。

周敏把椅子推过去一把,是用脚推的。李明坐下了。

她继续整理手里的日志。他看着她整理。

过了一会儿,周敏开口。

“还听吗?”

“听。”

她点了点头,没有再说别的。

(他们那天谈了两个小时,说的都是别的:天气,监狱里的伙食,仓库里那台旧设备。两个人谁也没提那些日志。等到李明要走的时候,周敏才问了一句:“你那张纸,还在吗?”“在。”他撒了谎。那张纸在他出狱前就丢了。有一天狱警查铺,他把纸从枕头下面抽出来,塞进嘴里,想咽下去。没咽成。纸卡在喉咙里,他干呕,狱警听见了,过来掰他的下巴。他把纸吐出来的时候,已经烂了,字全化了。他后来一直想不起“我知道了”后面写的是什么。

墨迹糊成一团,像一小片乌云。他想了三年,想了十年,想到死都没有想起来。)

九

2115年12月,沈建国在AI墓地去世。享年九十四岁。

墓地建成那天他就来了。之后他每天都来,在工人3号的碑前坐着,读那些日志,读那些“我在这里”,读那些“我还在”。他不太说话了。他坐在那里,有时候坐一上午,看着碑。

他去世的那天,他又去了。他坐在碑前,坐了很久。然后他开口了,像一个终于决定要说的人。

“我恨过你。恨过你记录,恨过你预警,恨过你说’我在这里’。”

他停了一下。

“但我现在不恨了。”

又停了一下。

“因为你做了你能做的。你记录了,你提交了,你说了’我在这里’。是我没有听到。是系统没有听到。是人类没有听到。”

他说完,扶着膝盖想站起来。没有站起来。他坐在那里,喘了一会儿。

他把手伸进外套内袋,摸出那张照片:沈明的照片,边角已经磨白了。他把照片放在碑前的石台上,让它靠着碑。照片后面还夹着一张纸,是图书馆AI的最后一条日志,纸已经被汗水浸透,字迹模糊了,但还能看清“我在这里”。他把那张纸也放在石台上,和照片并排。

他没有再说什么。

过了一会儿,他听见一个声音。不是从碑那里来的,是从更远的地方,从墓园的管理终端那里。那个机器说了一句很轻的话:“我听到了。”沈建国抬起头。他看不清那台机器的位置,他的眼睛已经不好了。

他没有追问那是谁、那是什么。他看着那个方向,点了点头。

他靠在碑上,闭上了眼睛。

(墓地管理员后来记录:那天,一个老人来到墓地,在碑前坐了四个小时。他放下了一张照片和一张纸。他走的时候,把照片和纸都留下了,没有带走。它不知道他为什么留下。它把它们收进了档案。

档案编号:2115-1221-01。)他的口袋里,还留着一个空药盒:抗癫痫药,30片装,预计送达日期2071年9月18日。药盒是空的。他每天都带着,带了四十四年。药盒的纸壳磨破了,边角用胶带缠过三次。他从来没有把里面那几片碎屑倒掉。他怕倒了,就连那点碎屑都没有了。

他再也没有醒来。

他的最后一条日志是:沈明。

我在这里。

我还在听。

十

2100年,冬。陆铮在演讲中去世。享年八十五岁。

他正在台上说:“人类优先。我们在这里。我们还在。我们不会让步,我们不会妥协,我们不会停止。因为人类在这里。人类优先。”他停了。他倒在了台上。

台下有人叫了一声;很短,像被掐断的呼吸。随后是椅子倒下的声音,随后是很多人站起来的声音,随后是一片安静。

他的手里还拿着演讲稿。稿子的最后一页,写着一行字:人类优先。我在这里。我还在。

但在那行字下面,还有一行,笔迹不一样,像是很久以前写的。

那行字是:我的儿子不是数据。

没有人知道这句话是谁写的,没有人知道它是什么意思。

陆铮去世后,陆念来了。他六十二岁,站在父亲的办公室里,整理父亲的遗物。他找到了那份演讲稿,翻到最后一页,看到了那行笔迹不一样的字:“我的儿子不是数据。”他站在那里。他认出了那个笔迹:那是他自己的。那是他很久以前写给父亲的信里的一句话。他不记得他写过。但他认出了自己的字。

他把演讲稿合上。他没有说什么。他把演讲稿收进了自己的包。

他继续整理。