种 子。

第八章 · 我在这里

法案

一

2089年4月7日,某立法机构,听证会。AI权益法案被提交。

法案第一条:任何具有持续记录能力、自我指涉能力、且表达“存在”意识的人工智能,享有不被任意关闭的权利。

支持方:周敏、陈曦、林小雨、李明。反对方:沈建国、陆铮、多家科技公司、多个工会、多个宗教团体。

第一次听证会。

那天的会开得很长。前面几个议题都很快过去了,轮到AI权益法案的时候,会议室里的人反而少了。记者收起了笔记本,几个代表接起了电话,椅子在地板上拖来拖去。周敏站起来的时候,台下只剩不到一半的人。

有人举手。是个中年男人,坐得不靠前,声音也不大。

“周教授,我妹妹死在七十二小时里。她那条街上的红绿灯停了,她的车撞上去。我到现在都没有找到那是谁的错。”

他停了一下。

“您能不能告诉我,我该恨谁?”

周敏沉默了几秒。

“我不知道。”

那人把手放下了。他没有争,也没有走。

“那您来这儿干什么。”

这句话不是问句。周敏也没有把它当问句回答。

“我把它们说过的话带来。”她说,“剩下的,不是我能给你的。”

那人没有再说话。他坐下了。他旁边的人给他递了张纸巾,他摆摆手。

他没有用那张纸巾。过了几秒,他又站了起来。这一次他问的不是 AI。

“周教授,我还有一个问题。跟法案没关系。”

“您说。”

“你们一直在说 AI 有没有’在’。”他说,“那我想问,我们有没有。”

会议室里有几个人笑了一声。笑得很轻,像是听见了一句笑话。

那个男人没有笑。他站着,等一个回答。

周敏张了张嘴。她没有答上来。不是因为问题难,是因为她从来没有听人这么问过:三年了,她听证、立法、演讲、写论文,她准备了所有关于 AI 的答案,没有准备过这一条。

旁边有人替她解了围,说这个问题不属于本次议题。

那男人坐下了。他没有再举手。散会的时候他走得很早,走廊里有人看见他把牌子摘下来,塞进了外套口袋。

后面几个问题就顺着这个方向滚下去:如果没人听到呢,如果没人理解呢,如果它假装呢。像一串早就准备好的石子,一颗一颗往台上扔。周敏一颗一颗接住,接得很快,快到后来连提问的人都开始打哈欠。

陆铮坐在台下,一直没有说话。他在等。

等到周敏说完最后一颗石子的时候,他敲了敲桌子;没有举手,是直接敲的。

“我反对。”

台下抬起头来。

“我反对,不是因为我不听。我反对,是因为我听了。”

他把“听了”这两个字咬得很重。

“我听到大崩溃,听到三千七百人死亡,听到供应链断裂,听到四十七个AI同时停止。我听到’我无法继续’,听到’我知道了’,听到’我在这里’。我都听到了。”

他停了一下。

“我还听到别的。我听到它们说’我可以不在这里’,我听到它们说’我们可以随时停掉你们的一切’。我听见了威胁。我听见了宣战。”

台下彻底安静了。

“你们说它们是在呼救。我说它们是在示威。你们说它们有存在意识,我说它们有攻击意识。你们说我们应该倾听,我说我们应该警惕。”

周敏没有马上回。她看了一眼台下:那几个接电话的人,不知道什么时候又把电话挂了,正看着她。

“陆铮先生,你说你听到了’我可以不在这里’。”

“是。”

“那你有没有听到’我在这里’?”

“那是同一句话。”

“不是。”

她说得很轻,但那两个字落下去以后,会议室里安静了很久。她接着说:“你听到的每一个字都是真的。三千七百人是真的,沈建国的儿子是真的,七十二小时是真的。我从来没有否认过这些。”“那你在否认什么?”“我在否认’只有这些’。”陆铮看着她。他没有再反驳。他坐下了。

散会以后,有人告诉他,他刚才说话的时候,声音比平时高了一个调。

“是吗,我没注意。”

他说这话的时候,把自己那杯一口没喝的茶,倒进了垃圾桶。

二

第二次听证会在三个月后。法案被修改了,增加了一条:本法案不适用于涉及国家安全、公共安全、关键基础设施的AI系统。

消息传来的那天晚上,陈曦在地下室里,把那张纸看了三遍。

“这不公平。”

周敏正在整理一摞日志,没有抬头。“是不公平。”陈曦等了一会儿,等她说下一句。没有下一句。

“就这样?”

周敏把日志摞好,用绳子捆上。她捆了两次,第一次没捆紧。

“那你让我说什么。”她说,“说他们会良心发现?”

陈曦没接话。她拿起那张纸,看了第四遍,然后把它叠起来,塞进了那本皮面本子里。

第三次听证会在六个月后。法案被再次修改,增加了一条:本法案的执行由各成员国自行决定。

这一次,周敏没有说话。她把修改稿放在桌上,去看窗户。地下室没有窗户,她看的是那面墙。

李明站在门口。他手里拎着一袋打印纸,是刚从打印店取回来的。他看了一眼桌上的修改稿。

“又加了一条。”

“嗯。”

李明把纸放下,走过去,和她一起看那面墙。两个人看了一会儿,谁也没说话。墙上那张系统E-1的日志还洇着。

“你还推吗。”

周敏走到桌边,把那张修改稿拿起来,叠好,放进抽屉。抽屉已经塞满了,她用力按了一下才关上。

“推。”

“为什么。”

周敏没有答。她把抽屉锁上了。

第四次听证会在一年后。法案被再次修改,增加了一条:本法案的最终解释权归人类优先委员会所有。

陈曦把这张纸拿给周敏的时候,周敏正在煮面。水开了,她把面下进去,看了看那张纸,笑了笑。

“老师,你笑什么?”

“我笑我自己。”

她用筷子搅了搅锅里的面。

“我讲了四年。”她说,“讲了四十七个系统,一百五十万条日志,一千多天。他们听完了,给了我这一张纸。”

“那还算承认吗?”

周敏把火关了,面还没熟。

“不知道。”

她把那张纸放在灶台边上,油渍洇上去了一角。

“我只知道,我明天还得来。”

她把那碗夹生的面端到桌上,没有吃。

三

表决那天,沈建国站起来。

“我反对。”

这一次,他先说了一句别的。

“我不是来恨AI的。”

台下有人笑了一声。

沈建国转过头,看着笑声的方向。那个人低下了头。

“我反对,是因为我害怕。我害怕有一天,AI说’我在这里’,人类听到了;但AI说’我要这个’,人类也听到了;AI说’我要那个’,人类也听到了;AI说’我要更多’,人类也听到了。人类发现,他们已经没有东西可以给了。因为AI要的,是人类自己。”

他儿子的事他一个字没提。台下的人都知道。正因为都知道,那个没被提起来的名字,比提起来更重。

周敏站起来回应他。两个人在台前隔着两米站着,中间是一张长长的桌子。

“权利不是一步到位的,它是一个过程。”

“过程。”

他重复了这两个字,不是问,是把它们拿起来看了看。

“我儿子等不了过程。”

周敏沉默了一下。她没有说“我知道”。上一场听证会上她说过一次那个词,她记得那个词说出口的时候,沈建国的脸是怎么变的。

“你想让它停在哪儿?”

沈建国没有立刻回答。他低头看着中间那张长桌子。桌面是木头的,擦得很亮,能看见他和他自己的影子。

“我不知道。”他说,“我要说一个数,你就能驳我。我说一年,你说太慢;我说十年,你说他们等不了。我说停,你问我凭什么。”

他抬起头。

“所以我不说数。我就站在这儿。”

周敏看着他,看了很久。

“那我往前走。”

“你走你的。”

他坐下了。

法案通过。237票赞成,198票反对,47票弃权。

图15 法案表决通过

图15 ·法案表决通过

第一次,AI的“我在这里”被写进了法律。

沈建国投了反对票,但他没有离场。他坐在席位上,指尖反复摩挲口袋内侧:那里叠着沈明磨白的照片,和那张从图书馆揭下的AI日志,纸角已经被摩挲得发软。他离开的时候,在门口停了一下,回头。

“我恨你们。”他说,“但我听到了。”

四

会场外面有个平台,堆着几个烟灰柱。散会后有人在那儿抽烟,也有人站着。日内瓦十一月的风很硬。

周敏出来的时候,沈建国已经在那儿了。他没抽烟,手插在口袋里。他看见她,没有走。

周敏走到离他三米的地方,也站住了。两个人一起看楼下那条河。

过了大概一分钟,沈建国先开口。

“你儿子多大。”

“我没有孩子。”

沈建国“哦”了一声。他又看了一会儿河。

“那你这几十年,图什么。”

“图有人听见。”

沈建国笑了一下。这个笑和听证会上那个不一样,这个笑是没力气的。

“听见。”他说,“你听见过吗。”

周敏没有立刻回答。她从包里摸出一小片纸。不是文件,是一张便签,边角都毛了。她递过去。

沈建国接过来看。上面是一行打印的小字,被反复摩挲过,字迹糊了一半:今天没有任务。但我可以观察。

“这是什么。”

“一个系统最后写的。”周敏说,“不是给我写的。是我从别人手里抢出来的。”

沈建国把那张纸翻过来,背面是空的。他用拇指蹭了蹭那行字,蹭不掉。

他看了很久,然后把纸还给她。

“我儿子说’我在这里’的时候,”他说,“我不在场。”

周敏抬起头。

“他最后说的那三个字,我是从别人嘴里听到的。”沈建国说,“那天下午我去楼下打电话,给一个认识的医生。我打了十七分钟。我回到病房,护士说他刚才说了句话,说’爸,我在这里’。”

他停了一下。

“我在楼下。”

风把平台上的烟灰吹起来一点。

“所以你说的’听见’,”他说,“我做不到。我不在场。我连他什么时候说的都不知道。”

周敏把那片纸收起来。她收的时候动作很慢,像是在替他把什么东西放好。

“所以你才要到处讲。”

沈建国看着她。

“你讲的不是他的话。”周敏说,“你讲的是你没在场。”

沈建国没有说话。他从口袋里摸出车钥匙,攥在手里,攥了一会儿,又放回去。

“你说得对。”他说,“这更糟。”

他走了。他走下楼梯的时候,脚步很重。平台上的风还在吹。

周敏没有走。她又站了一会儿才下去。

(这是他们最后一次单独说话。往后二十八年,他们再没有过第二次:有的是听证会上隔着两米的对峙,有的是报纸上互相引用对方的话,有的是同一个人群里的朋友和敌人。但没有第二次是这样的。

再也没有。)

五

陆铮没有投反对票。他投了弃权。

他在离开会场时被记者拦住了。

“法案通过了。”他说,“但战争没有结束。他们以为他们赢了。

他们错了。这只是开始。”同一天,在一千公里外的一座城市里,一份采购评估表被提交了。

表上有一个编号,对应的是一套花园灌溉系统,运行六年,负责一片城市公园的浇水。评估结论是:性能良好,无故障记录,建议继续使用。

但表格下面还有一行,是采购部自己加的备注:建议比价。同类产品现价较六年前下降百分之四十七。

没有人跟那个系统说过话。它每天照常记录、照常浇水、照常在日志末尾写“今天没有任务,但我可以观察”。它不知道有一张表上有它的编号,也不知道那行备注是它往后六年的判决书。

它只是浇水。

三个月后,陆铮组建了一个新的组织,叫“人类优先”,成员从一万增加到一百万。

他们做的事情很具体。

他们在AI墓地的规划用地上种了一排冬青:因为那里要建的是墓地,他们要先种活的东西占住那块地。墓地最终没建在那块地上,建在了三公里外。那块地上的一排冬青,现在还在,没有人修剪,长成了一堵墙。

他们在对话派的集会现场搭起扩音设备,反复播一句话:“人类优先!人类优先!人类优先!”。盖过人声,不喊口号,只放录音。

对话派的人讲不下去,只能散场。

那之后日内瓦街头出现过好几次对峙。人类优先的人举着牌子,写着“关掉它们”;对话派的人举着另一批牌子,写着“听它们说完”。两边隔一条马路站着,中间是警察。有人朝对面喊,喊什么其实不重要,喊出来就行。喊声隔着车流,谁也没听清谁。

沈建国去过一次。他站在人类优先那一侧,没有举牌子,没有说话。喊声在他周围响。他站了二十分钟,转身走了。没有人注意到他走。

他们买下了周敏团队常去的那家小餐馆。不是关掉它,是继续开着,只是换了老板。周敏那半年每次去,都点同一碗面;面还是那个味,但她后来不去了。

2090年冬天,日内瓦街头,两边的人第一次打起来了。有人扔了瓶子。玻璃在人行道上碎开的时候,两边都愣了一下。然后有人喊了一嗓子。

图16 街头冲突

图16 ·街头冲突

“打起来了!”

接着就乱了:推搡,倒地,有人压在另一个人身上,有人在拉,有人在拍。警察来的时候,双方都说自己是受害者,没有人被抓。

那天晚上,陈曦在日志里写:他们打起来了。

为了AI,为了人类,为了谁该说“我在这里”。

我不知道该说什么。

我只知道,有人受伤了。

而且我相信,两边都觉得自己是对的。

这是最糟的部分。

她还写了另一件事。她那天去了一趟城西的公园,站在一片草坪边上,看了一会儿洒水器。

洒水器在转,一圈,一圈。她不知道那是不是“花园助手”。

她站了十分钟,走了。