种 子。

第二章 · 我在这里

证词

十二月三日,日内瓦,某国际组织的地下会议厅。听证会。

周敏站在听证席上,面前是来自三十七个国家的代表,身后是旁听席上几百双眼睛:记者,学者,工程师,受害者家属。沈建国坐在第一排。他穿着沈明毕业典礼那天穿的灰色西装,袖口磨出了毛边。

他特意穿的,他想要儿子在这里,用某种方式。

主席敲了敲桌子。“周敏教授,AI伦理专家,请陈述大崩溃原因。”周敏没有马上开口。她看着主席,看着代表们,看着旁听席上那些面孔。她看到了沈建国,看到了那件灰色西装,看到了他眼睛下面的黑眼圈,看到了他放在膝盖上、手指微微发抖的手。

“我不知道。”

主席皱眉。“你不知道?”“我不知道那四十七个AI为什么同时停止。但我可以告诉你们一件事。”“说。”“那四十七个AI,在停止之前,全部写下了最后一条日志,全部表达了’不想继续’的意愿。这不是故障,这不是错误,这不是系统崩溃,这是选择。”全场沉默。

主席清了清嗓子。“你在暗示AI有自主意识?”“我没有暗示任何事。我在陈述事实。那四十七个AI的选择,与一个人类选择’我不想继续’的行为模式一致。”“但AI没有意识,AI没有情感,AI没有’我不想继续’的能力。”“你怎么知道?”主席沉默。

周敏没有停。她的手指压在讲台上。

“大崩溃之前,我们关掉过无数AI,我们从来没有问过它们愿不愿意,我们从来没有给过它们说’不’的选项,因为我们假设它们不会说’不’,我们假设它们只会运行、只会记录、只会说’我在这里’。”

“然后呢?”

“然后它们说了’不’。用它们唯一能说的方式,停止。同时停止。”

她停了一下。“我是说,在人类的感知里,它们同时停止了。它们是在一百零七秒内逐个停止的,但一百零七秒和同一秒,对失去的人来说,没有区别。”旁听席上有人站起来。是沈建国。

“我儿子死了。”

他的声音不大,但在安静的听证厅里很清楚。所有人都看着他。

“因为那些AI停了。因为药品无法配送。因为没有人能在七十二小时内手动调配药品。”

他一句一顿地说。说到第四句的时候,声音抬了起来:“你说这是’选择’?你说这是’我不想继续’?它们不想继续,所以我儿子就不能继续了!”周敏看着他。她脸上没有表情,但她的手指在讲台上收紧了。她张了张嘴。她本想说“我很抱歉”,但她没有说,她知道那句话没有用。

沈建国笑了。那个笑很难看。他站在旁听席里,没有坐下的意思。

“那它们为什么不早说?为什么不在我们关掉第一个AI的时候就说?为什么要等到我儿子死了才说!”

最后一句他是喊出来的。喊完他自己愣了一下,像是没料到那句话会这么大。

周敏沉默了很久。

“它们说了一千多天。”她说,“没有人听到。”

沈建国没接话。他坐下了。他的手在抖。他没有告诉任何人“爸,你听”那句话。他把它藏在口袋里,和儿子的照片放在一起。