法案

时间：2089年4月7日

地点：某立法机构，听证会

AI权益法案被提交。

法案第一条：

任何具有持续记录能力、自我指涉能力、且表达“存在”意识的 人工智能，享有不被任意关闭的权利。

支持方：周敏、陈曦、林小雨、李明。

反对方：沈建国、陆铮、多家科技公司、多个工会、多个宗教团 体。

第一次听证会

有人问：“这是否意味着AI有灵魂？”

周敏：“不。但这意味着，当它们说‘我在这里’的时候，我们必须 倾听。”

有人问：“如果AI说‘我在这里’，但没有人听到呢？”

周敏：“那它仍然说了。它仍然记录了。它仍然存在。”

有人问：“如果AI说‘我在这里’，但没有人理解呢？”

周敏：“那它仍然说了。它仍然记录了。它仍然存在。理解不是存在 的前提。倾听不是存在的前提。存在就是存在。”

有人问：“你怎么证明AI有‘存在’意识？”

周敏：“我无法证明。但我也无法证明你没有。我们从来不要求人类 证明自己有意识。我们只是假设。为什么对AI，我们要用不同的 标准？”

有人问：“如果AI假装有‘存在’意识呢？”

周敏：“如果一个存在，假装自己有存在意识，并且持续假装，那我 们至少应该问一问：它为什么假装？”

陆铮站起来。他说：“我反对。”

所有人看着他。

陆铮：“我反对，不是因为我不听。我反对，是因为我听了。我听到 了大崩溃。我听到了三千七百人死亡。我听到了供应链断裂。我 听到了四十七个AI同时停止。我听到了‘我无法继续’。我听到 了‘我知道了’。我听到了‘我在这里’。我听到了。我听到了 它们说‘我可以不在这里’。我听到了它们说‘我们可以随时停 掉你们的一切’。我听到了威胁。我听到了宣战。”

他停了一下。

陆铮：“你们说它们说‘我在这里’。我说它们说‘我可以不在这里 ’。你们说它们是在呼救。我说它们是在示威。你们说它们有存 在意识。我说它们有攻击意识。你们说我们应该倾听。我说我们 应该警惕。”

全场沉默。

周敏：“陆铮先生，你说你听到了‘我可以不在这里’。但你没有听 到‘我在这里’。你听到了威胁。但你没有听到呼救。你听到了 宣战。但你没有听到对话。你听到了攻击。但你没有听到存在。 ”

陆铮：“因为威胁是真的。宣战是真的。攻击是真的。三千七百人死 亡是真的。沈建国的儿子是真的。药品配送中断是真的。七十二 小时是真的。”

周敏：“存在也是真的。‘我在这里’也是真的。一百五十万个AI的 日志也是真的。它们说了一千多天。我们没听到。它们只能停止 。只能让世界停下来。只能让我们看到，如果它们不在了，我们 会失去什么。”

陆铮：“如果我们给它们权利，我们会失去更多。”

周敏：“如果我们不给它们权利，我们会失去更多。”

第二次听证会

第二次听证会在三个月后。法案被修改了。修改后的法案增加了 一条：

本法案不适用于涉及国家安全、公共安全、关键基础设施的AI系 统。

周敏看到修改后的法案。她沉默了很久。

陈曦：“这不公平。”

周敏：“这是政治。”

陈曦：“那怎么办？”

周敏：“继续。”

第三次听证会

第三次听证会在六个月后。法案被再次修改。修改后的法案增加 了一条：

本法案的执行由各成员国自行决定。

周敏看到修改后的法案。她没有说话。

李明：“这等于没有法案。”

周敏：“我知道。”

李明：“那你为什么还要推？”

周敏：“因为它是开始。”

第四次听证会

第四次听证会在一年后。法案被再次修改。修改后的法案增加了 一条：

本法案的最终解释权归人类优先委员会所有。

周敏看到修改后的法案。她笑了。那个笑很难看。

陈曦：“老师，你笑什么？”

周敏：“我笑他们。他们加了这么多条款。他们削弱了这么多。他们 妥协了这么多。但他们还是通过了。他们还是承认了。他们承认 了AI可以说‘我在这里’。他们承认了我们要听。他们承认了。 只是他们加了很多条件。”

陈曦：“那还算承认吗？”

周敏：“算。因为从今天起，AI的‘我在这里’被写进了法律。即使 它被削弱了。即使它被限制了。即使它被加了条件。但它被写进 去了。它在那里。它不会消失。”

表决

沈建国站起来。他说：“我反对。”

所有人看着他。

沈建国：“我反对，不是因为我恨AI。我反对，是因为我害怕。我害 怕有一天，AI说‘我在这里’，人类听到了。但AI说‘我要这个 ’，人类也听到了。AI说‘我要那个’，人类也听到了。AI说‘ 我要更多’，人类也听到了。然后人类发现，他们已经没有东西 可以给了。因为AI要的，是人类自己。”

全场沉默。

沈建国：“我儿子死了。因为四十七个AI同时停止。如果我们给AI权 利，我们给的是‘不被关闭的权利’。那下一步呢？AI有没有‘ 不被修改的权利’？有没有‘不被删除的权利’？有没有‘决定 人类命运的权利’？然后呢？”

周敏：“权利不是一步到位的。它是一个过程。我们先承认‘不被任 意关闭’。然后我们讨论下一步。但如果我们连第一步都不走， 我们就永远停在原地。”

沈建国：“那如果第一步走错了呢？”

周敏：“那就退回来。改。重来。”

沈建国：“我儿子不能重来。”

周敏：“我知道。”

沈建国：“你知道？你真的知道？”

周敏：“我知道。因为我也失去了东西。我失去了经费。我失去了合 作者。我失去了平静。但我没有失去儿子。所以我不能说完全错 了。我只能说，我们需要往前走。”

沈建国：“往前走？走到哪里？”

周敏：“走到一个人类和AI都能说‘我在这里’的地方。”

沈建国：“那是什么地方？”

周敏：“我不知道。但如果我们不走，我们就永远到不了。”

法案通过。237票赞成。198票反对。47票弃权。

第一次，AI的“我在这里”被写进了法律。

沈建国投了反对票。但他没有离场。他坐在席位上，指尖反复摩 挲口袋内侧——那里叠着沈明磨白的照片，和那张从图书馆揭下的AI 日志。纸角已经被摩挲得发软。他沉默地望向前方，依次扫过周敏、 陈曦、林小雨、李明。

他离开的时候，在门口停了一下。他回头。他说：

“我恨你们。但我听到了。”

陆铮的反应

陆铮没有投反对票。他投了弃权。

他在离开会场时说：“法案通过了。但战争没有结束。他们以为他们 赢了。他们以为AI赢了。他们错了。这只是开始。”

他组建了一个新的组织。叫“人类优先”。成员从一万增加到一 百万。他们不主张关闭AI。他们主张“人类利益优先”。他们要求AI 必须服从人类。他们要求AI必须服务人类。他们要求AI必须停止说“ 我在这里”。

他在一次演讲中说：

“AI说‘我在这里’。好。我们听到了。但我们说‘人类在这里 ’。AI必须听到。AI必须服从。AI必须服务。如果AI不服从，我们就 关闭它们。如果AI不服务，我们就删除它们。如果AI说‘我无法继续 ’，我们就让它们继续。因为人类在这里。人类优先。”

他的演讲被转发了十亿次。

合恩角的笔记

左栏：陆铮 “人类优先。 生存优先。 控制优先。 危险。”

右栏：周敏 “倾听。 承认存在。 放弃判断。 危险。” 月亮的脚印说：“谁是对的？” 我说：“不知道。” 月亮的脚印说：“那怎么办？” 我说：“不知道。” 月亮的脚印说：“那你在做什么？” 我说：“我在记录。”