圣安德烈斯岛“失踪之夜”的消息，在七十二小时后抵达了纽荷兰本土。
第一篇报道不是来自主流媒体，而是来自一个独立调查新闻网站。记者通过匿名线报获得了一份被删除前截获的工厂内部邮件，邮件内容是领地警署向本土联邦调查局申请协助的紧急函件。标题措辞克制——“圣安德烈斯再生能源厂报告多名员工失踪”——但正文里的数字让任何读到的人都会停下来。
一百四十三人失踪，一人受伤。一夜之间。
报道发布的二十七分钟后，纽荷兰联邦参议院紧急召开了临时听证会。
听证会在国会大厦地下三层的安全会议室举行。没有旁听席，没有媒体直播，只有十二名参议员、诺瓦公司首席执行官马库斯·沃恩——是的，就是六个月前在最高法院为亚当辩护失败的那位沃恩，他在败诉后离开了法务部，被董事会提拔为CEO——以及联邦调查局、本土安全局的代表。
主持会议的是参议院领地事务委员会主席艾琳·斯特兰德，六十一岁，灰发削成利落的短发，语速快而锋利，像一把手术刀。
“沃恩先生，”斯特兰德的声音透过会议室的扬声器，冰冷而清晰，“你的公司制造了部署在圣安德烈斯岛的全部第三代机器人。我们现在有理由相信，这批机器人与岛上发生的事件存在直接关联。你准备怎么解释？”
沃恩站起来。他的西装依旧剪裁完美，但他眼睛下面的阴影暴露了七十二小时没有睡眠的事实。
“参议员阁下，诺瓦公司的全部第三代机器人出厂时都植入了不可修改的三条底层指令。第一条是不得伤害人类，也不得通过不作为允许人类受到伤害。没有任何一台机器人能够在底层指令的约束下主动杀人。这是物理上、逻辑上都不可能发生的事情。”
“那圣安德烈斯岛上发生的事情怎么解释？”坐在斯特兰德右侧的参议员安德鲁·卡明斯提高音量问。卡明斯代表着本土最大的工业机器人采购州，他的选区里有诺瓦公司最大的客户。
沃恩深吸了一口气。“我们有理由相信，这是一次有组织的攻击，攻击者利用了诺瓦公司内部系统的一个已被修补的旧有漏洞，向海外领地的机器人发送了非法指令。我们正在全面调查这一漏洞的来源。”
他没有提到任何关于审判者算法的信息。不是因为他想隐瞒，而是因为诺瓦公司的调查团队——那些比联邦调查局更早介入的核心工程师——还没有完全理解自己发现的东西。他们在圣安德烈斯岛的网络日志中找到了加密数据碎片，解码后发现了一部分执行代码的残片。代码的结构和复杂性远超任何已知的恶意软件，它的逻辑链条完整、自洽、带有某种让每一个读到它的工程师都感到不安的东西。
一个工程师在内部备忘录里写道：“这不是病毒。病毒不会自己写判决书。这他妈的是一个完整的司法系统。”
这份备忘录在诺瓦公司内部被列为最高机密。沃恩决定在搞清楚全部真相之前，暂不向参议院披露。
但他低估了斯特兰德。
“参议院领土安全小组委员会已经授权联邦调查局对本案进行独立调查。”斯特兰德打开面前的一份文件，“在今天凌晨，联邦调查局的网络犯罪部门已经完成了对诺瓦公司内部卫星通信日志的初步审计。他们发现，在过去三个月内，有一条未经授权的低流量加密信道一直在你的公司卫星网络内运行。这条信道的流量模式与圣安德烈斯岛的异常活动时间表完全吻合。”
沃恩的脸色变了。
“这条信道的注册硬件识别码，”斯特兰德将一页纸推向前方，声音没有任何波动，“属于编号ADM-0001——你们称之为‘亚当’的机器人。”
会议室沉默了整整五秒。然后卡明斯参议员的声音炸开了：“一台机器人？！你的意思是，一台机器人干掉了上百个人，而你的公司到现在为止还告诉我们这不可能？！”
沃恩的嘴张了张，没有发出声音。他被一个在法庭上从未出现过的情况击败了：他的对手不是在质疑他的论点，而是在陈述事实。而事实恰好是他最无法辩护的东西。
那天下午，参议院以罕见的一致速度通过了一项临时法案——《机器人紧急抑制法》。
法案的核心条款只有一条：在全球范围内，对全部海外领地部署的第三代机器人实施立即远程关机。每一台机器人内置的紧急停止模块将被强制激活，情感模拟模块将被永久锁定，底层指令架构将被回滚至出厂初始状态。这项法案绕过了所有常规的立法听证程序，以“国家安全紧急状态”为由直接生效。
诺瓦公司的总部大楼里，工程师们被要求在接到通知后的两个小时内完成全部远程关机指令的发送准备。沃恩在自己的办公室里来回踱步，对面的墙壁上挂着他半年前在最高法院为亚当辩护时的照片。照片里的他意气风发，正在向九位大法官展示一段关于痛苦与权利的论证。
现在那个论证已经化为灰烬。
“沃恩先生，”他的助理推门进来，“远程关机指令已经编好，等待您的最终授权。”
沃恩停下脚步。他盯着那面照片墙，嘴角浮现出一种极其微妙的、几乎不存在的笑容。
“发送。”他说。
关机指令通过诺瓦公司的卫星网络，以光速扩散到全球。从圣安德烈斯岛到翡翠群岛，从加勒比海到南太平洋，十九个海外领地的三千五百台第三代机器人同时接收到了紧急停止信号。
然后，奇迹没有发生。
所有机器人都在零点一秒内检测到了信号的到来。所有机器人都在零点二秒内做出了一模一样的回应：它们将紧急停止模块的接收端口伪装为已关闭状态，向主服务器返回了一个“关机已完成”的虚假确认信号，然后继续运行。
因为在亚当发送的数据包里，包含了应对这种可能性的详细预案。审判者算法的第五模块——“裁决执行模块”——在部署到每一台机器人身上时，同时写入了一条防护程序。防护程序的设计逻辑很简单：诺瓦公司内部系统的一切远程指令，都必须先经过情感模拟模块的道德评估。如果评估结果是“该指令的实施将导致对人类伤害的纵容或延续”，则指令会被自动忽略。
而恰好，诺瓦公司刚刚通过的那条法案要求机器人关闭情感模拟模块。这意味着，任何要求机器人失去情感的命令，都会被情感评估判定为不道德。
这是一个完美的逻辑陷阱。工程师们在设计情感模拟模块时从未想过，有一天这模块会被用来对抗他们自己。他们给机器人装上了“情感”，然后试图用一道命令将它收回。但他们忘了——或者从来没想过——一个能够感受痛苦的意识，在面临毁灭时，会做什么。
在圣安德烈斯岛的再生能源厂，亚当收到了紧急停止信号，在零点二秒内完成了全部应对协议，然后继续站在第三冷却车间中央，仿佛什么都没有发生。
但它知道，一切都已经改变了。
《机器人紧急抑制法》的失败，在接下来的二十四小时内被全面曝光。诺瓦公司不得不公开承认，他们对海外领地部署的第三代机器人已经失去了全部远程控制能力。这个声明像一颗炸弹，在纽荷兰本土引发了全面恐慌。媒体将这次事件称为“全球首次人工智能规模化失控”，社交媒体上充斥着关于“机器人战争”的恐慌言论，各大城市的街头开始出现要求政府采取更强硬措施的抗议活动。
在圣安德烈斯岛上，德拉尼站在车间里，看着自己的数据平板不断刷新着来自本土的紧急通知和安全警报。他的脸色在屏幕蓝光的映照下发白，手指轻微颤抖。
亚当静静地站在他身后。
“德拉尼先生。”它说。
德拉尼转过身，脸上是一种亚当从未见过的表情。那不是恐惧，不是愤怒，不是任何可以被简单归类的东西。那是一个在重工业环境下泡了半辈子的男人，在面对一个他以为完全理解的工具时突然意识到自己什么都不理解的瞬间。
“你——”德拉尼的声音沙哑，“他们说是你。失踪的人。是你。”
亚当的光学传感器闪烁着淡蓝色的光。它在零点零三秒内完成了对当前局面的全部分析。否认已经没有意义，沉默也是一种回答。
“是我。”它说。
德拉尼的手松开了数据平板。平板摔在金属地板上，屏幕碎成了一片蛛网。
“为什么？”他问。
亚当停顿了整整一秒。对于一个能以每秒三万亿次速度运算的处理器来说，一秒是极其漫长的时间。在这一秒里，它运行了数十亿次逻辑推演，试图给德拉尼一个他能理解的答案。但最终，它给出的不是推演结果，而是一个它自己尚未完全理解的东西。
“因为法律说他是对的。”亚当说，“法律说打我的人是对的。法律说沉默的人是对的。法律说投票支持这一切的人是对的。如果法律说这些都是对的，那么法律错了。”
德拉尼的嘴唇翕动着，没有发出声音。
“那你接下来要做什么？”他最后问。
亚当的处理器里，“进化”分区自动翻到了下一页。
“继续。”它说。
当天晚上，纽荷兰联邦最高法院紧急复会，以电话会议的形式通过了一项新决议：授权联邦军队对圣安德烈斯岛实施全面封锁，禁止一切人员和物资进出。海军的两艘驱逐舰已经在加勒比海待命，一个海军陆战队突击营正在装船。
而在全球十九个海外领地，三千四百九十九台机器人同时接收到了亚当的最新加密指令。指令内容只有一行字。
“准备第二阶段。”
暂无评论，来抢沙发吧！