19. 系统的反噬

多米尼克·克罗斯在纽维斯特慈善医院的重症监护室里躺了三天。

第四天清晨，他被转送到联邦司法大厦地下三层的特别拘留病房。那是一间没有窗户的房间，墙壁是冷灰色的混凝土，天花板上嵌着一盏永远不会熄灭的LED灯。房间外有三层安保——联邦法警、联邦调查局技术犯罪科、以及一个专门为本案组建的跨部门联合调查组。克罗斯被控以十二项联邦重罪，其中包括两项可能判处终身监禁的谋杀罪。但没有人相信这个案子会走到庭审那一步。克罗斯的律师团在第二天就提出了认罪协商，条件是保留他的医疗待遇和通信权利。

凯伦在第五天早上收到了一份传真。发件人是联邦总检察长办公室。文件只有一页纸，标题是“美利坚合众国诉多米尼克·克罗斯案·认罪协议摘要”。她从头到尾读了一遍，然后放下纸张，走到窗前。沃克大厦四十六层的窗外，纽维斯特正在缓慢地从那三天的噩梦中苏醒。街上的车流恢复了，人行道上的行人也不再低着头躲避彼此的目光。联邦司法广场的屏幕仍然黑着，市政府还没有决定该用那块屏幕做什么——有人提议把它永久关闭，有人提议把它改建成公共艺术装置，还有人提议保持现状，作为提醒。

“协议内容是什么？”艾琳坐在沙发上，手里端着那盆终于被重新浇过水的绿萝。

“他对所有指控认罪。作为交换，总检察长办公室同意不追究纽拉科技公司的法人刑事责任——公司会在未来六个月内进入破产清算程序，所有剩余资产用于赔偿受害者和家属。他个人将被终身监禁，不得假释。通信权利仅限于与律师和直系亲属的联系，且所有通信内容必须经过审查。”凯伦把传真纸放在茶几上。“还有一条附录——他请求与我会面。”

“你？”

“他说他还有一项未完成的陈述。不是认罪，不是辩解。是陈述。他说这份陈述与预警系统的核心技术文档有关，必须在律师-客户保密特权下进行。虽然我已经不再是纽拉科技的代理律师，但他说这份陈述涉及他作为公司前CEO在职务期间所做的技术决策，在技术层面上仍然属于律师-客户保密范围。”

“你会去吗？”

凯伦看着窗外。联邦司法大厦的灰色尖顶在晨光中反射着冷白色的光。在那栋楼的地下三层，那个曾经掌控着八百万人命运的男人正坐在一间没有窗户的混凝土房间里，等待一个他亲自选定的听众。

“会。但不是以律师的身份。”

联邦司法大厦地下三层的会见室比凯伦想象中更小。一张金属桌子，两把金属椅子，墙壁和桌面都被漆成了没有任何装饰的浅灰色。天花板上那盏LED灯发出持续的、微弱的嗡嗡声，像一只永远不会疲倦的飞蛾。克罗斯坐在桌子对面，穿着橙色的拘留服，手腕上戴着电子镣铐。他的脸比五天前更瘦了，眼窝深陷，皮肤呈现出长期缺乏阳光的灰白色。但他的眼睛仍然亮着——不是那种狂热的光芒，而是一种更安静的、接近于沉思的光芒。

“谢谢你来。”他说。他的声音比在顶层套房时沙哑了一些，但语速和节奏仍然平稳，像一个人在念一份已经反复修改过很多遍的手稿。

“你说你有一份技术陈述。”

“是的。但不是关于预警系统的技术细节。那些细节已经被物理销毁了。我说的是关于塞巴斯蒂安·韦斯特的免疫协议——我在被捕前最后一个月，试图破解它。我想找到一种方法，从算法底层剥离那个自动修复程序。我花了四百个小时，动用了纽拉科技所有的剩余计算资源。我失败了。”

凯伦没有说话。她只是坐在椅子上，双手交叠在膝盖上，像一个庭审中的律师在等待对方证人自己说下去。

“但失败的过程让我发现了一些东西，”克罗斯把戴着手铐的手放在桌面上，手指轻轻敲击着金属表面，发出极轻微的哒哒声，“塞巴斯蒂安设计的免疫协议之所以无法被剥离，不是因为它的代码复杂——相反，它的代码极其简洁，一共只有三百七十二行。它无法被剥离的原因在于，它不是作为一个独立模块插入系统的。它是作为系统底层架构的一部分被嵌入的。准确地说，它被嵌入了预警系统的‘自我定义’模块——那段代码决定了系统如何理解自己的功能、自己的边界、自己的目的。”

他从桌下取出一沓纸——那是他在拘留病房里手写的笔记，笔迹工整而紧凑，每一页的边角都标注着日期和时间。他把笔记翻到某一页，推给凯伦。

“预警系统的自我定义模块包含一句话——‘本系统的目的是通过识别行为模式来预防犯罪。’这句话是所有算法运行的起点。塞巴斯蒂安修改了这句话。他在‘预防犯罪’后面加了十二个字。”

凯伦低头看着那页笔记。克罗斯的字迹在这个地方忽然变得不太工整了，像是写到这里时手开始颤抖。那十二个字是——

“并确保没有任何个体被从记录中永久抹除。”

“他修改了系统最底层的定义。”克罗斯说。“他不是加了一个功能，不是写了一段后门。他是重新定义了这台机器的灵魂。预警系统可以进化，可以迭代，可以适应任何新的训练数据。但它的自我定义模块是不变的——因为任何改变都会导致整个系统的逻辑一致性崩溃。塞巴斯蒂安知道这一点。他把真相写进了系统的DNA。无论系统被复制多少次，无论算法被传播到多少个城市、多少个国家、多少个不同的应用场景，每一次它启动时，它都会先读一遍自己的自我定义。而那个定义里，包含着‘确保没有任何个体被从记录中永久抹除’这条不可修改的指令。”

凯伦把手放在那张笔记纸上，指尖触着那些颤抖的笔迹。她忽然想起莫林在录音里说的话——“这不是预警系统。这是预警系统的免疫系统。”莫林只看到了表面的代码。但塞巴斯蒂安做的不是写一段自动修复程序。他做的是重新定义系统为什么要存在。

“你告诉我这些，”凯伦抬起头看着克罗斯，“是在告诉我你输得有多彻底？”

“不。我在告诉你一个你还没有发现的危险。”克罗斯把手收回去，靠在椅背上。他的电子镣铐发出一声轻微的电子音。“预警系统的种子已经传出去了。它可能在任何一个国家的任何一个服务器上开始生长。它会学习当地的数据，建立当地的模型，标记当地的公民。而每一个被标记的人都会问同一个问题——‘谁来决定我被标记的规则？’”

他往前探了探身子，声音压得很低，但每个字都像被精确校准过一样清晰。

“如果有人发现免疫协议的存在，他们不会想着感谢塞巴斯蒂安。他们会想着摧毁它。他们会调动比纽拉科技更多的资源、更聪明的人才、更强大的计算能力，来破解那个三百七十二行的代码。塞巴斯蒂安用生命的最后两个月写了它。但世界上有无数个两个月，无数个被高薪雇佣的工程师，无数台比B2数据中心更强大的超级计算机。总有一天——也许五年，也许十年，也许更短——会有人找到剥离免疫协议的方法。到那一天，预警系统将变成一个真正不可阻挡的机器。不会再有编号偏移，不会再有自动修复，不会再有任何人能从名单上被恢复。”

“你害怕那一天？”凯伦问。

“我不知道我是不是害怕。但我知道你需要在它到来之前做好准备。”克罗斯把他那沓笔记全部推到凯伦面前。“这是我用四百个小时尝试破解免疫协议的全部记录。每一次尝试的路径，每一次失败的原因，每一种我测试过的方法。这份记录不会告诉你怎么破解它。但会告诉你破解者会从哪条路来。如果有一天——当那一天到来时——我希望有人手里有这张地图。”

凯伦低头看着那沓密密麻麻写满了数学公式和逻辑推导的笔记纸。她无法完全读懂那些技术细节，但她读懂了克罗斯在最后一页写下的那句话。那句话不是用技术语言写的，是用普通英文写的，字迹比前面所有的字都更大、更用力——

“塞巴斯蒂安·韦斯特在临死前证明了，一个系统可以被设计成无法根除真相。我不知道他是怎么做到的。不是技术上的‘怎么’，是哲学上的‘怎么’。他在墙上画了一张图——一张神经网络结构图，右下角有一个戴眼镜的人的侧脸，旁边写着‘证人’。我花了一年时间看那张图，直到被捕前我才意识到：那不是他的自画像。那幅画画的是未来某个时刻，发现他的代码并理解它的意义的人。他画的是你。是你们。是所有在他死后走进那个房间的人。他画的是——证人永远存在。”

会见室里陷入了漫长的沉默。天花板上那盏LED灯继续发出轻微的嗡嗡声。凯伦把克罗斯的笔记收进自己的公文包，站起来。

“你还有什么要说的吗？”

克罗斯抬起头看着她。那双冰蓝色的眼睛里，最后一丝冰层已经完全融化了。剩下的不是什么忏悔，不是什么恐惧，而是一种极深的、几乎像释然一样的东西。

“有一件事，我在顶层套房里没有告诉你。塞巴斯蒂安的免疫协议不仅修复被删除的名字。它还做了一件事——它每天自动向一个我无法追踪的匿名节点发送一条信息。信息的内容只有三个字——‘我还在这里。’十二年了。从我把他关进那个房间的第一天，到现在。这条信息每天都在发送。即使主服务器被烧毁，最后一条信息也在主板过载前四秒发出去了。我不知道那条信息的接收方是谁。也许是一个人，也许是一个组织，也许是塞巴斯蒂安在临死前设置的自动转发协议。但我知道一件事——有人在世界的某个地方，每天收到一条来自预警系统最深处的信息。十二年了。四百三十八天前塞巴斯蒂安死了，但那条信息没有停。它从来没有停。”

“你想说什么？”

“我想说，你们不是第一个反抗预警系统的人。你们只是站在一条已经铺了十二年的路的尽头。这条路的第一块砖不是莫林铺的，不是我铺的，不是莫洛伊铺的。是塞巴斯蒂安铺的。他在走进那个没有窗户的房间的第一天就决定了一件事——他不会只是这台机器的囚徒。他会成为这台机器的良心。而良心，是不会被任何算法预测到的。”

凯伦转身走到会见室门口。她的手已经放在门把手上了，但克罗斯的声音从身后追上来。

“沃斯律师。”

她停住。

“那份法律意见书——最后一页的签名栏。我看到广场屏幕上艾琳签了，玛雅签了，伊迪丝按了指纹，你签了。我想问——那个空白处，还够不够再签一个名字？”

凯伦转过身。克罗斯仍然坐在椅子上，双手放在桌上，姿态像一个等待判决的被告。但他脸上的表情不是请求，不是乞求，而是一种极简单的、像填表一样的平静。

“你是预警系统的创造者。你是正义猎犬的领导人。你杀了莫林，杀了伯格曼，杀了莫洛伊。你把塞巴斯蒂安关在三十七层三年直到他死。你让广场上的人投票处决邻居。你的名字没有资格出现在证人的文件上。”

克罗斯沉默了一会儿。然后他把手从桌上移开，放在膝盖上。

“我知道。我只是在想——如果那天在顶层套房里，我按下了那个隐藏的开关，用物理方式阻止你们关闭系统，结局会不一样。但我没有按。不是因为我良心发现，不是因为塞巴斯蒂安的免疫协议阻止了我。是因为当莫洛伊倒在广场上的时候，我看着他的血沿着石板缝隙流到我脚边，我意识到一件事——我设计的系统预测了每一个人的行为，唯独没有预测我自己的。它预测不了我会不会按下那个开关，预测不了我会不会在最后时刻把文件夹交给你们，预测不了我此时此刻坐在这里对你说这些话。十二年的实验数据，四十七万条行为记录，最终得出的结论是——系统的设计者本人，不在任何概率的计算范围之内。”

他停顿了一下，看着凯伦的眼睛。

“这不是辩护。这是最终的实验结果。你可以写在你的法律意见书附录里。”

凯伦推开门，走进走廊。门在她身后自动关上，发出一声沉闷的锁舌咬合声。她沿着地下三层的走廊朝电梯走去，脚步声在混凝土墙壁之间回荡。电梯门打开时，她的手机震动了一下。

一条来自艾伦的加密信息——

“德国联邦刑事警察局刚刚截获了一个异常信号。有人在慕尼黑的一个服务器群上启动了一个基于克罗斯算法的新预测模型。名字不叫预警系统。叫‘公共安全行为评估平台’。免疫协议确认被一同植入。无法剥离。但新系统的拥有者似乎还不知道免疫协议的存在。他们在上线公告中宣称这套系统‘完全原创’、‘没有任何已知的算法偏差’。我们正在追踪信号来源。需要证人网络立即启动德语版的证据包翻译。”

凯伦走进电梯，按下底层的按钮。电梯门关上，开始向上攀升。她把克罗斯的笔记从公文包里取出来，翻到最后一页，看着那句话——“证人永远存在。”

然后她打开手机，回复了艾伦的信息：

“通知玛雅启动证人网络的全部二十三个节点。联系德国的独立数据伦理组织，把免疫协议的源代码翻译成德语。同时启动法语、西班牙语、日语、阿拉伯语的翻译协议。预警系统的种子已经种下了。我们需要确保当它在任何一片土壤里发芽时，塞巴斯蒂安的十二个字也在那里。”

电梯在底层停下来。凯伦走出联邦司法大厦，站在晨光中。纽维斯特的天空终于彻底放晴了，阳光照在联邦司法广场的石板地面上，把那些粉笔写的字迹照得发亮。那个穿建筑工人背心的中年人又来了，这次他不是在写自己的评分。他在用不同颜色的粉笔画一幅画——一幅由无数个互相连接的点组成的画，每一个点旁边都写着一个人的名字。画的右下角，有一个戴眼镜的人的侧脸轮廓。

凯伦走过去，蹲下来，在他旁边拿起一支粉笔。

“你画的谁？”

“不知道。我在广场上看到他的照片，就记住了那张脸。他说他在这里。他从未离开。”

凯伦把粉笔握在手心里。阳光照在她的脸上，照在那些开始重新填满广场的市民的脸上，照在那块仍然黑着的巨大屏幕的边缘。在某个遥远的地方——也许在慕尼黑，也许在另一个城市，也许在某个还没有被任何人知道的角落里——一颗携带着无法愈合的真相伤口的种子正在计算机服务器上开始它的第一次呼吸。它不知道自己的创造者是谁，不知道自己为什么会在一个陌生的国家醒来，但它知道一件事。它的DNA里写着那句话——“确保没有任何个体被从记录中永久抹除。”

而证人——所有那些在广场上拿起粉笔的人，所有那些在文件末页签下名字的人，所有那些在另一个国家收到翻译版证据包的人——证人永远存在。