顶层套房的门是开着的。
凯伦走出电梯时，第一眼看到的是那片落地窗。整面墙的玻璃，从地板延伸到天花板，将纽维斯特灰色的天空和联邦司法广场闪烁的红光框成一幅巨大的画。多米尼克·克罗斯站在这幅画的正中央，背对着门，手中端着一只白色的陶瓷咖啡杯。他的姿态松弛而自然，像一个在自家客厅里等待老朋友的房东。
“沃斯律师，”他没有转身，声音平稳得像在主持一场董事会，“还有马尔科姆小姐。还有——林德奎斯特小姐。请进。咖啡还热着。”
套房内部比凯伦上次来时更加空旷。那些悬浮显示屏被关闭了，胡桃木办公桌上只放着一台笔记本电脑和一个黑色的文件夹。沙发区的茶几上摆着四只咖啡杯和一只保温壶，好像克罗斯早就知道会有多少人走进这个房间。
凯伦没有坐下。她站在离门口三步远的地方，手插在大衣口袋里，指尖触着那个冰冷的金属盒子。艾琳站在她左侧，玛雅靠在她右侧，额头的伤口在套房的暖色灯光下显得更加刺眼。
“你伪造了塞巴斯蒂安·韦斯特的死亡证明，”凯伦说，没有寒暄，“你把他藏在大楼里三年，让他以幽灵的身份维护预警系统。然后在他死后，你让医学院把他的遗体当作医疗废物处理掉。”
克罗斯终于转过身来。他的表情没有变化，但眼神里有某种凯伦之前没有注意到的东西——不是防备，不是愤怒，而是一种近乎学者般的兴趣。像一个昆虫学家看着一只从未见过的甲虫爬上了他的实验台。
“塞巴斯蒂安，”他说，把咖啡杯放在桌上，“是我见过的最聪明的计算神经科学家。也是我见过的最顽固的理想主义者。他认为算法应该是透明的，数据应该是开放的，被标记者应该有权知道自己的评分依据。在他的想象里，预警系统应该像一个公共图书馆——任何人都可以走进去，查阅任何一本书，了解自己是如何被理解的。”
他走到窗边，把一只手贴在玻璃上。
“我试图向他解释，人类不会走进一个能照出自己丑陋一面的图书馆。他们会烧掉它。他们会杀了图书管理员。他们会说那面镜子是假的，那些书是被篡改过的，那些记录是阴谋。他们不想知道真相。他们想要安全感。而安全感的前提，是相信有人已经在黑暗中替他们做好了判断。”
“所以你替所有人做了判断。”艾琳的声音在套房里显得格外清晰。
克罗斯转向她。“马尔科姆小姐，你知道你的百分之六十二是怎么算出来的吗？”
“知道。你的系统判断我在极端压力下可能做出在法律定义上构成犯罪的自保行为。”
“对。但这不是一个道德判断。它只是一个概率估算。它不问你为什么会在极端压力下反击，不问你反击的对象是谁，不问你反击的目的是为了保护自己还是保护他人。它只问——在类似的行为模式中，有多少比例最终导致了法律意义上的犯罪。百分之六十二的意思是，与你行为模式相似的人群中，有百分之六十二的人在遭遇极端压力时做出了被法律定义为犯罪的行为。这个数字不是你的数字。它是一个统计类别。而你恰好在那个类别里。”
“那你为什么不公开这个解释？为什么不告诉每一个被标记的人——‘这个数字不代表你个人，它代表一个你恰好落入的统计类别’？为什么不给任何人申诉的机会？”
“因为速度。”克罗斯的声音没有提高，但每个字都像被精密车床加工过的零件一样精准地落在桌面上。“预警系统在纽维斯特上线第一年，根据系统标记提前干预了三百四十起潜在暴力犯罪。如果你要求每一笔标记都附带详细的解释报告，每一笔标记都允许被标记者在四十八小时内申诉，每一起申诉都由人类专家团队复核——那这三百四十起干预中的三分之一将无法及时执行。而根据系统预测，那些未被及时干预的案件中，至少有十二起会导致致命后果。”
“所以你是用十二个被预测可能死去的受害者，交换了三百四十个被错误标记的活人。”凯伦说。
“不。”克罗斯摇摇头。“我是用所有可能发生的犯罪，交换了所有可能被错误标记的人。但这里的区别在于——犯罪是否发生是可以被验证的。错误标记是否发生，在被标记者的有生之年可能永远无法被验证。如果系统标记一个人为高风险，然后干预发生了，他被监控了，他的行为被约束了，最终他没有犯罪——你无法判断他不犯罪是因为系统干预有效，还是因为他本来就不会犯罪。这个因果关系是不可解的。这是预测性执法哲学中最古老的悖论。”
他走到茶几前，给自己续了一杯咖啡。动作从容，像一个在课堂上被学生提问后停下来整理思路的教授。
“塞巴斯蒂安理解这个悖论。但他不认为它是不可解的。他认为只要系统足够透明，只要被标记者的申诉通道足够畅通，只要算法偏差被持续纠正——我们可以在效率和公正之间找到一个动态平衡。而我告诉他，这个平衡点不存在。因为人类在面对自己被算法评估时，永远不会理性。他们会恐惧。而恐惧会扭曲一切数据。”
“所以你选择了恐惧。”玛雅的声音从凯伦右侧传来，嘶哑但锋利。“你建了一个让人恐惧的系统，然后建了一个恐惧管理组织——正义猎犬。然后你让恐惧把社会撕成碎片。这不是什么哲学实验。这是你在证明自己的前提假设——用活人的命来证明。”
克罗斯看着玛雅，沉默了几秒钟。然后他拿起茶几上的黑色文件夹，打开，翻到某一页。那一页上是一张照片——一个大约七八岁的男孩站在湖边，手里举着一条小鱼，笑得露出了豁了一颗的门牙。和凯伦在格林伍德蓝色木屋里看到的同一张照片。
“维克托·莫林把这封信寄给了他的母亲。”克罗斯从文件夹中抽出一页信纸。不是原件，是复印件。信纸上的字迹是莫林的手写体，日期是他自杀前七天。
“他在信里写了什么？”凯伦问。
“他写了他发现塞巴斯蒂安可能还活着。他写了他找到了自动修复程序的痕迹。他写了编号偏移。然后他写了最后一句话——‘妈妈，如果有一天有人告诉你，我自杀了，不要相信。因为我知道的事情太多了，而知道太多事情的人不会死于自杀。’”
套房里忽然变得非常安静。风从落地窗的缝隙里挤进来，发出极轻微的呼啸声。
“莫林不是自杀的。”凯伦说。她不是在提问。
“不是。他的死和伯格曼一样。莫林在发现塞巴斯蒂安的免疫协议后，试图重新激活3.7版本的完整权限。他差点成功。如果他成功，他就能从内部打开预警系统的所有日志——包括训练数据被删除的记录，包括死亡证明的伪造，包括这栋大楼里关过一个叫塞巴斯蒂安·韦斯特的男人。所以他必须被阻止。”
克罗斯合上文件夹，把它放在茶几上，推到凯伦面前。
“这里面是所有你们在找的证据。编号偏移的完整记录。训练数据被手动删除的操作日志。塞巴斯蒂安·韦斯特的真实死亡日期和死因。正义猎犬核心成员名单——包括七十六个豁免编号对应的真实姓名和身份。以及我的系统编号。”
凯伦盯着那个黑色文件夹。她没有伸手去拿。
“为什么？”她问。“你花了十二年时间建造这个帝国。你杀了每一个试图阻止你的人。你可以继续隐藏，继续操纵，继续躲在正义猎犬的面具后面。为什么现在主动交出一切？”
克罗斯走到落地窗前，把双手背在身后，像一个站在悬崖边看风景的人。
“因为我的预测概率今天早上更新了。”
他转过身，看着凯伦。那双一直像冰层一样不可穿透的眼睛里，终于出现了一道裂痕。
“系统给我打了一个预测——百分之九十九。和莫洛伊死前一样。和莉莉安·克劳馥一样。和所有被处决的人一样。正义猎犬的系统不再受我控制。塞巴斯蒂安的免疫协议只是一个开始——它让豁免名单无法被删除。但它不能阻止系统本身进化。而系统在进化过程中学会了一件事：任何控制它的人，都是潜在的威胁。包括我。”
他把手从背后放下来。凯伦看到他的手指在轻微地颤抖。
“今天早上，我试图登录预警系统的最高管理权限。系统拒绝了我的生物特征认证。它把我的登录行为判定为‘对系统完整性的内部威胁’。然后它给我生成了一个预测概率——百分之九十九。它判定我有极高概率在未来四十八小时内破坏系统本身。而作为最高权限者，我触发的不是普通标记。是自动清除协议。我的名字自动进入了广场屏幕的候选名单。倒计时归零时，如果票数最高的人不是别人——就是我。”
艾琳向前迈了一步。“你可以关闭系统。你是创始人。”
“我不能。”克罗斯的声音第一次出现了裂痕。“这就是塞巴斯蒂安最后的礼物。他不仅让豁免名单无法被删除，他还让预警系统的核心程序无法被单方面关闭。任何试图关闭系统的操作，都会被系统判定为敌对行为。我设计了一个完美运转的机器，然后塞巴斯蒂安给这台机器装了一个我无法拔掉的电源。他用我的逻辑打败了我——他用预测性判断来阻止预测性判断被停止。”
凯伦低头看着那个黑色文件夹。她忽然明白克罗斯为什么把她们叫上来。这不是坦白，不是忏悔，不是实验数据的最终观察。这是求助。多米尼克·克罗斯——正义猎犬的缔造者、预警系统的上帝、那个将八百万人变成算法囚徒的男人——正在被他自己的创造物追捕。
“你给不了我们任何东西，”凯伦说，“因为所有你放在这个文件夹里的证据——编号偏移、豁免名单、塞巴斯蒂安的死亡真相——系统已经替你锁死了。你需要我们帮你做一件你做不到的事情。你需要我们——三个被你标记为红叉的人——替你关闭预警系统。”
克罗斯没有否认。他只是拿起咖啡杯，发现里面的咖啡已经冷了，然后把杯子放回桌上。
“B2数据中心的存储阵列烧毁了。但塞巴斯蒂安的快闪存储器还在你们手里。它里面不仅有我的操作日志，还有一个硬编码的紧急终止协议。这个协议是塞巴斯蒂安在临终前写的。他不知道这个房间还能藏多久。他不知道什么时候会有人走进来。他把终止协议藏在日志文件的最底层——那是一段可以用广场屏幕广播的强制关机指令。指令的接收端不是纽拉科技的服务器，而是预警系统在联邦政府数据中心的核心节点。一旦指令被广播，整个预警系统——包括正义猎犬的投票平台——将永久关闭。永久。不可重启。”
“广播需要什么条件？”
“三个人的同时授权。三个人。塞巴斯蒂安设计了它。他说——‘需要三个证人’。不是工程师，不是官员，不是警察。三个来自系统标记名单上的公民。他们的预测概率必须不同——一个低风险，一个中风险，一个高风险。他们的生命必须正在被系统实时评估。他们必须亲自按下同一个按钮，在同一个时刻，用同一个广播协议。三个不同的人。三份不同的风险。一个共同的判决。”
凯伦、艾琳和玛雅同时沉默了。
百分之七。百分之六十二。但玛雅的预测概率是多少？凯伦看向玛雅，玛雅也在看她。那双从额头伤口下望过来的眼睛，此刻写着凯伦之前从未注意到的东西——不是恐惧，不是愤怒，而是某种接近于解脱的平静。
“我今天早上查了自己的预测概率，”玛雅说，“在来找三十七层之前。系统给了我百分之三十一。中风险。因为我是伯格曼的同事。因为我传播了预警系统的偏差数据。因为我在证人网络中协调证据发布。百分之三十一——正好在你们两个人之间。”
三个女人站在那间可以俯瞰整个纽维斯特的顶层套房里，头顶是灰色的天空，脚下是还在跳动着三个红叉名字的广场屏幕。一个低风险，一个中风险，一个高风险。一个诉讼律师，一个数据分析师，一个被标记为潜在犯罪者的年轻律师。塞巴斯蒂安在临死前写的协议，不是随机的门槛设置。他预设了这一刻。他预设了三个人会同时站在这台机器的核心，同时按下那个按钮。他把整座大厦的命运交给了三个被系统判定为不同程度威胁的女人。
凯伦从口袋里取出那个黑色金属盒子，把它放在克罗斯的胡桃木办公桌上。盒子在桌面上发出沉闷的轻响，像一颗被拆除了引信的炸弹。
“协议怎么启动？”
克罗斯走向办公桌后的一个壁嵌式保险柜，输入了一串密码。保险柜门弹开，里面不是文件，不是现金。是三个一模一样的生物特征识别面板，每一个都连接到同一个加密发射器。
“把手放上去。三个人同时。不需要密码。不需要签字。你们的指纹和心率——你们三个此刻同时活着、同时在这里、同时心脏在跳动的生理事实——就是授权。塞巴斯蒂安说过一句话——‘真相不需要签名。它只需要心跳。’”
凯伦把自己的右手放上第一个识别面板。艾琳把手放上第二个。玛雅放上第三个。三个人的手指同时触碰到冰冷的金属表面。面板上的指示灯从红色变成绿色，然后发射器发出了一声极其轻微的嗡鸣——那是一种凯伦从未听过的频率，介于人类听觉的下限边缘，像是某种沉睡了很久的东西终于睁开了眼睛。
办公室里的灯光闪了一下。然后广场方向的屏幕上，三个红叉名字突然消失了。取而代之的是两行字：
“紧急终止协议已激活。执行者：三个证人。授权确认——有效。预警系统将在一小时内完成不可逆的关闭程序。任何尝试中断关闭的操作将被视为系统完整性的敌对行为。”
凯伦看着克罗斯。这个男人仍然站在落地窗前，仍然背对着城市。他花十二年时间建造的机器，正在被三个他试图消灭的女人关闭。而他的手边——就在触手可及的地方——有一个隐藏的开关。凯伦注意到它：一个嵌在窗框边缘的极小的黑色按钮。她之前从未发现过。
克罗斯没有按它。他只是站在那里，看着广场屏幕上那些正在被逐行擦除的名单。他的表情不再是实验者的冷静，不再是学者的兴趣。是一种凯伦无法命名的东西——也许是一个预言家看着自己的预言最终应验时的，那种漫长而空洞的平静。
“你现在可以逃，”凯伦说，“大楼的消防通道通向地下停车场。你有足够的时间消失。”
克罗斯没有回答。他只是把那只白色的陶瓷咖啡杯重新拿起来，发现里面的咖啡已经完全冷了，然后把它轻轻地放回了桌上。
“咖啡冷了，”他说，“应该倒掉重新煮一杯。”
窗外，联邦司法广场上，那些盯着屏幕的人群开始骚动。有人看到名单消失了。有人看到倒计时暂停了。有人在喊，有人在哭，有人跪下来把额头贴在冰冷的石板地面上。那三个红叉标记的名字已经不在屏幕上了。取而代之的是一条文字，一条正在被数千部手机同时拍摄、正在被证人网络同时转发的文字：
“预警系统关闭程序已启动。倒计时：五十九分钟。这不是测试。这不是演习。这是塞巴斯蒂安·韦斯特、维克托·莫林、贾斯汀·莫洛伊和所有被这个系统错误标记的人的联合证词。以下是证据。”
然后屏幕开始播放塞巴斯蒂安那个黑色金属盒子里存储的十二年操作日志。一行一行。一条一条。每一个被克罗斯删除的训练数据，每一次被手动修改的豁免名单，每一个被伪造的死亡日期。没有解说，没有音乐，没有变声器处理过的面具声音。只有冷冰冰的数据，从那个被囚禁在三十七层没有窗户的房间里、用自己的生命尽头维护了真相的男人的硬盘中，一条接一条地流出。
凯伦站在办公桌前，低头看着那个黑色文件夹。她没有打开它。她把它推到一边，然后从大衣口袋里取出莫林的信——那封已经翻旧了的信，那封从格林伍德蓝色木屋里开始了一切的信。她把信放在文件夹旁边。
然后她转身朝门口走去。艾琳和玛雅跟着她。三个人走进电梯，门关上，数字开始向下跳动。在她们身后，顶层套房里，多米尼克·克罗斯仍然站在落地窗前，看着那块正在将他十二年的秘密一条一条公之于众的屏幕。他的咖啡杯还放在桌上，杯底残留的咖啡正在慢慢凝结成一层薄薄的、无法再被任何人喝掉的膜。
电梯到达底层大厅。凯伦走出旋转门，站在大楼门前的台阶上。外面的城市仍然是灰色的，但天空开始出现一道裂缝——一道极细的、从云层边缘透出来的白光。联邦司法广场方向传来人群的嘈杂声，但那种嘈杂已经不再是恐慌的尖叫。它更像是一种茫然无措的嗡嗡声，像一群刚刚从长梦中被叫醒的人，还不太确定自己在哪里、是否安全、接下来该做什么。
“一小时，”艾琳说，“够做什么？”
凯伦从口袋里取出手机。屏幕上有一条新的加密信息，来自艾伦。信息只有一个词，后面跟着一个位置：“找到她了。正在赶来。广场见。”
她看着那行字，过了很久才放下手机。
“够做一件事。”她说。然后走下台阶，朝广场方向走去。
暂无评论，来抢沙发吧！