3. 命运之眼

程序设计师马克已经连续二十七个小时没有合眼了。

他的公寓在城东一栋旧厂改建的 loft 里，水泥墙面没有粉刷，裸露的管道在天花板上纵横交错。三台显示器在黑暗中发出幽蓝的光，把他的脸映得像一具刚被打捞上来的溺水者。键盘旁边散落着三个空咖啡罐和一个咬了两口的面包，面包已经干硬得可以当武器了。

马克今年三十四岁，在赫利俄斯数据公司工作了六年。这家公司的名字在阿卡迪亚联邦的技术圈外几乎没有人听说过，但它的产品触及每一个公民的生活。你的信用评分、保险费用、就业评估、贷款审批——所有这些决策背后都有赫利俄斯的算法在运行。他们从公开记录、消费数据、社交媒体和监控网络中提取信息，用一套庞大而精密的数学模型，给每一个公民打分。那分数从零到一百，越高代表越“可靠”，越低代表越“有风险”。

一开始这只是商业工具。银行用它来评估借贷风险，保险公司用它来核定保费。后来执法部门开始感兴趣了。赫利俄斯拿下了一份政府合同，为司法部开发一套“犯罪风险评估系统”。他们花了三年时间，投入了二十亿阿卡迪亚元的资金，最顶尖的数据科学家、犯罪学家和心理学家都被招募进来。最终的成品有一个正式的名称，叫做“司法预测辅助平台”，但参与开发的人都叫它“命运之眼”。

命运之眼。

马克记得命名的那天，项目总监站在会议室的白板前面，用红色马克笔写下这四个字。他说，我们的系统就像一双眼睛，能够看穿迷雾，在犯罪发生之前就识别出潜在的罪犯。他说这话的时候眼睛里闪着光，像一个刚发现新大陆的探险家。会议室里响起了掌声。

没有人提出反对意见。至少没有人大声提出来。

马克把咖啡罐里最后一口冷掉的残渣倒进嘴里，苦涩的液体刺激着他的喉咙。他打开了第四层加密的文件夹，屏幕上弹出了一行警告：此操作将被记录。你确定要继续吗？他点了确定。

他正在做的事，如果被公司发现，至少会让他在联邦监狱里待十年。但自从三天前收到那条消息，他就已经没有退路了。

三天前，马克在凌晨三点被手机吵醒。来电显示是一个他已经三年没有见过的名字——莉娜，他在赫利俄斯的第一个项目搭档，也是他唯一可以称之为朋友的前同事。莉娜在三年前突然离职，没有告别聚会，没有离职邮件，就像人间蒸发了一样。马克后来隐约听说她去了东海岸某个非营利组织，从事算法透明度方面的倡导工作。

电话那头，莉娜的声音听起来像是被什么东西碾过一样，沙哑而急促。“马克，命运之眼还在运行吗？”

“什么？”

“回答我。还在运行吗？没有被关闭？”

马克揉了揉眼睛，试图从睡意中挣脱出来。“项目在去年交付后就移交给了司法部，我们的维护合同在今年六月到期，后续我就不清楚了。莉娜，现在是凌晨三点——”

“有人拿到了数据集。”莉娜打断了他。“全套的。包括训练数据、评分模型和所有的个人风险评估档案。我不确定是什么时候泄露出去的，但至少已经在外网流通了六个月。六个月，马克。”

他坐了起来。六个月。他们开发的那套系统包含了全国超过两千万成年公民的详细数据。每一个被逮捕过的人，每一个有过精神健康记录的人，每一个在童年时期经历过家庭暴力的人，每一个在社交媒体上发表过可以被算法判定为“攻击性”言论的人——这些人在系统中都有一个档案，一个分数，一个标签。潜在低风险。潜在中风险。潜在高风险。

“谁拿到了？”马克问。

“一个自称‘纯洁领域’的组织。”莉娜的声音压得更低了。“他们在用这份数据做执行名单。马克，他们已经开始行动了。我在东海岸的消息源告诉我，至少有三个人已经被处决了。每个人都收到过七天的期限，每个人都被告知有权为自己辩护。但没有一个人成功。因为他们的辩护理由不被接受。”

马克记得自己当时的反应是不相信。他觉得莉娜在东海岸待得太久，被那些阴谋论者影响了。一个秘密组织，用犯罪预测算法挑选处决目标，给予七天辩护期，然后执行死刑——这听起来像是某种粗制滥造的网络恐怖小说的情节，不像是现实中会发生的事情。

然后莉娜发来了一个压缩包。里面是她在调查过程中收集到的证据。被处决者的信息、倒计时邮件的截图、组织声明的文本分析、以及最重要的——被泄露的数据库片段。马克花了整整六个小时检查那些数据，一行一行地对比。数据格式、变量命名、评分模型的权重系数。每一个细节都带着赫利俄斯数据架构的独特印记。这些数据不是伪造的。

他的系统，被用来杀人。

马克在震惊之后涌上来的第一个情绪是愤怒。不是对那个组织，而是对他自己。他参与了这套系统的全部开发过程。他写了其中的核心模块——行为模式分析引擎。那是一套能够从一个人的日常行为数据中提取模式，并预测其未来行为概率的算法。马克为那个引擎感到骄傲。它的预测准确率在测试集上达到了惊人的百分之八十七。他曾经在一次行业会议上做过报告，详细介绍了他们如何将心理学理论转化为数学模型，如何定义风险因子，如何设置权重。

他现在才意识到，他从来没有认真问过一个问题：预测准确率百分之八十七意味着什么？意味着被这套系统标记为高风险的一百个人里，有八十七个真的会在未来犯罪。那剩下十三个呢？那十三个被错误标记的人，他们是谁？他们会遭遇什么？

没有人问过这个问题。或者更准确地说，那些问了的人，声音被淹没在了效率和安全的巨大叙事里。

莉娜问过。她就是在问出这个问题之后不久，突然离职的。

马克找到了她三年前的内部邮件。他在公司服务器上搜索了很久，终于在一个被标记为已删除的备份文件夹里找到了那些记录。莉娜在邮件中写道，她发现系统的训练数据存在严重的偏见。那些被标注为高风险的人，有相当一部分从未有过犯罪记录，但他们在童年时期经历过贫困或家庭暴力。系统学到了一条规则：在暴力环境中长大的人，更有可能在未来实施暴力。这条规则在统计学上确实成立，但用这条规则去决定一个人的命运，等于在说，你童年的创伤就是你未来的罪证。

莉娜把这封邮件发给了项目的伦理审查委员会。委员会回复说，感谢她的反馈，会将意见记录在案。然后什么也没有改变。项目继续推进，系统如期交付，司法部在验收报告上签了字。莉娜的邮件被归档、被遗忘、被删除。

现在，一个自称为正义化身的组织，拿着这套充满偏见的系统，开始执行他们自己的裁决。

马克将那些数据重新调了出来。他需要确认一件事：泄漏的数据库是否包含原始的训练数据，还是只包含最终的评分结果。如果是前者，情况会更糟。因为原始数据里包含了每一个人的具体信息——他们的地址、电话号码、电子邮箱、工作单位、家庭成员。那不仅仅是一份评分，那是一个完整的猎杀地图。

他的鼠标悬停在一个文件图标上。

还没点开，屏幕右上角弹出了一个新的通知。

公司内部通讯系统弹出了一条消息，发件人是安全部门主管纳尔逊。消息内容只有一行：“马克，明天上午九点来我办公室，我们需要讨论一下你最近的数据访问记录。”

马克盯着那行字，手指僵在键盘上方。他被发现了。比预想的快。他以为自己使用的管理员权限和加密通道足够隐蔽，但显然赫利俄斯的安全团队比他想象的更警觉。纳尔逊不是那种好对付的人。他曾经在军队情报部门服役二十年，转到私人企业后，把安全部门建得像一座堡垒。他那双灰色的眼睛从来不会放过任何异常。

明天上午九点。他还有不到三十六个小时。

马克没有犹豫。他将所有已经整理好的数据打包，上传到三个不同的境外服务器。然后打开了一个他从暗网买来的加密通讯软件，给莉娜发了一条消息。

“我明天会被带走。剩下的交给你。”

他等了几秒。莉娜没有回复。这个时间点，东海岸也是深夜。

马克靠回椅背，闭上眼睛。他需要决定接下来做什么。去办公室面对纳尔逊，装作什么都不知道？还是直接失踪，带着数据潜逃？两个选项都不好。赫利俄斯和司法部的合同里包含国家安全条款，他如果潜逃，会被以间谍罪起诉。但他如果留下来，被公司发现他在非法复制和传播机密数据，同样是重罪。

无论他选哪条路，他的人生在今晚已经彻底改变了。

而他甚至不是名单上的人。至少，现在还不是。

马克忽然想到一件事。他重新打开数据库，输入了自己的名字。搜索。结果出来了。他的风险评估分数是三十四，属于低风险区间。系统认为他未来犯罪的概率只有百分之三点二。但紧接着，他注意到底部有一个小标签：“该用户近期行为模式发生显著偏移，建议重新评估。”

近期行为模式发生显著偏移。

系统在监视他。不是通过数据库，而是通过那些无处不在的数据采集器。他的搜索引擎记录、他的邮件内容、他的位置轨迹、他的消费习惯。所有这些数据被实时地、持续地喂给命运之眼，系统每隔一段时间就会自动更新每个人的评分。他这几天来的行为——深夜工作、大量数据下载、与已经被标记为“关注对象”的莉娜的通讯——所有这些，都在被系统记录、分析、评分。

他的分数可能已经在上升了。

马克感到一种从未有过的恐惧。不是对法律制裁的恐惧，不是对公司报复的恐惧，而是对这套系统本身的恐惧。他亲手参与创造的东西，此刻正在观察着他，评估着他，像一个沉默的、永不眨眼的守望者，等待着他犯下第一个可以被判定为“倾向”的错误。

而按照最高院最新确立的逻辑，沉默即放弃。如果系统判定他有问题，而他不能及时地、充分地、在正确的程序节点上提出反对——

他就等于默认了自己的罪行。

马克关掉了电脑。他站起来，走到窗边。城东的夜空被远处市中心的灯光染成一片浑浊的橘红色。楼下的街道空无一人，只有一只流浪猫从垃圾桶后面蹿出来，消失在巷子的阴影里。

他想起了克拉拉。不，他当然不认识克拉拉。他甚至不知道克拉拉的名字。但他在那份泄漏的名单里看到过她。一个三十八岁的小学教师，风险评估分数六十一，属于中等偏上风险。她的触发事件被标注为：目击犯罪而未举报，表明其具备反社会行为容忍倾向。

反社会行为容忍倾向。这是马克自己写过的变量名。他曾经觉得这个变量设计得很巧妙。它将一个人对违法行为的沉默态度量化为一个可计算的指标。如果你看到有人偷东西而不举报，你对违法行为的容忍度就更高，因此你未来亲自实施违法行为的概率也就更高。在数学上，这个逻辑是成立的。

但在现实里，它意味着一个女人因为在超市里对一个偷辣椒酱的男孩动了恻隐之心，就被贴上了高风险标签。而这份标签现在落到了一个刽子手组织的手里，变成了七天倒计时的起点。

马克不知道克拉拉有没有为自己辩护。他不知道那个叫“纯洁领域”的组织会不会接受她的辩护。他只知道，如果她的名字已经出现在那个界面上，如果她前面的灰色名字已经标着执行完毕——

那么此刻，倒计时正在跳动。

而她可能还不知道，为她倒计时的那套算法，就来自于他写下的一行又一行代码。

马克转过身，重新坐回电脑前。他打开了那个加密通讯软件，找到了莉娜发来的文件里附带的一个联系地址。那是“纯洁领域”对外公布的一个单向接收邮箱。组织声称，任何人如果认为名单有误，可以将证据发送至这个地址。但组织同时声明，只有“客观、可验证、与行为事实直接相关”的证据才会被接受。

“主观辩解”、“性格证明”、“情感诉求”均被视为无效辩护。理由是——用那份声明的原话——“潜在犯罪倾向不是靠品格来反驳的，而是靠行为数据的重新计算”。

马克盯着那行字。

行为数据的重新计算。

一个念头像闪电一样击中了他。

如果他可以证明数据本身是错误的呢？如果他可以把原始数据库里的偏见暴露出来，让那套算法的评分失效呢？如果他能向整个世界证明，命运之眼不是一双看透迷雾的天眼，而是一面扭曲的镜子，把每一个人的童年阴影、每一次偶发的沉默、每一段不堪回首的经历，都扭曲成了犯罪的预兆——

那么那些灰色的名字，或许还有机会重新亮起来。

他打开了一个新的代码窗口，开始敲击键盘。窗外的夜色正在一点点褪去，黎明从东边的地平线下涌上来，把城市的天际线染成一片冰冷的灰白。马克知道他明天上午九点要面对什么。但此刻，在距离天亮还有三个小时的时候，他正在写一段足以动摇整个系统的证据。

如果他能写完的话。

如果他能活到发送出去的话。

手机在桌上震动了一下。一条新消息，来自一个陌生号码。

“我们一直在关注你。你正在做的事，比你想的更危险。不只是对你。对所有你在乎的人。”

马克的手停了下来。他盯着那条消息，足足看了一分钟。然后他把手机翻了过去，屏幕朝下，继续敲代码。

远处，城市正在醒来。而他正在与时间赛跑。