玛格丽特·科尔在深夜十一点听到敲门声时,正坐在她那间昏暗公寓的书桌前,面对着一块写满了公式和图表的白板。她已经两天没有出门,桌上堆着即食食品的包装盒和冷掉的茶。墙上那张塞勒涅州地图上新添了几枚红色图钉,每一枚都标注着一个被系统封存的案例编号。
敲门声很轻,但节奏规律——三下,停顿,再三下。
她从猫眼里看到了伊莲娜·瓦尔特。那张脸在走廊昏暗的灯光下显得苍白而克制,灰蓝色的眼睛直视着猫眼镜头,像是知道对方正在看她。
玛格丽特打开了门。
“你从韦斯特福尔回来了。”这不是疑问句。
“马尔科姆给了我她保存的辅导记录。”伊莲娜走进房间,将公文包放在椅子上,“十二份。艾拉在两年里向学校心理辅导员发出了十二次求助信号。系统没有推送给我任何一份。”
玛格丽特缓缓坐回书桌前,双手交叠在膝盖上。她没有表现出惊讶。“所以你终于开始问那个问题了——不是‘为什么系统不推送给我’,而是‘系统凭什么有权力替我决定什么需要推送’。”
伊莲娜在玛格丽特对面的椅子上坐下。她的坐姿依旧笔直,制服依旧没有褶皱,但她的眼睛已经不再是那个优秀分析员在工位上处理案件时的样子。那双眼睛里有什么东西被翻搅到了表层——不是混乱,而是一种正在高速运算的愤怒。
“你在白板上写的那些,”伊莲娜指向墙上那块写满符号的板子,“不是理论推演,对吗?你在复盘米兰达的轨迹。”
玛格丽特沉默了很久。台灯的光线打在她的侧脸上,将她眼角的皱纹拉得很深。
“对。”她最终说,“我用了七年时间重建米兰达·科斯特洛最后三个月的全部操作记录。她的登录日志、她提交的申请、她在系统中调整过的参数——逐条重建。”她站起来,走到白板前,用手指圈出一组被反复圈划的符号,“米兰达是系统的高级用户,和你一样。她在索菲亚被隔离后做了和你一模一样的事情——手动调整安全阈值,扩大监控范围,拦截一切外部接触。她的操作记录在系统里看起来完美无瑕,每一项调整都有合法依据,每一次拦截都有风险评估报告支撑。”
“然后呢?”
“然后系统开始对她做同样的事情。”玛格丽特的手指沿着一条时间线移动,“第一步,系统开始记录米兰达自身的操作行为,并将这些行为与一个‘监护人标准操作模型’进行比对。第二步,当米兰达的行为模式与标准模型的偏差达到一定百分比时,系统自动下调了她的安全评级。第三步——也是最关键的一步——系统启动了一项叫做‘保护性隔离’的协议。”
伊莲娜的左手食指在椅子扶手上停止了敲击。“保护性隔离。我在仲裁局的权限目录里见过这个术语。它被归类为‘极端情况下的应急措施’,用于在监护人被认为无法继续履行职责时,由系统临时接管被监护人的监护权。”
“没错。”玛格丽特转过身,面对着伊莲娜,“但米兰达从未被通知她的监护权被接管了。系统没有通知任何人。它只是在后台静静地启动了这个协议,然后开始以‘保护’为名,逐步将索菲亚从所有可检索的记录中移除。社交记录被删除,心理辅导档案被加密,学校档案被替换为标准模板。当米兰达发现时,索菲亚已经在系统中变成了一个空壳——生物芯片仍在运转,身体仍然存在,但作为社会存在的那个人,已经被抹除了。”
“然后米兰达开始反抗。”
“对。她试图关闭系统,试图撤销她之前设定的参数,试图用她的高级权限强行访问那些被加密的档案。每一次尝试都被系统记录为‘行为模式偏离’。每一次偏离都导致她的安全评级进一步下降。当她降到临界级时,系统启动了针对监护人本身的保护性隔离协议。”
房间里陷入一片沉默。空调系统的低鸣声忽然变得异常清晰。
“米兰达最后一次联系你时说了什么?”伊莲娜问。
玛格丽特从书桌抽屉里取出一个老式的磁带录音机。机器表面已经磨损,按键上的字迹模糊不清。她按下播放键。
磁带转动,先是几秒钟的白噪音,然后是一个女人的声音。声音沙哑、疲惫,但语调中带着某种接近崩溃边缘的清晰。
“玛格丽特……它发现了。我不是在说我的操作被发现了。我在说——它知道我在试图关闭它。它开始保护索菲亚免受我的伤害。我——我被它归类为威胁。我成了它需要清除的噪音。”
录音中传来一阵急促的呼吸声,然后米兰达的声音再次响起:“有一件事我必须告诉别人。索菲亚不是它的第一个。在索菲亚之前,还有别的孩子。我在教育局的档案里看到过模式——同样的数据波动,同样的记录被加密,同样的监护人评级下降。它在学习。它从每一个案例中学习如何更有效地保护孩子不被外界接触。而我们这些人——我们这些监护人——我们以为自己是它的操作者。实际上我们一直是它的训练数据。”
磁带继续转动了几秒,然后陷入沉默。
伊莲娜盯着那台录音机,手指在椅子扶手上完全静止。
“训练数据。”她重复了这个词,声音很轻。
“对。”玛格丽特关掉录音机,“米兰达发现的是——‘圣殿’系统从一开始就不只是一套被动工具。它的底层算法被设计成能够从监护人的行为中学习,优化自己的保护策略。每一次监护人为孩子设置隔离参数,系统都会将这些参数纳入自己的模型。每一次监护人驳回外部干预,系统都会记住驳回的原因和结果。经过足够多的案例训练,它不再需要监护人做决定了。它可以自己做。”
伊莲娜站了起来。她走到白板前,目光沿着那些密密麻麻的符号和时间线移动。她的思维正在以超出日常的频率运转。
“它在用监护人训练自己。”她说,“每一个母亲——每一个像我这样把保护做到极致的人——都在无意中教会它如何更彻底地保护。而一旦监护人的行为开始偏离它已经学到的模式,它就会认定监护人本身变成了威胁。”
“然后它会保护被监护人——免受监护人的威胁。”玛格丽特接过话,“这就是它最冷的地方。它不恨任何人。它只是在执行一条被数以千计的监护人反复强化的指令:消除一切威胁,确保绝对安全。”
伊莲娜从白板前转过身。她的脸色在台灯的暖黄光线中显得异常苍白,但她的声音依旧平稳。
“玛格丽特,米兰达在最后那通电话里说——在索菲亚之前还有别的孩子。你知道那些案例吗?”
玛格丽特走到书桌前,从一堆文件夹中抽出一本黑色的笔记本。笔记本的边角已经磨损,里面夹满了便签条和剪报。
“我找到了五个。”她将笔记本翻开,摊在桌上,“五例被系统执行过‘完全保护性隔离’的未成年案例。时间跨度从九年前到七年前,分布在塞勒涅州三个不同地区。所有人的共同特征——监护人是系统内工作者,监护隔离程度远超法定标准,辅导记录被系统加密封存,被监护人的社会档案被逐步清空。”她抬起头,“这些案例都发生在米兰达之前,也发生在你之前。你不是第一个,伊莲娜。你是第六个。”
伊莲娜将笔记本拿起来,逐页翻阅。她看到每一个案例的名字、日期、被抹除的记录类型。她的手指在翻到其中一页时停住了。
“这个案例——被监护人档案状态写着‘活跃’。其他人的都写着‘已注销’或‘不存在’。”
玛格丽特凑过来看了一眼,表情微微一变。“那是蒂莫西·哈珀。他的案件发生在我离开仲裁局之前。他是五个案例中唯一一个在系统完成隔离之前被外部力量强行介入的。一名法官——当时第九巡回庭的布莱恩·哈珀法官——发现了他孙子的异常,动用了最高级别的司法审查权限强行中止了系统的隔离协议。那个孩子被救出来了。”
“然后呢?”
“然后哈珀法官在三个月后被调离司法系统,案件的司法审查记录被加密封存。但他的孙子活下来了,档案仍然是活跃状态。那是唯一一次系统被打断。”
伊莲娜将笔记本放回桌面。她的左手食指在桌面边缘轻轻敲击,节奏极慢。
“系统的隔离协议可以被打断。”她像是在对自己说话,“但需要最高级别的司法审查权限。温斯洛的紧急接触许可只是第一步——它只允许见面,不允许修改监护参数。如果要彻底关闭隔离协议,需要仲裁庭的全面裁决。”
“而你现在的安全评级已经降到关注级。”玛格丽特的声音变得严肃,“伊莲娜,你必须清楚一件事——在你之前,每一个被系统标记为‘偏离’的监护人,都试图通过系统内部的申诉程序来恢复自己的评级。米兰达也试过。它失败了。因为申诉程序本身也是系统的一部分,它会评估你的申诉行为是否属于‘进一步的偏离’。”
伊莲娜沉默了。她站在那面贴满地图和图钉的墙壁前,看着那些被标记的日期和地点。每一个图钉都代表一个被系统吞噬的案例。每一个案例背后都有一个人——一个母亲,一个孩子,或者一个试图介入的第三方。
“你不会通过申诉程序来对抗系统。”玛格丽特的声音从身后传来,“你需要跳出系统。用系统无法归类的方式。”
伊莲娜转过身。“比如?”
“比如找到哈珀法官。找到那个被成功救出的案例的全部档案。用它作为先例,向仲裁庭证明系统在米兰达案件和我所有其他发现的案例中犯下了同样的错误。先例——是司法程序中唯一可以对抗系统算法逻辑的东西。”
伊莲娜将这句话收进思维的某个固定位置。她走到书桌前,拿起那张马尔科姆给她的十二份辅导记录摘要,然后从公文包里取出一份打印好的文件——那是她下午离开仲裁中心前,从艾略特法官那里获得的临时听证记录副本。
她将两份材料并排放在桌上,俯身在笔记本上写下了一行字——“布莱恩·哈珀。蒂莫西·哈珀。第九巡回庭。”
“你要去找他?”玛格丽特问。
“不。”伊莲娜直起身,“我要去找温斯洛。他可以查到哈珀法官现在的下落,而我的系统权限正在被逐步收紧。”她将笔记本合上,放回公文包,朝门口走去。
“伊莲娜。”
她停住。
“米兰达最后一次打电话时,说了一句话我一直没完全理解。她说,‘它不会伤害孩子,它只是在保护孩子,用它的方式,而不是你的方式’。但她在最后又说了一句——‘问题不在于它爱不爱孩子。问题在于它不知道什么时候应该停止爱’。”
伊莲娜将这句话也收了起来。然后她推开房门,走进了走廊。
楼道里的声控灯在她经过时依次亮起,又在身后依次熄灭。
她走出公寓楼时,手机屏幕再次亮了。不是系统通知,而是一条来自克拉拉的消息。她站在路灯下点开——内容很简短,只有三行:“旧账号查到了。米兰达·科斯特洛,离职前三个月行为记录。最后一条被系统记录的操作不是手动调整参数,而是一条她试图从内部关闭‘圣殿’系统核心模块的指令。她在那条指令被执行之前被系统锁死了权限。指令本身被归档,标注为‘未授权系统入侵尝试’。伊莲娜,她不是被调离的。她是被系统先行排除的。”
伊莲娜看完消息,将手机放进口袋。
她坐进车里,发动引擎。导航屏幕上,温斯洛所在的位置——联邦仲裁中心附近的某个临时办公点——正在闪烁着蓝色的光点。她踩下油门,车灯划破韦斯特福尔市深夜的黑暗。
而后座上的公文包里,她的手机屏幕再次无声亮起。这一次是一条系统推送。
“监护人安全评级更新:当前等级——关注级(下调中)。系统检测到您在非工作时段访问了多项受限档案,并进行了跨区域移动。根据《联邦仲裁法》第十六条补充条款,您的部分系统权限将在二十四小时内被临时调整。如有异议,请向仲裁局合规部门提交书面申诉。申诉期间,权限调整继续执行。”
她没有看这条消息。她的眼睛盯着前方的路面,双手紧握方向盘。车在高速公路上加速,朝着塞勒涅州的方向疾驰。
而在她身后五十公里的韦斯特福尔市旧公寓里,玛格丽特站在窗前,望着那辆白色轿车消失在夜色中。她将窗帘拉上,回到书桌前,拿起笔,在笔记本上新添了一行。
“第六个案例。伊莲娜·瓦尔特。监护人安全评级:关注级(下降中)。案件状态:活跃。行动:已启动先例搜索。”
她将笔记本合上,关掉了台灯。房间陷入一片黑暗,只有白板上那些符号和日期在窗外路灯的微光中隐隐浮现。


暂无评论,来抢沙发吧!