19. 偏见养料

第十九章 偏见养料

国会山新闻厅在上午八点四十分已经座无虚席。

这是联合共和国国会历史上第一次由调查委员会主席亲自召开关于算法风险评估系统的公开听证会。十二家主流媒体的摄像机在新闻厅后排架成一道黑色的弧线，镜头全部对准讲台。旁听席上坐满了来自各界的观察员——民权组织代表、科技伦理学者、前司法部官员，以及至少三名神谕集团的政府事务专员。埃利斯·布莱恩本人没有到场，但他的法务副手坐在第二排靠走道的位置，手里捏着一部加密平板。

菲奥娜·科尔文坐在委员会法律顾问席上，面前摊着三份文件——筛选委员会会议纪要的正式打印稿、十七人优先案件测试名单、以及玛丽安·克劳斯的机密证人证词。她的手指交叉放在文件上方，姿态像一尊被放置在法院门口的雕像，纹丝不动。

丹尼尔·莫斯坐在旁听席第一排靠左侧的位置。凯瑟琳坐在他旁边，一只手始终搭在儿子的手背上。丹尼尔的西装是借来的，肩部略宽，袖口略长，但他坐得很直，目光始终盯着讲台上方那枚联邦徽章。

罗杰·巴罗和格雷格·哈洛坐在第三排。格雷格比之前瘦了一些，颧骨突出，但他的眼神不再像第一次被伊森问话时那样闪躲。他手里拿着一张从培训会上偷拍的行为标签分类表复印件。

北区临时安全屋里，艾拉坐在三台显示器前，手指悬在键盘上。她预先设置好的自动分发程序已经准备就绪——只要她按下确认键，筛选委员会的全部证据包将同时抵达十二家媒体的加密投稿渠道。她等的信号不是贝拉米的开场白，而是菲奥娜在听证会中途发来的一条加密指令。

伊森·科尔站在国会山外面的台阶上。

他被禁止进入新闻厅。他的风险评估分数在昨天深夜再次跳升，已经超过红区阈值的两倍。任何政府建筑的门禁系统读到他的身份信息都会自动报警。但他没有离开。他把车停在宪法大道对面的路边，人站在国会山西侧入口的公共台阶上。这是公共空间，不是政府建筑内部，他不需要刷卡。台阶上游客来来往往，有人拍照，有人吃早餐，没有人注意到一个站在廊柱下面、穿着旧夹克的男人。

他通过老式手机接收着新闻厅内的实时文字转播——艾拉黑进了听证会的公共音频流，把声音转成文字，逐条发送到他的手机上。

八点五十分。贝拉米参议员走进新闻厅。

她穿了深灰色的套装，左襟别着联邦徽章，头发梳得比平时更紧。她的表情不是电视上那种精确校准过的微笑，而是更复杂的某种东西——像一个人在长跑中看到终点线，但不确定自己是否有足够的体力跨过去。

她走上讲台，调整麦克风，双手放在讲台两侧。闪光灯密集地亮了一轮，然后安静下来。

“我是玛格丽特·贝拉米。联邦参议院司法委员会主席，神谕系统合规性特别调查委员会主席。”她的声音平稳，但伊森注意到她说话的速度比平时慢——不是犹豫，是慎重，“本次新闻发布会原定目的是公布调查委员会第一阶段证据收集的初步进展。但在我开始之前，我需要首先向公众承认一件事。”

新闻厅里的空气骤然收紧。后排的记者们几乎同时向前倾了倾身体。

“在调查过程中，”贝拉米说，“委员会发现了一个此前未向公众和国会完全披露的跨部门协调机制。这个机制被称为‘筛选委员会’，在过去五年间对神谕系统的风险评估数据输入进行了选择性调整。”

旁听席上爆发出一阵低语。菲奥娜没有动。神谕集团的法务副手低头开始在加密平板上快速输入。

“筛选委员会的成员包括神谕集团高管、司法部代表、以及——”贝拉米停顿了一拍，那个停顿短到几乎不可察觉，但在新闻厅的紧张氛围中被放大成了某种轰鸣，“——参议院司法委员会的代表。我本人曾参与其中部分会议。调查将继续进行，以确定该机制的全部活动范围和影响。我将接受质询。”

低语声骤然炸开，变成了密集的提问声。记者们从座位上弹起来，争相举手，摄影机的变焦镜头发出连续的机械嗡鸣。贝拉米抬起一只手。

“在我接受提问之前，委员会法律顾问菲奥娜·科尔文律师将向公众提交一批新获得的证据。”

菲奥娜站起来。她打开第一份文件，对准麦克风。

“委员会正式证据编号EX-0713。筛选委员会第一次至第二十三次会议纪要完整打印稿。来源：神谕集团第一代系统原始审计日志，物理存储地址东区1号库房地下二层RAID-A07磁盘阵列。文件记录了筛选委员会的五项核心职能，包括调整信源偏见容忍系数、将特定个体纳入白名单保护、以及对优先案件进行校准。”

她把第一份文件放在投影仪下。会议纪要的首页出现在新闻厅两侧的大屏幕上。与会人员名单清晰可辨——埃利斯·布莱恩、维克拉姆·帕特尔、卡斯帕·万斯、玛格丽特·贝拉米，以及最高法院顾问代表。

“第二份证据，编号EX-0714。”菲奥娜拿出第二份文件，“优先案件测试计划候选人名单。十七个名字。被筛选委员会选中的个体，其风险评估分数被人为上调至禁制令触发阈值，以测试《预防正义法案》的司法容忍边界。第一个名字是扎克·拉希姆。最高法院判决书里的那个名字。”

新闻厅陷入了短暂的、极深的安静。那是一种只有在震惊到达顶峰、所有反应机制都暂时失效时才会出现的安静。然后快门声像暴雨一样砸下来。

伊森在台阶上低头看着手机屏幕上的文字转播。菲奥娜一条一条读证据的时候，他能听到国会山新闻厅里透过外墙隐隐传出的喧嚣——不是具体的声音，而是一种密集的、起伏的嗡鸣，像蜂群被激怒前的低频振动。

“第三份证据，编号EX-0715。”菲奥娜拿出第三个文件袋，“白名单保护记录。特定个体的档案被永久锁定在绿区，不受正常风险评估程序约束。其中包括一名联邦高级官员，其档案中有三次被归档为‘误报’的出警记录和一份被撤回的民事保护令申请。该官员的名字——理查德·贝拉米。”

新闻厅里的嗡鸣声骤然升高，变成了一种混合着震惊、愤怒和混乱的嘈杂。有人在喊问题，有人在打电话，神谕集团的法务副手已经站了起来，平板抱在胸前，朝侧门快速移动。

贝拉米站在讲台上，双手仍然放在讲台两侧。她的脸上没有任何可以被称为“表情”的东西——只有一种在巨大压力下维持静止的、被冻结的平静。

“科尔文律师，”一个记者从后排喊道，“你刚才说白名单保护记录里有一名联邦高级官员是委员会主席的丈夫。贝拉米参议员本人是否知道这一记录的存在？”

菲奥娜转向记者。“贝拉米参议员在第四次筛选委员会会议上动议将其丈夫纳入白名单。动议以全票通过。记录在案。”

所有的镜头同时转向贝拉米。

她深吸了一口气。那个动作很细微，但被麦克风捕捉到了，在音响系统中放大成一声低沉的、带着微微颤抖的呼吸。

“是的。”她说，“我做了。”

新闻厅沸腾了。但伊森的手机屏幕上，艾拉发来的文字转播中出现了另一行让他瞬间绷紧的字：

“伊森。罗杰站起来了。他在往讲台方向走。”

新闻厅内，罗杰·巴罗从第三排站起来，走向过道。他手里没有文件，没有发言稿。警卫试图拦他，但菲奥娜抬手制止了。“他是预备证人罗杰·巴罗。我申请将他列入现场证言程序。”

贝拉米点了点头。

罗杰站在讲台前的开放麦克风前面。他的肩膀在微微发抖，但他的声音比伊森在任何时候听到的都更稳定。

“我叫罗杰·巴罗。我曾经用神谕系统的邻里守望APP举报丹尼尔·莫斯十七次。不是因为他做了什么。是因为他抢了我的职位，我想测试这个系统能不能毁掉一个人。能。它做到了。”他转向旁听席，看向丹尼尔，“我做这些事的时候，系统给了我所有工具。它给了我举报模板。它把我的账号标记为‘高信用度信源’。它给我表弟——格雷格·哈洛——一个公民评审员界面，让他可以给不认识的人打分。从一到五颗星。”

格雷格站起来，走到罗杰旁边。他的声音不如罗杰稳定，但每一个字都经过了无数遍练习。

“我是格雷格·哈洛。神谕系统公民评审员。我们被培训识别‘高风险行为模式’——夜间单独出行、社交平台负面情绪、邻里关系冷淡。每个标签都有权重。我们按一下按钮，权重就变成分数，分数就变成禁制令。没有人告诉我们分数会毁掉别人的生活。他们告诉我们的是——‘你在参与一项伟大的社会安全实验。’”

新闻厅里的记者们不再喊问题。他们只是疯狂地打字、录音、拍摄。新闻厅外面，走廊里的电视屏幕已经开始播放突发新闻标题：“调查委员会公布筛选委员会存在——贝拉米承认参与——证人当庭指证系统偏见机制”。

罗杰转向讲台，看着贝拉米。

“参议员。J. 陈在第四棉纺厂告诉我，偏见是秩序最好的朋友。他说牧羊人——那个组织——不是为了玩弄他人命运，而是为了给偏见一个结构，一个出口。但他没有说的是，当偏见被结构化，它就不再是个人的错。它是所有人的错。是设计偏见系统的人的错。是按下偏见按钮的人的错。是投票支持偏见变成法律的人的错。”

他停下来，呼吸急促，眼角泛红。

“我曾是那个按按钮的人。我今天在这里，是因为有一个人教会了我——偏见不是养料。偏见是毒药。而解毒的第一步，是说出你做了什么。”

新闻厅安静了整整五秒。然后掌声从旁听席的某个角落响起来，然后扩散到更多角落。不是整齐的喝彩，而是一种碎片化的、不确定的、但仍然在持续蔓延的认同。

伊森坐在台阶上，手机屏幕上的文字一行一行跳出来。他读着罗杰的话，感到某种东西在胸腔里缓慢打开——不是喜悦，不是胜利，而是一种对米勒说过的话的回忆：“算法没有愤怒，也没有宽恕。它只是把人变成数字。”

但人不是数字。人可以按按钮，也可以不按。人可以说谎，也可以坦白。人可以在发现自己是工具之后，选择不再做工具。

新闻厅内，菲奥娜站起来，要求全体安静。

“我还有最后一位预备证人需要传唤。”她说，“丹尼尔·莫斯。”

丹尼尔站起来。凯瑟琳松开了他的手，在他手背上轻拍了一下。他走过过道，站在讲台前，面对着所有的镜头、所有的目光、所有的窃窃私语和按键声。

他把折在口袋里的那张纸打开，开始读他准备好的那段话。读到一半时，他的声音哽咽了一下，凯瑟琳在旁听席上闭紧了眼睛。然后他继续。读到“我到现在也不知道那个给我打分的评审员是谁”时，格雷格低下头，手指在膝盖上紧紧交握。读到“他不需要对我负责”时，丹尼尔抬起头，看向镜头。

“但我需要对你们负责。这就是为什么我今天站在这里。”

新闻厅外面，国会山的走廊里，更多的电视屏幕开始播放听证会的现场画面。社交媒体上的信息流开始以指数速度膨胀。艾拉的自动分发程序在同一时刻触发——十二家媒体同时收到筛选委员会的全部证据包，邮件主题统一写着“影子分：神谕系统隐藏的风险评估第二层”。

索拉里斯会议中心顶层，埃利斯·布莱恩站在落地窗前看着手机上不断弹出的新闻推送。他的面部肌肉没有动。但他的手指在手机边缘轻轻收紧，指节泛白。

北区临时安全屋，艾拉看着屏幕上的数据流。自动分发程序全部发送成功。菲奥娜的加密指令还没有来——那个指令是一个简单的单字母信号，“F”，代表“执行最终计划”。她在等。

国会山西侧台阶上，伊森从台阶上站起来。他把打火机放进口袋，把手机屏幕关掉，看着新闻厅方向那扇紧闭的大门。他听到了掌声——不是从手机，而是从建筑内部隐隐传出的、真实的、被墙壁过滤但仍然持续的声响。

那扇门仍然对他关着。系统仍然把他定义为危险。影子分仍然在上升。但他的证据在新闻厅里面，他找到的证人在新闻厅里面，米勒的笔记、艾拉的代码、玛丽安的信封——所有这些从数字黑幕和物理世界夹缝里挖出来的碎片——都在那扇门里面，正在被十二台摄像机同时播送给全联合共和国的人。

新闻厅内，菲奥娜拿出最后一份文件。她把它放在投影仪下，大屏幕上显示出筛选委员会第十七次会议纪要的最后一页。会议议题是“系统公信力维护策略”。备注栏里有一段手写批注，来自最高法院顾问代表：

“若未来出现关于系统公正性的质疑，应强调三点：一、算法无意图，不产生偏见；二、数据由全体公民共同产生，责任分散；三、系统透明运行，所有分数变动均有记录。以上三点构成不可穿透的法律盾牌。”

菲奥娜把这段话念了一遍。然后她抬头看着镜头。

“这就是他们设计的盾牌。算法负责——但没有意图。数据负责——但来自所有人。系统负责——但只是记录。没有人负责。没有人需要承担责任。但今天我们在这里，是因为一些人决定打破这面盾牌。伊森·科尔不能进入这间新闻厅。他的风险评估分数被系统标记为红区。但在过去的几个月里，他收集了你们刚才看到的所有证据。他不是在和一个算法作战。他是在和躲在算法后面的人作战。”

旁听席上，丹尼尔的母亲凯瑟琳站起来。她没有说话，只是举起了一只手，掌心向外，朝着镜头。那是一个手势，没有经过排练，没有政治含义——只是一个老妇人面对全世界时，唯一能做出的动作。

伊森站在台阶上，透过国会山的白色大理石廊柱望向天空。云层正在散开，阳光从缝隙里倾泻下来，照亮了广场上每一个人的脸。

手机震动。菲奥娜发来一条信息，只有一个字母：

“F。”

他转身走下台阶，朝停车方向走去。北区那边，艾拉已经按下了确认键。最终计划不是分发证据——证据已经发完了。最终计划是把所有证据同步提交给联邦最高法院的紧急申诉程序。

不是请求最高法院推翻拉希姆案判决。是请求最高法院回答一个问题——

当算法被用来放大人类偏见、而非纠正它时，这个算法是否还能被认为属于“预防性司法”的合宪范围？

台阶下面，广场上的游客正在围拢观看新闻推送。有人在手机屏幕上认出了丹尼尔的脸。有人开始搜索“影子分”这个词。人群里的窃窃私语声像涨潮的海水一样慢慢升高。

伊森穿过人群，朝宪法大道对面走去。在他身后，国会山新闻厅的听证会仍在继续。在他前面，最高法院大楼的铜质圆顶在正午阳光下闪着冷峻的光。

那道光还没有熄灭。但它正在被一点点地、从不同的方向——照亮。