六个月后。
新奥林匹亚的春天来得总是很突然。三月中旬,桑德区的老梧桐树在一夜之间爆出了满枝的新叶,把第九街区十字路口那盏橘黄色的路灯遮住了半边。路面重新铺过沥青,旧的便利店换了招牌,街角的自助洗衣房门口摆出了一排盆栽。一切看起来都和从前不一样了,但住在附近的人知道,有些东西从来没变过——梧桐树还是那些梧桐树,路灯还是那盏路灯,只是树下的人换了。
莱昂·克罗斯的新书《窃语杀机》在联邦最高法院裁定帕诺普蒂孔倾向性放大调节器违宪之后的第三天正式出版。没有新书发布会,没有签售行程,没有媒体专访。出版社在书的封底印了一段作者手记,只有五行字——
“这本书写的是一个人在同一时刻不可能出现在两个地方。一个叫维克多·埃尔林格的人,在九年前的十月十五日晚上十一点,不可能同时在第九街区十字路口醉倒又在第十八街区入室盗窃。这个简单的物理事实被一群人用代码、签字、篡改和沉默掩盖了九年。这本书是为所有被同一套逻辑伤害过的人写的。他们不是数字。他们是人。”
书在出版第一周就卖断了三次加印。不是因为营销,是因为伊顿法官的违宪审查意见书在最高法院以六比三获得通过的那天,新奥林匹亚公共信息平台的热搜榜前十名里,有七个词条和帕诺普蒂孔有关。“倾向性放大调节器”这个词被搜索了超过三百万次。无数人第一次知道,自己过去七年里在社交媒体上收到的每一篇推荐内容、每一条风险评估、每一次贷款审批、每一份工作申请的背景审查——都在一台机器的权重参数里被提前设定好了一个系数。桑德区的系数是1.7。鸢尾花高地的系数是0.3。两个邮政编码之间隔着十公里,系数差距是五倍。这不是科学,这是把偏见翻译成数字。
克罗斯坐在联邦法院对面那家咖啡店里,面前摊着一本刚印出来的新书。咖啡店换了老板,吧台上多了一台新的意式咖啡机,墙上挂着一块手写的小黑板,上面用粉笔写着当天的特调:“纯序冷萃——冰的,不加糖,像真相。”
杰米·莫兰从门口走进来,手里拿着两杯外带咖啡。他的头发剪短了,穿着一件干净的格子衬衫,手腕上的旧手表换了新表带,不是用胶布粘的那种。他把其中一杯放在克罗斯面前。
“我在社交媒体上注销了所有账号。”杰米说,“不是因为他们还在盯着我。是因为我不想再被任何算法告诉我应该恨谁。”
“注销了之后你用什么?”
“电话。纸信。有时候直接走过去敲人家的门。”他喝了一口咖啡,“你知道敲门和发消息的区别吗?敲门的时候你能看到对方的脸。看到脸的时候,你很难把对方简化成一个标签。”
克罗斯翻到新书的最后一页。那是全书唯一一页空白的纸——没有正文,没有注释,没有参考文献。只有一行页码脚注:本页留给那些名字没有被写进书里的人。
“你有没有想过,”杰米看着那页空白,“那些在纯序协议的会议纪要里没有签字、在源代码里没有注释、在录音里没有被记录的人——他们现在在做什么?”
“在做他们一直在做的事。”克罗斯说,“等待。等待公众的注意力转移到下一个热点。等待热搜榜上的词条被新的词条替换。等待所有人忘记帕诺普蒂孔,然后换一个名字,换一套代码,换一批签字的人,重新上线。”
联邦大陪审团的调查在上个月出具了最终报告。哈兰·缪拉被控共谋侵犯公民宪法权利、妨碍司法、篡改证据等十七项联邦重罪,在审判前与检方达成认罪协议,被判处十八年联邦监狱监禁,不得假释。马库斯·凯恩被控十三项联邦重罪,认罪后被判处十二年监禁。莉迪亚·瓦尔科——她的名字在大陪审团报告里占了一整章。报告记录了她在纯序协议签署会议上提出的“牺牲的个案应该有选择标准”的原话,记录了她对倾向性放大调节器的审核批准,记录了她七年来每一次以联邦情报局副局长身份为帕诺普蒂孔系统提供的情报支持。但她没有站上被告席。她在总统接受辞呈之后,以污点证人的身份向大陪审团提供了所有她经手的内部文件,换取了免于起诉的协议。她现在住在北方的无名小镇,每周向联邦缓刑办公室报告一次行踪。她的名字从联邦情报局的官网上被彻底抹去了,就像从来没有存在过一样。
卢修斯·德拉蒙德被判处七年联邦监狱监禁。法官在量刑时考虑了他的当庭翻供和主动提交录音证据的行为,将刑期从可能的最长刑期大幅缩减。宣判那天,旁听席上坐着罗南·莫兰。德拉蒙德被法警带出法庭的时候,罗南站了起来。他没有说话,只是微微点了一下头。德拉蒙德看到了。他也点了一下头。两个曾经一起在桑德区第九街区十字路口巡逻的男人,在分开九年之后,用最少的动作完成了他们之间唯一可能的和解。
西奥多·阿切尔——奥姆尼科尔政府关系部前副总裁——在火灾那天晚上从奥姆尼科尔大楼里逃出来之后,就再也没有在公众面前出现过。有人说他去了北方,用化名在一所社区大学教授伦理学。有人说他仍然藏在新奥林匹亚的某个地下室里,继续收集那些没有被曝光的高层通讯记录。但没有人知道真相。克罗斯最后一次收到阿切尔的消息是在三个月前——一封没有回信地址的纸质信,信里只有一句话:“我教学生如何分辨偏见和事实。这是我这辈子做过的第一件干净的事。”
埃琳娜·瓦茨辞去了奥姆尼科尔的一切职务,加入了联邦最高法院新成立的“算法司法伦理委员会”——一个在帕诺普蒂孔违宪裁定之后仓促设立、但至今还没有实权的顾问机构。她的左膝已经痊愈,只留下一道浅浅的疤痕。她的办公桌上放着一个相框,相框里不是照片,是一页泛黄的针式打印机打印纸——第4372行代码,倾向性放大调节器的权重设定函数,旁边用红笔划掉了那三个签名。
菲利克斯·艾恩在城北的工作室重新开张了,门口的木牌换了一块新的,上面多了四个字:“接受司法鉴定”。联邦司法证据鉴定处在克劳处长被解职之后,重新修订了物理文书鉴定的标准操作规范,恢复了艾恩退休前设立的那条旧规则——物证提交方有权选择当庭直接提交。他现在每天早上八点依然准时开门。他说,只要还能看得清针痕,就不会关门。
维克多·埃尔林格出狱后搬到了城东,在一家建筑材料仓库做装卸工。他没有接受任何媒体采访,没有出席任何关于帕诺普蒂孔的公开听证。他只是在一个周日的下午,独自去了桑德区第三分局旧址——那栋灰白色的老楼现在已经改成了一家社区图书馆。他在图书馆的阅览室里坐了一整个下午,没有看任何书,只是坐在那里。管理员后来告诉克罗斯,那个男人从包里掏出了一张旧彩票和一张旧照片,把它们夹进了图书馆书架上随便一本法律辞典里,然后就走了。
“这一切结束了吗?”杰米问。
克罗斯看着窗外。联邦法院门口的台阶上,一群法学院学生正在合影,他们手里举着标语牌,上面写着“算法不是法律”和“物理证据永远不死”。但隔着两条街,奥姆尼科尔大楼顶那颗蓝色眼睛仍然在缓缓旋转。它在违宪裁定之后被法院下令关闭了公共监控功能,但大楼本身的物业系统还在运行,那颗眼睛作为公司标志仍然亮着。有人说奥姆尼科尔正在开发一套新的风险评估系统,代号叫“曙光”,声称“完全剔除了所有人类偏见”,由新一代生成式算法独立运行,不需要任何人工设定权重。
克罗斯的加密频道响了一声。是维吉尔发来的消息。
“莱昂。我监测到一个新的加密信号源。频率和协议格式与纯序协议第四阶段完全一致。信号来自联邦最高法院内部服务器。接收端是奥姆尼科尔大楼顶层董事会会议室。我破译不了内容,但我可以看到信号的标题——‘曙光项目司法合作框架’。发送时间:今天上午九点。也就是最高法院违宪裁定生效之后第四个月。”
克罗斯把屏幕转向杰米。
“你看。一切都没有结束。它们只是换了一个名字。”
杰米盯着那行字看了很久。然后他把咖啡杯放在桌上,站起来,走到咖啡店的公告板前。公告板上钉满了各种传单、名片和手写便条。他找到一张空白的粉红色便利贴,用柜台上的铅笔写了一行字,钉在公告板的最中央——
“当有人告诉你,新的系统已经剔除了所有偏见,你只需要问一个问题:谁写的代码?谁签的字?谁选择把什么东西排除在数据之外?如果你找不到答案,偏见就在那里。”
他转身看着克罗斯。“这就是我能做的。写纸条。钉在公告板上。每次换一家咖啡店。”
克罗斯合上自己的书,把它放进背包。背包已经很旧了,搭扣磨得起了毛边,肩带上的缝线断过一次又被他自己缝上了。四百七十二页针打副本已经不在这个背包里了——它们被锁在联邦最高法院的证据保险库中,作为帕诺普蒂孔案违宪裁定的永久物证。但背包里还有别的东西:莫兰的拘留登记表复印件(被艾恩重新做过针痕鉴定之后回到了他手里)、阿切尔的微缩胶卷副本、德拉蒙德在停车场交给他的那张手写纸条(“那台机器的第三针和第七针磨损最严重”),以及一沓他从各种渠道收集来的、关于“曙光项目”的零散资料。
“你要去哪?”杰米问。
“去城北。”克罗斯把背包甩到肩上,“艾恩的工作室今天下午有一个新案子。一个来自桑德区的年轻人,去年被‘曙光’预评估系统标记为高风险个体,被拒绝录用公务员。他的父亲在桑德区住了四十年,没有犯罪记录,没有不良信用,连停车罚单都没收过。但曙光的评估报告里有一句——‘基于关联网络风险传导,该申请人的社会关系图谱中存在不可接受的高离散度风险节点。’关联网络。也就是说,不是他自己做了什么,而是他认识的人里有人被算法判定为高风险。”
“他认识谁?”
“维克多·埃尔林格。他父亲是埃尔林格的中学同学。三十年没见,只在一次社区烧烤上拍过一张合影。那张合影被社交平台的图像识别抓取到了,然后在关联网络里把他们连在了一起。埃尔林格的高离散度风险标签——就是帕诺普蒂孔时代留下的那个——通过关联网络传导到了他父亲的身上,再传导到了他身上。帕诺普蒂孔死了。它的标签还活着。活在新系统的数据库里,像一粒被埋在地基深处的放射性尘埃。”
杰米沉默了很久。咖啡店里的老式收音机正在播报午间新闻——最高法院将就曙光项目的合宪性进行新一轮听证,联邦司法部新任部长(在缪拉入狱之后由总统任命的技术官僚)发表声明称,“曙光完全不同于帕诺普蒂孔,它不依赖人工设定权重,完全由自主学习算法驱动,是人类司法史上最公正的风险评估工具。”
“自主学习的算法。”杰米重复了一下这个词,“它从哪里学习?”
“从帕诺普蒂孔留下的两万多件历史案卷数据。”克罗斯说,“他们用旧系统的数据训练新系统,然后说新系统是干净的。”
他把咖啡钱留在桌上,推门走出了咖啡店。门外的街道上,春天的新叶在阳光里闪着翠绿的光。轻轨列车从头顶驶过,车厢外壁上刷着奥姆尼科尔的新广告——“曙光:让偏见成为历史。”
克罗斯看了一眼那条广告,然后把背包肩带拉紧,朝城北的方向走去。
在桑德区第九街区十字路口,梧桐树的叶子被风吹得沙沙响。那盏橘黄色的路灯已经熄了——白天不需要它。但到了晚上它仍然会亮起来,照着空荡荡的柏油路面,照着自助洗衣房里最后一批叠衣服的人,照着那些走过这个路口但从不低头看路面的人。路面上的沥青是新的,旧的路标被覆盖在下面,但旧的沥青没有消失。它只是被盖住了。
在城北艾恩的工作室门口,木牌上的新漆已经干了。“接受司法鉴定”四个字在下午的阳光里反着光。工作室的门开着,里面飘出淡淡的纸张和墨水的气味。菲利克斯·艾恩正坐在工作台前,用镊子夹着一小片纸样放进多光谱分析仪。他听到脚步声,没有抬头。
“你来得正好。这个新案子的纤维样本很有意思。曙光的数据库里说这个申请人的社会关系风险指数超过了警戒线。但他的物理纤维——我是说他的出生证明、他的租房合同、他的水费账单——这些纸上的针痕、墨迹、氧化程度,和他父亲的同一批文件完全匹配。他是真的。他父亲也是真的。他们之间的关系是真的。不是算法算出来的关联度,是物理世界里实打实的三十年。”
“曙光的结论呢?”
“曙光的结论和帕诺普蒂孔一样——高风险个体,拒绝录用。”艾恩把镊子放下,抬起头看着克罗斯,“你知道曙光的评估报告里引用的是什么数据源吗?帕诺普蒂孔。七年前的帕诺普蒂孔。那个已经被裁定违宪的系统,它的历史数据被完整地保留下来,作为曙光的学习样本。新系统没有制造新偏见。它只是继承了旧偏见,然后用自主学习算法重新包装了一下,让它看起来像是算法自己得出的结论。”
克罗斯在工作室的旧沙发上坐下来,把背包放在脚边。窗外传来城北教堂下午三点的钟声。钟声敲了三次,回荡在旧街区的砖墙之间,像某种古老而固执的提醒。
“那个申请公务员的年轻人——他愿意起诉吗?”
“愿意。”艾恩说,“而且他父亲也愿意。他父亲说了一句话——‘我上一次被人这么对待的时候,我没说话,因为我觉得那只是个例外。现在我儿子被人这么对待,我才知道那不是例外。那是模式。’”
克罗斯从背包里掏出笔记本,翻到全新的一页。钢笔在纸面上停了一秒,然后落了下去。他写下了新的一行字——
“偏见不会因为被裁定违宪就消失。它只是换了一个名字,换了一套代码,换了一批签字的人。然后它从旧系统的墓碑上站起来,走进新系统的训练数据里,对自己说——我是全新的,我什么都不记得。”
他停下笔,看着窗外的阳光落在旧印刷厂的砖墙上。春天的新叶在风里翻动着银白色的背面,像无数只正在翻页的手。
“艾恩先生。”
“什么?”
“明天早上八点,你还开门吗?”
“我每天早上八点开门。”艾恩把放大眼镜推回额头上,看着克罗斯,“你呢?”
克罗斯没有回答。他把笔记本合上,塞进夹克内侧口袋,站起来走到门口。街对面的面包店里飘出新鲜面包的香气,一个老人推着一辆装满旧书的购物车慢慢走过。远处,奥姆尼科尔大楼顶那颗蓝色眼睛在午后的日光里缓缓旋转,像一只永不闭合的瞳仁,俯视着这座城市的每一扇窗户、每一盏路灯、每一个在十字路口停留的人。
而在联邦最高法院的密室里,一份标注着“曙光项目司法合作框架”的文件正被分发到九位大法官的私人案卷系统。文件的第一页写着——“曙光系统完全由自主学习算法驱动,不含任何人工设定参数。所有训练数据均经过严格清洗,已剔除帕诺普蒂孔时代的倾向性标签。”文件的最后一页有一行极小的注释,字体比其他正文小两号——“训练数据集中包含帕诺普蒂孔历史评估记录约两万三千条。相关标签已通过语义映射转换为曙光标准格式。”
没有人知道语义映射是什么意思。没有人知道旧标签在新格式里变成了什么。只有那颗永不闭合的眼睛知道。它不说话。它只是旋转着,在城市的天际线上,看着所有人在它的注视下继续生活。
克罗斯在面包店门口买了一根法棍,掰成两半,把一半塞进背包侧袋。然后他朝轻轨站的方向走去。他的影子被午后的阳光拉得很长,在身后铺过整条街道,像一个他还没有完全看清轮廓的东西,一直在跟着他走。
而在城市的每一个角落里,那些被帕诺普蒂孔标记过的人——被拒绝录用的、被拒绝贷款的、被加重判决的、被列入禁飞名单的——他们仍然在继续生活。他们不知道自己的数据已经被“清洗”过了。他们不知道自己的标签已经被“映射”成了新的格式。他们只是在某个普通的下午,收到了一封来自新系统的自动通知,通知里写着——“经曙光系统综合评估,您的社会风险指数已更新。感谢您对公共安全的配合。”
他们中的大多数人没有打开通知。他们中的大多数人已经不再相信任何带有“风险评估”字样的消息。但他们仍然保留了那些旧的信封、旧的复印件、旧的巡逻日志、旧的照片。他们不知道这些东西以后会不会有用。他们只是留着。像罗南·莫兰把一份作废的拘留登记表复印件留了九年。像杰米·莫兰把一张高中毕业袍和警服的合影照片从地下室的墙上取下来放进自己的口袋里。像埃琳娜·瓦茨把第4372行代码打印出来,用红笔划掉那三个签名,装进相框。
不是每一次保留都能等到被用到的那一天。但每一次保留都是一个微小的、物理的、不可篡改的事实——在数字世界的每一次覆盖和更新和清洗和映射之下,仍然有人选择用纸和墨水和针痕和碳粉,把发生过的事情留在物理世界里。因为它们发生过。因为它们是真实的。因为真相不需要被算法验证。真相只需要被保存。


暂无评论,来抢沙发吧!