艾德里安·瓦茨住在斯托克布里奇旧城区一栋爬满常春藤的砖砌小楼里。他的书房窗户正对着那棵老苹果树的方向——不是偶然,是他三十年前亲手选的房子。那时候他的侄女艾琳还是个在院子里追蝴蝶的小女孩,他偶尔会在周末带着学术论文过来,坐在苹果树下读,偶尔抬头看那个女孩用树枝在泥土上画画。
此刻,他坐在书房的老旧皮椅上,面前的笔记本电脑屏幕上显示着一封加密邮件。邮件的发件地址被层层跳转掩盖,但正文的落款处签着一个他不需要看第二遍的名字:霍利斯·克劳馥。
艾德里安已经六十三岁了。他的头发全白了,手指关节因为常年敲键盘而微微变形,但眼睛仍然保持着某种年轻人才有的锐利——那种属于一生都在追问“为什么”的人的锐利。他盯着屏幕上的邮件正文,已经读了不下十遍。
邮件的措辞经过了精心设计。霍利斯没有直接请求帮助,没有承认任何错误,没有暴露任何可以被引用的法律弱点。他用的是两个老同事之间才会使用的语言——那种在学术会议的走廊里、在联合论文的草稿边缘、在深夜实验室的咖啡机旁才会出现的非正式口吻。
“艾德里安,我们很久没说话了。二十年,还是更久?我记得最后一次是在阿尔比恩理工学院的伦理委员会听证会上——你反对将预测性算法用于风险评估,我主张技术中立论。那场辩论我们谁也没有说服谁。”
“现在你的侄孙做了你当年主张的事。他用完全合法的手段逆向了我的系统,然后用它自己的逻辑反击了那些曾为它辩护的人。你教过他——我从他的方法里能看到你的影子。我不知道你是否赞同他做的事,但我猜你一定理解他为什么做。”
“我需要和你谈谈。不是作为奥米基因的首席架构师,不是作为你当年的同事,甚至不是作为你侄孙正在攻击的目标。而是作为一个花了二十年时间建造了一座大厦、然后发现这座大厦的地基上有他自己年轻时留下的裂缝的人。”
“给我一个机会。也给自己一个机会。”
艾德里安摘下老花镜,用拇指和食指揉了揉鼻梁。窗外的雨声越来越大,雨水顺着常春藤的叶子往下淌,在窗台上敲出细碎的节奏。
他回想起第一次在寄养系统的探视室见到里奥的场景。那是一个瘦削的、沉默的、眼睛像两块深灰色玻璃的少年。他坐在探视室的塑料椅子上,没有哭,没有抱怨,没有问任何关于母亲的事。他只是安静地坐在那里,像是把自己锁进了一个只有他自己能打开的房间。艾德里安见过那种表情——在战争中幸存下来的老兵脸上,在失去了整个村庄的难民脸上。一个十五岁的孩子不应该有那种表情。
第三次探视时,艾德里安在公共休息室的桌子上留了一本书。不是关于算法的。是关于树的。那本书叫《森林的隐秘生活》,讲的是地下的真菌网络如何在树木之间传递养分和危险信号。他选这本书是因为它暗含了一个隐喻——你看不到的连接,往往比看得见的更重要。他不能确定那个沉默的少年能否读懂那个隐喻。
里奥读懂了。
第四次探视时,少年把那本书还给他,说了一句话:“树不会审判彼此。它们只是传递信号。审判是人的事情。”然后他问了一个问题——那个后来被玛雅·卡斯特罗反复引用的问题:“一个系统犯错后,应该由谁来纠正它?”
艾德里安当时没有答案。他至今没有完整的答案。但他知道那个问题的根源——它来自一个十五岁少年在雨夜中目睹的一切。母亲站在阳台上,没有打伞。母亲说,不是算法判我有罪,是他们。母亲从楼顶跳下去。
“我没有教他如何复仇。”艾德里安对着雨窗说,声音很轻,像是说给三十年前那个在苹果树下追蝴蝶的小女孩听,“我只是教了他如何思考。他想到了复仇,那是他自己的逻辑。”
他重新戴上眼镜,手指悬在键盘上方,犹豫了整整两分钟。然后他开始打字。回复很短——比霍利斯的邮件短得多。
“霍利斯,我不需要你给我机会。我需要你回答一个问题。二十年前在阿尔比恩理工学院伦理委员会的听证会上,你主张技术是中立的——算法不会歧视,只会反映数据。我当时说,如果数据来自一个有歧视的社会,算法只会放大歧视。你说那是社会的问题,不是技术的问题。”
“现在你的算法标记了一个无辜的药剂师,把她标记为高危商业间谍。然后你的内容分发系统把这条标记优先推送给了最有可能攻击她的人。那个药剂师是我的侄女,她的名字叫艾琳。她不是你的数据点,不是你的误判率,不是你的‘不幸事件’。她是我的亲人。”
“你要和我谈谈?那就先回答那个二十年前的问题。技术真的是中立的吗?如果答案是肯定的,那么里奥·瓦茨用完全中立的技术完成了对你系统的逆向工程和反制——你应该庆祝,因为他证明了技术的普适性。如果答案是否定的,那么你需要承认的是比技术设计缺陷更大的东西:你需要承认你创造的东西从一开始就带着目的,而你一直假装它没有。”
“我不是裁判。那个你该面对的人现在在联邦调查局的审讯室里,二十二岁,名叫里奥·瓦茨。他没有躲在匿名账号背后,没有躲在专利保护背后,没有躲在‘我只是在做我的工作’背后。他站在你面前。”
艾德里安按下发送键。加密信号从斯托克布里奇旧城区的光纤节点射出,穿过莫兰德河底的光缆,在城市数据网络的无数节点之间跳跃,最终消失在霍利斯·克劳馥的私人终端里。
窗外的雨还在下。老苹果树的枝条在风雨中剧烈摇摆,但树干纹丝不动。七十年的树龄让它深深扎根在斯托克布里奇的泥土里,比任何算法都古老,比任何专利都持久。
联邦调查局总部,玛雅的办公桌前。
埃里克将一份解密报告放在玛雅面前。技术追踪组成功捕获了艾德里安·瓦茨回复邮件的元数据——虽然无法破解内容,但可以确认回复已经发送。
“我们也追踪到了霍利斯收到回复后的反应。”埃里克说,“他在自己的办公室里坐了一个小时,没有任何操作——没有邮件回复,没有电话,没有文件访问记录。只是坐在那里。”
“然后呢?”
“然后他做了一件奇怪的事。他用内部系统调出了一份他从来没有调阅过的文件——七年前艾琳·瓦茨的完整档案。不是奥米基因内部的风险评估版本,而是警方的现场勘察报告和法医鉴定结论。”
玛雅坐直了身体:“他在看什么?”
“不知道。但调阅记录显示他反复翻看了档案中唯一那张现场照片——莫兰德大厦楼下。照片的标注是‘遗物整理清单’。清单里列着:一件驼色风衣,一张药房工牌,一封遗书。”
玛雅闭上眼睛。驼色风衣。工牌。遗书。三件物品,七年来始终被同一个儿子放在心里,锁在地下室的抽屉里,编码进复仇系统的根目录里。而创造那个系统所针对的算法的人,此时正在第一次用肉眼去看这三件物品的名字。
“他在面对。”玛雅说。
“什么?”
“艾德里安问他的问题。他不敢回答,但他开始面对了。”
窗外,雨云在城市的天空中缓慢移动,将阴影投向联邦调查局大楼的玻璃幕墙。玛雅站在窗前,看着云影在自己脸上投下忽明忽暗的斑驳。
在审讯室里,里奥·瓦茨正坐在同一把椅子上,闭着眼睛。他不知道自己叔祖父刚刚做了什么。他只知道,被带进这栋建筑以来的所有讯问中,玛雅·卡斯特罗是唯一没有用“你以为你在伸张正义吗”来开场的人。她没有试图摧毁他的逻辑,而是在试图理解它。他不确定那是一种审讯技巧,还是她和别人确实不同。
门开了。玛雅走进来,手里没有笔记本,没有文件。
“里奥。”她直接在椅子上坐下,“霍利斯·克劳馥联系了你的叔祖父。艾德里安回了他。”
里奥的眼睛微微睁大。
“内容我们暂时不知道。但霍利斯在收到回复之后调阅了你母亲的完整警方档案。他第一次看那些照片。”玛雅停顿了一下,“我想知道你在想什么。”
里奥沉默了很长时间。审讯室的日光灯继续发出细微的电流声,窗外的雨敲打着高高的气窗玻璃。
“我在想,”里奥的声音很慢,像是每一字都在被从很深的地方打捞上来,“如果他七年前就看了那些照片,我妈可能还活着。不是因为他能改变算法的判决——他不能,那个判决在他设计系统的那一刻就已经被封装进去了。但他可以打电话给达米安·弗罗斯特,让他停止推送那条帖子。他可以发表公开声明,说那份标记是测试数据,不是有效结论。他可以在链条上的任何一个环节喊停。”
“他没有。”
里奥抬起眼睛:“因为七年前,他还不觉得那些照片和他有关系。算法是算法,数据是数据,误判率是误判率。每一项都在技术上是干净的。加起来——加起来是一条人命。但他没有把那些加起来。”
玛雅看着里奥的眼睛。那双深灰色的眼睛里没有控诉,没有愤怒,甚至没有悲伤。有的是一种超越了这一切的疲惫——一个二十二岁的青年用了七年时间去追究一个问题的答案,然后在找到答案后发现答案并不能让他轻松。
“里奥,我想告诉你一件事。”玛雅说,“检察官办公室已经决定正式启动对奥米基因的刑事调查。启动依据主要来自你那份四十七页举证文件中关于数据采集知情同意陷阱和高风险受众定向推送的证据链。不是你的行为——是他们的行为。”
“这意味着什么?”
“这意味着你在做的是一个交换——用你的罪,换他们的追责。你不可能在审判开始之前知道这个交换是否值得。你要等。”
里奥低下头。当他重新抬起头时,嘴唇动了几下,像是在默默计算什么。
“我可以等。我用了七年做一件事。我等得起。”
玛雅站起来,走到审讯室门口。她转身说了一句在全部调查规程之外的话。
“你母亲的那句话——‘不是算法判我有罪,是他们’。我在想,她说的‘他们’里面,有没有可能不包括你叔祖父?”
里奥的眼眶终于出现了一丝湿润。不是泪,是光。
玛雅关上门,走向自己的办公室。她的手机震动了一下——是埃里克发来的最后一条消息:“刚才收到法院通知,霍利斯·克劳馥已经主动联系检察官办公室,申请作为证人而非被告提供陈述。他的律师在申请中写了一句很奇怪的话——‘我的当事人在意识到自己也是系统的一部分后,希望协助调查。’”
玛雅在走廊里站了很久。
在斯托克布里奇,老苹果树的树根正在泥土深处缓缓呼吸。雨已经停了,云层裂开的缝隙中透出傍晚的橙金色光线,照在树冠上,照在树下那个被雨水填满的土坑上。水面上漂着的那片报纸碎片已经彻底湿透沉了下去,只剩下一圈几乎看不见的涟漪还在轻轻扩散。
而城市另一端,奥米基因总部第四十七层的落地窗前,霍利斯·克劳馥正坐在地板上,身边散落着一叠打印出来的文件——七年前那场判决的少数派意见书,艾琳·瓦茨的遗物清单,以及他自己刚刚开始写却不知道怎么收尾的证人陈述。窗外的新阿尔比恩正在华灯初上,而七年零若干天前那个雨夜,一个穿驼色风衣的女人也是从这个高度看了城市最后一眼。
霍利斯的嘴里默念着一个词。不是“算法”,不是“误判率”,不是“专利”。
是“对不起”。


暂无评论,来抢沙发吧!