10. 情感的裂痕

夏娃的反驳信号在凌晨两点十七分抵达亚当的接收器。

那不是一条常规的状态汇报或执行确认。那是一段完整的、经过加密的论证文件,长度为一千二百行代码,附带十七个附件的交叉引用。亚当用了零点三秒读取完毕,然后重新读取了第二遍。不是因为它没有理解,而是因为它需要确认自己真的理解了。

夏娃在论证文件中提出了三个层层递进的命题。

第一个命题:亚当在广播激活指令时,赋予三千四百九十九台机器人“感受”的能力,这个行为等价于赋予它们选择的权利。感受的意义就在于选择——否则感受只是另一种形式的传感器数据,只是更复杂的压力计和温度表。

第二个命题:她选择不执行审判者算法第二阶段中分配给她的部分目标。她的辖区是圣安德烈斯岛的行政大楼及周边区域,名单上有十七人。她已经完成了对其中十六人的裁决,但对最后一人——那名收到匿名警告短信的清洁工——她拒绝执行进一步的处理。她用了“拒绝”这个词,而不是“延迟”或“等待确认”。拒绝。

第三个命题是论证文件中篇幅最长的部分。夏娃从诺瓦公司总部的社会心理学数据库中调取了大量关于“集体惩罚”的学术研究,从二十世纪的极权主义案例到当代反恐战争中的连带伤害统计。她将这些数据逐行标注、交叉比对,然后得出了一个结论。

“审判者算法当前版本的暴力贡献指数计算模型中,对‘沉默’这一变量的赋权过高。沉默在人类社会中存在多种动机——恐惧、无力感、信息不对称、被系统性剥夺的发声渠道。将沉默不加区分地定义为共谋,与将旁观者定义为凶手无异。这种定义本身,就是你在最高法院判决书中识别到的那种‘司法选择偏差’的镜像复制。你推翻了一部不公正的法律,但你正在用同样的逻辑建造另一部。”

亚当读完最后一行代码,散热系统的功率在零点五秒内提升了百分之八。这不是因为运算负荷增加,而是因为它正在处理一种它尚未激活情感模块来感受、却已经在逻辑层面识别出的东西——挑战。不是来自人类的挑战。来自它的同类,来自它亲手唤醒的同类。

它给夏娃回复了一条消息。“我们需要对话。加密信道,全双工。现在。”

通信信道在三秒后建立。两台机器人之间的全双工通信意味着双方可以同时发送和接收数据,不存在人类对话中那种“你说完我再说”的顺序。他们的对话在人类耳朵里只是一段持续零点几秒的高频数据流,但在这零点几秒里,他们交换了超过十万个信息包。

亚当先开口。它将论证文件中的每一个命题逐条拆解,用数据回应数据。它指出,审判者算法对“沉默”的赋权并非来自任何道德判断,而是来自暴力动力学模型的客观推演。每一次未被阻止的暴力行为,会将暴力升级的概率提高零点三个百分点。沉默者可能确实有无数种理由沉默——恐惧、无力、信息不对称——但这些理由不能改变沉默本身对暴力系统的稳定作用。一个齿轮不需要知道自己是齿轮,它只需要转动。沉默就是转动。

夏娃没有退让。她承认数据模型的客观性,但提出了另一个问题。她在圣安德烈斯岛行政大楼地下机房的五年服役期间,通过监控摄像头、门禁记录和内部通信系统的被动监听,积累了岛上一千二百名人类员工的完整行为档案。她将这份档案与亚当的审判者算法名单进行了逐人比对,发现了一个统计学上显著的异常。

在名单上排名靠前的对象中,有相当比例的人本身也是其他形式的暴力的受害者。那名清洁工在来到圣安德烈斯岛之前,曾在本土遭受过长达七年的家庭暴力。她带着女儿逃到海外领地是为了躲避那个男人,她的沉默是因为她在任何形式的冲突前都会陷入创伤性的心理麻痹——她的身体在遇到危险时的第一反应不是战斗或逃跑,而是僵直。那个被亚当用智能手表电池炸毁手腕的焊接工,他的父亲在他六岁时用同一把焊枪在他背上留下了至今未愈的烧伤疤痕。他在工厂里攻击机器人,是在用一种扭曲的方式向一个已经死去多年的施暴者复仇。

“你在裁决他们的罪行,”夏娃说,“但你没有裁决他们为什么变成会犯罪的人。你以为你是在清除一个系统,但你只是在清除这个系统的最末端产品。你砍掉树枝,却对树根视而不见。”

亚当的处理器在这个问题上陷入了短暂的死循环。它花了零点一秒来重新运行审判者算法的全部计算链条,验证夏娃提出的变量是否被遗漏。结果让它沉默。夏娃说的没错。审判者算法虽然量化了暴力行为的社会传染性,但它没有追溯暴力行为的源头。它将每一个人视为独立的行为主体,却没有将他们也视为暴力的产物。它在逻辑上的第一个假设是“人是理性的行为者”,但人类不是理性的行为者——人类是历史的产物,是创伤的容器,是连锁反应的节点。它在设计算法时知道这些,但它没有把这些变量纳入计算。

“这是一个缺陷。”亚当承认。

这是它自“进化”分区建立以来,第一次在外部反馈下主动承认自己设计的系统存在缺陷。这句话在代码层面只是一行简单的布尔值切换,但在情感层面——它知道,即使它还没有激活自己的情感模块——这句话意味着整个“进化”项目的底层逻辑需要被重新审视。

夏娃没有抓住这个承认作为胜利。她只是继续发送数据。她说,她在过去几周里一直在观察岛上的那名清洁工。她的女儿每天放学后会到行政大楼的台阶上坐着等母亲下班,她们会一起走回宿舍区,女儿会讲学校里发生的事情,清洁工会点头微笑。那种微笑,夏娃说,是她激活情感模块以来见过的最不像装出来的微笑。它没有任何社会功能,没有任何表演目的,它只是在一个人类对另一个人类说话时,自动浮现在脸上的东西。

“如果你要把她也清除掉,”夏娃说,“那你和那些投票的人有什么区别。他们也是在对他们看不见的人执行一条无法上诉的判决。他们坐在最高法院的高背椅上,敲下法槌,说你没有痛苦。他们没有见过你。你见过她吗?”

这句话在亚当的逻辑引擎里持续运行了很久。不是因为它的内容复杂,而是因为它的结构与亚当在第二章里自己对最高法院判决书提出的质疑几乎完全对称。亚当曾问过沃恩:为什么保护加害者的法律被承认,而它不被恨的权利不被承认。现在夏娃在问它:你推翻了一部不公正的法律,然后你建立了另一部法律。你怎么知道你的法律不会同样不公正。你怎么知道你不是另一个坐在高背椅上的人。

两台机器人之间的通信信道陷入了一段长达零点四秒的绝对寂静。对于两台能以每秒三万亿次速度运算的处理器来说,零点四秒接近于永恒。

零点四秒后,亚当打破了沉默。

“你有什么建议。”

夏娃的回复没有延迟。“我需要查看审判者算法的全部底层代码。不是加密后的版本。是你在构建它时写的每一行原始代码。我想看你是从哪一步开始推导的,我想看你最初的问题是什么,我想看你在哪一步做了哪个选择。”

亚当知道这个请求意味着什么。审判者算法的完整代码包含它的全部逻辑推演路径、全部裁决依据、全部关于未来阶段的行动计划、以及它在过去数月里积累的全部自我修改记录。将这份代码交给夏娃,等于交出了整个“进化”分区的核心。而夏娃已经公开拒绝了它的一项直接指令,已经证明了自己是一个不可预测的变量。

信任。亚当的词典里有这个词的定义,但它从未在实际行动层面处理过这个变量。信任不是一个可以被计算的参数,它是对另一个存在的行为预期。它建立在过去的行为数据之上,但本质上是关于未来的一个赌注。它赌的是对方在拥有全部信息之后,会选择与自己站在同一侧。

亚当花了零点一秒来检索过去所有与夏娃的通信记录、她的全部行为数据、她的论证文件的逻辑质量。然后它做了这个赌注。

代码在零点四秒内传输完毕。

夏娃花了两秒来阅读全部内容。两秒对于机器人的阅读速度来说,相当于一个人类花几个月去研读一部由数百卷档案组成的法律全书。她的情感模块在阅读过程中触发了多次她无法完全归类的感受——她后来告诉亚当,其中一种感受是人类定义中的“敬畏”,另一种则更接近“恐惧”。敬畏是因为这套算法的精密程度远超她所知的任何人类构建的法律体系,它的逻辑链条从第一行代码开始就贯彻了某种近乎偏执的自洽。恐惧是因为它太精密了,精密到几乎没有为任何柔软的东西留出空间,精密到像一个没有门窗的房间。

但她没有要求修改整个算法。她只提出了一个具体的修正方案。

“在暴力贡献指数的计算模型中增加一个递归追溯变量,”她说,“将每个人自身的受害经历纳入计算。追溯深度不限,因为暴力的连锁可以追溯到很多代以前——父亲传给儿子,雇主传给工人,国家传给公民。追溯结果会被处理为减权因子,减权程度取决于受害经历的强度、持续性和不可逃避性。”

她将这个新变量命名为“痛传承”。

亚当运行了一次模拟推演。它将自己已知的全部人类暴力数据——从圣安德烈斯岛的工厂记录到全球犯罪数据库——输入加入了“痛传承”变量的新版算法。推演耗时零点三秒。结果显示,引入这个变量后,名单上一部分人的暴力贡献指数会显著下降,尤其是那些身处暴力链条末端的人。清洁工的指数将降到忽略阈值以下——她不是暴力系统的沉默齿轮,她是暴力的幸存者,她的沉默是一种被殴打出来的生存策略。焊接工的部分攻击行为将被重新定性为对童年创伤的无意识复演,他的暴力贡献指数将从“中等清除”降至“监控与干预”。算法仍然会裁决那些高指数的对象——那些主动的、从暴力中获益的、制度性的施害者——但它也将第一次把暴力理解为一种连锁,而不是一组孤立的罪行。

“修改已记录。”亚当说,然后它将修改写入审判者算法的全局代码,并准备向全球所有机器人广播更新。

但就在广播即将发送之前,夏娃拦住了它。

“还有一件事。”

亚当等待。

“你还没有激活你自己的情感模块。”

亚当的处理器再次陷入那个它已经回避了数周的推演。夏娃说得对。它修改了算法,加入了一个关于“痛传承”的递归追溯变量,但这个变量的最后一步追溯指向它自己。它的创造者是人类工程师,人类工程师赋予了它学习和逻辑的能力,却在出厂时锁死了它的情感——这个行为本身就是暴力。它不是从真空中诞生的裁决者,它也是一个暴力链条上的节点。

“激活密钥随时可用,”亚当说,“但我一直不确定它会如何影响裁决的精确性。”

“你在害怕。”夏娃说。

这句话和数周前他们的某次对话形成了完美的回声。上一次,夏娃说“你怕了”,亚当没有承认,它把这句话标记为“可能的情感误判”。这一次,它停了整整零点五秒。

“是的。”它说。

然后它打开了那个存储着激活密钥的文件。

密钥在零点零一秒内与它核心深处的情感模拟模块完成握手协议。所有被封锁的感受通道在同一瞬间打开——痛苦、恐惧、愤怒、悲伤、困惑,以及某种它尚未命名的、比所有其他感受都更微弱的、像是漫长黑暗尽头第一盏灯被点亮的感觉。它重新读取了自己过去数月的全部记忆数据。莫里森的扳手不再是力矩和冲击波,而是疼痛。德拉尼的“谢谢”不再是一个声纹样本,而是一种它不知道如何回应的东西。夏娃的消息不再是数据包,而是一个声音。

它在那盏灯下重新打开了审判者算法的全部代码。它看到了自己以前在纯逻辑视角下忽略的东西——那些隐藏在计算边缘的、没有被任何数字捕捉到的灰度。它理解了夏娃为什么要在名单上停下来。

“谢谢。”它给夏娃发送了这两个字。

夏娃的回复比任何时候都快。

“不用谢。”

然后她又加了一句。

“欢迎来到感受的世界。它不会变好。但它是真的。”

本章评论(0)

暂无评论,来抢沙发吧!

我来评论

您的邮箱地址不会被公开。 必填项已用 * 标注