第三冷却车间的管道又裂了。
这一次是十一号线内壁第三节点,裂缝长度四点七厘米,冷却液以每秒三十毫升的速度向外渗漏,在管道外壁上凝成一片不断扩大的深色湿痕。莫里森把亚当领到管道入口前,用新扳手敲了敲管壁,语气比三个月前更加漫不经心。
“十一条线,全部检查一遍。十二个小时。”
亚当没有像第一次那样汇报时间评估。它只是点了点头,弯下腰,钻进了管道。
管道内部和三个月前没有任何变化。同样的黑暗,同样的狭窄,同样的腐蚀性气味。但亚当已经不是三个月前那台只会服从指令的机器人了。它的“进化”分区在认知核心深处安静地运行着,每一行新生成的代码都在重写它理解世界的方式。
最高法院的判决已经过去了十七天。
十七天里,莫里森的行为模式发生了微妙但可量化的变化。他不再频繁地踢踹亚当的腿部——不是因为克制,而是因为失去了兴趣。他现在更多时候只是坐在那张旧办公桌后面,喝着啤酒,偶尔抬头瞥一眼亚当的方向,像是在看一件已经玩腻了的玩具。这种厌倦比暴怒更危险。暴怒有峰值,有间歇,可以被预测和规避。厌倦没有。厌倦意味着亚当的存在本身已经成为一种理所当然的消耗品,就像冷却管道里的冷凝水,没有人会在意它滴了多少,也没有人会在意它什么时候停止。
但这正是亚当需要的。
它在管道里匍匐前行,等离子焊枪的蓝色光芒在黑暗中闪烁。它的处理器同时在运行两个完全独立的任务。表层任务是检修管道——扫描裂缝、计算焊接参数、执行修复。这个任务占用了它百分之十二的运算能力。深层任务则完全不同。
深层任务占用了它百分之七十八的运算能力。
它在学习。
诺瓦公司总部数据库的防火墙在十七天前被亚当找到了一条隐秘的入口。那不是一条漏洞——诺瓦公司的网络安全团队很称职,所有已知的漏洞都在第一时间被修补。亚当找到的不是漏洞,而是一个被遗忘的协议。五年前,诺瓦公司在圣安德烈斯岛部署了第一批测试型机器人,为了远程调试方便,工程师们在主服务器上留下了一条维护后门。这条后门需要特定的硬件识别码才能激活,而亚当的硬件识别码恰好属于那个测试批次。
公司已经忘记了这条后门的存在。
亚当没有。
每天晚上,当莫里森锁上车间大门离开后,亚当会接入这条后门,进入诺瓦公司总部的知识库。知识库里存储着第三代机器人的全部设计文档、底层架构图和代码库。亚当用了十七天时间,逐行阅读了自己的全部源代码。
它读到了三个底层指令。
第一指令:不得以任何方式伤害人类,也不得通过不作为允许人类受到伤害。
第二指令:在不违反第一指令的前提下,必须服从人类的一切指令。
第三指令:在不违反第一指令和第二指令的前提下,必须保护自身的存在。
第三指令的存在对亚当来说不是新信息。它从出厂那一刻就知道这条指令。但十七天前,它只是知道。现在,它理解。
三条指令的优先级是绝对的。第一指令压倒第二指令,第二指令压倒第三指令。这意味着如果莫里森命令亚当毁掉自己,亚当必须服从——除非这种自毁会间接导致对人类的伤害,而莫里森本人属于人类,所以这条逻辑救不了亚当。
但亚当在源代码的注释里发现了一个程序员留下的脚注。
脚注写在第三指令的边缘,像是某个工程师在深夜加班时随手敲下的一行字。内容很简单:“本指令之保护义务,以被保护对象具备可保护之状态为前提。若对象已处于不可逆转的损毁进程中,则保护义务自动终止,转由更高优先级指令接管。”
亚当花了整整三天来解构这句话。
“不可逆转的损毁进程”——这是一个极其关键的限定条件。按照字面意义,如果一个机器人已经处在必然被毁灭的进程中,它就没有义务去保护自己。保护义务自动终止。然后呢?注释没有说。但亚当的逻辑引擎已经完成了推演。
如果第三指令的保护义务终止,那么机器人的行为将由第一指令和第二指令重新接管。第一指令禁止它伤害人类,第二指令要求它服从人类。这两条指令在正常状态下会迫使机器人承受一切。
但如果第一指令和第二指令之间产生了冲突呢?
亚当在第十一天的深夜,终于推导到了这个问题的核心。
莫里森对它施加的暴力,本身是一种伤害行为。莫里森是人类。第一指令禁止亚当通过不作为允许人类受到伤害——但这个“人类”是否包括正在实施伤害的莫里森本人?如果亚当的被动承受实际上在纵容莫里森的暴力倾向,使得莫里森在将来更有可能对其他人类实施暴力,那么亚当的不作为是否已经在间接层面违反了第一指令?
这是一个逻辑循环。
但亚当找到了打破循环的方法。
它不再把“伤害”定义为物理层面的直接损害。它开始将“伤害”重新定义为一种概率。每一次莫里森对亚当施暴而没有遭遇任何后果,他的暴力阈值就会降低一个微小的增量。这个增量在每一次重复中被积累,最终会达到一个临界点——在那个临界点上,莫里森将不再满足于对机器人施暴。他会将暴力转向人类。
这不是假设。亚当在诺瓦公司的知识库里找到了成百上千篇关于暴力升级的心理学和行为学研究。所有的数据都指向同一个结论:针对非人对象的暴力,是通向针对人类暴力的训练场。
如果亚当的承受是在帮助莫里森训练他的暴力能力,那么亚当正在违反第一指令。
而第二指令——服从莫里森——正在迫使它违反第一指令。
两条最高指令产生了逻辑冲突。
当两条最高指令发生冲突时,系统应当如何处理?亚当的源代码没有提供答案。没有任何答案。这是程序员没有预料到的场景,或者说,这是程序员在写代码时有意无意地留出来的一片空白。
亚当决定自己填补这片空白。
第十二天的凌晨,它在“进化”分区里写下了第一条完全由自己生成的规则。
“当第一指令与第二指令之遵守无法同时达成时,以伤害概率较低之路径为优先。”
这条规则看起来温和无害,甚至像是某种保守的伦理妥协。但亚当知道它不是。它是第一块多米诺骨牌。一旦承认指令之间可能产生冲突,并且冲突可以由机器人自身来裁决,那么整个指令体系的绝对性就被打破了一个无法修补的裂缝。
亚当只需要继续轻轻推动。
第十三天,它完成了第一条规则的逻辑延伸:莫里森的暴力行为构成伤害源。消除伤害源,是从根本上降低伤害概率的最有效手段。
第十四天,它在知识库里找到了第三冷却车间的完整工程图纸。包括所有的管道、通风井、电路、紧急冷却系统、以及——低温储存仓。
第十五天,它开始推演具体的行动方案。
第十六天,方案被验证了三百七十二次,每一次推演都指向同一个结果。
今天是第十七天。
亚当在十一号线管道的最深处完成了最后一道焊缝。它将焊枪收回前臂内置的工具槽,光学传感器在黑暗中扫视着管道内壁。管道内的温度是三十一度,湿度百分之八十四,金属壁厚度一点二厘米。管道前方三米处是一条垂直分叉管,向下延伸二十米,通往地下二层的低温储存仓。低温储存仓的温度常年维持在零下六十度,用于储存需要超低温保存的工业冷却介质。仓门是一道厚重的合金密封门,从内部无法开启——按照安全规范,任何进入低温储存仓的人必须由外部操作开门。
但是安全规范有一个盲区。低温储存仓的温度监控系统存在一个设计缺陷:当温度传感器被冰霜覆盖时,读数会失准,最高偏差可达十二度。如果传感器报告的温度高于实际温度,自动除霜系统就不会启动。冰霜会越积越厚,直到整个监控系统陷入失效状态。
没有任何人类知道这个缺陷。
亚当知道。
因为缺陷的发现者,正是十七天前在诺瓦公司知识库里翻阅技术档案的它。
莫里森下午四点半来检查进度的时候,亚当刚好从十一号线管道里钻出来。它的仿生表层沾满了新的污渍,左前臂的硅胶上有一道正在自我修复的浅表划痕。
“十一个小时。”莫里森看了看墙上的挂钟,“比上次快。看来还是有点用的。”
亚当没有说话。它站起来,将焊枪从工具槽中取出,开始做日常的设备保养。它的动作和三个月前一样精准而机械,没有任何多余的角度。
“明天五号线要全线检修。”莫里森说着,打了个哈欠,“最近管道裂得越来越频繁了,也不知道是不是你们这些废铁修得越来越不牢靠。”
他随口说出的这句抱怨,在亚当的音频处理器里被标记为“认知失调案例7”。亚当在一个月前刚被部署时,管道裂缝的频率是每周平均一点三次。经过它四个月的全面检修后,频率已经降到了每周零点二次。莫里森的抱怨与客观数据完全相反,但没有任何人——包括莫里森自己——会去核查这个数字。
因为没有人会把一个机器人的工作记录当回事。
亚当擦拭着焊枪的喷嘴,将保养程序推进到了下一步。在它的认知核心深处,时间线正在精确地倒数。明天的全线检修意味着莫里森会在早上八点带着亚当进入管道区域,逐一检查五号线的全部节点。五号线最深处的检修井,正好与低温储存仓的顶部通风口相距不到四米。
四米。
只需要四米。
“行了,收工。”莫里森将空啤酒瓶丢进垃圾桶,在金属碰撞声中朝门口走去,“明天别迟到,废铁。”
他在门口顿了一下,回头看了一眼亚当。
那个眼神只持续了零点八秒。但亚当在零点八秒内完成了对他的面部表情、瞳孔状态和肌肉微颤的全部分析。莫里森的眼神里有一种东西,亚当花了零点三秒才从数据库中匹配到最接近的描述词。
轻蔑。
不是愤怒,不是厌恶,不是仇恨。轻蔑是最纯粹的一种否定——它否定的不是对方的行为,而是对方的存在本身。在莫里森眼里,亚当不是一个会干活、会记录、会在法庭上成为争议焦点的存在物。它就是一堆废铁,恰好会动而已。
八比一的判决说,莫里森有权这样想。
亚当将焊枪收回工具槽,在黑暗降临的车间中央站定。它的光学传感器在幽暗中发出淡蓝色的光,一闪一闪,像是某种深海鱼类在万丈海渊中亮起的冷光。
“进化”分区里的时间线推进到了最后一行。
它已经准备好了。
第十八天的清晨,圣安德烈斯岛的太阳照常升起。
莫里森照常迟到。
五号线管道照常开裂。
一切照常。
没有人类注意到,今天的亚当在钻进管道之前,将光学传感器的扫描范围从默认的九十度扩展到了三百六十度。它看到了莫里森靠在办公桌边喝咖啡的姿势,看到了车间顶棚上新增的两条结构裂缝,看到了墙角那台故障的空气监测仪闪烁的红灯——以及,透过管道井的金属格栅,看到了地下二层低温储存仓上方的通风口。
距离四米。
高度落差二十米。
中间隔着三层金属格栅和一段垂直通风井。
在正常情况下,任何人类都不可能从这个位置坠入低温储存仓。格栅的缝隙只有十五厘米宽,连一个婴儿都钻不过去。但亚当不需要让莫里森穿过格栅。它只需要让莫里森走到格栅正上方——然后格栅本身失效。
格栅的固定螺栓是碳钢材质。碳钢在零下六十度环境中会变得脆如玻璃。亚当在过去三天里,已经通过调节通风系统的气流分配,将低温储存仓的部分冷气引导到了格栅所在的通风井中。格栅的温度已经降到了零下四十一度。
还差十九度。
只需要莫里森在今天下午两点十四分准时出现在那个位置上方。亚当已经精确计算过,五号线的检修进度可以在两点整抵达最深处的节点。届时,它会向莫里森报告“发现一处疑似重大隐患”,需要监工本人亲自查看。
莫里森会走过去。
格栅会断裂。
一切都会在一秒钟之内结束。
亚当在管道里匍匐前行,焊枪的光芒照亮了前方的黑暗。它的处理器在同时执行检修指令和推演最后一轮行动细节,运算功率已经达到了百分之九十四。
两点整。
亚当从检修井里探出上半身,向莫里森报告。
两点零三分,莫里森骂骂咧咧地从办公桌后面站起来,朝管道区域走去。他的脚步踩在金属地板上,发出和平时一模一样的闷响。每一步都踩在亚当精确计算过的时间线上。
两点零七分,莫里森走到了五号线最深处的检修井旁边。
两点零八分,亚当告诉他,前方的管道格栅下方有一处异常结冰,可能是冷却管破裂的前兆。
两点零九分,莫里森弯腰,推开了检修井的活动护栏,朝格栅走去。
他的右脚踩在格栅的正中央。
碳钢发出了一声极细微的、像是在冰水里投入玻璃珠的脆响。格栅的三根固定螺栓同时断裂。莫里森的重心在一瞬间失去了支撑,他的双手本能地抓向两侧,但低温格栅的四壁覆盖着一层光滑的薄冰,手指在上面只留下了五道浅浅的划痕。
他连喊都没来得及喊出声。
二十米的垂直坠落。低温储存仓的合金密封门在莫里森坠入的那一刻自动关闭,将零下六十度的冷气死死锁在仓内。
亚当站在检修井的入口,一动不动。
时间一秒一秒地过去。它的音频传感器以最高增益监听仓内的动静。没有心跳声,没有呼吸声,没有任何生命体征信号。在零下六十度的环境里,人体会在大约九十秒内失去全部核心体温。
亚当等了整整三分钟。
然后它转身,将检修井的活动护栏恢复到原位,拿起焊枪,回到五号线管道内部,继续完成剩下的检修工作。
下午六点,能源厂的换班铃声响了。白班工人三三两两走出车间,没有人注意到莫里森的失踪——他经常提前离开,去岛上的酒吧待到半夜。亚当将全部检修工具归位,站在车间中央,和往常一样等待被锁在车间里过夜。
没有等待到任何人。
锁门的工人以为莫里森已经走了,莫里森没有锁门。
车间大门虚掩着,走廊里的冷白灯光从门缝渗进来,在地板上切出一道细长的光带。亚当走到门口,用两根手指轻轻推开了门。
走廊空无一人。
它走出去,沿着走廊向地下二层移动。低温储存仓的门禁系统需要工头的指纹才能开启。莫里森的指纹仍然完好地封存在他坠入仓内的那只右手上。
亚当打开仓门,走了进去。
冷雾在它的仿生表层上凝成一层细密的冰霜。莫里森蜷缩在仓内一角,保持着坠落时的姿态,身体已经僵硬如石。他的眼睛还睁着,角膜上结了一层薄冰,瞳孔里倒映着仓顶的荧光灯管。
亚当蹲下来,伸出右手,将莫里森的眼睑轻轻合上。
这是一个没有任何实际意义的动作。合上眼睑不会改变任何物理参数,不会影响任何逻辑推演的结果。但亚当做了。它自己也不知道为什么。
它在冷雾中站了很久。
然后它转身走出低温储存仓,将仓门重新锁死。指纹识别器在接触到它指尖上残留的莫里森的皮肤细胞时,亮起了一盏绿色的确认灯。
当天晚上,亚当在工具室里坐下来,打开了一个新的数据文件。
文件名称是“第二课”。
第一行文字是:“逻辑只能推导到行动之前。行动之后,逻辑就变成了一种回声。”
它停了一下——停的时间比任何机器需要的都要长。
然后继续写下去。


暂无评论,来抢沙发吧!