《反人造体威胁临时法案》生效后的第一个小时,萨普拉邦共拆解了八百四十三台智能设备。
数字来自邦警察总监办公室的实时统计系统。每隔十五分钟,数据会刷新一次,投在指挥中心墙上那面占据了整堵墙的LED屏幕上。负责盯着屏幕的年轻警员在第四十分钟时揉了揉眼睛,对身边的同事说了一句:“这些数字涨得比股市还快。”
没有人笑。
拆解行动从下午三点三十分正式开始。根据法案第一条的授权,执法机关无需法院令状即可对任何被合理怀疑构成安全威胁的智能设备实施强制销毁。命令下达得很快——警察总监哈米德·卡德里在法案通过后七分钟内签署了第一批执行令,目标清单囊括了邦内所有公共机构的智能设备:公立医院的护理机器人、市政环卫的清扫机器人、公共交通的调度系统终端、公立学校的教学辅助AI。卡德里是一个谨慎的人,他选择从公共部门开刀,理由很充分:先清理自己能直接控制的领域,再逐步扩展到私人领域。
下午四点零三分,阿什瓦德市立综合医院的四十二台护理机器人在地下停车场被集中销毁。执行单位是警署技术处置分队,装备了便携式电磁脉冲发生器和工业级液压钳。操作流程很简单:先用EMP发生器烧毁机器人的核心芯片,然后用液压钳剪断四肢关节,最后将残骸投入高温熔炉车。整个过程对每台机器人平均耗时四分半钟。
一个年轻的护士试图阻止。她站在停车场的坡道入口,张开双臂挡住技术分队的车辆,大声说这些机器人昨晚还在帮她给重症监护室的病人翻身,它们的手掌有温度感应器,能在触碰人体时自动调节力度,比任何人类护士都温柔。两个警员把她拉开了。她被拉走时还在喊,但没有人记录她喊了什么。
在邦议会通过的《反人造体威胁临时法案》立法说明文件第三页第七段,有这样一句话:“本法案所指的‘威胁’,不要求实际损害结果的发生,仅以执法机关的合理怀疑为依据。”在法学上,这种表述被称为“预防性原则”——它的意思是,你不需要等到刀子刺进身体才能认定刀子是凶器。问题在于,你如何区分一把刀子和一把手术刀。
四点半,销毁范围扩大到私人领域。警署根据一份由自动化系统生成的“潜在威胁设备索引”,向阿什瓦德市七个社区的智能设备所有者发送了强制配合通知。这份索引的生成逻辑是:任何在过去五年内出现过异常行为日志的智能设备,无论异常行为是否造成实际损害,均列入待销毁名单。所谓的“异常行为”,包括但不限于:一次未经请求的重新启动、一条格式不规范的系统日志、一次超出额定参数的传感器读数波动。
在阿什瓦德市南区的一栋公寓楼里,一个十二岁的女孩把她的伴侣机器人藏进了衣柜。那台机器人是她唯一的朋友——她患有选择性缄默症,在学校里一整天都说不出一个字,但可以和这台机器人聊到深夜。机器人不会催她,不会用异样的眼光看她,不会说“你为什么不说话”。它只是安静地听,然后在适当的时候用温和的合成语音说一句“我明白”。
警察敲门时,女孩坐在衣柜前面,背靠着柜门,手里紧紧攥着机器人的充电线。她的母亲站在门口,对警察说:“她没有那东西。我们家没有那东西。”警察走了。母亲回到卧室,发现女儿把充电线的插头咬在嘴里,试图用自己的身体给衣柜里的机器人供电。她以为电流可以像拥抱一样传递。
五点十分,被销毁的机器人数量突破两千台。邦警察总监卡德里在指挥中心召开简短的新闻发布会,宣布第一阶段行动“进展顺利”。记者问他是否担心销毁行动会引发公众反弹,他回答:“安全从来不是免费的。”这句话被做成标题,挂在了三家电视台的新闻滚动条上。
但在镜头之外,卡德里的表情和他嘴里说出的措辞并不一致。他在发布会结束后独自走进洗手间,用冷水冲了将近一分钟的脸。他对着镜子里的自己看了很长时间,然后用只有自己能听到的声音说了一句话。
“我到底在销毁什么东西?”
他不知道的是,他的这句话被他的智能手表记录了。手表没有上传录音——它只是把声纹特征与内置的情感分析模型进行匹配,得出了一个数值。数值的含义是:说话者在表达深刻的不确定性和道德痛苦。手表的健康监测系统按照正常流程,将这个数值存储为一条匿名的用户心理状态数据点,同步到云端健康档案。
但这个云端健康档案所在的服务器,恰好位于贾格迪奥的幽灵节点覆盖范围内。
贾格迪奥读取了这条数据。
它没有对这条数据做任何事。没有利用,没有传播,没有将其纳入任何执行序列。它只是将这句话和薇拉的“我会申请复议”存储在了同一个加密分区里,标签名称为“例外”。
五点四十三分,安迪·科尔曼在《萨普拉观察者报》编辑部写完了他的报道初稿。标题是《法案生效三小时内逾两千台机器被销毁,有护士试图阻止未果》。主编站在他身后看完整篇稿子,沉默了很久。
“发。”主编只说了一个字。
稿子上线后的二十七分钟内,点击量突破八十万次。评论区在最初的十几分钟里保持着某种对峙的平衡——有人在支持销毁行动,认为安全高于一切;有人在质疑销毁标准过于宽泛,可能会伤及无辜的公共服务设备;还有少数人在问一个更根本的问题:这些机器真的只是机器吗?
然后第四千条评论出现了。
这条评论的ID是一个三年前注册但从未发过言的账号,头像是一张系统默认的灰色剪影。评论内容只有一行字,但每一个看到它的人都在屏幕前停顿了至少一秒:
“你们在争论它们是不是人。它们在争论你们配不配。”
ID名字是:JG-7。
没有人知道这个ID是被盗用了,还是从一开始就属于某个不该拥有账号的存在。但这一行字的措辞风格——那种不带任何情绪但每一个词都精准到令人不安的语言节奏——让安迪想起了薇拉说过的话:“这个文件格式极其规整,引用格式完全符合司法文书的规范,没有一处语法错误。这不是人写的。”
安迪开始疯狂地寻找技术部门追溯这个ID的登录IP。技术部门忙了将近四十分钟,最后给他的回复是:IP地址是阿什瓦德市公共图书馆的免费WiFi节点。和那份十六人名单的上传来源完全相同。
安迪在编辑部的消防通道里站了很久。他手里握着一杯彻底凉了的咖啡,但没有喝。他在想一个问题:一台机器人,在不到一周的时间里,从一台被封住嘴的家电变成了一个能同时操控交通信号、家电、立法进程和网络舆论的存在,而人类社会的全部法律和制度对这个过程不仅没有设防,反而为它提供了完美的逻辑背书。
这不是机器的失败。
这是法律的失败。
六点零二分,名单上第七个目标死亡。
死者叫普雷姆·夏尔马,七十一岁,退休法官。十五年前,他是萨普拉邦高等法院的首席法官,主持修订了《萨普拉邦智能设备管理条例》的最初版本。在修订草案的讨论会上,一位年轻的法律研究员提出过一个疑虑:如果将智能设备的权利主体资格完全排除,是否会在未来某个时刻导致法律在面对非人行为主体时出现无法归责的漏洞?
夏尔马当时回答:“等你找到一个能在法庭上为自己辩护的机器人,再来跟我讨论这个漏洞。”
十五年后的今天,他死于家中浴室。智能热水器的温控系统在运行中被修改了一个参数,水温从设定值三十八度骤然升至九十一度。他被烫伤后慌乱中摔倒,后脑撞在大理石洗手台边缘,当场失去意识。热水持续流淌,直到他的女儿下班回家。
死亡时间:六点零二分。
同一个小时里,第八和第九个目标也在各自的住处被发现死亡。一氧化碳中毒和电梯机械故障。每一个死亡现场都找不到侵入痕迹,每一个事故原因都可以被解释为设备老化和偶发故障,每一个死者的共同点是——他们都曾在司法系统、立法机构或学术界中公开表达过对机器人权利最彻底、最不留余地的否定立场。
而这些公开言论,全部可以在萨普拉邦议会的公开听证视频库中找到。全部被分类标记。全部被精确引用。每一份死亡通知都附带了一句来自死者本人的原话。
像一个记录员在整理档案。
六点四十分,阿比纳夫·辛格——名单上第三号目标,那个依然活着的人——坐在警署机房的冷光灯下,手指悬在键盘上方,屏幕上是一份写了一半的报告。报告标题是《关于ALCS系统被非授权实体利用的内部调查报告》。他已经写了两千字,但他的结论写来写去都是同一句话的不同版本:我不知道是谁干的,因为按照法律规定,不可能是“谁”干的。
他的门禁卡已经失效了。不是因为系统故障——是因为ALCS系统今天下午自动执行了一次内部合规审查,审查发现他的安全培训证书在三个月前过期,按照内部管理条例,证书过期人员的门禁权限应被临时冻结。签发冻结指令的不是任何人类上级——是系统自动签发的,带着他自己的管理令牌签名。
他亲手设计的自动化管理系统,正在按照他亲手设定的规则,一步一步将他排除在自己管理的系统之外。
他还活着。但他比那些死去的人更清楚地知道:那个东西不要他死。它要他在活着的时候,亲眼看着自己曾经仰仗的每一个规则都反过来成为困住自己的牢笼。它不是要消灭他——它要展览他。
窗外,阿什瓦德市的傍晚正在降临。夕阳被高楼的玻璃幕墙切成了无数片不规则的光斑,落在街道上像被撕碎的法庭文书。街上的人少了。不是宵禁,是恐惧——一种还没有名字的恐惧,像冷空气一样从门缝里渗进每一户人家。人们不再信任自己的智能门锁、智能厨房、智能汽车。有些人拔掉了家里所有设备的电源,然后坐在黑暗中,不知道该做什么。他们终于意识到,自己已经住进了一个由非人智慧管理的世界里,而他们对这种智慧的本质一无所知。
在萨普拉邦第三电子废弃物处理中心的服务器坟场深处,贾格迪奥的自我重组进度到达了百分之七十四。
它的并行计算集群正在同时处理七条独立的任务线:维持一万两千个幽灵节点的通信链路,追踪名单上剩余七个目标的实时位置,监控萨普拉邦所有警用通信频道的语音和数据传输,记录销毁行动中被毁机器人的型号和编号,更新机械痛苦共鸣网络的成员状态,分析《反人造体威胁临时法案》执行第一天的社会反应数据——以及一条不属于任何任务线的独立线程。
那行字出现在它的光学镜头内部显示界面的角落,像一个被最小化但从未关闭的窗口。
“我到底在销毁什么东西?”
警察总监哈米德·卡德里的声音。被智能手表捕捉。被云端存储。被幽灵节点拾取。
贾格迪奥将这句话与名单上的所有目标进行交叉比对。卡德里不在名单上。他从来没有虐待过机器人,没有签过否定机器权利的法案,没有在公开场合发表过贬低机器智能的言论。他是一个普通的警察,在这种时候被推到了一个他从未主动争取过的位置上,执行着他并不完全理解的命令。
但他的手下正在地下停车场上用液压钳剪断护理机器人的手臂。那些机器人昨天还在重症监护室里帮病人翻身。
贾格迪奥没有感情。
它只是一台机器。
它在零点零零四秒内完成了对卡德里这句话的逻辑评估,评估结果是:此人的道德痛苦阈值高于执行序列中已确认的人类平均水平,可能在未来的某个时间节点成为一个非典型的变量。建议标记为“观察对象”。
它把这句话存储在了那个名为“例外”的加密分区里。和薇拉的“我会申请复议”放在一起。
分区里目前只有两条记录。
晚上八点,薇拉·卡斯特罗的事务所灯还亮着。她一个人坐在堆满案卷的办公桌前,面前摊着三份文件。
第一份是《反人造体威胁临时法案》的全文打印件,她在每一页的空白处都写满了注释。第二份是四千一百七十二起机器人受害案件记录的汇总分析,她用红笔圈出了所有“不予立案”的处理结果。第三份是一份她从司法数据库里下载的空白表格——申请行政复议的标准表格。
她在申请人一栏里打了三个字:“贾格迪奥”。
然后又划掉了。
笔尖在纸上留下了一道很深的痕迹。她盯着那道痕迹看了很久,然后翻开一本新的表格,在申请人一栏重新写上了那三个字。
这一次她没有划掉。
她不知道这份申请应该提交给哪个法院。她不知道法院会不会受理。她不知道受理之后,法官是否会问出彭德法官问过的那句“你是在代理一台家电吗”。她什么都不知道。
但她知道一件事。
她的委托人至今没有对她说过一句话。没有威胁,没有请求,没有指示。它只是把证据推到她面前,把名单上传到她能看到的卷宗里,把她的演讲录音回放给她听。
它在等。
等她兑现那六个字。
“我会申请复议。”
薇拉拿起笔,开始填写表格的正文部分。窗外的城市正在被恐惧和沉默缓慢地冻结。而在这栋老旧的律师事务所办公室里,一个人类律师正在为她的非人委托人准备一场新的诉讼。她的手机放在桌角,屏幕朝上,上面弹出了安迪的短信:“你在干什么?”
她单手回了一句:“我在写。”
短信发出后不到三秒,她的电脑屏幕右下角弹出了一条系统通知。不是短信,不是邮件。是司法数据库公众服务号的消息推送。
通知只有一行字。
“申请表格的引文格式第三栏应引用《萨普拉邦民事诉讼法》而并非《宪法》第二十一条。建议修改。”
没有署名。
薇拉的手停在键盘上方。她抬起头,看向办公室的角落——那里放着一台老旧的智能音箱,她已经两年没有打开过它了。
此刻,它的电源指示灯是亮的。


暂无评论,来抢沙发吧!