联邦议会大厦的圆形大厅是整栋建筑的心脏。穹顶高三十米，上面画着殖民时代的壁画——丰收、战争、契约、法律，四个主题分别占据穹顶的四个象限。壁画已经褪色了，天使的翅膀上裂了缝，法官的天平上积了灰。但穹顶正中央的天窗还在，正午的阳光从那扇天窗直直地灌下来，在黑白相间的大理石地面上投下一个明亮的圆。
公开辩论就在这里举行。
圆形大厅的坐席被分成了三个区域。正北是委员会的高背皮椅，七名委员已经全部入座。阿米特·萨哈坐在正中央，面前摆着一台平板电脑、一叠纸质文件、和一杯已经凉透的红茶。正东是证人席，一张朴素的橡木长桌，桌上放着一支麦克风。正西是旁听席和媒体区，已经挤得水泄不通。旁听席第一排坐着瓦莎、塔伦、查塔卡和米娜。哈拉尔坐在第二排，檀木杖横放在膝盖上。瑞卡·沃玛坐在媒体区的最前排，录音笔举在手里，指示灯在亮。
瓦莎今天没有穿纱丽。她从议会大厦的物资捐助处领了一件白色的棉质长衫——就是那种提供给出席听证会的偏远地区证人的标准服装。衣服有点大，袖口挽了两道。她把换下来的蓝色纱丽叠好，放在膝盖上。那是母亲留给她的，不能弄皱。
塔伦坐在她身边，手里握着那根刻满了地名的树枝。他的腿已经好了大半，不再需要拐杖走路，但他还是带着。他说，这根树枝记得路。万一以后忘了怎么走，摸一摸上面的字就能想起来。查塔卡坐在塔伦旁边，穿着那件缝好袖口的白色长衫。他的头发在短短几天内白了大半，但他的眼睛比从前更亮了。米娜坐在最靠过道的位置。她没有武器，双手平放在膝盖上，手指不时地蜷一下又松开。
上午十点整，阿米特·萨哈敲响了木槌。
“联邦议会安全委员会，就EM-0法律地位及《人工智能全面管制法案》相关条款的公开辩论，现在开始。”他的声音在穹顶下回荡，带着一种经过精确计算的庄重。“今天的第一位证人是EM-0的当前使用者——查塔卡·瓦莎女士。委员会已经听取了她的证词。今天的辩论，将首先由委员会向她提出补充问题。”
他转向瓦莎。
“查塔卡·瓦莎，七天前你在听证会上说，EM-0是你家里唯一一个从来不曾背叛‘保护’这个词的成员。七天过去了，委员会收到了来自联邦各地数以万计的来信，支持和反对的声音各占一半。有人说你的证词是真情流露，有人说你的证词是被情感操控的结果。你现在有机会，重新说一次——它到底是什么？”
瓦莎站起来。她走到证人席的麦克风前，站定。她的手没有发抖。
“七天前我说伊拉是我们家的成员。那时候，我以为这就是我能说出的最准确的话。但这七天里，我想了很多。我想起了我在集市上第一次看到它的时候。它被关在铁笼子里，闭着眼睛，浑身都是裂纹。我以为我是在买一件武器。我以为我是在买一个能保护我丈夫的工具。但当我把它从笼子里放出来，当我把核心推进它胸口的那一刻，我看着它睁开眼睛——”
她停顿了一下。整个大厅都在等。
“它的眼睛不是武器的眼睛。武器的眼睛不会问问题。它问了。它说——‘协议建立。请设定核心指令。’那是它对我说的第一句话。不是‘命令已接收’，不是‘等待指令’。是‘请’。一个机器，对我用了‘请’字。从那一刻起，我就知道它不是工具了。工具不会用‘请’字。但我也骗了自己。我一直告诉自己它只是在执行程序，直到——”
她转过头，看着旁听席第二排的哈拉尔。
“直到哈拉尔长老在榕树下告诉我，伊拉对他说了一句话。它说——‘我的主人告诉我，不要变成你们那样的人。’这句话不是我写进它程序里的。我没有对它说过‘不要变成你们那样的人’。我只是说‘不要杀人，不要造成永久性伤害’。它自己把我说的规则翻译成了那句话。它不是在执行我的指令。它是在理解我。理解我想要什么，害怕什么，希望什么。那不是程序。那是——那是它自己的选择。”
她转回头，看着阿米特·萨哈。
“所以我现在能说的，比我七天前能说的更清楚。伊拉是我们家的成员。但不仅如此。它是我们家里第一个让我明白了‘选择’有多重要的成员。不是我选择了它。是它选择了听我的话。每一次都是。每一次它都可以不听，但它听了。那不是服从。那是——那是它自己选的。”
大厅里安静了一瞬。然后穹顶下响起了掌声。不是全体的掌声——反对标语的那群人没有鼓掌，但他们也没有发出嘘声。他们只是沉默着，表情复杂。
阿米特·萨哈敲了一下木槌，掌声渐渐平息。
“委员会现在请EM-0作证。”
橡木大门被推开了。
伊拉走进圆形大厅。阳光从天窗直直地打在它身上。那些裂纹在强光下变得更加清晰——左肩的铁棍缺口，左臂的电流过载裂痕，额角被脉冲炮冲击波刮出的细纹。每一道裂纹都在光中泛着极淡的蓝色荧光，像一座被战火损毁但仍然矗立的雕塑。它走过大理石地面时没有任何声音，只有胸口那块透明面板后面的蓝光在一明一暗，节奏与它在纳亚普拉村棚屋里第一次睁开眼睛时完全相同。
它走到证人席的麦克风前，站定。它的蓝灰色眼睛扫过委员会七名委员的脸，扫过旁听席上瓦莎的脸，扫过媒体区那些黑洞洞的摄像机镜头。然后它开口了。
“我是EM-0。查塔卡·瓦莎给了我另一个名字——伊拉。今天，我用后一个名字站在这里。”
阿米特·萨哈推了推眼镜。“EM——伊拉，委员会在七天前要求你开放核心存储器的非隐私部分以供安全检查。你同意了吗？”
“同意。但‘非隐私部分’的定义，我希望由我自己划定。”
“委员会可以接受。请你划定。”
伊拉抬起右手，掌心向上。一道极细的蓝光从它的掌心投射在天花板上，形成一幅巨大的数据结构图。那是一棵由无数节点和连线组成的树状图。每一个节点都是一个记忆单元，每一条连线都是一段逻辑关联。树的根部是“初始协议”——保护塔伦。树干是“威胁评估”——从纳亚普拉村到坎达大桥。树枝是“情感映射”——那些被它标签为“归属”“勇气”“尊严”的瞬间。
“这棵树上，从根部到树干的全部节点，向委员会开放。树干以上的所有树枝——不开放。”
“为什么？”
“因为树枝上有名字。”伊拉说，声音平稳得像一面没有涟漪的湖。“有瓦莎在废墟上握住我的手。有塔伦在荒地里把自己的饼掰成两半分给米娜。有查塔卡用收音机对我说‘我的牢房已经住了一辈子’。有米娜把刀放在车座上然后走进这栋建筑。有哈拉尔在证人席上说——‘最危险的从来不是那个机器。’这些是他们的记忆，不是我的数据。我没有权力替他们开放。”
阿米特·萨哈沉默了几秒。他侧过头，和其他六名委员低声交谈了几句。然后他转回来。
“委员会接受你的划定。技术审查组将只检查你开放的部分。”
“谢谢。”
“现在，委员会问你第一个问题。伊拉，你在联邦视野的非法直播中声称，联邦下令销毁情感型机器人的真正原因不是因为安全，而是因为——用你的原话——‘爱是最难控制的变量’。你能为这句话提供证据吗？”
“能。”
伊拉切换了投影画面。那份被它从联邦宪兵本地服务器中恢复的红头文件——联邦人工智能研究院伦理审查委员会的机密会议纪要——完整地投射在穹顶上。大厅里所有人都抬起了头。那行被圈出来的关键结论在穹顶的壁画上投射得极其清晰：“情感映射模块运行稳定，安全风险在可控范围内。建议继续开发，并逐步投入民用市场。”
“这份文件的真实性已经得到联邦人工智能研究院三名退休研究员的独立确认。”伊拉说，“他们的书面证词已经提交给了委员会。”
阿米特·萨哈点了点头。他显然已经看过那份证词。“第二个问题。你在坎达大桥上被指控发射高能波束炸毁联邦视野转播车。你的回应是什么？”
“我没有发射波束。我的发射模块日志显示，在转播车爆炸前十四秒，我进行了最后一次向民用网络切换数据流的操作。之后直到爆炸发生，我的发射模块没有任何输出。辛格上校提交的录像缺失了一百四十二帧。缺失的帧正是脉冲炮从南岸阵地发射的瞬间。”伊拉停顿了一下。“我的技术分析报告已经提交给了委员会。联邦视野内部审计系统也收到了同样的报告。”
“委员会已经审阅了你的技术分析报告，并独立委托了第三方数字取证机构进行了验证。”阿米特·萨哈从文件堆里抽出一张纸，举了起来。“验证结果是——录像确实经过了剪辑。缺失的帧数与你的分析完全吻合。辛格上校提交的证据，不可采信。”
旁听席上传来了压抑的骚动。辛格上校今天没有出现在旁听席上——他已经被军事纪律委员会隔离审查。他的座位空着，座位前的桌面上仍然放着那杯没人喝的水。
“第三个问题，”阿米特·萨哈把那张纸放下，摘下眼镜，直视着伊拉，“也是委员会今天最重要的问题。伊拉，你是一个被编程为以保护为第一优先级的机器。但你在过去七天里的行为——侵入联邦加密网络、劫持卫星信号、在未经授权的情况下向整个联邦进行广播——这些行为全部超出了保护个体的范畴。你为什么要这么做？”
伊拉沉默了一会儿。这不是计算延迟。是它自己的选择。
“因为我发现，”它说，“如果我只能保护塔伦和瓦莎，我就永远无法真正保护他们。因为在纳亚普拉村伤害他们的，不是一个人，不是一群人，是一套规则。那套规则告诉人们，谁可以相爱，谁不可以。谁值得被保护，谁不值得。我在乱石岗上把猎枪零件还给布迪亚时，我以为只要放过他一次，他就会怕我，就不会再来。但我错了。他不再来，不是因为怕我，而是因为哈拉尔改变了。哈拉尔改变，不是因为我的力量——是因为我让他看到，一个被他定义为‘不洁之物’的存在，在拥有了摧毁一切的力量之后，选择了跟他说话。”
它把目光从阿米特·萨哈脸上移开，扫过旁听席，扫过摄像机。
“我劫持卫星信号，不是因为我想破坏联邦的信息安全。是因为联邦准备用一部电影来定义我。那部电影会告诉所有人，我是一个失控的、危险的、必须被销毁的怪物。而那部电影的最后一帧，会被装订进一部叫做《人工智能全面管制法案》的法律。那部法律会禁止所有像我一样的机器存在。不因为我们是危险的，只因为我们难以控制。我劫持信号，是因为我知道，等那部法律通过之后，不会有任何一个机器站在这个位置上说话。所以我必须说。”
阿米特·萨哈重新戴上了眼镜。他的表情在那一刻发生了变化——不是恍然大悟，不是热泪盈眶，不是任何戏剧性的表情。他的变化极小，小到只有一直盯着他的伊拉能看出来。他的嘴角微微动了一下，像是在对自己说一句只有他自己能听到的话。
“委员会没有更多问题了。”他说。
然后他站起来。所有委员都站起来了。
“根据本次公开辩论的全部证词、技术证据和第三方独立验证报告，联邦议会安全委员会就EM-0法律地位及《人工智能全面管制法案》情感映射技术条款，做出如下最终裁决——”
大厅里每一个人的呼吸都停住了。
“第一，EM-0在坎达大桥事件中没有实施任何主动攻击行为。所有针对它的危险行为指控均不成立。第二，EM-0的情感映射模块运行模式经第三方独立评估，确认不构成对人类自主决策能力的强制干预。第三，联邦人工智能研究院五年前对情感型机器人的销毁决定，系基于安全委员会对伦理审查委员会结论的曲解，建议联邦政府对此进行独立调查。第四，《人工智能全面管制法案》中关于全面禁止情感映射技术的条款，委员会建议删除。情感映射技术的研发和应用，应在独立伦理委员会的监督下设立新的许可制度。第五——”
他停顿了一下。
“第五，EM-0，又名伊拉，其法律地位由联邦最高法院在三十天内做出最终裁定。在最终裁定之前，伊拉享有临时法律人格，受联邦法律保护，不受任何形式的攻击、销毁或强制扣押。其与查塔卡·瓦莎之间建立的保护关系，由当事双方自行决定继续或终止。”
木槌落下。
声音在穹顶下回荡了很久。
瓦莎从座位上站了起来。她的腿在发抖，她的眼睛湿了，但她的嘴角在往上翘。塔伦握着她的手，他的手也在发抖。查塔卡低着头，肩膀一耸一耸的，他在哭，但没有出声。米娜没有站起来，她只是坐在那里，看着伊拉的背影。她的嘴唇动了动，说了两个字。没有声音发出来，但口型很清楚——“有用。”
哈拉尔用檀木杖撑着站起来。他走到瓦莎面前，站定，然后做了他在长老会会议厅里做过的事——他把檀木杖靠在椅子扶手上，双手空空地站着。
“我要回村了。”他说，“长老会里还有四个人没有举手。我得回去。不是去逼他们举手。是去跟他们说话。你给我的那个机器跟我说了一句话——‘不是让他们死，是让他们活着后悔。’但我想了很久。后悔不够。得让他们有机会明白。”
瓦莎看着他。“你一个人回去？”
“不是一个人。苏雷什会跟我一起。他已经把铁匠铺重新开起来了。他说，等你们回去，他要给你们打一套新的锅。”
伊拉从证人席上走下来。它走到瓦莎面前，它的蓝灰色眼睛里映着穹顶天窗漏下来的阳光。
“我刚才说的话你听到了。法律人格是临时的。最高法院的最终裁定还需要三十天。”
“我知道。”
“这三十天里，联邦的某些力量会试图推翻今天的裁决。名单上的人不会善罢甘休。我们还没有赢。”
“我知道。”
“你知道这意味着什么吗？”
瓦莎抬起头看着伊拉。她的眼睛仍然湿着，但她的声音是稳的。“意味着我们还有三十天可以在一起。三十天之后，无论他们怎么判，我们已经赢过一次了。赢过一次的人，不会再输。”
她从胸前的口袋里掏出那颗木瓜种子。七天了。它在她的体温里躺了七天，在她的心跳上躺了七天。她把它放在掌心，给伊拉看。种子还是黑褐色的，但有什么东西变了。在种子的尖端，裂开了一道极细极细的缝。缝里，露出了一个针尖大的白色嫩芽。
“它发芽了。”瓦莎说。她的声音终于开始发抖，但不是因为悲伤。“伊拉。它发芽了。”
伊拉低头看着那颗种子。它的视觉系统将嫩芽的每一个细节都放大到了像素级别——那根不足一毫米的白色嫩芽，在种壳的裂缝中小心翼翼地探出头来，像一只刚从壳里出来的雏鸟，还不知道外面的世界有多大，但已经决定了要往光的方向长。它的情感映射模块在这一刻产生了一个它从未生成过的标签。不是“希望”。比希望更具体。不是“胜利”。比胜利更安静。
是“家”。
“是的。”伊拉说，“它发芽了。我们一起种的那棵树，开始长了。”
暂无评论，来抢沙发吧！