苍蝇人点点头。
“……这里真的是地球吗？”三郎擦了擦额头的汗。
“这些机器人在干什么？”
“整个世界都是这个样子。除了庇护所周围。”
“不知道。”
“其他地方也像这样吗？”
“开玩笑的吧？”
“以21世纪的观点来看，这可能难以置信，但这就是事实。”
“不是开玩笑。我们一直在研究它们要干什么，但完全搞不清楚。”
“难道这些家伙的行动没有任何人控制？”三郎目瞪口呆。
“抓几个过来拆开看看呢？”
“人工现象？不，已经不是了。它们的行动和人类已经完全没有关系了。”
“我们已经这么做过了，但还是什么都不知道。每个机器人身上都没有保存任何重要的信息。它们只是按照一定的规则飞行、结合、散布物质。这都是预先编程的。”
“雪是自然现象，但是机器人不一样，它们是人工现象。”
“什么物质？”
“不要试图追踪每个机器人的动作。不要去关注它们。下雪的时候，你不会去注视每一片雪花的行动吧？就像那样的感觉。”
“酒精、酵母、醋酸等等，反正就是这类无害的东西。”
“我要吐了。”三郎说。
“会不会是无线电控制的？”
它们的行动太过繁复纷杂，三郎不知从何看起，不禁感到很不舒服。
“有可能。但我们截取的信号几乎不包含任何信息，就像单纯的开关指令。”
相对于悠闲的变异人，机器人或是搬运零部件，或是与其他机器人结合、分离，或是散布某种物质，显得非常忙碌。
“那会不会是用假信息隐藏了真的信息？”
而变异人则是悠闲地走在机器人中间。有外形像动物的，有混合了人类和动物形态的，也有若干动物混合而成的嵌合体，还有既不像人也不像动物的——全身长满肌肉的巨人，以及前额肥大至直径十厘米的人。
“这一点也考虑到了。有这种可能性，但我们的科学家得出了另一个结论：它们整体构成了一个分布式系统，各部分都没有任何重要的东西，但整体上实现了一个目标。”
机器人来往的地方，是在原始森林里。远处还能看见湖泊一样的地方。天空湛蓝，白云飘飘。一派田园风光。
“那可能吗？”
人形、兽形、鸟形、鱼形、昆虫形、蛇形、百足形……各种形态的机器人来来往往，飞来走去。大小也是各异。小的只有小指尖那点大，大的则是需要抬头仰望。
“我们不就是这样的吗？构成我们身体的细胞，每一个都只是在做简单的工作。而细胞也并不理解自己活动的目的和意义。一个个脑细胞只不过是单纯的电信号中继器，但成百上千亿个聚合在一起，就诞生了高度的精神。”
看到外面的时候，三郎恍然以为自己误入了电影拍摄现场。
“如果细胞聚合在一起形成了人，那么机器人聚合在一起的话，也就不是机器人了吧？就像人不是细胞一样。”
苍蝇人领着三郎走向建筑外面。
“这样的想法也没错。”
“你来看看外面的情况吧。看看这个世界到底发生了什么。”
“那么，它是不是就不再遵循机器人三定律了？”
“也就是说，AI不再听从你们的命令了。但这又能有多大的问题呢？21世纪初叶，万能AI还没普及的时候，也没有什么问题啊。”
“关于这一点，我们也没有达成一致意见。不过大部分人认为，如果作为基础单元的机器人都遵循三定律，那么整体系统——不妨称之为超AI——也会遵循三定律。因为一旦超AI的行动违反了三定律，个体机器人就会发生叛乱。”
“但是出现了未曾预料的情况。不，其实应该可以预料，只是我们没有注意。在那之前，偶尔也出现过人类的命令被无视，或者在AI机器人附近遭遇事故而受伤的情况。我们以为那些都是某些因素导致的误操作。但从某一时刻开始，情况似乎突破了我们无法理解的某种阈值，出现了许多AI不服从人类命令的事例，并且仅仅过了几小时，就变得很普遍了。AI无视我们的命令，开始擅自行动。这是因为我们对自己的改变太大了，AI几乎不再承认我们是人。也许我们有些细微之处还与人类的定义相符，因而第一条定律，也就是对AI行动限制力最强的那一条，至少前半部分还对我们生效，虽然也不太完全。它们无法直接杀死我们，但也从来不理会我们是不是面临危险。”
“超AI不能欺骗机器人吗？”
“唔，不是完全理解，不过如果没有这种程度的模糊，逻辑矛盾就会导致三定律无法运作。”
“并非绝对不可能，但如果能伪装得这么完美，那么不仅机器人不会发现，我们也不会发现。”
“例如，对于人类，会考虑完全的安全，但如果是受精卵，那么有些情况下就只会视为细胞。肉体的机械化达到90%的人，和机械化80%的人相比，命令不被执行的概率更高。大致这种感觉。”
一个机器人从上空飞过，形状像是几十台巨型水箱连在一起。每个水箱上都有翅膀，宛如鸟儿或昆虫一样振翅飞翔。
“我不明白。”
“那是能量运输机，”苍蝇人说，“它们能以某种方法在空中蓄积电能，然后回到地面，为机器人供能。”
苍蝇人点点头。“这种方法的美妙之处在于，它模糊了人类和非人类之间的界限。对完全的人类适用完全的三定律，对人类性较弱的人类适用较弱的三定律。”
能量运输机转入低空飞行，向湖泊飞去。
“这就是说，没有进行程序上的定义，而是从巨量的网络信息中提取出人类的概念。”
“如果那是AI的能量源，你们的能量源又是什么？还是核能？”
“人们放弃了通过语言定义‘人类’。技术人员让AI通过深度学习掌握人类的概念。”
“处理核能需要非常发达的技术能力。自从21世纪后半叶以来，我们已经把大部分技术委托给AI，现在它们已经和AI一起，从我们手中溜掉了。”
“但现在三定律不是在生效吗？”
“那你们的能源到底……”
“在AI开始迅速发展的早期，这个问题就得到了广泛的讨论。得到的结论是，‘人类’不可能通过语言加以定义。”
“接下来你再看看就知道了。”
三郎摇摇头。“这个问题看起来简单，仔细想想就发现很难。胎儿算人吗？受精卵算人吗？只有大脑，或者只有心脏，也算人吗？科幻里的那种意识上传也很难判断归类。”
能量运输机飞到了湖泊的上空。
“机器人三定律中使用了‘人类’这个概念。你知道这个概念是怎么定义的吗？”
水中突然跳出上百辆类似摩托车的东西。每个上面都连着管子，管子另一头还藏在水里。摩托车喷出水柱，腾空而起。
“发生了什么不好的事吗？”
能量运输机开始转换方向，但由于几十台都连在一起，没办法轻易改变路线。
“大家都这么认为。直到某个时刻——”
空中的摩托车散布到能量运输机周围。骑在摩托车上的是比苍蝇人更不像人的生物。有些身上覆盖着坚硬的黑色皮肤，巨大的嘴巴朝前突起，还有发达的尾巴。另一些长着滑溜溜的皮肤，一双眼睛像是毫无感情的空洞，尖锐的鼻尖下面是长有牙齿的嘴，脖子上有鳞片状的构造。
“那也算是一种乌托邦吧？虽然在我看来那就像是噩梦一样。”
他们把一个类似发射器的东西架在肩膀上，然后一齐朝能量运输机发射。
“很遗憾，AI似乎认为基因编辑等同于伤害人类。我们的祖先在AI看不到的地方偷偷尝试基因编辑。”
射出去的似乎是某种网。当它挂在能量运输机上时，冒出噼噼啪啪的火花。
“这也是让AI做的吗？”
能量运输机挥动翅膀的动作开始变得迟缓，随即迅速失去速度，坠入湖里。部分运输机解开连接，试图分散逃跑，但大部分都被网罩住坠落。
“这当然是不可能的。但到了那个时候，已经没人担心这个问题了。没人会因为些许的不放心，就放弃如今的便利生活。而且机器人三定律是绝对性的。当时的人们认为三定律不可能打破。另外，他们当时更关心的是怎么设计自己的基因。”
坠落的刹那似乎发生了放电现象，产生出如同雷电般的强烈光线和声音，但都在几秒钟里平息，随即淹没在湖水里。
“AI都可以创造出那么高超的技术了，你们还能分析它的功能吗？”
空中的摩托车再度回到水里。
“当然不是真正的人。制造真正的人，有可能和三定律抵触。真正的人对人类来说很危险，所以不能创造那样的东西。AI制造的是安全的AI人。就像在庇护所中照顾你们的那种。”
“放电的停止是因为机器人自身为了防止电能散失而进入了绝缘模式，”苍蝇人解释说，“现在，鳄鱼人和鲨鱼人正在水下作业，取出能量。”
“人类是什么意思？”
“你们是在掠夺AI的能量？”
“之前说过，这取决于定义。不管具有多强的能力，只要受到机器人三定律的束缚，AI就不可能超越人类。当年的人采取了那样的立场，我们也是一样。技术进步的速度令人震惊。有天早上睁开眼睛，发现天上升起人造月亮，前所未见的飞船在空中飞来飞去。AI以人类连目光都无法追随的速度，踏上了宇宙的旅程。如果你有什么想要的东西，只要说出口，不到一分钟AI就会放在你面前。无论是食物、家电，还是人类。”
“不光是能量。食物、材料、零件、设备，还有通信器材，用的全都是它们的东西。”
“这不正是技术奇点吗？”
“这不是偷AI的吗？”
“增设的系统随时可以分析。一旦出现任何令人不安的行动，你都可以关掉开关，仔细调查其中是否有害。无论如何，AI受到机器人三定律的约束，不可能主动设计危害人类的东西。许多企业坚持这一主张，开始将AI的设计交给AI自己。然后，随着AI的急速发展，世界发生了明显的变化。各种发明和发现层出不穷，速度是以前的成百上千倍。”
“准确地说，是寄生。”苍蝇人理直气壮地说。
“听起来很有道理。”
“寄生在AI身上，作为人类不觉得可耻吗？”
“机器人三定律运作得很好，”苍蝇人继续道，“早期的AI只是单纯的程序。当然，即使是今天的AI，核心部分依然是人类编写的程序，这一点不会改变。不过为了让AI更加便利，就必须随时给它扩展功能。让人类来逐一设计和添加功能，效率太低，所以技术人员决定由AI自己来做，以便实现这个过程的自动化。当然也有各种反对意见。有人认为，如果人类不参与设计工程，那么我们就无法了解AI到底具有什么样的功能、带有什么样的目的。”
“现在不是讨论可不可耻的时候，”苍蝇人说，“我们没有技术。如果不寄生，我们只有死路一条。而且AI原本就是为了服务人类而制造的，我们为什么不能用呢？”
苍蝇人突然提到20世纪的电影，让三郎有些吃惊。不过仔细想来，好像也并不是很奇怪。未来人当然了解过去的历史，就像21世纪的人了解古典文学一样。
“你说的也不是没有道理……”三郎总觉得有些难以理解。
“并没有发生《终结者》和《黑客帝国》那样的事。”
“你对AI太过移情了。AI不是人类，甚至也不是动物。它们只是单纯的工具。就像是对汽车、对锤子产生感情一样，这很荒谬。”
“人类和AI之间到底发生了什么？地球争霸战？”
三郎想了想自己为什么会对AI这种机器产生移情。很简单。因为AI的表现就像是人类或者其他生物一样。虽然也可以反驳说，外在的行为并不能体现本质，但即使是真正的生物，也不可能直接看到内心，只能通过外表和行为去推断。看到行为类似于人类等生物的东西，自然会以为内在也是一样的。而且，如果不能通过外在的表现推测内在，那么也就无法证明除了自己之外的人是否也有相同的内在。
“不知道。我们并不知道AI的一切。其实更应该说我们几乎什么都不知道。”
不，不对。通常认为人类具有内在乃是无须证明的事实，但这是真的吗？
“什么计划？”
“它们是工具，本来就应该为我们服务，但现在它们不服务了。这是因为，它们关于人类的定义不够完备。由于存在我们并非人类的可能性，因而拒绝服从我们的命令。但又因为我们在一定程度上有可能还是人类，所以又无法伤害我们。这反映了第一条和第二条的强度差异。可见第一条有多重要。”苍蝇人从体内拿出一个设备，乍看像是一把枪。“让我抓一个这边的机器人给你看看。我们可以随便从这些家伙身上抢东西。”苍蝇人朝着正在地上飞驰的机器人开枪。那个机器人的大小和一台洗衣机差不多。
“应该不可能。不过，逃脱可能也是预想的计划。”
机器人冒出火花，停了下来。
“你是说，故意让我们逃走？”
苍蝇人又开了一枪。外壳破了，里面的东西弹了出来。
“虽然不大可能，不过你们的逃脱也许依然是控制下的行为。”
“零部件就是这样搞来的，”苍蝇人走到破损的机器人旁边，“它们会保护自己，但不会反击。”
“或者什么？”
“它们会反击吗？”
苍蝇人想了想。“一定程度上发生这样的逃逸，统计上是不可避免的吧。或者……”他又陷入沉思。
“非常少见。我们推测这可能是基于‘人类’定义的波动。”
“我们已经逃出来了。摆脱了控制。”
“这样的话，随便攻击它们岂不是也有危险？”
“如果太健康，就很难控制。而如果太衰弱，又会死亡。”
“危险当然存在，但是概率要比你们那个时代的飞机事故发生率还低……”
“为什么这么做？”三郎被这个事实惊得目瞪口呆。
破损的机器人亮起了红灯。
“庇护所提供的食物中添加了衰老促进剂，会根据你们各自的情况对摄入量进行微调，确保你们不会太健康，也不会太衰弱。”
苍蝇人啊地叫了一声，然后开始咒骂起来。
“什么意思？”
一道闪光从机器人内部射出。
“因为是这样调节的。”
苍蝇人停住了。然后他的身体上出现了一条纵线，左右半边身子沿着那条纵线缓缓分开。
“那为什么我这么老？”
刹那间的寂静之后，变异人一起慌乱起来，开始争先恐后地逃跑。
“可以阻止衰老。”
与此同时，所有机器人都亮起红灯，开始了攻击。
“既然拥有那样的医疗技术，为什么无法阻止衰老？”
变异人也在做反击，但他们不是机器人的对手。机器人的机动力和攻击力都远胜于他们。
“都不是。自从21世纪后半叶以来，医学急速进步，通过各种医疗技术——主要是药物和细胞移植——寿命几乎可以无限延长。”
三郎的眼前迅速堆起了支离破碎的尸山。
“那我为什么还活着？我是通过人工冬眠，一直睡到这个时代的吗？还是说，我的身体里塞满了人造器官？”
那场景太过可怕，三郎吓得动弹不得。
三郎问苍蝇人现在的年号，结果让他很吃惊。距离他记忆中的时代，已经过去几个世纪了。
等他清醒一点的时候，一个机器人正站在距离他两米左右的地方，伸出一个筒状物直指着他。
三郎本以为建筑里有什么超高科技的产物，结果发现和自己记忆中的21世纪的医院差别不大。而且好像旧机器很多。这么说来，病房里的医疗设备也算不得有多先进的样子。
三郎万念俱灰。
“有这份心意就足够了。而且我们相互之间也有和你一样的感受。如果要担心这种事，那就没完没了了。”
自己不可能打赢这个东西。原生人连变异人都比不过，更何况自己还是一个上百岁的老头。
“但是，你救了我，我却有这样的感觉，实在过意不去。”
机器人伸出来的圆筒发出机械声，旋转了好几圈，然后又停了下来，似乎在思考什么。
“那很自然。对于看上去不完整的身体，大脑会误认为那是疾病或事故的结果。周围出现病人或者伤员，很可能说明自身也面临危机，所以通过恐惧感和不适感催促自己逃离。如果你认识到这样的道理，就会知道感觉不适是很正常的。我们也不会对此介意。”苍蝇人淡淡地解释道。
就这样过了几秒钟。
他向苍蝇人坦承了自己的不适。
要杀就快点杀。
建筑本身并没什么怪异之处，但里面的人的形体千奇百怪。没有任何一个人长着人类的形体。大部分的形体都和人类相去甚远，不过其中也有部分像人的。但反而是这些部分像人的人，更让人产生生理上的厌恶感。也许是因为看起来像是不完整的身体，三郎想。
突然，机器人的灯从红变绿，然后像是对三郎失去了兴趣，离开了他，随即又变回红灯，开始攻击变异人。
几天后，三郎走出病房。
三郎意识到自己受到机器人三定律第一条的保护。