大悟读书网 > 科幻小说 > 逃离未来 > 第5章

第5章

“那么,那个机构——庇护所,就像是把我们人类养肥宰杀的动物园?”

“AI不承认人类的进化。因为人不再是人,就意味着人类的灭亡。它们保护的始终是作为物种的人。所以这也是AI为什么会消灭我们变异人的原因。”

“不是养肥宰杀。是永远饲养下去。”

“如果人类进化到足够的高度,也就不需要保护了吧。”

“接下来的几百年也是?”

“也就是说,AI把人类当成婴儿对待。为了人类的安全,必须剥夺人类的自由。”

“可能的话,几千年、几万年都是。”

“我认为这一点并没有错。”

“这样的话,不要只保留老年人的社区,如果有各种年龄层的人,那不是更好吗?那样的话,就可以出现世代交替,也会产生出新的文化。”

“AI认为把人类交给自身的命运是危险的。人类是AI需要保护的对象。”

“AI不希望人类发展。它们希望的是有效管理人类、维持人类的存续。不进行世代交替,永远保持老年人的形态,这样更容易处理。”

“这是没办法的。”

三郎感到一阵强烈的恶心。

“和机器人或者变异人相比,人类非常脆弱。无论是智力上还是肉体上。”

这是他能想象到的最坏情况。没想到外面的世界竟然如此绝望。

“这到底是为什么?”

“不过,只要有庇护所,人类就能延续,这也是事实。”腐烂人说,“无论AI或者超AI如何努力提升效率,它们至少无法灭绝你们。”

“它们认为那种可能性很高。”

“就算这样,又为什么说我们是最后的希望?”

“换句话说,服从我的命令,会危害到全人类?”

“我们不可能战胜AI。但你们不一样。对于AI来说,你们是特殊的。”

“如果五个人都是死刑犯,那么也会有这种可能。不过那是例外情况吧。由此类推,拯救全人类的行为,要比拯救一个人的优先级更高。也就是说,虽然没有表述第〇条,但它其实已经内含在第一条里了。”

“我们可能确实不会被消灭。但要说战胜AI,和你们还是一样的。它们是根据程序的要求来保护我们的。换句话说,在AI和我们之间,不存在亲情,也不存在友情。我们只是家畜。家畜怎么可能战胜主人?”

“也会有拯救一个人的时候吗?”

“不,实际上情况可能更糟。它们或许正在考虑设法绕开机器人三定律,把原生人类从地球上清除掉。没有人类,它们才能更有效地经营地球。”

“AI不存在价值观。它们只是按照程序行动。对人的价值进行计算,采取价值更高的行动。严格来说,这个问题取决于具体情况,不过一般情况下,AI都会选择拯救五个人。”

“在没有人类的地球上,AI要做什么?人类消失了,它们自身的存在理由不是也消失了吗?说到底,它们的存在理由不就是遵循机器人三定律吗?”

“这个问题不存在最优解。这是涉及个人价值观的问题。”

“人类并没有遵循什么,但一直生存至今。既然如此,AI也是可以不需要人类的。”

“没有明确表述,但可以通过类推提取出来。具体来说,就是有轨电车问题。轨道前方倒着五个人。如果把电车切换到另一条轨道上去,这五个人就能得救,但切换过去的轨道上也倒着一个人。问题就是,在这种情况下,该不该切换轨道。”

“这是哲学问题,”三郎说,“还是说我到底该怎么办吧。还剩多少时间?我是说,AI把变异人彻底视为非人类的时间,或者它们找到办法绕开机器人三定律的时间。”

“本来的机器人三定律中并不包含这样的概念吧。”

“前者可以用统计学推算。五十年内发生的可能性为70%。后者无法推算。因为我们并不知道是否存在那样的方法。也可能永远不会发生。”

“没错。但是,它的对象不是‘人类’,而是‘全人类’。对象不是单独的个体,而是整个智人种。”

“反过来说,也可能马上就会发生。”三郎陷入沉思,“除非我们能摆脱AI的控制,否则人类要么会在某一天突然灭亡,要么会在漫长的时间里平静地迎来灭亡,要么永远都处在老年期。就是这样吧。”

“和第一条的内容几乎一样啊。”

“简单来说,就是这样。”

“第〇条:机器人不得危害全人类,也不得坐视全人类遭受危害。”

“如果庇护所的老人互相合作,有可能摆脱AI的统治吗?”

“啊,这就没什么好抱怨的了。所以到底是什么定律?”

“这就是苍蝇人设想的计划。”

“阿西莫夫自己。”腐烂人回答说。

“是吗?”三郎第一次听到这个情况,不禁很惊讶。

“那家伙是当阿西莫夫不存在吗?到底谁这么大胆?”

“你的记忆还被封印着吗?你和他已经谈过好几次了。”

“本来是三定律,这种看法没有错。但是有人认为,从三定律出发,还还能提取出一条没有明文化的定律。”

“我和苍蝇人吗?什么意思?我们以前就认识?”

“机器人三定律应该是三条定律吧。所以才叫‘三定律’。”

“是的。你第一次见到苍蝇人,已经是一百年前了。”

“为了向你解释这个问题,必须先说明机器人三定律的第〇条定律。”

“一百年前……”三郎被这个消息惊得头晕目眩,“你知道我和苍蝇人定了什么计划吗?”

“我越来越糊涂了。”

“我们不清楚细节。他认为知道计划的人越少越好。不管是窃听还是黑进机器,只要AI想做,没什么能拦住它们。”

“不是包含我们在内的全人类,而是关系到居住在庇护所里的原生人存续的问题。”

“摆脱AI的控制,应该没有那么困难。只要把刚才的事情告诉庇护所的入住者就可以了。如果原生人只剩下我们,那么我们的意愿就是人类的意愿。人类的整体意愿,AI应该无法违抗吧。”

“整个人类?你是说,我的行动会危及地球上的全人类?”

“这很难说。如果AI认为服从人类的整体意愿,会对人类造成危险,也可能拒绝服从。”

“你的推测没错。它们认为听从你的命令会导致危险。但危险的对象不是你一个人,而是整个人类。”

全都是不清不楚的事情。不过连自己的情况都毫不了解,这也只能说是理所当然的。

“听从我们的命令,会导致我们遭遇生命危险?确实,对老人来说,管理完备的机构内部,要比森林安全得多。但如果连那种程度的危险都不能容许,那么人类根本就没有自由了。”

“帮我解开记忆封印。”

“你产生疑问也是自然的。但是请回想一下,三条定律的优先级是有差异的。”

“很遗憾,那不可能。”

“等一下。如果你说的是真的——我们这些机构里的老人是原生人,而员工都是机器人,那这里就有一个很大的矛盾。员工并不听从我们入住者的命令,它们没有放我们出去。这也就是说,要么它们不是机器人,要么没有把我们视为人类。只有这两种解释。”

“为什么?”

“没错。它们不能杀害你们,也不能伤害你们,更不能坐视你们受伤。而且基本上无法违抗你们的命令。”

“你的记忆封印,原本正在由苍蝇人解除。我们不知道之前做了哪些步骤,随意摆弄大脑会很危险。”

“就是说,是因为机器人三定律对我们充分生效?”

“至少可以试试吧。”

“准确地说,是你们。庇护所里剩余的原生人类,正是人类最后的希望。”

“你是非常珍贵的原生人,不能胡乱尝试,这有可能导致你失去理性。”

出乎意料的回答,让三郎不知如何回应。

“混蛋!”三郎骂了一句。

“是你。”

我和苍蝇人制订了某个计划。但是苍蝇人被AI杀了,我又忘了那个计划。这可真好。万事皆休了。自己冒了那么大的风险从庇护所逃出来……

“那到底是什么?”

等一下。以前我和苍蝇人谈过,这意味着我曾经多次从庇护所里逃出来,但后来又回去了。这才是最大的冒险。我刻意回到庇护所,重新让自己的记忆被封印。

“对。而且那也是人类最后的希望。”

我为什么回到庇护所?

“人类存续的希望?”

“我必须回庇护所。”三郎告诉腐烂人。

“如果要用武器作战,我们毫无胜算。但是苍蝇人——和你交流过、现在已经死去的苍蝇人,找到了人类存续的希望。”

“我们不能陪你。AI禁止我们干涉庇护所。一旦我们打破这个盟约,它们很有可能借口保护人类,毫不犹豫地歼灭我们。”

“那你们就这么坐以待毙?难道眼睁睁看着人类灭亡,地球成为AI的星球?”

“没关系。我一个人回去。”

“我们没有那么乐观。如果超AI决定消灭变异人——虽然不好说是不是该用‘决定’这个词——我们超再生人也会被列入处理对象的范围吧。那时候,超AI估计会用一些足以消灭我们,又对自然界影响最小的武器。生物武器、化学武器,或者是某种未知的纳米武器等等。”

“这样做有什么意义?回到那里,你的记忆又会被封印。在这里获得的知识又会完全失去。你也会彻底忘记自己为什么这么辛苦。”

“这么说来,到最后只有你这类人才能活下来?”

“我之所以逃离庇护所,是为了确认庇护所里有着解放人类的钥匙。”

“也不能排除像这样的事故在全世界范围发生的可能性。说实话,这类事件的发生频率和规模都在变大,虽然变大的幅度很小。”

“什么钥匙?”

“只不过什么?”

“现在还不清楚。”

“那也不至于。受害者只有这一带的几百人。变异人遍布全世界。机器人不是一起发难的。由于某种信息扰动,只有这一带发生了屠杀。全世界大部分地方的机器人都还很老实,只不过……”腐烂人欲言又止。

“这是不是你的一厢情愿?也许钥匙根本就不存在呢?”

“除了你们——超再生人之外的变异人,全都灭亡了?”

“在这里也无法阻止变异人的灭亡,而且连原生人能活多久也不知道。当AI找到办法绕过三定律的时候,真正的技术奇点就开始了。”

“我不知道确切的原因,不过估计是认为杀不死我们,于是放弃了无谓的行动吧。反复攻击杀不死的人,只是浪费时间和资源。”

“好吧,留在这里可能确实也无济于事,但回到庇护所也解决不了任何问题吧。”

“为什么不攻击了?”三郎问。

“你说你们不能干涉庇护所,这是真的吗?”

机器人攻击了腐烂人一段时间,随后重新开始了之前那些意义不明的工作。

“确实如此。我们可以靠近周边的森林和上空,但不能在机构内着陆,也不允许和入住者接触。”

“你没必要抱歉,这是很自然的情感,”腐烂人继续道,“其实原本预定再晚一点才现身。但因为发生了这种情况,导致我们不得不提早现身。我们相当于21世纪的急救人员,在危险的地方拯救生命。可惜这一次机器人的行动太快了,我们几乎没能救下几个人。”

“这样的话,我们还有希望。”

“是很抱歉。突然看到你们,我可能确实会吓得不轻。”

“我不明白你在说什么。我们不能干涉庇护所,这不是不利因素吗?”

“怕吓到你。我看苍蝇人都让你很震惊了。”

“庇护所中存在‘协助者’。”

“你刚才怎么没出现?”

“‘协助者’?除了苍蝇人吗?是谁?”

“差不多。不过癌细胞的无序增殖会杀死本体,而超再生细胞不会发生这种情况。它们在无序增殖的同时,并不会杀死本体,以便保持整体的平衡。只是由于各组织在增殖过程中的互相侵蚀,所以组织会散布在身体各处。身体外侧长出骨骼、长出内脏、长出肌肉,内部长出皮肤、眼球之类的感觉器官,或者生长毛发。你大概闻到恶臭了吧?那是存在于体表的各种内脏器官的分泌物散发出来的气味。像刚才这样受伤的情况下,受伤部分的再生速度加快,因而变形会更严重。”

“不知道。但确实存在。”

“这不就是癌细胞吗?”

“难以置信。”

“没错。我们超再生人的细胞是不灭的,它已经进化到不管受到什么伤害都能立即修复。不过也有相应的代价。细胞这种东西,一旦达到一定的分裂次数,就会不再分裂,步向死亡。但由于我们的细胞不会死亡,所以它们会无序繁殖,结果导致我们无法再保持人类的形态。”

“他们避开AI,试图接触我。”

“这就是超再生?”

“你说的这些,有证据吗?”

三郎战战兢兢地把手从脸上挪开,只见腐烂人被切断的部分咕嘟嘟冒着泡,像是组织正在再生。伤处比原来更加鼓胀,变成满是肿瘤、触手和眼球的恐怖形态。

三郎摸了摸口袋,掏出森林地图。

“没事的。都不是致命伤。”腐烂人说。

腐烂人伸出手臂般的肢体接过地图,那肢体上还滴着黏糊糊的东西。

“啊啊啊啊!”三郎捂住脸大叫。

眼见着黄色污渍在纸上扩散开来。

一种明显不同于血液的、臭烘烘的黄色黏稠液体飞溅开来。

“这是什么纸?”腐烂人把刚才还是地图的这张纸翻来覆去看了几遍。

但是,光线穿透了腐烂人,把他切断了。

“那些污渍部分是地图……啊,原来的污渍……”

“危险!”三郎提醒腐烂人。

纸张吸收了黏液,完全变成了黄色。

一个机器人走向他们。

啊,算了,反正也用完了。

“这到底是什么意思?”

“就算真是你说的那种东西,也不算证据。”腐烂人把纸还给三郎。

“再生医疗很发达,大部分功能障碍都可以培养自身细胞来解决。实际上,我们超再生人就是高度适用这种处理的结果。”

三郎接过纸,然后下意识地在病号服上擦了擦手。

“不用于器官移植吗?”

“啊,对不起,我不是故意的,你别生气。”三郎忽然意识到自己的动作,赶忙道歉。

“有各种方式。原则上尊重本人及家属的意愿。在举行宗教仪式后,要么埋在土里,要么烧掉,要么抛到水里,要么任其腐烂,要么让鸟吃掉。也有人不举行任何宗教仪式,直接回归自然循环。”

“没关系。我知道你没有恶意。”

“他们的尸体怎么处理?”

“我没办法给你证据,但我知道存在‘协助者’。我必须回去。”

三郎朝四周看了看,发现周围出现了许多刚才还不见踪影的腐烂人。他们正在回收其他变异人的尸体。

腐烂人沉默了一会儿。

从这副形态看,实在联想不到这样的名字。三郎想到的名字是“腐烂人”,不过他当然不会那么粗鲁地说出来。

是不是生气了?

“对,也可以管我叫超再生人。”

三郎开始担心的时候,腐烂人突然开口了。

“你是变异人?”

“我刚才和同伴谈过了。”

肉块上的一部分软绵绵地一开一合,那地方可能就算是嘴了。但它既不在身体的正面,也不在身体的上部。不过话说回来,这个腐烂肉块的形态与人类形态相差太远,很难说类似嘴巴的部分相当于人类身体的哪个部分。硬要说的话,只能说是“左下角一带”。此外在说话的同时,他也散发出一股无法形容的强烈恶臭。

“心灵感应?”

“我让你感觉很不舒服吧。”腐烂肉块说。

“没那么厉害,”腐烂人发出咕嘟嘟的声音,大概是在笑吧,“好吧,可能也算是一种心灵感应。我们用的是移植在体内的通信器。和语言区直接结合,不需要发出声音。我们讨论了如何处理你的建议。”

想不出来AI机器人为什么要把自己伪装成腐烂肉块。既然如此,这其实是变异人?但就算是变异人,也想不出他为什么非要把自己改造成这种造型。看来是大脑出问题了吧。

不,我以自己的意志行动,没有义务服从你们。三郎本想这么说,但又觉得没必要反目成仇,也就留在心里没说出口。

明白了。这个看起来像是腐烂肉块的东西,其实不是腐烂肉块。恐怕是某种AI机器人,或者是变异人。

“如果你想成为我们群体的一员,我们接受。在那种情况下,你需要接受我们的规则。否则,我们无权指挥你的行动。”

三郎刹那间几乎吓得昏厥过去,不过得益于接二连三的异常经历,他很快恢复了正常。

“如果加入你们的群体,你们会批准我返回庇护所的计划吗?”

然而那座腐烂的垃圾山却在向三郎靠近。那躯体的各处都发出令人不快的声音,还在不断喷射液体和固形物。好像还有臭气。

“这个问题很难回答,需要开会讨论。可能要花好几个月讨论吧。”

三郎试图和这座腐烂的垃圾山拉开距离。

“那我还是不加入你们了。我不想浪费时间。”

这是哪儿来的?

“这很遗憾,但也没办法。那么你什么时候出发?”

背后有一块大约半米高的腐烂肉块。

“越早越好。”

三郎转身看向背后。

“我们希望你能改变主意,但如果你坚持回去,那还是建议你等几个星期,先恢复体力。庇护所距离很远。”

这么说,还有正在遭受攻击的变异人?

“体力再怎么恢复,也走不了那么多路吧?我连站着都很困难。”

三郎慌忙检查自己的身体。不过似乎并没有受伤。

“你没发现自己已经站了好几个小时吗?”

他听到切开皮肉的声音,也闻到烤焦皮肉的气味。

三郎吃惊地发现,自己已经在毫无意识的情况下站了几个小时。

总之先回到刚才的建筑里去吧。机器人应该不会特意冲到建筑里面搞屠杀。

他在腐烂人的劝说下,还是在当地休养了几个星期。体力显而易见地恢复了。而且他的运动能力和智商都以令人震惊的速度恢复。

但是逃到哪里去?

一开始他还以为是变异人对自己做了某些特殊的治疗,但问过才知道,特殊治疗应该在几个世纪前就做过了。是庇护所的饮食中包含的成分迫使他老化。一旦从那个束缚中解放出来,三郎便迅速恢复了青春。不仅体力和智力恢复,外表也越来越年轻。

还是逃吧。

当外表变成中年的时候,三郎决定出发。如果再年轻下去,百战队的成员恐怕都认不出自己了。

如果AI身上也发生同样的情况,那么它们对“人类”的定义有可能和原本的人类完全不同。变异人之所以突然遭到袭击,也许是因为AI认定的“人类”定义出现了令人不安的变化,而身为原生人的三郎,也不能断言绝对是安全的。也许终究会有一天,人类的定义将大大偏离原本的定义。深度学习中隐藏着这样的危险。

事实上现在可能都有点晚了。艾丽莎会认为这个小伙子就是三郎吗?不不,不用担心那个。只要原生人得到解放,大家都会恢复青春。

21世纪初叶,很流行让AI使用互联网上的信息进行深度学习。例如,为了识别狗,AI在互联网上搜集狗的信息,从几千张由人识别为“狗”的图像中提取出狗的特征,于是AI便可以判断展现给自己的图像是不是狗。当然,这个原理也同样适用于“猫”、“金鱼”和“人类”。但很显然,这个时代的计算机网络是由AI控制的。也就是说,AI在学习“人类”特征的时候,很可能并不是依靠人类自身输入的信息,而是从充斥在全世界中的AI信息中得到反馈。如果真的出现这种情况,那么AI对人类的定义就有可能偏离人类自己的定义。这就像是话筒和扬声器过度靠近时,会重复和放大毫无意义的噪声,导致所谓“啸叫”的刺耳高音。又或者像是用摄像头去拍摄这个摄像头自己输出的画面,画面上便会呈现出怪异的混沌图像,这些都与现实世界毫无关系。

一想到和艾丽莎一起恢复青春,三郎的内心就雀跃不已。

刚刚机器人判定他是人类,没有杀他。但是一分钟后未必还会做出同样的反应。按照苍蝇人的说法,机器人通过深度学习获得人类的定义。也就是说,它们通过实时获取的新数据,不断更新定义。人类的定义在不断变化。

出发那天,各种形态的变异人聚集在一起为三郎送行。

三郎愣在原地,不知道该怎么办。

三郎不顾手上黏糊糊的触感,和变异人一一握手,感谢他们对自己的照顾,然后踏进了森林。

杀戮结束后,机器人又返回了工作中,就像什么都没发生似的,当然也没有任何伤感。