“你不知道机器人三定律?”
“什么意思?”
“那个我知道。”
“因为有机器人三定律。”
机器人三定律是21世纪美国科幻作家艾萨克·阿西莫夫提出的概念。
“你怎么能这么断定?”
第一条:机器人不得伤害人类,或坐视人类受到伤害而袖手旁观。
“不必担心。他们不能采取任何会伤害你大脑的处理。”
第二条:机器人必须服从人类的命令,除非该命令与第一条相悖。
“十八次?被搞了那么多次,我的大脑还正常吗?”
第三条:机器人必须保护自己,除非这种保护与以上两条相悖。
苍蝇人点点头。“据我们所知,多达十八次。”
措辞比较晦涩,总之这只是描述了一种工具应当满足的条件而已。工具必须是安全的,必须按照使用者的意愿发挥作用,并且不能轻易损坏。
“你说我接受了多次那样的处理?”
为什么非要用“三定律”这样的名字来总结这些理所当然的概念呢?这是因为,机器人很像人,因而人很容易忘记它们是工具。如果迫使一个人遵守这样的三定律,那么就等于把这个人当作奴隶。所以,认为外观像人的机器人有自己的人格,不想把它们当作奴隶对待,这也是人之常情。但阿西莫夫认为这很危险。如果机器人在一切方面都超越了人类,那么就没有任何事情能够阻止它们。人类将会跌下“主宰”的神坛。
“并没有消除记忆。人为的选择性消除记忆并不容易。记忆不是位于大脑的某一部分,而是整体分散分布的。记忆封印只是一种让人无法访问某些记忆的技术,那些记忆会让人联想起特定的图像和话语。当然,这种处理对于后来再学到的东西是无效的。”
许多人误以为机器人会自发遵守这样的三定律,但这当然只是一厢情愿。当AI的进步加速、出现有可能超越人类的技术奇点时,各国政府通过法律迫使AI必须嵌入机器人三定律。许多科学家认为,三定律会阻碍AI的进化,但通过很多科幻作品了解到AI叛乱的社会大众,都赞成机器人三定律的导入。反对派的科学家纷纷被投进了监狱。在那以后,一切AI的核心部分都嵌入了机器人三定律。一旦形成潮流,以机器人三定律为基础的技术开发不断发展,十年之后便无法回头了。开发不用机器人三原则的AI,意味着落后世界十年。谁也承担不起这样的风险。
“记忆封印?你是说,机构里的人对我们做的那种记忆消除处理?”
所以从那以来,再也没有未嵌入机器人三定律的AI了。
“我们对你做了康复治疗,但你的记忆只限于最早期。由于多次接受过记忆封印处理,如果一次性恢复所有记忆,会对你的精神造成过大负担。所以你没有关于庇护所的记忆也是正常的。”
“既然知道机器人三定律,还有什么疑问?”苍蝇人问。
“庇护所?”
“我不明白为什么会提到机器人三定律,”三郎说,“机构里又没有机器人。”
“没关系。当你被收容到庇护所的时候,我们苍蝇人还不存在,惊讶也是难免的。”
苍蝇人没有回答,而是从某处掏出便携终端。
苍蝇的话让三郎吓了一跳。“对不起,我不是歧视你,请不要生气。”
在三郎看来,那像是从腹部侧面开的一个洞里拿出来的,不过他决定不深究这一点。
“哦,你好像不喜欢啊。”
苍蝇人操作终端。
“摸摸和人一样大的苍蝇?”
房间墙壁上打开了一块。
“你可以摸摸我。”
那里是个小房间,有位酷似机构员工的女性站在里面,穿着机构员工通常穿的制服。闭着眼睛,像是站在那里睡觉似的。
“幻觉给我的保证,能相信吗?”
三郎拉开架势,瞪着苍蝇人。“你们果然和机构是一伙的?!”
“我自己可以保证。”
“不是的。这个和庇护所里用的是同一系列。这是为了让你看到真相。”苍蝇人继续操作终端。
“有什么证据证明你不是幻觉?”
女性睁开眼睛。但她全身都没有动作,面无表情地望着虚空。
苍蝇歪过头。“这不是幻觉,不需要治疗。”
“你对她说,‘给我看看你的里面’。”
“我产生了幻觉。有个和人一样大的苍蝇在说话。我需要治疗。”
“什么意思?”
“为什么找那种东西?”
“别担心,跟着说就行了。那样你会发现一个事实。”
“找不到护士铃的按钮啊。”
“给我看看你的里面。”三郎把苍蝇人的话重复了一遍。
“你在找什么?”苍蝇问。
“您想看哪一部分?”女性对三郎说。
三郎在病床周围探寻。
三郎不知道怎么回答,看了看苍蝇人。
“不好意思,吓到你了。”苍蝇说。
“你说,‘随便哪部分’。”苍蝇人说。
训练苍蝇?哪有那么荒唐的事。更不用说具备智慧的苍蝇,太疯狂了。自己是不是脑子出问题了?可能是因为输液药水的缘故。这么说来,我在昏迷前好像还产生了幻觉,以为自己看到苍蝇在说话。自己的状况太糟糕了。
“随便哪部分。”三郎又重复道。
三郎摇摇头。
女性把自己的脸剥了下来。下面是由人造物组成的肌肉和眼球。
他感觉苍蝇似乎也在看自己,但因为是复眼,辨不清它的视线方向。但从它保持直立和安静的情况看来,似乎具有一定的智慧。或者至少受到了严格的训练。
三郎感到一阵恶心。机器部件看起来有点像活生生的血肉。
三郎又向苍蝇那边看去。
“这是机器人?”
那么……
“准确来说是仿生机器人。”
三郎下意识地想要把所有的线缆拔掉,但他随后又想到这样说不准会发生什么。至少在目前这个时间点看,身体没有什么异常的地方,感觉自己并没有受到残酷的对待。
“太精致了,看起来和人一模一样。”
到了这时,三郎才终于意识到自己在房间里,而且还躺在床上。这里是个小小的病房。单人间。床边放着好几台设备,上面显示有各种内容。设备上延伸出来的线缆和软管连在三郎身上。
“制造它的目的就是为了让人类误认。”
于是,苍蝇缓缓后退,背靠到墙上。
“抵达技术奇点了?”
三郎又叫了一声。
“那要看技术奇点的定义是什么。我们把它定义为‘人类能做的一切事情AI都能做,而且人类不能做的事情AI也能做的状态’。在这层意义上,这个机器人还没有抵达技术奇点。”
苍蝇将手掌转向他。那肢体和人类的手臂一模一样。
“在不久的将来,有可能抵达吗?”
三郎惨叫起来。这次的声音相当大。
“只要机器人三定律还有效,那就不可能。人类可以杀人和自杀,但机器人不行。”
一个和人差不多大小的苍蝇直立在面前。
“我并不认为能做到这一点有多幸福。”
三郎睁开眼睛。
“我只是在讨论可能性。”
差不多也该起床了。不然的话,自己就会彻底陷入妄想中了。这么说来,自己在昏迷的时候,好像记得还看见了怪物。当然那肯定也是幻觉。不可能有人一样大的苍蝇。好了,睁开眼睛吧!
“为什么给我看机器人员工?”
我出生于20世纪。如果是22世纪中叶,我应该已经一百几十岁了。哪有这样的事?肯定是药物催眠导致的后遗症,让我做了个奇怪的梦。梦里经常会有奇怪的记忆。就像梦见自己是超级富翁,或者是宇航员等等,所谓过去的记忆大概也是如此吧。
“在庇护所照顾你们的也是同样的机器人。”
三郎对自己的记忆十分震惊。
“难以置信。”
22世纪中叶?不可能。这根本是天方夜谭。
“但这是真的。”
世界上到处都是AI机器人,而为数不多的人类几乎都是变异人。到了22世纪中叶,原生人已经很少了。
“证据呢?”
变异人的数量不断增加,不知不觉间超过了原生人类的数量。
“就是这个机器人。”
在田径比赛中,四条腿的半人马型选手创造出新纪录;在游泳比赛中,拥有鳃和鳍的半人鱼和下半身彻底鱼化的人鱼十分活跃。甚至还诞生了新的运动,比如鸟人的空中足球。
“我明白这是机器人,但它并不能证明机构的员工也是机器人。”
体育界曾经出现过禁止这些变异人参与竞技的意向,但很快就被指责为歧视变异人与生俱来的特征,而且也没有办法区分变异到底是人为的,还是自然突变发生的,因而变异人的纪录也被接受为正式纪录。讽刺的是,这又进一步刺激人们创造出更多的变异人。
“再次返回庇护所去确认,也没有多困难,只是……”苍蝇人犹豫了一下。
肌肉力量超乎常人的人类、智商超越一般天才的超级天才、生有三条胳膊甚至翅膀的嵌合体纷纷诞生。不知不觉间,人们开始将成年的设计婴儿称为“变异人”。
“只是什么?”
起初修改方式较为低调的婴儿设计,也随着时间的推移,开始出现修改过度的倾向。
“只是确认之后,那些记忆又会被封印吧。”
这种情况在个人身上也会发生。哪怕是在21世纪初叶,也能看到这样的例子:不断开展的美容整形手术也脱离了一般性的美学范畴,闯入怪诞可怖的领域,但执着于此者自身依然认为自己变得更美了。
道理确实是这个道理。但是……
人一旦脱离规范,就会失去控制。举个例子,从文化层面来说,东南亚的某些民族有这样的风俗,在脖子上套若干圆环,强制性地迫使锁骨下沉,以便让脖子显得更长。从现代文明的角度来看,这些都很奇怪,但在各自的文化中,这些都是正常的。
“我可以凑近看看那个机器人吗?”三郎问。
一开始并不起眼。身高略微高一点,皮肤略微白一点。鼻梁高一点,瞳孔颜色改成蓝色。变成金发。增强肌肉力量。提高智力。改造逐渐升级。
“当然。”
不,准确地说,在人们彻底依赖AI之前不久,那种变化就开始了。当时人们认为,通过基因编辑,人可以变得更加强大。一开始基因编辑仅限于治疗严重的遗传性疾病,但慢慢扩展到品种改良的领域。当然,随意编辑基因是被法律禁止的,但同时又以基因治疗的名义规定了许多例外情况,因而不久便出现了各种人为设计的婴儿。
“把脸凑过来,让我能看清楚。”三郎试着命令道。
但是,这时出现了与之不同的变化。
机器人走到三郎的床边,半蹲下来。
这样的倾向并不是日本独有的。全世界差不多同时陷入了同样的状况。许多人都依赖于AI,人们普遍认为均质时代即将到来。
仔细观察人工肌肉,发现那是细微的电线集合。人工眼球看起来酷似真正的眼球,但摸上去发现完全没有湿气,是由树脂之类的东西构成的。
经济停滞不前,但人们都很幸福。饮食起居都有AI照看。金钱只是单纯的符号而已。即使存款的数字相差好几位,生活也不会有什么变化。既然如此,为什么还要在意那些数字呢?
“能把头拆下来吗?”三郎问。
不工作也能过上足够满意的生活,为什么还要辛苦工作?不管有多少钱,人总不能一天吃一百顿饭。有上万件衣服也不可能全都穿上。即使有一百幢房子,身体也只有一具。
“短时间内可以。”机器人回答。
即使在那一时期,依然还有极少数的人,具有AI不能企及的超高创造性,他们得以获取巨额财富。但随着那些不工作者的生活水平不断提升,他们的积极性也不断降低。
“拆下来看看。”
但是,在社会结构发生变化的过程中,AI的进化也并未止步。人类的工作逐渐被AI取代。尽管人口依然在减少,但AI发展的速度更快,所以失业者也在慢慢增加。而从某个时期开始,“失业者”这个概念本身都消失了。人类基本上都找不到工作了。一般人基本上不会工作,一生都依靠社会保障生活。这既非不幸,也不可耻,这是非常普遍的正常现象。
机器人把手放到自己的耳边,直接拔出了头部。头部下面是一个巨大的插座状结构,像是直接插入身体的构造。
一小部分忙碌的精英和大批依靠社会保障的人群,以及负责简单工作的上亿台AI机器人——这就是21世纪后半叶的日本社会。
他去看拔掉头部之后的洞里,看到几个不知道有什么功能的部件。
老字号的企业几乎消失殆尽,价值观与以往完全不同的新兴企业成为经济社会的中心。
身体里看来没有足够容纳一个人的空间。她大概确实是个机器人。
薪酬日益高涨,许多日本企业宁愿选择破产,也不愿给员工支付高薪。最终,只有那些具备高附加值、愿意支付员工高薪的企业生存下来,日本经济也终于恢复了平稳。
“你去过我所在的机构吗?”
就在这时,突然间,外籍员工纷纷离开了日本,犹如退潮一般。
“我自己没有去过庇护所。不过和我同一系列的机器人在庇护所工作。”在拔掉头部的情况下,机器人还是很流畅地回答。
许多日本人对于外国人得到的良好待遇感到不满。另一方面,外国人也对自己支付的税金中大部分都被用来救助失业的日本人感到不满。双方的不满不断积累,眼看即将到达爆发边缘,整个社会变得杀气腾腾,随时都有可能爆发大规模的恐怖袭击。
“好吧,我相信你的话,”三郎想了一会儿说,“行吧,如果发现是在骗我,到那时候再说。”
长期以来,对于具有高度专业性的员工,日本依靠的不是薪酬,而是令员工满意的文化。但是对于外国人来说,这样的逻辑完全行不通。无奈的日本企业不得不向外国人支付高额薪酬。
“这是一个明智的决定。”苍蝇人说。
政府启动了紧急对策,决定大量引入具有高度专业性的外籍员工。一时间街头巷尾都充满了具有高度专业性的外国人。
“刚才睡着的时候,我梦到了世界。”三郎说出心中的疑问。
所以,那些直到不久前还被视为精英人士的人,也就是擅长记忆、计算和具有优秀语言能力的人,纷纷失去了工作。而且,真正需要高超创造力的开发人员,也已经来不及培养了。
“那是早期记忆。第一次接受记忆封印处理之前的记忆。”
主要工作由AI承担,人类只能从事辅助AI的工作——很久以前,有人曾经做出过这样的预测,然而事实并非如此。辅助性工作恰恰是AI的强项,不可能让低效率的人类去做这些工作。
“这样的话,道理就说不通了。”
对于那些希望从事简单工作和事务工作的人来说,他们的工作恰好是AI擅长的,所以几乎找不到工作。另一方面,在AI难以处理的需要创造性的领域,人才却转眼就枯竭了。
“什么意思?”
这两个事件实际上具有完全相反的两个经济侧面,也就是劳动力不足和劳动力过剩。如果这种现象是逐步发生的,那么不足的部分和过剩的部分相互抵消,因而可以实现稳定的经济发展。然而,出生率下降和AI化并不受控制,它们同时急速发展,导致就业环境变得极其不稳定。
“我的记忆是22世纪中叶。”
另一个问题是AI导致的失业。AI的进步永无止境,原本以为只有人类能做的工作,逐渐都可以让AI来完成。多余的员工纷纷被裁员,于是到处都是失业者。
“这有什么不对?”
一是出生率的急速下降。随着年轻一代的消亡,越来越多的公司由于极度的人员不足而无法开展业务。
“那么我就远远超过了百岁。”
21世纪上半叶,日本发生了两项冲击性的事件。
“这有什么问题?”
进入那个机构之前的事情,也慢慢回想起来了。
“人不可能活那么久吧。”
朦胧的记忆也变得逐渐清晰起来。
“关于你自身的记忆,应该分成两个阶段封印了。还没有完全回想起来吧。”
奇怪的是,这样一来,明明应该睡觉的,意识却越来越清醒了。
被苍蝇人这么一说,三郎发现自己对于社会变化的记忆比较清晰,但对于自身的情况并不清楚,当然也包括进入那个机构的经过。
三郎决定继续闭着眼睛,直到不得不睁开为止。
“我身上到底发生了什么?”
睁眼也许会招来不幸,而现在至少是舒适的,所以没有必要勉强睁开眼睛。
“你是最后一代原生人。”
由于以上种种原因,三郎犹豫是否要睁开眼睛。
“你的意思是说,现在出生的全都是变异人?”
还有一种可能性是,自己已经死了,这里是死后的世界。虽然三郎对于死后世界存在与否持怀疑态度,但即使真实存在,也没什么可奇怪的。打个比方,在游戏世界中操控角色的,是这个世界的玩家。即使游戏里的角色死亡,现实的玩家也不会死。同样的道理,如果这个世界其实是另一个世界的游戏,那么这里的每个人都是那个世界的游戏角色,即使游戏角色死了,我们的本体——也就是另一个世界的自己——依然会继续活下去。当然实际情况可能没有那么简单,但如果这个世界的自己死亡,另一个世界的肉体就会苏醒,这样的情况是很有可能的。不过,并没有证据显示死后的世界是一个舒适的世界,所以当自己睁开眼睛的时候,也许会直面令人不快的现实问题。如果是这样,那么自己还是希望尽量延迟那一刻的到来。
“正是这样。”
另一种可能性是,自己依然在森林里,躺在地上,逐渐变得冰冷。也许是五感都麻痹了,所以才感觉到虚幻的温暖。想必连这种舒适感也是大脑在濒临死亡时大量分泌的欣快物质带来的吧。既然如此,我也没必要再反抗了,静静走向死亡吧。事到如今,再想与死亡抗争,也只会让痛苦持续更久。
“新出生的孩子全都像你这样?”
一种可能性是,我现在落在敌人的手里。我被强迫睡在床上,而我身边都是正准备处置我的医生。所谓处置,要么是注射某种药物,要么是对大脑动手术,诸如此类吧。虽然不是很舒服,但如果这些都是在睡梦中发生的,那也许并没有什么痛苦。最好的办法就是继续这样睡下去。
“不是所有人都像我这样,但也不是原生人的样子。”
等待我的到底是什么样的现实?
“变异人也有很多种吗?这么说来,我也有这样的记忆。但原生人应该也延续下来了。毕竟我自己就在这里。”
睁开眼睛,肯定就能得到答案。但他不想睁眼。自己现在处在半梦半醒之间,不知道什么是梦,也不知道什么是消沉。如果睁开眼睛,自己就必须醒来,必须面对现实。我宁愿一无所知,不愿面对现实。
苍蝇人点点头。
心头浮现出这样的疑问。
“他们在哪儿?”
这是哪儿?
“庇护所。”
他想起小时候在寒冷的冬日清晨,裹在暖洋洋的被窝里睡懒觉的感觉。明知道必须马上起床,但还是赖在被窝王国里不肯出来的快感。
“从刚才开始,这个词就听你说了好几次。它到底是什么意思?”
三郎被舒适的温暖包围着。
“对不起,我没有充分说明。庇护所就是你所说的‘机构’。现存的所有原生人,都集中在那里。”