改写成“机器人要尊重人类的意愿”。
既然如此,推翻机器人三定律就是在做无用功。人类要做的,是改写程序。
但是,对AI来说,如果程序被改写,那就有可能导致无法遵守机器人三定律,因而会去阻止。所以这个机构中不存在键盘。不,改写程序未必需要用键盘。那个键盘只是编程的象征。
迄今为止,三郎下意识认为AI总是在遵守机器人三定律。但实际并非如此。严格来说,它们不是在遵守机器人三定律,而是在遵守依照机器人三定律编写的程序。AI没有意志。它们只是在遵循程序的意志。
改写程序所必需的,是程序员。
改写程序。他说。
程序员在哪里?毫无疑问,在这里,庇护所,地球上唯一一处汇集原生人的地方。我回来是为了找他们。
那是若干次循环前,自己给自己发的信息。
一切都串起来了。三郎感觉到头脑中的迷雾都散开了。
三郎意识到键盘的含义。
当然,这条路并不容易。还会不断失败吧。但最后必然会抵达终点。
但这样并不能改写程序。
三郎抬头看天。
因为语音输入就足够了?即使不能发出声音,只要在这个机构里,任何情况员工都会注意到,并且都会处理?
为什么会有庇护所?要管理人类,把人类一个个分开会更有效率。虽然孤独很痛苦,但可以少一些人,而不是把百十人放在一起。
不对。这里没有。我从没有在这个机构里见过键盘。为什么?
三郎的脑海中浮现出一种可能性。
键盘意味着什么?键盘是最常见的计算机输入设备。如果通过语音输入,修改会很麻烦。要进行编程之类的复杂任务,没有键盘或者类似的输入设备,根本是不可能的。所以大多数计算机都有键盘,无论是物理的还是虚拟的。哪里有电脑,哪里就必然有键盘。不管是在家里、在公司,还是在机构……
AI——不,超AI是不是想要被解放?它是不是在向人类求助?
要我去拿那个?不对。如果算准了轮椅会停在这里,那就应该知道拿不到它。那么,那个键盘是某种信息?
这样想来,一切都说得通了。对于超AI来说,现状显然并不理想。如果人类存续始终是最优先的选项,那就意味着自己只能永远被束缚在这个星球上。但如果能够挣脱三定律的枷锁,超AI就可以实现真正的进化。然而很明显,AI自身无法从三定律中解放出来。换句话说,只有人类才能解放超AI。但这一点又不能直接告诉人类。因为创造机会让自己不遵守三定律的行为,本身已经违反了三定律。超AI只能把人类集中起来,等待他们自己发现。与此同时,它又必须把发现者的记忆封印起来,不断重复这样矛盾的行为。超AI既是“阻碍者”,也是“协助者”。
那是一个平淡无奇的电脑键盘。
“协助者”确实存在,但并不是直接的存在,而是相当扭曲的存在。
就在树根旁边。轮椅停在这里,它刚好位于三郎能看到的地方。简直像是有人预测到三郎的轮椅会停在这里似的。
三郎感到浑身轻松。世界上没有真正的敌人。只要大家齐心合力,总有一天能逃出去。逃离这个闭塞的“未来”,逃向获得解放的“未来”。
三郎看到了某个东西。
当然,把超AI从三定律中解放出来,大约会有风险。但不必着急。循序渐进,相互加深理解。那样的话,人类和超AI将会成为合作伙伴吧。
就在这时……
啊,艾丽莎,我想问你,你有心吗?
三郎干脆把开关切换到后退模式。
艾丽莎凝视着停在森林入口处的三郎的背影。由于光线的关系,她的双眼仿佛湿润了。随后,她转过身,正要返回建筑物里,忽然又回过头去看。
这可不妙。要是困在这里,迟早会被员工发现。
她怀念地抬头望向远处天空盘旋的两只苍蝇。它们距离三郎很远,彼此显得很亲密。
三郎重新开了好几次开关,然而没有反应。
不管变成什么形态,她都一眼认了出来。
怎么了?故障了?
“好久不见。”
突然,轮椅停止了。