大悟读书网 > 经济管理 > 人工智能革命:历史、当下与未来 > 不确定性的终结 ——反乌托邦的终极奥义

不确定性的终结 ——反乌托邦的终极奥义

王宝:行啊,我的配方就是,必须我亲自做,不能请人,不能速冻,必须得新鲜出炉。

徐朗:你把配方卖给我吧。

徐朗:所以你一辈子只能做葱油饼,你知道吗!

在《人在囧途之泰囧》里,成功人士徐朗与傻小子王宝之间有一段关于葱油饼的有趣对话:王宝的葱油饼一天能卖八百张,一个月净赚两万六千元。徐朗告诉他如果加盟费定在每月五千块的话,在北京开上一百家加盟店,一年就能拿到六百万。要是全国范围内开到五千家连锁店,就意味着每年可以赚三个亿的加盟费!看到商机的徐朗眼前一亮:

王宝:你咋知道啊,我就喜欢做葱油饼!

反乌托邦的文学作品描绘出一幅幅恐怖的景象,可更恐怖的是,这是完全符合逻辑的合理结果。人工智能的最高层次就是不确定性的完全终结。

工业革命已经终结了可计算过程的不确定性。大规模的工业化生产能够使经济腾飞,可流水线上生产出的产品千篇一律。相比之下,大部分奢侈品都秉承着手工定制的原则,这也使它们的身价达到了流水线产品的千百倍。无论能工巧匠的技艺多么高超,都不可能达到机器的稳定性与精细度,可正是这些不可控制和不可克服的因素给他们手中的物品赋予了蓬勃的生命力:每一件都是独一无二的。魔幻现实主义作家加西亚·马尔克斯·加夫列尔(Garcia Marques Gabriel)错乱癫狂的时间与空间,先锋派作曲家伊戈尔·斯特拉文斯基(Igor Fedorovitch Stravinsky)斑驳陆离的调性与节奏,野兽派代表人物亨利·马蒂斯(Henry Matisse)直率粗放的色彩与构图,无不彰显着这狂野的生命力,这是再强大的算法穷尽所有数据也无法计算出来的生命力,因为科技本身形成的秩序足以碾压一切不规则的元素。

可是有一天D-503遇到了异性I-330,不由自主地从“我们”变成了“我”,并稀里糊涂地参与了一场推翻大一统王国的计划。最后,I-330被送进了一种叫作“气钟罩”的刑具里处死,D-503被捆在手术台上接受了切除幻想的手术,回归了与“我们”一致的生活。他在日记的最后一页坚定了对王国理想的信念:"40号横街上已经筑起了一堵临时高压大墙。我希望胜利会属于我们。我不只是希望,我确信,胜利属于我们。因为理性必胜。”

有时候我会怀疑,手机和电脑里的那个我甚至比我本身更像我自己:我的家里养的两只可爱的暹罗猫,每当我打开百度时,页面上便会布满关于猫咪的有趣推送,看了半个小时后,我已经忘记了原本要搜索的内容;每当我打开淘宝时,琳琅满目的指甲剪、化毛膏、零食罐头便会滚滚而来,信用卡的账单上就又多了一笔笔剁手的记录;每当我打开每日头条时,关于猫咪饲养与护理的种种讯息又让我觉得收获颇丰,我会把它们剪藏进印象笔记,却不知道是否还会再看。

作为高级知识分子,D-503也会看看前人的古书,他会讶异于古人居然还生活在无组织无纪律的自由之中:“使我一直困惑不解的是:当时的国家政权怎么能允许人们生活中没有我们这样的守时戒律表,对用餐时间不作精确的安排,任人自由地起床、睡觉。有的史学家还谈到,当时的街上好像灯火彻夜通明,车马行人通宵穿行不息。”更难以置信的是“这个国家居然对性生活放任不管——这真是咄咄怪事:不管是谁,在什么时候,进行多少次,在什么地点……都由着人们自己,完全不按科学规律行事,活像动物。他们也和动物一样,盲目随便地乱生娃娃,真让我觉得可笑!”

《我们》中的“我”是未来的大统一王国的数学家,也是宇宙飞船一统号的总设计师。在大一统王国中生活的人们是具有高度的一致性的,千万人如一体的“我们”,每个人没有姓名,只有编号——“我”是D-503.在王国里,日常生活按照《作息时间戒律表》有条不紊地严格进行,甚至连性爱也被进行了数字化地组织——在固定的时间凭票完成。大一统王国的科学进化得近乎完美。他们已经使用数学法则来创造诗歌(的确是高水平的人工智能!),还天才性地创造发明了“一致同意音节”,造就出最宏大的音乐史诗。

图6-7 亨利·马蒂斯1905年的画作《戴帽子的女人》

图6-6 叶夫根尼·扎米亚京

在苹果音乐里,我建立了一个音乐频道,选择了自己喜欢的几支乐队和几首歌曲,它就会提供一系列其他的歌曲,还恰恰都是我喜欢的类型。睡前躺在床上,边听歌边逛亚马逊是我的习惯,在亚马逊买过几次书后,它开始贴心地提供它认为我感兴趣的书籍,这节约了大量选书的时间,我只需要在有折扣时下单付款就够了。每逢下雨的周末,我会在视频网站上输入“印度电影”碰碰运气,久而久之这几个字的输入都可以省掉了,网站甚至可以自己把北印度电影和南印度电影区分开来。

所有这些都是真实的我在二进制世界中的投影,但反过来,这些由算法和数据构成的人工智能却在重构我的生活。既然关于我的信息已经构成了一个全新的我。这个看得见摸得着的我是否还那么真实?人工智能比我更了解自己,它制定了二进制的我应该如何吃饭如何睡觉如何购物如何生活的种种规则,提醒真实世界的我不要做二进制的我不会去做的事情。人工智能会诱导人自愿放弃思考的权利,用种种潜在的锁链塑造出一条看不见的流水线,用数据和算法生产出一个真实的“人”。

要从人工智能的角度理解反乌托邦,反乌托邦三部曲中的《我们》或许能给出最清晰的阐释。《我们》是前苏联作家叶夫根尼·扎米亚京(Yevgeny Ivanovich Zamyatin)于1921的作品,对其后面的两部反乌托邦作品都有深刻的影响。相比于乔治·奥威尔(George Orwell)笔笔如刀的反极权主义战斗檄文《1984》,《我们》的政治隐喻并没有那么强烈,却多了些对科技反制人类的隐忧,它的主人公正是一名数学家——也许这就是它为什么不像《1984》那么脍炙人口的原因。可正所谓无心插柳柳成荫,虽然并非出于本意,但扎米亚京阴差阳错地预言了苏联政治的发展走向,也就莫名其妙地变成了一个持异见者而漂泊他乡。

在数据主义的蓝图里,由超大规模数据和超强计算能力结合而成的外部力量将称为世界的主宰;当所有数据彼此相连时,这种力量将无远弗届,从而比任何事物更了解整个人类。在《1984》中,“老大哥”还有被推翻的可能,可这位“人工智能老大哥”已经在不知不觉中隐匿于无形,我们一手创造了它,却浑然不觉于它的存在。互联网批评家叶夫根尼·莫罗佐夫(Yevgeny Morozov)把这种现象称为“算法说服(Algorithmic Nudging)"。在他看来,算法说服的核心问题在于以产品工程设计的表象去掩盖社会工程设计的本质。正确的算法和海量的数据正在把独立思考的公民身份从人身上剥离出去,留下的只是痴迷于自我优化的人工智能的试验品。道德、情感、创造与想象——这些机器所不能做到的东西——决定了我们作为人类的身份。但在这个算法为王数据说话的时代:同质化倾向正在无可避免地越发严重,区分开来你我的特征正在消失。如果人工智能告诉我们,这个决策背后的选择架构是基于大数据,那么所有人都会不假思索地随波逐流。它如此事无巨细地影响着我的生活体验,会不会有一天变成由它来决定我喜欢什么。我想我们都希望能做智能的主人,而不是智能的奴隶。

反乌托邦(Dystopia)是一个内涵复杂的概念,从不同的角度可以得出不同的阐释。但从技术角度来说,人工智能是反乌托邦的基础——所有的反乌托邦社会都建立在高度发达的人工智能之上。发达的人工智能提高人类的生活水平,却让精神世界越来越虚弱空洞,这是一股不可逆转的潮流。

在机械的乌托邦里,一千个人眼里只会有一个哈姆雷特。那时,一个D-503的代号也就足以囊括自身的所有价值。