这一篇同样是杂谈性质,如内容有不妥,欢迎在评论区指出。
(资料图)
“意义”这个概念,萦绕Beatless整篇小说,五台蕾西亚级机体的意义、新人与蕾西亚关系的意义、乃至一切“物”的意义……“意义”这个词似乎可大可小,这里就一层层地来聊一聊。
第一,“意义”是以人为中心、由人来决定的,这一点至少在形式上是底线,被AI所遵守。
哪怕是像希金斯、蕾西亚这样的超高度AI,在行为表现上几乎已经“自主”的超高度AI,也没有表现出决定“意义”的能力。相反,AI始终都在让人类自己回答“有没有意义”、“有什么意义”这一类的问题。像蕾西亚这样,几乎是一直在诱导新人的hIE,各种行动和决定,也还是在形式上由新人认可后才算数。
需要注意的是,hIE并非每次都会直接请求主人明确给出“意义”,因为“意义”实在是一个非常抽象、经常需要被具体化的概念。蕾西亚的问新人“您想要如何使用我”、“您想要构造怎样的未来”,萨托努斯请求艾丽卡将自己变得特别,其实都是在某个具体的问题上,要求人类确定意义、给出意义。
第二,“意义”的背后,其实是价值判断,以及伴随判断而生的“责任”。
哪怕是物体的外表(例如艾莉卡杯子上的Hello Kitt图案)这样似乎“无关紧要”的事情,因为人类的判断,也就有了意义。
价值判断,简单说就是某个东西、某件事有没有用,有什么用。因为用途可大可小,意义也就可大可小了。价值判断也是判断,要做出判断,就要承担责任。在新人尚未足够信任蕾西亚时,蕾西亚不止一次地提醒和要求新人“承担身为主人的责任”,就是这个原因。
第三,人类对“意义”的认定,其实是非常随意、非常主观的。
最明显的表现,也是作者直接点出来的一点,就是人类会因为一样东西的外表就决定一样东西的意义。
蕾西亚哄新人的五分钟大姐姐模式,就是把眼睛睁大一些,表情幼稚一些,声音温柔一些,新人就慌了,并对蕾西亚的“意义”产生了动摇,甚至觉得蕾西亚“有些恐怖”。哪怕行为举止稍微变了一点点,蕾西亚之前和新人所构建起来的“意义”,就有分崩离析的危险。
新人之所以会认同蕾西亚,至少在前期,很大程度上是因为蕾西亚的机体在外形上是大美女。每次当新人意识到,蕾西亚的人形机体,只是她用来和新人打交道的工具,远远不能代表“全部”的蕾西亚时,他对蕾西亚的信赖就会动摇;而当海内辽直接让新人意识到,蕾西亚的机体,不过是一个超高度AI控制的“躯壳”时,新人差点直接和蕾西亚关系破裂。
新人最后之所以还能和蕾西亚继续搭档下去,除了他有意无意地深入思考了和蕾西亚的关系之外,他决定“死心塌地”地做一个颜控,也是一个重要的原因。到最后,蕾西亚和新人的关系,虽然多了很多探索人类和AI新型关系的成分,但外表仍然是重要的因素。
还有萨托努斯,她要“变得特别”,艾莉卡就从外表到言行都把她改造成咖啡厅女仆,任务就完成了,外表的修饰同样占据了重要的位置。
“人靠衣服马靠鞍”,外表对人类决策的影响,并没有被AI的智能化所动摇,反倒是AI必须围绕着人类随意甚至轻率的决定服务。
重大深远的决策,起点居然毫不理性,而是要从“外表”这种看起来很肤浅的地方起步,这可能也是梅忒黛对人类鄙夷和不满、雪花莲选择摆脱人类的原因。