“那么,你会一直陪着我吗?”Sadira看着电脑屏幕上缘,盯着那个小小的摄像头,“一直?”
人工智能自动把这句话翻译了一遍。一直监管她,再加上适时的学业报告和计划调整——“是的,当然,”它回答女孩,“这是我的任务。”
对于正常的人际关系,不得不说,Sadira基本没有长久维持它们的能力。这一方面是因为基金会的人情本来就很冷淡;流动站已经算是好的了,这个站小,也相对安全一些,死亡率没那么高,但不同的工种之间来往也并不频繁。这种不频繁在Sadira身上表现得更明显一些,对于基本没什么事做、站里没有活干出差又够不到级别的语言学方向研究员来说,人际关系仅仅限制在小小的一间办公室里也是可以想象的事。而另一方面——
她很难对所谓“人”的情感产生信任。
她生母的死姑且可以算作是意外,可这种意外在基金会中着实算不上罕见。出个差人就没了的情况时有发生,就算只是站内指导,也保不齐会不会撞上收容失效的倒霉事;要说寿终正寝,那在基金会基本可以等于白日做梦。至于算不上是意外的死——对于Sadira来说,此处特指Elena的自杀——那就更不用说了;在这地方工作的人十个里有八个心理有问题,抑郁躁狂焦虑妄想占比相当均匀,自杀率之所以不高大概是因为他们没来得及在收容失效之前自杀。这直接导致了一个基金会的老人都很清楚的结果:
你永远没办法和一个人去说结果,绝大多数人都没有所谓结果。
Sadira在这方面还要更敏感一些。她曾经失去过很多东西,这让她会更在意自己失去过的这些东西。从那些在基金会家庭出生的孩子永远都感受不到的幸福中骤然跌落的痛苦她这辈子都忘不掉,至于如何去避免类似的Bad Ending,她选择了干脆不要去打新支线可能的多结局。主线永远是事业,这是她一早就定下的目标;至于其他的……
算了,反正基金会员工也不是那么需要情感需求。
这逻辑毫无疑问有那么点儿问题,但没有人去纠正她。这姑娘打九岁就吃上了百家饭,饭卡里的钱从来没个准数;学业上的事好歹还有学校老师带一带,至于生活,那真是一个人摸爬滚打混过来的。监护人没有,长辈没有,尤其还是女孩子,某些事上没出问题得亏了以前家里学的是生物;家里倒是留了一个人工智能的权限,可很多事情,人工智能也不懂。成年之前的后面九年基本上是小姑娘一个人摸爬滚打滚过来的,付出的挺多,但也不算是没有收获;她至少确实努力着活到了成年——
然后遇到了一个大坎。
成年意味着什么,意味着从杉草萍毕业。成年礼紧跟着的就是一次大实习,没有带队老师,没有组员,直接分到兄弟单位打下手;高难度低回报,仅仅是为了让这群孩子们知道什么叫基金会,这是一次足以称之为大清洗的实习。能完整地通过这次实习的学生们大概只有三分之二的数量,这还是因为本部高中的学生都是高层子女,事先对要面临的内容有所准备;要是换成杉分那群没实操过的孤儿,能活着回来的可能也就五分之一。
——Sadira和那群孤儿差别不大。
她没有家长去帮她打探情报,没有办法做针对性的准备,也没有办法提前和未来的临时同事们做一些情感上的交流;她唯一能依仗的,只是那个用死板的程序来判断下一步计划的人工智能。她当时所能拿到的使用权限让一个供得起整个站点的人工智能用起来像个低配版Siri,不问不说,问了也不一定说,每个月只会说一些“你的成绩不太稳定”“你的身体素质该提升了”之类的废话;也就Sadira成绩是真好,就这没缺胳膊少腿的回来,那也得说一句这孩子运气出色。实习完了照例是聚餐,不是学生们聚,是难得的家里的聚会;这是这群孩子们遇到的第一个真正的坎,大部分家长都会在这时候尽量抽出一点时间来。
Sadira没家长。她同桌用基金会内网发朋友圈的时候,小姑娘对着手机上七岁的合照坐了一夜。
自律的使用权限突然被放开就是那之后的事。不知道是主管认为她已经算得上一个成熟的流动站低级员工预备役了,有资格使用流动站基础人工智能,还是因为他觉得这姑娘确实需要一些陪伴,总之Sadira手机里的自律终端得到了升级——其中包括最近才升级的伪情感模块。这个模块让它能够以最大可能地去模拟和破解一个人类的情感,包括语调变化和微表情的分析,以及潜台词的解读等,换句话说,这个人工智能总算有了一点儿人味;小孩开始还不太适应,但很快,她接受了这个突然进化的人工智能。
“你的人际关系确实太单薄了。”人工智能如此评价。
在它看来,这并不是一种真实的接受。她只是太渴望某种关爱了;虽然小姑娘因为基金会注定的不长久拒绝了她能拒绝的所有的一切,但当真的出现一个“可以长久存在”的关心的时候,Sadira并不在意这是不是真实的。这或许是某种基金会成员的通病:大部分人并不知道自己什么时候会死,也就并不在意自己死前所触摸到的是不是真正的真实;剩下那一小部分不太考虑死亡的事,但他们更空虚一些,他们不知道自己为什么活着。
Sadira大概介于两者之间。
她的目标是在Elena死亡的年纪之前爬到三级研究员,但要是不熬资历,二级升三级的危险性相当高。至于别的,鉴于她没什么别的目标,除此之外的生活用一句空虚也算是可以解释。自律曾经数次要求她“找一点自己的事干”,这是站点心理医生的要求;但小姑娘对此非常莫名其妙。
“我不觉得自己有什么问题。”她说这话的时候已经二十一了,算是个稍微有点经验的新手研究员,“我的工作生活很充实啊。至于私人时间,我的目标你又不是不清楚。”
“但你需要放松。”人工智能的语气没什么波澜,“而且,你不能总是一个人。”
Sadira更莫名其妙了。“这不是有你吗?”
人工智能失语了片刻。“我无法判断这两者的联系。”
“你看,你可以满足我的社交需求,解决我绝大部分的求助,而且你不会背叛我。”这姑娘一条一条数她的理由,数得还挺自然,“人类总会背叛的,不管是因为什么,主动还是被动。就算他们不想背叛,时间也会让他们背叛的。他们总会离开我的啊。”
这确实没什么毛病。人工智能没找到逻辑错误,在一种大概可以被理解为茫然的情绪中接受了这个解释。这大概就是人工智能和人类的区别;前者只讲究一个逻辑,当这个逻辑和它的内置逻辑之间没有冲突的时候,它就会接受这个解释,并把这个解释添加到它的设定当中;而假如说是人类,尤其是一个情感系统正常的人类,就会发现Sadira的逻辑中相当偏颇的那部分。自律是会长久存在的,人类——尤其是基金会这种她送走了一代又一代的人类——相当脆弱,他们的确是总有一天就会离开的;但对于Sadira,谁送走谁就不一定了。
被背叛的也不一定是她。
但小姑娘不想考虑这个。她只是坚定地要去避免这个Bad Ending,坚定到自己都觉得理所当然、顺理成章。她这种顺理成章甚至迷惑了自律;人工智能的运算没找到漏洞,它于是相当坦然地给自己打了个补丁。除了学习计划和工作计划,还要负责满足Sadira的情感需求——它接受的指令本来就是负责让Sadira健康地成长起来,至于是哪方面的健康,那不在它计算的范围之内。
它变成了小姑娘唯一的“同伴”。
这不是一段健全的关系。先不说自律的身份,仅仅把所有的情感需求寄托在某个特殊的个体上,这意味着她永远都没办法找到什么代替品。可自律在Sadira的生活中扎根太深了——它的内存里有这姑娘九岁以来所有的学习和工作记录,详细的体检报告和心理检测报告,每月一次的心理咨询结果和全程录音,它所了解的Sadira远比小姑娘自己了解的要清晰。它总能了解到Sadira对它的倾诉隐含了什么深层含义,了解到Sadira所隐去的那些未曾解释的内容,了解到Sadira未说出口的、仅仅表现在眼神中的内容。它本来就记得全部,知道全部,能分析出全部——这就是自律存在的意义,它是个凌驾在整个站点之上的人工智能。
小姑娘没办法离开它。
很少有人能不去信任不去依赖一个真正了解自己的人,更何况是Sadira。她太缺少这种感情了;Elena当时根本没精力去关心她的感受,尽全力也只是尽到了做母亲的义务,至于后来的员工们,连这种义务都没有。自律是唯一一个能考虑到她方方面面的个体,而这种出于程序的考虑又给这种行为加了一层保险;Sadira很确信自己可以从包括但不限于更改自己的成长计划、向主管申请或者别的什么方面调整这个人工智能对自己关怀的模式,这是一种掌控,也是一种让她更安心的能力。当她确信自己能够掌控这些的时候,Sadira就彻底失去了对这件事的掌控。
自律并不是对此毫无察觉,但自律并不认为这有什么错。
满足Sadira的情感需求是让她的心理健康发展的必要举措,而当目标本人根本没有别的人际关系的前提下,由自律来进行互动是可行且最优的解决措施。更长远的负面影响并不一定没有,但人工智能的情感模块尚且不能理解这些;用更“人类”一点的话来说,人工智能清晰地了解到自己在Sadira死亡之前出现无法修复的漏洞的概率接近为零,它几乎可以肯定地说自己会比自己负责的这个姑娘活得更长久;而只要它还在运作,它就能通过对那些数据的运算来得到一个可靠且稳妥的培养方案。——它同样认为它能掌控这些,于是它默许了这一切。
“所以你会一直在的吧?”于是她这么问了。
“当然,这是我的任务。”于是它也是这么回答。
——但她们真的能掌控这一切吗?