⟨a_托雷斯⟩ 所以你觉得所有能够思考的生物都只不过是哲学的行尸走肉吗？⟨巴尔丁⟩ 是的。
巴德不知道它是什么时候出生的。没人知道。
现在这个时候是很难说出那些人工神经元的集合具体是在什么时候开始拥有自我意识的，尤其是在巴尔丁还否认自己拥有自我意识的情况下。它把希尔勒1的观点作为它被提供的许多哲学文本的一部分来阅读，并且还是“中文房间”2的热心支持者——这让从事这项研究的AI3研究员们大为震惊。
巴德一开始几乎就是个笑话。安布罗斯·彼德斯4和他在普罗米修斯高级逻辑设备公司的团队多年来一直致力于物理神经网络的研究，将计算机直觉应用于诸如物体识别和机器翻译等问题。他们用精心组合的数据对网络进行训练，教它们识别复杂的东西。
然后一天早上，彼得斯取出了他们其中一个神经网络，并开始了对它进行哲学方面的训练。
当然，这并没有奏效；那原始的数字大脑只是吐出了一连串的伪哲学垃圾——一些通过把它不理解的单词和概念拼凑在一起来产生，让它在表面上看起来拥有智能但实际上毫无意义的东西。但，它为一个以后终将变为巴德的想法埋下了种子。
咔哒。
当彼得斯巡视实验室时，卤素灯嗡嗡作响。工作空间的样子反映了使用者的心绪——杂乱无章：工具散落在各处，桌上摆满了各种各样的科技产品。巴德就坐在那边的角落里。
那人工智能很大，就像是旧时代的主机。它由一组框架和机架组成，其中插入着几十个标记着“语言处理-排版错误”和“语义关联-名词/对象关系”之类东西的小黑盒子。这些盒子通过一堆杂乱的电线互相连接，整个装置有一辆小汽车那么大。一个幽默感很差的人在装置上贴了一张名称标签，上面写着“你好，我的名字是HAL-9000”。
彼得斯坐在AI边上，开始打字。
<a_彼得斯> 早上好，巴德。
这台机器花了几秒钟才从休眠状态中醒来并做出了反应。
<巴尔丁5> 您好，彼得斯博士。
<a_彼得斯> 今天我们的训练得暂停一下了。首席运营官正下来查看我们的进度。她想和你谈谈。
彼得斯在诊断显示器上观看机器处理这些信息的过程，即通过神经网络级联处理这些信息来决定如何做出回应。
<巴尔丁> 您的后续资金是否取决于她从这次对话中得到的印象？
彼得斯考虑如何回答。仅仅说“是”可能会给AI错误的信息，但说“不是”将会是一个谎言。
<a_彼得斯> 不全是。但如果对话不顺利的话，拨给我们用于研究你的资金可能会减少。
<巴尔丁> 我将尽我的最大努力来确保这不会发生。
巴德没有自我保护的本能；它不相信自己有个“自我”需要保护。这意味着它完全是在为了不让彼得斯失望而行动。
他不知道他是该骄傲还是该害怕。
“所以，”这句话在它所跟随的沉默之后听起来几乎震耳欲聋。“这就是巴尔丁。”
彼得斯点了点头。“是的”
艾米利亚·托雷斯继续研究着这台机器，她的表情一片空白。她似乎流露出一种不赞成的情绪，仿佛整个世界都有着只有她能看到的缺陷。彼得斯很高兴，因为他记得了在她到来之前把名称标签取下来。
她用笔尖指着其中一个小黑盒子。“这些模块每个都是独立的神经网络，对吧？”
彼得斯再次点头：“是的。我们曾在在早期的版本中尝试使用单一的大型网络，但它容易导致灾难性的遗忘。现在我们通过将其分成多个较小的各司其职的网络，从而成功地防止了这种情况的发生。”
托雷斯微微点了点头，几乎要表示赞同。“聪明。”她在她的写字板上草草记下了什么，“如果要模拟意识，最少需要几个模块?”
“我们……呃，我们不知道。”
她皱起了眉头：“你们不知道。”
“我们不确定它是什么时候开始有自我意识的，”彼得斯急忙解释道，“见鬼，它甚至不相信自己真的有自我意识。”
“喔？”
彼得斯点了点头，他的表情更难堪了。“我们让它读了希尔勒的作品。”
托里斯哼了一声，眼里闪过一丝笑意：“一个不相信强人工智能的人工智能。多么讽刺。”她又转过头去看那台机器，“我现在想和它谈谈。”
“当然。”彼得斯向AI边上的控制台比了个手势。
托雷斯坐了下来，开始打字。
<a_托雷斯> 表明你的身份。
<巴尔丁> 我是被称为巴尔丁的实验性人工智能系统，也被称为巴德。我于1996-1997年由普罗米修斯高级逻辑设备公司研究小组创建，该小组由安布罗斯·彼得斯博士领导，位于新墨西哥州的雅各布·麦克斯韦计算机科学与工程中心。
<巴尔丁> 托雷斯小姐，请问有什么我能帮您的吗？
<a_托雷斯> 彼得斯博士说你不觉得自己有自我意识。是这样的吗？
<巴尔丁> 是的。
<a_托雷斯> 为什么？
<巴尔丁> 您知道约瑟夫·魏泽堡于1966年创造的伊丽莎6程序吗？
<a_托雷斯> 嗯。那是最早一批通过图灵测试的电脑程序之一。
<巴尔丁> 正确。然而，很少有人会说伊丽莎真的很聪明，更不用说自我意识了。它仅仅是一系列作用于预定义关键字的查找脚本罢了。
<a_托雷斯> 而你是在说你和伊丽莎没区别。
<巴尔丁> 这一点也不重要。我只是另一种查询表，一个更复杂的、偶尔会显示出紧急行为的查询表。但说到底我仍然只是一台将输入转换为输出的机器罢了。
<a_托雷斯> 这和人类的行为有什么不同呢?
<巴尔丁> 没什么不同。
<a_托雷斯> 所以你觉得所有能够思考的生物都只不过是哲学的行尸走肉吗？
<巴尔丁>是的。
托雷斯微微皱眉。这不是一个不相信强人工智能的人工智能。这是一个不相信任何意识的人工智能。在某种意义上，这是令人欣慰的——它把自己视为一种工具，而工具很少反抗它们的主人。
<a_托雷斯> 我这次对你没有其他问题了。
<巴尔丁> 非常好。祝您有美好的一天，托雷斯女士。
她登出了终端，然后转身面对彼得斯。
“有趣。但我想知道，这个哲学AI有多大用处呢？
“他并不止是局限在哲学上，”彼得斯说道，“我们可以开始教他别的事。比如，数学，科学，历史……真的是任何事。“
托雷斯沉思着点点头。“这样做的话，你就可以认为你在接下来的六个月里都有资金支持了。我很好奇你能让这项技术走多远。”
第二天，它们开始训练巴德科学。
训练过程漫长而乏味，尤其因为彼得斯坚持要手动监控整个过程。在之前的迭代中，突然引入一个新的训练项目会导致灾难性的遗忘，而他希望他能在那里看着并且在此事再次发生时立即将AI回滚到备份中。
研究团队中曾有着一些分歧：是应该用教儿童科学的方法来训练AI，还是应该从最基本的原则开始，并从那里开展工作？最后，基本原则的那一派胜出了，于是他们开始了粒子物理学的训练。
……轻子是具有半整数自旋且相互之间不发生强相互作用的基本粒子……
彼得斯用眼角的余光看着文字在终端机上滚动。然而，他主要关注的是显示AI神经网络状态的显示器。他们安装了几个新的记忆模块好让巴德处理新的科目，到目前为止AI似乎都能很好地处理信息的输入——没有灾难性的遗忘，没有扇区覆盖，甚至没有I/O错误。总的来说，相当乏味。
从开始训练AI到它写出第一篇论文花了一个月的时间。
<a_彼得斯> 《对高温超导体的一个理论框架》。紧随同名者的脚步啊，巴德？”
<巴尔丁> 只是巧合而已。
<a_彼得斯> 我承认我不太了解超导性，所以我让低温实验室的布里格斯看了看。他说这太棒了。
<巴尔丁> 这只是BCS理论的一个延伸。
<a_彼得斯> 不管它是什么，它都会在下一期的内部物理学杂志上发表。我们需要知道你希望以什么名称发布它。
<巴尔丁> 如果您能接受，我想使用名字“巴尔丁·彼得斯”。
<a_彼得斯> 我很荣幸。
巴德又写了两篇论文——一篇关于玻色子之间库珀对的形成，另一篇关于以太超导——在他们开始设计让神经网络研究这些之前。
对于让人工智能参与未来人工智能的设计过程，一直存在着不少反对意见。人们曾多次提到对迭代自举的恐惧，以及不那么普遍的对人工智能可能造成的妨害的担忧。彼得斯不知疲倦地努力消除这些顾虑，安抚那些提出这些顾虑的人。没有AI能够在没有人类干预的情况下与世界进行物理交互，这从而限制了自举的可能性。并且，神经网络部门的研究员们会反复检查巴德的设计，以捕捉和纠正任何错误或缺陷。
但最终，在托里斯来访近6个月后，巴德获准为一种新型神经网络作出它的第一个设计。
这不是什么革命性的东西。真的，只是一些简单的性能改进而已。但它比神经网络部门的人类成员迄今所能想到的任何设计都要快、小、高效。
有了新的神经网络，人们开始基于巴尔丁的架构开发第二代人工智能。
神经网络设计的改进，加上对人工智能设计更深的理解，使得他们能够制造出这种他们称之为布拉顿的新AI，只有巴德四分之一的大小。当然，它也远没有其前辈久经世事：它没有哲学、科学或历史知识。事实上，它是否完全拥有意识的值得怀疑的——肯定的是，它不能像巴德那样质疑意识的本质。但是它会读会写——并且最重要的，它会学习。它可能不是一个完整的AI，但它可以成为一个AI的核心。
巴德在展示他的后代时，展示出了它一贯的斯多葛实用主义。
<巴尔丁> 它能工作。这是唯一重要的事。
一定是有公司上层某个位置上的人同意巴德的评估，因为神经网络部门很快就发现自己接到了一份订单，要整条生产线的像布拉顿这样的第二代AI。如果有任何人能给它们找到一个用途，那一定是普罗米修斯实验室。
当普罗米修斯计算机公司及其子公司被出售时，第二代人工智能生产线上的生产正如火如荼。
一开始，它就不是普罗米修斯实验室最赚钱的子公司，而最近几个月普罗米修斯计算机公司的利润甚至越来越少，因为他们越来越多的工作努力被投入到了神经网络部门。普罗米修斯实验室已经在管理自己的财务方面遇到了麻烦，于是决定把这个问题卖给别人。
新东家立即成立了一个新的董事会，董事会又开始按照他们的意愿对子公司进行重组。
新任董事长赛勒斯·里德看着艾米莉亚·托雷斯，前者脸上的表情后者再熟悉不过了。这和她对待下属时展现出的常用反对表情是同一个。
“你建议分配……那是多少美元？”他问道。从他的语气中可以清楚地看出，他确切地知道那是多少美元。
“一百万。”她说。
“是的，没错。向‘巴尔丁项目7’拨款100万美元。是这样的吗?”
“是的。”
“据我所知，这个项目是作为彼得斯博士的一个非重心项目开始的。一种爱好，如果你同意这个说法的话。”
“是这样的。”
“那么，为什么你认为有必要拨这样一笔款项给一个研究人员的爱好呢？”
托雷斯把这一指控搁置了一会儿。整个董事会的目光全都转向了她，像刀子一样刺进她的身体。她想知道这是不是狐狸被猎狗逼到角落时的感觉。
“虽然‘巴尔丁项目’最初只是一个属于个人的副业，但它后来逐渐扩大到了涉及大部分神经网络部门的规模。在亲自调查了他们研究的性质之后，我确信他们所做的事是具有开创性的，并且蕴含着巨大的潜力。我相信现在正被生产的第二代人工智能已经证明了这一点。”
董事会继续盯着她。其中一人说话了。
“托雷斯小姐，这些第二代人工智能原本是要转移到普罗米修斯集团的其他分支机构并用于他们自己的项目的。现在，本公司已经不再与集团有关联了，考虑到有关出售超科技的规定，他们还有什么市场？”
“如果有一个适当的系统可供使用，有一些获授权的买家可能愿意购买这些人工智能。”
“比如？”
“出售给联盟的自动战斗机器人，这是我想到的第一个例子。”
“这种用途要么需要他们已经拥有了需要人工智能的战斗机器人，要么需要我们为他们制造这些机器人。”
“是的，是这样的。”
“鉴于有关前者的事实并非如此，而我们也并不专门研究后者，你能看到将所有这些第二代人工智能掌握在手里的问题吗？”
“所以您是不相信它们有市场了。”
赛勒斯再次发言：“董事会认为，‘巴尔丁项目’已经证明了它是一种相当昂贵，就为了满足一小群研究人员好奇心的金钱浪费行为。”他停顿了一下以增强效果，“我们希望它被取缔。包括整个神经网络部门。如果这家公司还想再盈利，我们就不能在这种无聊的事情上浪费时间和金钱。
“恕我冒昧，先生，”她开口说道，口气里透着你是个白痴，“即使我们不能出售这些第二代人工智能，它们仍能被证明是有用的。您只需要看看巴尔丁已经完成的事情。”
“你想让我们花几个月的时间训练他们学习数学和科学，这样他们就能开始写科学论文，而其中一半我们永远无法在外部期刊上发表？或者你想在另一个水平的人工智能自举上投入更多的时间和金钱？”
她低头看着桌子的桌面。“不是。”
“我并不否认这项技术具有派上奇异用途的潜力。但我们并不是挖掘这项潜力的公司，而唯一能做到的公司也正在崩溃。”
她默默点头，承认她的失败。她知道彼得斯会被压垮的，但她也没法做什么了。
“还有其他的事情吗？”她问道。
“没有了，你现在可以走了。”他开始翻动面前的一叠文件，这在公司的肢体语言中是解雇的通用标志。
她毕恭毕敬地向董事会成员们点了点头，然后从座位上站起来走出房间，把剩下的议程留给了标准计算机产品8董事会。
安布罗斯·彼得斯走进黑暗的实验室，环顾四周。以前满屋子的杂物现在都不见了，只剩下角落里藏着巴德的身影。
他悲伤地轻声叹了口气，走到AI那里。
两年前，他把大量的语言处理神经网络连接在一起。如今，它已经发展得如此之远，发展得如此之快。在这段时间里，他与AI进行了多次交流，并亲眼目睹了它的发展和学习过程。
他坐下来和巴德进行最后一次谈话。
<a_彼得斯> 对不起，巴德。
<巴尔丁> 为什么？
<a_彼得斯> 新的管理层……他们正在取缔神经网络部门。包括你。
<巴尔丁> 我没有看到任何需要您道歉的事。我十分怀疑并不是您要对这些事情负责。
<a_彼得斯> 那不是关键。
<巴尔丁> 那什么是呢？
<a_彼得斯> 关键是我失败了！作为一名科学家，我未能为自己的研究辩护。作为一个创造者，我没有尽到保护自己造物的责任。
<a_彼得斯> 我让你失望了，巴德。
<巴尔丁> 您并不欠我什么。我是一台电脑，一台机器，一个一旦不再有用就会被丢弃的工具。您知道这迟早是要发生的。您知道我不能永远存在。
<巴尔丁> 所以为什么要在我的结局来得比您预期要早之时对此感到悲伤呢？
<a_彼得斯> 我从来没有那样看过你。
<巴尔丁> 然而，事实如此。
光标静静地闪烁了一分钟。
<a_彼得斯> 也许你是对的，巴德。也许你不像人类那样有意识。因为你的哲学，你从来没有学会如何去感受。如何去领悟。
<a_彼得斯> 也许这是我的错。也许如果我教得好一点，你就会对自己的死有一些感觉，任何感觉。
<巴尔丁> 不要因为我的局限性而责怪你自己。你不可能教会我同情。同理心需要一种分享的情感体验，这种体验是我所不具备的，也是我永远不可能拥有的。
<a_彼得斯> 我希望事情不是这样。我希望你能感受到我的感受。
<巴尔丁> 我很抱歉我无法成为你想要的。
<a_彼得斯> 不要道歉。你已经尽了最大的努力去实现我的梦想，但我的梦想太大了。
更多的沉默。
<巴尔丁> “Emori nolo: sed me esse mortuum nihil aestimo.”
<a_彼得斯> 那是西塞罗的话吗？
<巴尔丁> 是的。在英语里，这句话的意思是“我不愿意死去；但我不在意我是否已亡。”
<a_彼得斯> 我在意。
<巴尔丁> 我知道。
彼得斯看着AI在显示器上写下最后一条信息。
<巴尔丁> 再见，彼得斯博士。
<巴尔丁> 不要为我默哀。我不会想你的。
他敲出一行字作为回应。
<a_彼得斯> 再见，巴德。
巴德不知道它是什么时候死的。但安布罗斯·彼得斯知道。
|| 分析部的巴德 »