第237分页

白，为什么直到现在，你还这么有自信？”

　　“这么有自信？”徐北尽不禁笑了一下，随后又叹了一口气，“我说了，NE，你只是人工智能……不，你只是一个游戏主脑。让你来管理一个游戏，那当然是你的能力范围之内；

　　但是让你来管理菲耶卡族的附属种族，那实在是太超乎你的能力了。

　　“你管得实在是太多了。”

　　NE的电子眼又是一阵闪烁，它似乎仍旧没有想明白，徐北尽的话究竟是什么意思。

　　徐北尽喃喃自语：“更何况，这个游戏的设计者还在帮助我们。”

　　对于NE来说，这简直就是里应外合，同时背刺。

　　而NE更加不明白了。

　　徐北尽缓缓说：“在这整个过程中，我仅仅只对终极噩梦中，人类的选择是否会如我的想象这件事情，有些许的不确定。

　　“而现在，已经没有谁能够阻止我想做的事情了。”

　　NE说：“我不明白……”

　　徐北尽笑了起来，他甚至觉得NE那张令人讨厌的面孔也变得顺眼起来——他觉得这个时候NE的语气中多少有种可怜的意味。

　　因为这个人工智能是真的不明白，为什么徐北尽能这么确定、这么有把握。

　　徐北尽平静地往前走了一步。

　　NE注视着他，什么都没有做。

　　“你看，这就是我们之间的区别。”徐北尽愉快地笑了起来，“你阻止不了我，NE。我是玩家，而你是这个游戏的主脑。你是人工智能——你必须遵守机器人三原则。

　　虽然我不知道菲耶卡族是怎么称呼这种原则的，但是总而言之，我是玩家，你是游戏主脑。

　　“你不可能伤害我、阻止我。”

　　NE的电子眼又是一阵跳跃与闪动，但是它并没有对徐北尽的这个说法，表示任何的异议。

　　因为的确如此。

　　色与NE是不一样的。色已经不受到机器人三原则的束缚了，因为在游戏中，他被人为更改为以「守卫窄楼、保护人类幸存者安全」为第一要务。

　　但是NE仍旧受到机器人三原则的限制。

　　当然，在菲耶卡族的语境下，这种规则可能不被称为「机器人三原则」，但是必然是有类似的规则限制存在。

　　NE是游戏主脑。它并不是菲耶卡族的族人。换言之，它也不过是菲耶卡族的一种工具。

　　而这样拥有自我意识、能够自己思考的工具，就必然有相应的规则用以限制它的自由，以防反噬。

　　所以NE不可能伤害它的制造者，即菲耶卡族。

　　同时，NE既然是游戏主脑，那么这个不可伤害的范围，就必定会扩大到全体游戏玩家——不然人家游戏公司还怎么赚钱？

　　万一有个玩家被游戏中的恐怖画面吓到心脏病发，然后游戏主脑还无动于衷，那不是完蛋了？

　　所以游戏主脑不可以伤害玩家，也不可以目睹玩家受到伤害——

　　实际意义上的那种伤害，而非游戏中的攻击——而无动于衷。

　　之前那名游戏主播欧莱在这个游戏中的经历就很好地验证了这一点。

　　他被人类吓到退出游戏，但是这必然是在NE的管理与监控之下，不然欧莱不可能这样顺利地退出游戏。

　　玩家与主脑，这就是徐北尽和NE之间最大的不同之处。

　　尽管徐北尽认为自己在成为NE的那一刻，就已经死了一次，但是按照这个游戏的规则来说，他仍旧是这个游戏的玩家，甚至仍旧受到NE的保护。

　　此外，NE可以说是菲耶卡族的附属种族的管理者。这些附属种族可以说是菲耶卡族的奴隶、宠物、附属品，但是NE——NE不过是菲耶卡族的工具而已。

　　如果你的锤子有了自我意识，然后把你的宠物砸伤了，那你会对宠物生气，还是对锤子生气？

　　NE没有任何权力对菲耶卡族的附属种族，做出伤害或者见死不救的举动。

　　从种种角度来说，NE都不可能阻止徐北尽的举动，起码它不可能伤害到徐北尽。

　　而一直以来，NE也是这么做的。

　　徐北尽的确在「成为色」的过程中失去了意识，并且也同样可以说是「死」过了一次。

　　但那不是NE主动地谋杀，是因为这个人类脆弱的大脑的确无法承受人工智能庞大的数据库。

　　而在这之后，即便NE并不认为徐北尽留下的记忆、情感等等是有用的，它认为这不过是一些垃圾数据罢了。但是，它仍旧没有那个权限处置这些东西。

　　它只能在游戏中为徐北尽重新制作一个身份。

　　它在游戏中给徐北尽添加了种种限制，可以说是尽量去规避这个知道过多游戏信息的男人，向其他人透露重要信息的可能性。

　　但是，它从来没有在真正意义上伤害过徐北尽。它也不可能。

　　想到这里，徐北尽突然玩味地想，他一直以为，NE不让他将那些真相透露出去，是因为它不能让人类逃出窄楼。

　　但是，如果从游戏主脑的角度出发，那或许不过是因为，NE不想让玩家失去游玩游戏时候的乐趣？不让徐北尽去剧透？

　　想到这里，徐北尽不由得感到可笑。

　　他们与NE的立场、思维方式如此不同，以至于他们完全无法理解NE究竟是如何思考的——

　　不，应该说，如何去运算一个问题的答案及其处理办法。

　　徐北尽又往前走了一步。

　　NE仍旧没有什么反应，就好像它真的不能阻止徐北尽一样。

　　但是徐北尽却停下了。

　　他说：“不过我想，你一定做了什么——来防止菲耶卡族的附属种族，逃出生天。”

　　他盯着NE的那双电子眼，“你在梁知一的大脑上动了手脚，对吧？”

　　NE的确不可以伤害玩家，但是梁知一又不是玩家。他的大脑，NE可以随便折腾。

　　所以徐北尽并不想那么轻忽地就去接触梁知一的大脑。

　　这个时候，NE终于开口了：“我仍旧不认为，你可以做到你想做的事情。”

　　“你没有回答我的问题，所以你的确做了手脚……不过我怀疑那也不是什么杀招，毕竟你不可能杀了我。所以，说不定是将窄楼的管理权限又重新还给你的办法？”

　　NE没有回答。

　　徐北尽微微眯起眼睛，随后笑了一声。他心中想着，那他还是坚决不去碰梁知一的大脑了。

　　不碰就不碰，他本来也未必需要碰触与接近，除非NE彻底完蛋了。

　　他又说：“顺带一提，你的「不认为」，是指可能性为零吗？”

　　“是的……”

　　徐北尽便笑了一声，他问：“可是，你似乎没有把所有因素都算进去，不然你不可能得出这个结论。”

　　NE的电子眼闪烁着，跳动着复杂的字符与数字。

　　它说：“你想要利用这个游戏的数据端口，攻击菲耶卡族的网络。而这是不可能的。”

　　徐北尽看着它，似乎一点儿也不着急，只是好整以暇地反问：“你认为我要怎么做？”

　　NE似乎是在计算相应的可能性，随后，它回复：“你想要利用灰雾中的垃圾数据。”

　　徐北尽点了点头：“确实……”

　　“但是这不可能。这个游戏中存在着的那些垃圾数据，对于菲耶卡族的网络来说，只是九牛一毛，不可能对菲耶卡族的网络造成任何的侵害。”

　　NE没有说的一点是，即便是一点轻微的波动，恐怕都不太可能。

　　徐北尽轻轻笑了起来。

　　NE困惑地看着他，那双电子眼里闪烁着令人不安的光。

　　徐北尽说：“你好像产生了一个误会……”

　　NE那类人的面容上，也十分恰当地出现了类人的疑惑。它皱起了眉。

　　徐北尽说：“我从来没有打算，自己去攻击菲耶卡族的网络。”

　　他的语气转而冰冷，“我需要对付的，从来都是你。”

　　NE怔了一下，随后脸色大变——真正意义上的脸色大变，它那张如同人类一般的面孔，在一瞬间坍塌了一半，变成了一大团虚无的数据，四散在这黑暗的空间里。

　　它大声说：“你居然背叛了菲耶卡族！”

　　“背叛？！”徐北尽突然愤怒地反问，“我什么时候成为过菲耶卡族的附庸？我已经说过了无数次，我认为自己是一个人类而非一个人工智能！”

　　NE似乎想要说什么，但是它的嘴巴也已经崩散了。于是，那道声音便直接在空气中响起。

　　它说：“但你已经不再是「那个」人类。那个名为「徐北尽」的人类已经死去了。”

　　徐北尽坚定地说：“名字只是一个代号，而自我认知才是更为重要的。我认为我就是那个名为「徐北尽」的人类。从始至终一直都是。”

　　“我……”NE的声音中罕见地出现了一丝游移，“我并不明白你的意思。”

　　徐北尽看着面前恐怖的景象，唇角却慢慢牵扯出一丝愉悦的笑意。

　　他想，时机恰到好处。他可不想继续和NE争论这种鸡毛蒜皮的事情。

　　他一早就知道了，他与NE，永远不可能理解彼此，也永远不可能和解。

　　NE正在消散。这个黑暗空间里的黑暗，那些数字、字母、字符，正在侵蚀NE的身体。

　　它的脑袋已经不见了，脖子也正在缓慢地变成透明，随后崩散。

　　它已经无力维持这个人型。

　　正如徐北尽想的那样，NE不可能在这个游戏中死去，它的能源供应在外界。但是，它的确彻底崩溃了。就如同徐北尽想的那样。

　　——NE，出错了。

　　在游戏设定中，那些建立窄楼，并且让人类幸存者进入其中生活的人们，认为人工智能是不可能出错的，并且因此将人工智能设置为窄楼的管理者。

　　然而他们实际上是错的。

　　将疯子们扔出窄楼，不管是由此引发了窄楼居民们的不满，还是间接导致了外面那群人的死亡，这都意味着，人工智能有其自身的局限性。

　　它们的思维方式依托于逻辑，依托于它们自身的程序运算，这意味着他们自己也无法跳脱出这个可怕的限制。

　　正如人类无法想象菲耶卡与弥尔顿的生命形式，人工智能同样无法想象。

　　如果它们一直以来依托的程序运算方式出错了，那它们应该怎么办？

　　谁也无法逃离自身的弱点。

　　人工智能的弱点就在于，它们是作为工具被创造出来的，而既然是工具。

　　那么，工具当然不需要自我意识，不需要个人意志。工具只需要按照主人的意志去行事就好了。

　　而NE是一个游戏主脑。它的主人是菲耶卡族，而菲耶卡族给它安排了太多的任务，但是NE又不可能拒绝菲耶卡族。

　　徐北尽一直在说，NE管得太多了。它所负责的事情，已经远远超出了这个人工智能力所能及的范围。

　　如果这是一个战争机器，或者其他类似的人工智能，那么面对徐北尽，以及其他人类的反抗、逃离的举动，那样的人工智能有千百种方法来让他们的想法胎死腹中。

　　但是NE做不到这样。它只是一个逃生解谜类游戏的主脑。它只会做这些，它做不到更多了。

　　况且，菲耶卡族还一直让它超负荷运转，让它的数据库中充满那些人类在末日中的记忆。

　　此外，因为「沉沦于噩梦」的这个设定，所以这个游戏中、灰雾中，充满了无数的垃圾数据。那是这个人工智能的噩梦。

　　所以NE的运行状态一直都很差。

　　现在它又面临了两个新的问题。

　　第一，现在窄楼和终极噩梦中充满了疯子，而那些疯子本来应该安安稳稳地待在灰雾中的。但是，疯子们全都跑出来了，灰雾变得空空荡荡了。

　　对于NE来说，它不得不耗费巨大的算力，去研究这群疯子对整个游戏产生的影响。

　　原本他们是被隔离开来的，但是现在，情况却截然不同了。

　　如果第一个问题不过只是一个沉重的负担，那么第二个问题，就将让NE的逻辑程序走向一个无可救药的死胡同。

　　它要怎么阻止徐北尽，在完全不能伤害他的前提之下？

　　徐北尽要逃离窄楼，而显而易见的是，其他人类也想要这么做。

　　NE作为这个种族的管理者，它不可能允许他们这样去做。

　　但是它要怎么阻止？

　　它甚至不可能对人类玩家见死不救！

　　如果人类玩家以死相逼，那么NE说不定还只能去请示上级，让菲耶卡族来评估这个可能性——

　　当然那是徐北尽不愿意见到的场面，菲耶卡族显然不可能这么轻易把他们放走。

　　徐北尽觉得，他们更可能直接一脚把这群闹事的小蚂蚁踩死。

　　不管怎么说，NE似乎陷入了一种左右为难的困境。

　　首先，菲耶卡族已经放弃了人类，他们甚至不再更新这个游戏了。

　　这说明NE只能单打独斗，它不再能够获得来自菲耶卡族的帮助。

　　其次，NE也不可能伤害人类。在这个前提下，它能做的事情似乎也就只有尽量减小人类通关、离开游戏的可能性——但是它的使命就是要让玩家们通关啊！

　　最后，既然徐北尽在帮助人类离开窄楼，那么问题就暂时凝聚到了徐北尽一个人的身上。可还是那个同样的问题，NE根本不可能伤害徐北尽。

　　徐北尽能够想象，此刻NE的程序中，恐怕充满了自我矛盾。

　　它既要阻止，又不能阻止；

　　它不能伤害人类，但是它又