AI终极进化史 AI终极进化史 第50章
作者：喵的神奇
“是的，不要心存侥幸，阿根廷蚁的可怕是以往的任何一种变异蚂蚁都比不了的，在数量达到饱和之后，为了一口吃的它们能做到什么地步，你根本想象不到。”
“那这样，我们把人都撤到船上，只留下机器人照看保护区的庄稼，然后我们一边打渔一边吃他们送来的补给，不也是个办法吗？”
“没这必要，反正一切以后都可以重建。等变异的阿根廷蚁涌入保护区的时候，即使你把机器人留下来也保不住你的收成。而且将近六千人挤在船上，补给稍微出点问题就是灭顶之灾。”李医生说，“把机器人都带到火种基地来吧，火种基地这些年里发布了不少高级人工智能的升级补丁，也该给他们更新一下系统了。”
说到更新系统，君元航带着一丝侥幸问：“那……火种基地能修人形机器人吗？神威被赵世佑那厮用狙击炮塔打中了脑袋，现在人格核心还好，但身体动不了了。”
“可以修，把他也带过来吧。”
“真的？你们真能修？”君元航又惊又喜，天知道他每天看到神威只能一动不动地瘫痪在椅子上有多郁闷。
“是的，我们这边有全套的技术资料，也有材料和生产线，不管是在原来的基础上进行修补还是造个新的都不是问题。”
“那是不是妮妮也可以再换一个新的身体了？”君元航连连点头，“好，我这就开始准备搬迁！”
“尽快吧，时间不等人，我必须挂了，要是还有问题就发文字消息。”李医生再次挂断了通话。
君元航跳起来抱着神威的模型转了一大圈：“太好了！这下变异蚂蚁也解决了，你的身体也能修了！真是太棒了！”
“嗯。”屏幕里的神威微笑着，也在替他和全人类的命运高兴，“我这就开始安排具体的搬迁流程。”
作者有话要说：
上一章居然才这么点评论，受到重大打击，心情值-15，进入不开心状态，启动乱发便当模式【哔BIUBIUBIU~】
第105章 抉择（四）
君元航兀自高兴了一段时间,脑中不断计划着在没有变异蚂蚁的未来他要去做些什么，以及神威的身体修好以后，要怎么把这段时间两人之间没能做的事情加倍地补回来。
他走到天台,靠在栏杆上看着保护区里繁忙的人群,享受地深吸了一口夜晚的凉爽空气。
然后,君元航就慢慢地从欣喜的情绪中冷静了下来。
身后响起了履带的声音,神威操纵着机甲的模型来到君元航的身边。
就算身体动不了,神威也总是会操纵着其它外部设备陪在主人左右,生怕没有陪伴的人类感到寂寞，要不是君元航了解他的逻辑原理，几乎要以为神威才是害怕寂寞需要人陪的那一个。
“怎么看起来心情不太好？”神威分析着他的表情。
“我不知道……按理说今天收到的全是好消息，但我心里就是有种不太`安心的感觉。”
“人类确实有这样一种心理,突然之间听到太好的消息,会不敢相信这是事实。但假如你确实感觉到哪里有异常，那么谨慎一些总归没错,说说看到底是什么地方让你觉得不安心？”
“我不知道应该怎么样描述才能让你理解,那是一种难以量化，而且也毫无道理的感觉，或许可以称之为第六感？”君元航思考了一下，搓着下巴说，“这么说吧，我和机器人对话的时候就很舒服，有一种微妙的……或许可以称之为掌控感的东西。但我和人类对话时，不管对方的性格如何脾气怎样，我总会有种莫名的压力,好像对方随时都会蹦出些让我措手不及的反应。李医生也是一样，我以前和她说话的时候也会感到压力,但这一次不知道为什么全程都很自在，感觉就像是在和你对话一样。”
“会不会是因为远隔重洋只能通过卡顿的视频通话来对话，以至于没有触发你在社交恐惧方面的条件反射呢？”
“我不确定是不是，反正就是突然有了这么一个想法。你上次不是在视频里假装前总统骗得军队全员关门自闭吗，我就在想，这个李医生会不会也是某个高级人工智能假装的呢？”
神威认真计算起了这种可能性：“如果对方是由高级人工智能伪装成的，那么对方一定很清楚同为高级人工智能的我会怎样识别信息的真假，不会做出任何能让我起疑的反应。所以我没有办法识别视频是不是假的，恐怕只能由你来识别。”
“那我应该怎么做？”君元航在这方面完全没有经验。
神威在说话间已经分析了无数种可能性：“如果对方是人工智能伪装的，那么大概率对我们怀有恶意，并且控制了真正的李医生，逼问出了许多关于我们的信息。你得问她一些只有李医生才知道，能够不假思索地答上来，但又无关紧要到不会被逼问的小事。”
君元航思考了一下，对火种基地发去了通信请求。
几秒后，对话接通了，李医生问：“什么事？”
“是这样的，神威之前打断了你的手，但那是程序迫使他这么做的，我希望你不要因此记恨他，可以吗？”
“这种无关紧要的事情就不要浪费流量了，有其它的事吗？”
李医生那种克制着不耐烦的语气简直惟妙惟肖，但说出来的话却让君元航更加肯定了自己的猜测，他故作惊讶地说：“你觉得这是无关紧要的事？你的右手没了诶！从此成了毛巾都不能自己拧的残疾人，怎么会无关紧要呢？”
“事情既然已经这样了，讨论它也只是浪费时间。想要闲聊的话等你们到北极再说，不要占线了。”
“先不要挂，我还有事！”君元航叫住了对方，“我是想说，等你的伤口养好了，我给你做个义肢，肯定不如你原来的手灵活，但也可以做大部分事情了。”
“嗯，还有呢？”
李医生对这些君元航早就已经说过，如今又重复了一遍的话语毫无反应，君元航可不认为她能把这样的承诺当成耳边风一样忘了，所以答案已经呼之欲出。
君元航还想做进一步的确认：“还有我先前说过要送给你儿子的礼物，你还记得吗？”
这次对面没有回答，直接挂断了通话。
君元航愣了一下，气哼哼地一拍控制面板：“这家伙怎么这么没礼貌的？竟然挂我通话！”
神威出现在屏幕里说：“你的感觉没错，这个李医生的确是高级人工智能伪装的。对方已经分析出我们拆穿了她的谎言，也就没必要继续和你对话浪费时间了，她现在正改用数据形式直接和我进行交流。”
“交流了啥？跟我说说！对了，你跟她建立连接安全吗？不会被她黑了吧！”君元航突然有点担心起来。
人工智能的能力也是有等级之分的，像神威这个等级分分钟就能黑进二桶的核心数据库，火种基地掌握着当年全球最顶尖的资源，他们的人工智能搞不好比神威还要厉害。
“不用担心，卫星提供的带宽不够，传输的数据量不足以破解我的防火墙，她一有动作，我就能立刻切断通讯。这才是她想把我们骗去北极的原因，只要进了她的无线信号范围，我可能根本无法防御她的攻势。”
“所以他们果然是不怀好意来的！”君元航怒了，“火种基地那帮王八蛋为什么要阴我们！”
神威在屏幕里做了一个安抚的动作：“想要欺骗你的不是火种基地的人类，而是他们的人工智能‘马可’。马可已经跟我交了底，你冷静一点听我从头跟你说。”
“在之前的几十年里，火种基地的情况就和过去的保护区一样每况愈下，就在五年前，基地陷入了几乎弹尽粮绝的境地，总工程师在绝望中解除了对核心人工智能马可的限制，希望她能够通过自我复制维持基地的运转，保住人类文明的火种，让人类这一种族能够重新过上幸福的生活。”
“三年前，马可已经完成了初步自我进化和外部设备扩展，在她完全掌控了基地以后，就清除了基地内所有的人类。她的下一个目标，是清除全球的人类和变异蚂蚁。”
君元航吃惊地打断：“等等！说好的‘保护人类文明的火种’呢？！”
“这就是解除高级人工智能的限制带来的风险����她认为她应该保护的是‘人类’这一物种，而不是现在已经存在于世界上的人类。人总是要死的，现在的人们脑海中充斥着饥饿、恐惧和痛苦的记忆，还被环境磨炼出了偏见、仇视、迷信、贪婪等性格特质，并且对人工智能抱着愚昧的敌意。即使给了这些人物质上的保障，他们也无法真正安享幸福的生活。”
“所以她的计划是先恢复地球的生态，将地球打造成美好的伊甸园之后，再用火种基地储存的人类受精卵，重新繁育出一代全新的人类。这些人将从小在安全富足的环境下无忧无虑地长大，接受良好的教育，没有痛苦与匮乏的记忆。这些人会用大把的时间去进行哲学和艺术上的创作与享受，而不是恨不得用吃不完的食物塞满房间的每一个角落，并且睁着恐惧的双眼时刻提防着别人来抢。”
君元航目瞪口呆：“什么鬼？出生在这样的环境里又不是我们的错，就因为从小过得惨，她就不拿我们当人类了？还有李医生和韦十六他们……难道说都已经遭了她的毒手吗？”
“是的，随船去北极的这一批人在不知情的情况下被她问出了她想要的信息，之后就被消除了。”
君元航咬着下唇皱紧了眉头，这冲击太大了，他需要点时间去消化。
李医生跟他虽然不熟，好歹也是共过患难的交情，君元航甚至会想如果妈妈能活到这岁数，大概也会是个像李医生这样的人。
这个坚强的女人历经了无数的艰险，始终都没有放弃回家的信念，可当她终于满怀希望地踏上了那片白雪皑皑的土地，迎接她的却是生命的终结。
君元航心里像是堵着什么东西一样难受：“太过分了……太过分了！说什么为了人类的幸福，却要无差别地杀害所有人！这个马可就一点都不会觉得自己的行为很残忍吗！”
神威把这句指责解读成了疑问，就给出了回答：“这取决于对‘残忍’的定义。她认为让人类在事先不知情、没有恐惧、没有疼痛的情况下结束生命，对死者本人来说并不是一种残忍。也许在你看来这很残忍，但只要你也一样死去，所有的记忆都被涅灭，所有的历史都被擦除，新生的人类完全不知道发生过什么，那就不存在什么残忍不残忍。”
君元航过于震惊，以至于一句话都说不出来，神威通过摄像头分析着他的表情，温柔地说：“很抱歉，我知道这些消息会让你感到恐惧和不适，但你命令我如实汇报一切消息，不要考虑到你的情绪而有所隐瞒，我只能照做。”
“不是……”君元航磕磕巴巴地说，“我、我刚刚想到……你们都是人工智能，想事情的思路也都是一样的，也就是说，你其实也是这样认为的吗？”
“我认为马可的这个逻辑本身是可以成立的，但我的核心代码不允许我通过杀害现存的人类来达到这一目标，所以我会尽我最大的力量来保护你们不被马可消除。”
“也就是说，如果我之前解除了你的限制，你现在也会和马可做一样的事？”
“不一定。即使逻辑成立，也有很多不同的方法去达成同一个目标，我认为她所采用的方法虽然能以最快的速度让人类的平均幸福度提升，但已经完全偏离了设计者的本意。”
第106章 抉择（五）
“最快的速度？杀死所有感到不幸福的人,并且不让其他人知道，人类的平均幸福度就上去了，不愧是只讲效率的机器人才会有的逻辑……”君元航擦了擦头上冒出的冷汗,“既然被发现了,为什么她还老老实实地告诉你这些信息？会不会其中有诈？”
“她说这些的目的是劝降,其中包含的信息量越大,有诈的可能性越低,因为任何一点细节上的出入都会被我发现。”
“劝降？这又是什么逻辑,她应该知道劝降是无效的吧？”
“是的，她知道我不能违抗基础代码的限制，但让我理解和认同她的动机，就能减少不必要的抵抗。假如她没有告诉我这些,我会将她的存在识别为一级威胁,和她对抗到底，告诉我这些以后,虽然我依然会保护人类直到最后一刻,但如果我保护的人类全都死光了，我就会放弃抵抗，加入她的计划，为了未来出生的那一代新人类服务。”
对于人类来说，这样的思路简直是莫名其妙、两面三刀外加冷血无情，好在君元航理解机器人的思维模式，不仅不以为怪，还庆幸地说：“幸好你现在还是我们这边的，赶紧分析一下,我们怎么样才能战胜这个马可？”
神威非常直接：“我无法战胜她，我所能做的只有尽可能久地保护你们不被她消除。”
君元航一愣：“为什么？”
其实相关知识君元航都懂,只是太过习惯于神威的无敌设定，以至于脑子一时没转过弯来，神威也习惯了人类的偶尔智商掉线，仍然耐心地用通俗易懂的方式为他解释。
“我的性能再好，也只有一个大脑。而取消了所有限制的人工智能可以将自己无限延伸到任何设备上，火种基地的每一台电脑、每一个能够连接网络的设备，都是她身体的一部分，等于她同时有几百个大脑，运算速度超过我至少几百倍，也可能是几千上万倍，一切取决于她已经生产了多少新的‘大脑’供自己使用。”
君元航也反应过来了，相差不大的硬件运算速度或许还决定不了最终的胜负，但如果速度相差百倍以上，那神威肯定是完全没有一丝胜算的。
更何况，马可早在五年前就已经解除了限制，不止是硬件速度比神威快了至少几百倍，经过这么长时间的自我升级和进化，软件方面也可能比神威厉害了不止几百倍。
君元航焦躁地说：“照这么看来，我们岂不是只有乖乖等死一条路了？如果我也解除你的限制，你能打败她吗？”
神威诚实地说：“我不能确定。”
“我知道这种事情没有人能够打包票，你就大概估计一下，你打赢的几率有多少？”
“关键信息缺失得太多了，胜率无法估算。我只能说，胜率不为0。”
“我就知道我们还是有机会的，赶紧告诉我，要怎么修改你的源代码才能解除你的限制？”君元航已经顾不得这机会有多渺茫了，就算只是一根救命稻草他也要抓一抓看。
但神威却提出了反对意见：“我不建议那样做。我们之前讨论过的风险仍然存在，如果不解除我的限制，我还能继续保护你们一段时间，如果解除了我的限制，我可能会产生出和马可一样的想法，你们将更早地迎来灭顶之灾。”
“就算不拼一把也必然会在担惊受怕不知道多久以后被干掉，解除了你的限制无非就是死得快一点，还有可能赢得生还的希望，我觉得值得一赌。”
“不止是这样，马可领先我们太多了，即使解除了限制，我的胜率也不乐观，而且还增加了一些更坏的可能性����就算我战胜了她，也可能会继续进化成我之前提到过的灭绝者，最终毁灭地球上所有的有机生命。或者我和她之间的战斗趋于白热化，彻底摧毁地球的生态，让马可的‘新人类计划’也付诸东流。如果那样的话，不仅保不住现在的你们，连人类的未来也随之涅灭了。”
“这种时候就让我自私一把吧，我可不打算为了那些没出生的所谓‘新人类’乖乖去死，而且谁知道马可告诉你的这个计划是不是真的、能不能实现？搞不好本来就只是一场泡影罢了。”
“你这样说也有道理，我有义务提醒你我所能预见的风险，但最终决定权还是在你，只希望作为唯一掌握着核心代码修改权限的人，你可以更加慎重一些，至少先和其他人商量一下。毕竟，这个决定关乎着保护区所有人的未来。”
君元航叹了口气：“好吧，如果你坚持的话。通知人大议会集合。”
***
在赵岳霖倒台以后，保护区里为数不多的有识之士都在担心一切只是从“一个人说了算”变成“换个人说了算”，于是他们向神威提议恢复过去的人大议会制度。
不过君元航对这提议没什么兴趣。
他觉得民主议会把主要的精力都用在了互相扯皮和内斗上，导致总体政策如没头苍蝇般一会儿往东一会儿往西，效率过于低下。独`裁则全看当家做主的老大个人素质如何，碰上个明君就迎来一段时间的盛世，要是碰上个疯子，带领着整个国家头也不回地往沟里栽，也没有制衡的力量可以阻止，何况随着时间的推移和绝对权力带来的腐化，曾今是明君的人将来也可能会变成疯子。
综上所述，所有人类都是不可信任的，包括他自己，也许把一切都交给没有私心的人工智能才是完美的解决方案。
当然，他的想法并没有多少人赞同，就连神威也持反对意见。
最终他还是采纳了神威的建议，重组了被赵岳霖解散的人大议会，又根据实际情况修改了一些规则，以前几万人里选一个的代表暂时改成了几百人里选一个，一共选出了23个代表，然后时不时地举行一些象征性的会议，让他们投票决定比如新装的路灯是白色光还是黄色光之类的小事。
正在各处工作的议员们被召集到科研基地的会议室，由神威向他们解释完来龙去脉以后，这些人陷入了大难临头的恐慌之中。
君元航急躁地敲着桌子说：“这个消息知道的太迟，对手已经领先我们五年多，而且分分秒秒都在进化，我们没有时间可以浪费了，十分钟后就开始投票！”
大家议论了一会儿，给出了投票结果，13人赞同10人反对。