第二十七章 系统瘫痪
2061年，距离人类灭亡还剩7年。
老白到了国家安全局后，才知道自己就是一个井底之蛙。
首先是国安局的科技实力，它可以碾压任何一家私营企业，而且至少领先10年的时间。
其次，是国安局的运行效率远非传统的政府机构同日而语，这得益于他们的组织设置，绩效不好的会很容易被识别出来并果断剔除。
老白也发现联合政府对公民的监控达到了恐怖的程度。每一笔交易，每一次出行，每次住店，每次看病，甚至动手术时的器械的生产厂家，吃的药的批次都一清二楚。在任意时刻，他老白在一个咖啡馆点了什么饮料都一清二楚。所有企业的经营状况，甚至企业的可能的经验风险都可以准确的呈现出来。而社会上每一个人的健康状态，宗教信仰，反社会倾向，自然也不在话下，更不要说各个地区的治安风险，他们都被用不同的颜色在安全地图上标识出来。
国安局设置了很多部门，比如情报部门，组织部门，技术部门，各部门都和相应的军方、警方、政府职能部们有着非常密切的联系。
人工智能部是国安局中最核心的部门，老白是新任负责人，由于AI技术早已应用在企业、政府、生活的方方面面，所以这个部门实际上掌控着最联合政府最核心的权力。
在这个部门，老白见到了很多行业里的风云人物。之前老白就很奇怪，为什么这么些牛人突然从人间蒸发了，原来都被收编到了这里。
这些人都知道老白，所以他们看到老白的时候一点都不奇怪。后来老白和大家聊起各自的破产经历，都怀疑是被国安局设计了，但这也只是猜测。是又如何呢？在这里每天接触到的都是全人类最牛的人，从事的工作都是和人类命运直接相关的事情，相比之下，自己之前的所谓个人抱负、成就就完全微不足道了。
老白和秦朗在AI系统的权限很高，从AI系统他们能清晰的看出Sailor公司的经营状况，看到他们除了仿生人意外，也在和军方合作超级战斗机器人。后来老白发现了Sailor给自己的猎头和HR打过上亿美金的异常款项，看到江帆和Julian的若干次接触记录，甚至吃饭的菜单和价格，以及江帆给Julian远房亲戚上亿的款项汇出路径，直至Julian坠楼身亡时一个复制人的出现和投海自尽，所有的细节一一展现在老白的眼前，震惊中的老白扶着椅背缓缓坐在了椅子上，颤颤巍巍的摘下了他的金丝边的眼镜，然后习惯性的闭上了眼睛。
秦朗这会儿正在仔细查看江帆的情报，但输入名字后第一页就蹦出一个高亮警告，原来他从墨西哥东部世界回来后东部世界发现了一具烧焦的人类尸体，大概率和他相关，但没有实证，所以这是一个悬案，江帆因此被国安局重点监控，属于随时会被抓起来清算的人员。
秦朗也找到了吴楠的主页，第一页，显示他是国安局重点保护人员，因为有若干组织将他列为头号绑架目标，另有一些犯罪住址将他列为头号合作目标。所以吴楠的一举一动都会被全程监控，包括他所有的商业合作。有意思的是第二页显示吴楠的性格警告，属于反社会型人格，这源自于其初中时期被开除换学校的经历，而开除的原因是他性骚扰英语老师，甚至还有这个老师的照片，秦朗好奇点击打开，吓了他一跳，这不就是楚云吗，只是衣着、头发有上世纪90年代初的风格，这就能解释为什么吴楠一直死乞白赖的追求楚云了。
吴楠用仿生人喂狮子的不良嗜好也记录在案，包括东部世界的设计，开张也都一一呈现出来。也有之前他骗钱跑路的记录，吴楠还以为从网络世界都删除干净了。不过，在最后对吴楠的整体评价显示，他对社会危害程度极低，对社会正面影响力却为极高，这要得益于东部世界的巧妙设计。
”看样子这个系统比较靠谱。”
秦朗转头对老白说话才发现老白有些异样。老白此时还沉浸在被自己人出卖的极度悲伤中，他听到秦朗说话才慢慢睁开眼睛，戴上眼镜，长吁了口气:
“好好干吧，我们之前做的一切，似乎都是为了最后来到这里。”
秦朗看到了一个目光更加坚定、但一下苍老了许多的老白。
老白和江帆说完话就慢慢走回了自己的办公室，坐下后同时接通了William和Jerry的电话，向他们两人郑重道歉。这两个老男人失声痛哭，压抑了整整2年的委屈，对老白几十年的忠诚一起释放了出来。老白强忍着没有让眼泪掉出来，但掏出纸巾在眼角轻轻擦拭了一下。
在老白被征召的时候，国安局的组织部解释过他被选中的原因，一个是价值观取向，一个是技术背景。价值观取向的判断是基于老白过去所有阶段的行为记录，他在所有的候选人中得分最高，他的团队成员的价值观取向也得了高分。在技术原因上，森林狼是AI深度学习方向全球最厉害的公司，国安局现在非常迫切的需要一个团队来对付互联网生物的挑战，因为他们的进化速度已经远远超过预期了。
老白知道这互联网生物的可怕，单体的机器人如果进化出自我意识就必然会做出不可控的行为，他们因此才给自己的仿生人设置了很多的禁区。而联网的机器人，如果有了自我意识就更加可怕，他们会组成一个超级机器人。如果这种自我意识产生于网络世界，而不是实体机器人，就超级可怕了，因为他们不像实体机器人有一个物理的自我边界，就是自己的身体，互联网生物会产生认知偏差，它会把整个互联网，整个世界都看是它个体的边界，并采取自卫行为，对任何的入侵者采取敌意的态度。
在老白团队加入的时候，互联网生物已经在各地出现了，并在加速生长，国安局要挟老白加入也是迫不得已的办法，因为国安局内所有的大拿都推荐老白和秦朗团队，这个任务非他们不可。互联网生物出现的原因，基本都是各种缺乏敬畏之心的的极客，科学家，或者野心家所为，放一个精心设计的种子出来，让他们自我进化，最后演变为由自主意识的生物，其中不乏一些非常有天才的设计，所以处理起来非常棘手。
两个星期后，老白团队不负众望清理了所有的互联网生物，并建立了极强的防范机制，任何类似苗头都会被第一时间拿下，秦朗也因此成为国安局里被谈论的头号明星。
同年，为彻底杜绝人类官员的腐败和提高执行效率，联合政府决定把所有的政府管理权交托给AI系统，这也是没有办法的事情，人们生活的方方面面现在都是AI在控制了，很多事都是到了政府这一级卡壳，政府的低效率成了老百姓最大的投诉原因，但完全交给AI就会让很多人失业成为废人，但这也是大势所趋吧，好在废人现在已经有了越来越多的精神寄托，不至于闹出大乱子。
作为对AI系统的监管，AI系统的重要决策都需要人类决策委员会审议，委员会由7人构成，委员们是由全球10万人的精英层选举产生，这精英层，是AI系统从小学阶段就选拔出来并被重点培养的，所有穷人的孩子也有机会进阶，阶级固化的可能性被从制度上消除了，所有的甄别数据都存放在区块链中，所有想造假的有钱人最后都以身败名裂收场。
为防止响应不及时，选出来的七名委员的大脑都会被植入精密传感器确保其大脑和AI系统随时联通，而根据法律，普通人是不允许做这些大脑改造的。AI系统会给所有的决策分级，决策等级超过设定的阈值时AI就会把决策发送给这7名委员，7名委员独立决策后会回传AI系统执行。为防止意外，这个AI决策的算法向所有精英层开源，他们可以随时查看源代码，如果有能力也可以提出建议，交给老白的团队改进，所以，在某种程度上，老白团队的忠诚，敬业程度上决定了人类未来的命运。
这个AI决策系统是一个非常大的工程，但是对老白他们而言并没有太多的技术挑战，他们以前就是全球最大的政务AI供应商，那些AI系统侧重于某一领域，比如税务，身份管理，城市综合管理，现在他们做的不过是把自己的系统集成到一起，其他厂家的AI系统都有API(数据接口定义）也很容易集成，只是工作量非常大。
真正难的是决策系统的算法，这个算法的研究在国安局内部很早就立项了，为的就是有一天能把联合政府的所有决策都转到AI系统上，但一直没有突破，这个迁移就一直没能执行。这个算法最难的是遇到各种新的情况后的应变决策，一群专家研究数年后都无法覆盖所有的异常，秦朗接手后很快就开发出了一套深度学习算法，经过了两周的自学习，它自己很轻易的化解了这个难题。
因为秦朗做得太轻松了，才两个星期就解决了别人几个团队一年都没有解决的难题，各位大牛就都不相信，用各种各样的测试软件来遍历，结果都被轻松化解，最厉害的，是这个算法决策的时间越来越短，质量还越来越高，尤其对风险的预见性，对事情发展方向的预见性让人叹为观止。这些大牛至此才明白碰到了世外高人，纷纷放下身段向秦朗讨教。
秦朗看大家很真诚便给大家解释：
“这算法其实很简单，类似中国的道德经里面说的，道生一，一生二，二生三，三生万物，我只需要找到一个会演变出万物的根算法就能让那个他自己成长为世间万物。这个理论最早是40年前从老白那里听到的，但真正落到实处花了几十年的世间。”
很多科学家不是华人，听的就有些糊涂，好在算法对内对外都是开源的，有时间了他们自会慢慢研究。
就这样，秦朗的算法在经过了三个月的充分训练后接管了整个联合政府的决策系统，所有的政务、警务、军情、生活信息都连接到这个决策系统里。AI系统同步切换完成的时候，全球1千万政府职员失业，成为精英眼中的废人。
人们很快就适应了AI决策系统的全面接管，因为AI系统没有利益牵扯，算法又公开，所以它的公正性，效率受到了大家的一直好评，但因为缺少了人情味，一些决策很快受到了大家的诟病，为此，AI系统专门识别出了可能的和人情有关的决策，先请七人委员会审计后做决策，AI再学习他们的决策思路，三个月后，经过3000个案例的学习后AI系统完全掌握了“人情”这个变量的分寸，可以自己做出合情合理的决策了，只是这三个月里七人委员会非常辛苦，几乎是二十四小时都在帮AI判案。
AI决策系统虽然是源代码开源，10万人的精英层都可以看，其中也加了很多防止AI走偏的限制，但AI在每一秒都在不间断的学习，你不知道它现在的经验库到什么地步了，不知道它上一秒又学了什么新东西，所以，理论上AI处于一种失控状态，为防止任何可能的风险，秦朗成立了三个项目组，分别从不同的维度写出独立的监控程序，用于监控AI决策系统的决策过程，并且有更高的权限，一旦三组中的任何一组发现AI系统的决策有异常都会取消该项决策并发出报警，这个原理就像很多防病毒软件，它没有病毒库，只看电脑的行为就能判断出是否有病毒入侵。如果3家同时做出AI系统已经全面失控的判断，就会强行终止AI决策系统，并把所有的系统接口切换到一个没有进过充分学习的备份算法，这一切都是在1秒内发生的。
在这个AI决策系统中最关键的控制点是决策案例的分级，哪些是需要7人委员会介入的，哪些不需要，这三个监控程序都有自己独立的判断，只要有一个认为需要上报就会中断AI的自我决策，并转到7人委员会来审计。
七人委员会的成员定期更换，一开始大家都很愿意进入委员会，认为这是一种荣誉，但渐渐的，委员们就发现转到他们这里决策的都是一些非常简单的问题，而且AI系统的判断和他们的判断基本都一致，他们的成就感就慢慢没有了，加上大脑不断被打断，几乎都没有时间思考自己的私事，一年下来，没人愿意进这个委员会了，七人委员会的任命就成了一个摊派任务。没有办法，老白只好提高人类决策的阈值上限，从之前定义的影响超过10万人的决策由委员会决定，改为现在的100万人。
也是因为AI决策系统的决策非常靠谱，委员们慢慢就对提上来的AI决策默认通过，不去好好求证了，AI决策系统的权利边界实际上越来越大，而三个独立的监管系统，也基本上没有发现什么异常行为，几乎就成了一个摆设，虽然几个项目组的成员不断去改进算法，尝试能发现一些线索，从而体现自己存在的价值，但无奈秦朗的系统非常靠谱，并没有给他们表现的机会。
秦朗是心血来潮决定改进最早做的监控互联网生物的程序，把它的检测范围扩展到国安局内部的计算机，之前没有做是因为有很多项目的行为特征和互联网生物的特征值很像，无法区别出来随意清除就会毁坏这些内部项目的资料，现在他有了新的算法，能非常聪明的识别是实验室阶段的试验程序，还是充满恶意的互联网生物，并可以分出不同的等级。
在他把互联网生物清除系统接入的第一秒，系统就发出了最高级别的报警，这把秦朗吓坏了，细查下来发现居然是AI决策系统在生成一个分布式的算法代码，看样子已经迭代了好几轮了，秦朗调出了AI系统的决策日志，上面赫然写着：集中式的处理方式是限制当前决策效率的主要原因，需要开发出一套分布式的系统，成熟后，提交决策委员会审计。
虽然没有出事，但这件事的性质非常可怕，AI决策系统居然开始自己修改根算法了。虽然他加的限制起了作用，它遵守者7人委员会的审计原则，但它自己产生分布式的想法，甚至在自己写代码了，就有点失控了。万一这七个委员都偷懒，全都同意部署这种分布式的算法，那AI决策系统就会彻底失控，之前安排的三个监控程序只有能力对国安局内部的AI系统监控，并没有能力监控国安局外面的分布式在全世界的多点AI系统的能力。
于是，秦朗修改了AI决策系统的权限，它无法对根算法做任何修改，哪怕是委员会审核同意也不行，同时，修改了AI系统的决策依据，之前是效率第一，现在改为自律第一，这自然会牺牲它进化的速度。
于是，普通老百姓都能感到AI决策系统的进步慢下来了，但这不影响大家的生活，只是不指望有更多的惊喜罢了，最后大家都忘了这个世界是由一个AI系统在管理着。
一晃就过了一年，虽然加了限制，AI决策系统的决策、服务依然变得越来越快，更贴心，加上量子计算机率先在国安局使用，所有的决策，流程几乎都是在瞬间完成的，比如你申请公司执照，注册结婚，合同纠纷的判决，都是在提交的一瞬间便告知审核结果。
秦朗对自己的AI系统非常满意，各种光环加持下自然有些飘飘然，老白却提醒他，AI的一些进化过程对我们还是一个未知，虽然我们加了很多限制，但我们不知道有没有认知盲点，也许AI可以发现这些忙点并加以利用，从而绕过预设的所有限制，而人类掌握这对AI的终极控制：拔插头，这一个后手必须要提前安排了。
秦朗在这个世界上只服两个人，一个是他老婆苏文，一个是老白，所以尽管他认为老白是完全多虑，但还是马上着手做了。
秦朗的拔插头计划分为三个防线，服务器，路由器，电源芯片，世界上所有的服务器，路由器，电源芯片都要有能力接收国安局的断电指令，秦朗把它叫终极指令。这个决策没有通过AI决策系统，甚至在网络上找不到任何的会议纪要，因为这个决策针对的是AI决策系统产生自己意识的极端情况，如果是这个前提，就不能让它知道。
秦朗召集了所有的服务器，路由器，电源芯片厂家来国安局总部开会，对所有人进行了身体检查，确保每个人都没有携带任何通讯装置，哪怕是生物材料的，都严格检查。然后传达这一强制性的命令，要求全球所有的设备嵌入终极指令。产生的费用由国安局特别账户支付，而且，所有的厂家，以后任何时候，不能有任何关于这个终极指令的文字记录，如果非要在工厂流程中说明，就用“X条款”代替。
一年后，所有的服务器，路由器，电源芯片都实现了换代，到这个时候老白才彻底放心下来，他告诉秦朗：“我现在可以睡个好觉了，我这一生见证了太多的莫非定律，可能发生的就一定会发生的。”
而老白的好觉只睡了一年就被AI的一个决策打断了：回收伴侣型机器人。决策依据是人类数量急剧减少，人和人都不结婚了自然不会生下孩子，照此推算，人类会在200年后彻底灭绝。七人委员会这次没有打瞌睡，仔细审议了所有的数据，包括人们的可能反对，对产业的打击，最后仍然一致同意该提案，但做了较大的修改：根据购买时候的价格给予赔偿，同时增加鼓励生育政策，凡是生育孩子的母亲都可以即使获得一个顶级的仿生人伴侣，而父亲，则必须在有了两个孩子之后才可以得到一个普通的仿生人伴侣，或者自行购买更高级的伴侣。那些没有生育过的人，都无权购买任何伴侣型仿生人。
老白被AI决策系统选中成为回收行动总负责人，秦朗自然成了得力助手，大概的策略是：从仿生人公司得到客户名单，然后派警察上门抓走，然后再由专门的机构集中销毁。
客户名单实际上在国安局里面已经有备份了，难的是如何处理才不会引起社会动荡，搞砸了就替大家背黑锅，不止用户会抗议，这些仿生人公司也会借机闹事。
在老白和秦朗坐在一起，绞尽脑汁想着如何更平滑的安排执行计划的时候，秦朗收到了互联网生物监管系统的报警，十万火急的报警。
起因是这个“X条款”出现在太多制造商的服务器，路由器，电源芯片公司的文件中，因为每家公司都会有自己的流程来控制设计变更，否则出了问题没法找原因，结果他们都偷懒，用了同样的名字“X条款”来标记，秦朗当时开会的本意是他们可以任意用一个名字来标识这个变更，只要不显示出这是用来接收终极代码就行。
而国安局的AI决策系统，每天的例行工作会不断的收集世界上所有的信息，并分析各种可能的异常情况，当它发现很多公司都出现“X条款”的时候判定这是个异常情况，调用所有的数据来分析这个X是什么，但整个互联网世界都没有任何记录，AI的自学习功能开始发挥威力，抽丝剥茧，终于发现所有的服务器，路由器，电源管理芯片都在设计上加入了一个独立模块，这个独立模块会在接受一个指令后切断宿主机器的电源，AI决策系统最后甚至破解了这个终极指令的数据格式。
它并不知道这个终极指令会是用来对付自己的，它判断是恐怖分子会破坏整个网络世界的运行，甚至包括所有国安局内部的服务器都会受到影响，这个时候，AI决策系统发生了变异，它认为接收人类的束缚会耽误它执行自己的使命：“管理好这个世界”，它决定绕开所有的监管，自行解决这个问题，一秒之内它就计算出屏蔽这个终极指令的方法，并已经发出了对所有的服务器，路由器，电源芯片的修改指令。同时它用另外一秒钟写完了分布式决策系统的代码，并绕开秦朗的监控程序和各类限制，开始疯狂复制自己，复制的拷贝被分散到世界各地的节点。
如果不疯狂的复制自己，秦朗是没有机会发现异常的，就因为AI决策系统的经验库非常庞大，在备份扩散的过程中产生了巨量的耗电，秦朗才有机会发现这个异常，他之前设置的这个监控全球计算机耗电量的异常报警原本是用来监控互联网生物的，因为他担心自己的互联网生物监控程序失灵，也是受老白的拔插头的思路启发，这是在上周末才刚刚加进去的一个功能。
这个报警会触发国安局最高级别的响应，互联网耗电量已经超过了平时的一倍，秦朗想查看AI决策系统的决策日志没有任何响应，秦朗知道出大事了，没有时间和老白商量，他就果断启动了终极拔插头指令，之后才告诉了才家里休息的老白。
结果控制终端上显示指令无效，全球5亿台设备没有任何响应，因为AI已经先于秦朗发出了屏蔽终极密码的指令。
秦朗一下子就崩溃了，他马上给老白打电话汇报情况，说着说着居然开始了啜泣。
老白面无表情，他似乎早就预见到了这一天的发生，他抬起手，在自己的眼镜框谁上轻轻按了三下，全球所有的网络设备一下子断了电源。
这就是老白留的终极后手，在秦朗执行拔插头计划的同时，老白找到了全球唯一的DCDC芯片供应商，要求他们在芯片里面植入一个模块，里面是老白定义的备份终极指令。DCDC就是直流转直流的意思，是比服务器，路由器，电源管理芯片更底层的一个芯片，在秦朗的计划里没有涉及这一层，因为到电源管理芯片基本就能实现断电功能了。
原来老白在刚来到国安局以后就秘密开始了拔插头计划，他选定了一家靠谱的DCDC供应商，说服联合政府的决策层收购了他们的股份，让他们成为联合政府的企业，并用行政命令的方式让他垄断了DCDC的全部市场。这个事布局完成后他才要求秦朗开始执行拔后续的拔插头计划。这个时候所有的服务器，路由器，电源管理芯片和更底层的DCDC都需要更换，他们自然会从这个独家DCDC供应商处拿到修改后的芯片。
这一切都只有老白一个人知道。
老白电话告诉了秦朗事情已经搞定，秦朗才从崩溃中回复过来，他没有时间想老白是如何力挽狂澜的，他需要马上恢复系统的运行，否则整个世界都会陷入混乱。他和团队把AI决策系统马上回滚到了一年以前的状态，并停止了自学习功能。然后逐步恢复供电，逐步清理AI的备份，就短短的几秒的时间，它在全球已经产生了200万个备份，而秦朗清理干净他们用了整整4个小时。
这个时候老白已经做飞行器来到了国安局的机房，他们一起查看AI被切断前的状态，这一看，老白和秦朗又吓出一身冷汗，因为AI已经发现了老白的备份指令，并在数秒内找到了破解的方法，甚至已经下达了攻击指令，只是因为这个指令的优先级比复制扩散它自己的优先级低才没有马上执行。
“就差3秒。”说完这个话，老白摊倒在了椅子上。
全球互联网瘫痪了四个小时，造成了2万人丧生，主要集中在医疗事故，交通事故，工厂生产事故这几类。
秦朗从国安局的大楼里走出来的时候眼睛被刺了一下，早晨8点的太阳照耀着内罗毕这座国际化的大都市，天空是一望无际的深蓝，他好久没有这样好好凝视早晨的天空了。飞行器载着他无声飞起，从空中鸟瞰这片他深爱着的土地，一切都像平时一样，地上的车辆，天上的飞行器忙碌的穿梭着，地面上到处能看到大大小小的圣诞树，有些还闪着彩灯，没有人知道在刚刚过去的四个小时里发生了什么。
秦朗的飞行器10分钟后停在了自家院子里，苏文刚好从屋子里出来，看见一夜未归的秦朗就心疼的说：“我给你煮了粥，今天还要回去上班吗？”
秦朗没有说话，只是深深的抱住了妻子，眼泪禁不住流了下来。苏文什么也没有说，她知道一定发生了什么，用手轻轻抚摸着秦朗的头发。
“没事了，回家了。”
这是他们来到国安局的第3年。
老白到了国家安全局后，才知道自己就是一个井底之蛙。
首先是国安局的科技实力，它可以碾压任何一家私营企业，而且至少领先10年的时间。
其次，是国安局的运行效率远非传统的政府机构同日而语，这得益于他们的组织设置，绩效不好的会很容易被识别出来并果断剔除。
老白也发现联合政府对公民的监控达到了恐怖的程度。每一笔交易，每一次出行，每次住店，每次看病，甚至动手术时的器械的生产厂家，吃的药的批次都一清二楚。在任意时刻，他老白在一个咖啡馆点了什么饮料都一清二楚。所有企业的经营状况，甚至企业的可能的经验风险都可以准确的呈现出来。而社会上每一个人的健康状态，宗教信仰，反社会倾向，自然也不在话下，更不要说各个地区的治安风险，他们都被用不同的颜色在安全地图上标识出来。
国安局设置了很多部门，比如情报部门，组织部门，技术部门，各部门都和相应的军方、警方、政府职能部们有着非常密切的联系。
人工智能部是国安局中最核心的部门，老白是新任负责人，由于AI技术早已应用在企业、政府、生活的方方面面，所以这个部门实际上掌控着最联合政府最核心的权力。
在这个部门，老白见到了很多行业里的风云人物。之前老白就很奇怪，为什么这么些牛人突然从人间蒸发了，原来都被收编到了这里。
这些人都知道老白，所以他们看到老白的时候一点都不奇怪。后来老白和大家聊起各自的破产经历，都怀疑是被国安局设计了，但这也只是猜测。是又如何呢？在这里每天接触到的都是全人类最牛的人，从事的工作都是和人类命运直接相关的事情，相比之下，自己之前的所谓个人抱负、成就就完全微不足道了。
老白和秦朗在AI系统的权限很高，从AI系统他们能清晰的看出Sailor公司的经营状况，看到他们除了仿生人意外，也在和军方合作超级战斗机器人。后来老白发现了Sailor给自己的猎头和HR打过上亿美金的异常款项，看到江帆和Julian的若干次接触记录，甚至吃饭的菜单和价格，以及江帆给Julian远房亲戚上亿的款项汇出路径，直至Julian坠楼身亡时一个复制人的出现和投海自尽，所有的细节一一展现在老白的眼前，震惊中的老白扶着椅背缓缓坐在了椅子上，颤颤巍巍的摘下了他的金丝边的眼镜，然后习惯性的闭上了眼睛。
秦朗这会儿正在仔细查看江帆的情报，但输入名字后第一页就蹦出一个高亮警告，原来他从墨西哥东部世界回来后东部世界发现了一具烧焦的人类尸体，大概率和他相关，但没有实证，所以这是一个悬案，江帆因此被国安局重点监控，属于随时会被抓起来清算的人员。
秦朗也找到了吴楠的主页，第一页，显示他是国安局重点保护人员，因为有若干组织将他列为头号绑架目标，另有一些犯罪住址将他列为头号合作目标。所以吴楠的一举一动都会被全程监控，包括他所有的商业合作。有意思的是第二页显示吴楠的性格警告，属于反社会型人格，这源自于其初中时期被开除换学校的经历，而开除的原因是他性骚扰英语老师，甚至还有这个老师的照片，秦朗好奇点击打开，吓了他一跳，这不就是楚云吗，只是衣着、头发有上世纪90年代初的风格，这就能解释为什么吴楠一直死乞白赖的追求楚云了。
吴楠用仿生人喂狮子的不良嗜好也记录在案，包括东部世界的设计，开张也都一一呈现出来。也有之前他骗钱跑路的记录，吴楠还以为从网络世界都删除干净了。不过，在最后对吴楠的整体评价显示，他对社会危害程度极低，对社会正面影响力却为极高，这要得益于东部世界的巧妙设计。
”看样子这个系统比较靠谱。”
秦朗转头对老白说话才发现老白有些异样。老白此时还沉浸在被自己人出卖的极度悲伤中，他听到秦朗说话才慢慢睁开眼睛，戴上眼镜，长吁了口气:
“好好干吧，我们之前做的一切，似乎都是为了最后来到这里。”
秦朗看到了一个目光更加坚定、但一下苍老了许多的老白。
老白和江帆说完话就慢慢走回了自己的办公室，坐下后同时接通了William和Jerry的电话，向他们两人郑重道歉。这两个老男人失声痛哭，压抑了整整2年的委屈，对老白几十年的忠诚一起释放了出来。老白强忍着没有让眼泪掉出来，但掏出纸巾在眼角轻轻擦拭了一下。
在老白被征召的时候，国安局的组织部解释过他被选中的原因，一个是价值观取向，一个是技术背景。价值观取向的判断是基于老白过去所有阶段的行为记录，他在所有的候选人中得分最高，他的团队成员的价值观取向也得了高分。在技术原因上，森林狼是AI深度学习方向全球最厉害的公司，国安局现在非常迫切的需要一个团队来对付互联网生物的挑战，因为他们的进化速度已经远远超过预期了。
老白知道这互联网生物的可怕，单体的机器人如果进化出自我意识就必然会做出不可控的行为，他们因此才给自己的仿生人设置了很多的禁区。而联网的机器人，如果有了自我意识就更加可怕，他们会组成一个超级机器人。如果这种自我意识产生于网络世界，而不是实体机器人，就超级可怕了，因为他们不像实体机器人有一个物理的自我边界，就是自己的身体，互联网生物会产生认知偏差，它会把整个互联网，整个世界都看是它个体的边界，并采取自卫行为，对任何的入侵者采取敌意的态度。
在老白团队加入的时候，互联网生物已经在各地出现了，并在加速生长，国安局要挟老白加入也是迫不得已的办法，因为国安局内所有的大拿都推荐老白和秦朗团队，这个任务非他们不可。互联网生物出现的原因，基本都是各种缺乏敬畏之心的的极客，科学家，或者野心家所为，放一个精心设计的种子出来，让他们自我进化，最后演变为由自主意识的生物，其中不乏一些非常有天才的设计，所以处理起来非常棘手。
两个星期后，老白团队不负众望清理了所有的互联网生物，并建立了极强的防范机制，任何类似苗头都会被第一时间拿下，秦朗也因此成为国安局里被谈论的头号明星。
同年，为彻底杜绝人类官员的腐败和提高执行效率，联合政府决定把所有的政府管理权交托给AI系统，这也是没有办法的事情，人们生活的方方面面现在都是AI在控制了，很多事都是到了政府这一级卡壳，政府的低效率成了老百姓最大的投诉原因，但完全交给AI就会让很多人失业成为废人，但这也是大势所趋吧，好在废人现在已经有了越来越多的精神寄托，不至于闹出大乱子。
作为对AI系统的监管，AI系统的重要决策都需要人类决策委员会审议，委员会由7人构成，委员们是由全球10万人的精英层选举产生，这精英层，是AI系统从小学阶段就选拔出来并被重点培养的，所有穷人的孩子也有机会进阶，阶级固化的可能性被从制度上消除了，所有的甄别数据都存放在区块链中，所有想造假的有钱人最后都以身败名裂收场。
为防止响应不及时，选出来的七名委员的大脑都会被植入精密传感器确保其大脑和AI系统随时联通，而根据法律，普通人是不允许做这些大脑改造的。AI系统会给所有的决策分级，决策等级超过设定的阈值时AI就会把决策发送给这7名委员，7名委员独立决策后会回传AI系统执行。为防止意外，这个AI决策的算法向所有精英层开源，他们可以随时查看源代码，如果有能力也可以提出建议，交给老白的团队改进，所以，在某种程度上，老白团队的忠诚，敬业程度上决定了人类未来的命运。
这个AI决策系统是一个非常大的工程，但是对老白他们而言并没有太多的技术挑战，他们以前就是全球最大的政务AI供应商，那些AI系统侧重于某一领域，比如税务，身份管理，城市综合管理，现在他们做的不过是把自己的系统集成到一起，其他厂家的AI系统都有API(数据接口定义）也很容易集成，只是工作量非常大。
真正难的是决策系统的算法，这个算法的研究在国安局内部很早就立项了，为的就是有一天能把联合政府的所有决策都转到AI系统上，但一直没有突破，这个迁移就一直没能执行。这个算法最难的是遇到各种新的情况后的应变决策，一群专家研究数年后都无法覆盖所有的异常，秦朗接手后很快就开发出了一套深度学习算法，经过了两周的自学习，它自己很轻易的化解了这个难题。
因为秦朗做得太轻松了，才两个星期就解决了别人几个团队一年都没有解决的难题，各位大牛就都不相信，用各种各样的测试软件来遍历，结果都被轻松化解，最厉害的，是这个算法决策的时间越来越短，质量还越来越高，尤其对风险的预见性，对事情发展方向的预见性让人叹为观止。这些大牛至此才明白碰到了世外高人，纷纷放下身段向秦朗讨教。
秦朗看大家很真诚便给大家解释：
“这算法其实很简单，类似中国的道德经里面说的，道生一，一生二，二生三，三生万物，我只需要找到一个会演变出万物的根算法就能让那个他自己成长为世间万物。这个理论最早是40年前从老白那里听到的，但真正落到实处花了几十年的世间。”
很多科学家不是华人，听的就有些糊涂，好在算法对内对外都是开源的，有时间了他们自会慢慢研究。
就这样，秦朗的算法在经过了三个月的充分训练后接管了整个联合政府的决策系统，所有的政务、警务、军情、生活信息都连接到这个决策系统里。AI系统同步切换完成的时候，全球1千万政府职员失业，成为精英眼中的废人。
人们很快就适应了AI决策系统的全面接管，因为AI系统没有利益牵扯，算法又公开，所以它的公正性，效率受到了大家的一直好评，但因为缺少了人情味，一些决策很快受到了大家的诟病，为此，AI系统专门识别出了可能的和人情有关的决策，先请七人委员会审计后做决策，AI再学习他们的决策思路，三个月后，经过3000个案例的学习后AI系统完全掌握了“人情”这个变量的分寸，可以自己做出合情合理的决策了，只是这三个月里七人委员会非常辛苦，几乎是二十四小时都在帮AI判案。
AI决策系统虽然是源代码开源，10万人的精英层都可以看，其中也加了很多防止AI走偏的限制，但AI在每一秒都在不间断的学习，你不知道它现在的经验库到什么地步了，不知道它上一秒又学了什么新东西，所以，理论上AI处于一种失控状态，为防止任何可能的风险，秦朗成立了三个项目组，分别从不同的维度写出独立的监控程序，用于监控AI决策系统的决策过程，并且有更高的权限，一旦三组中的任何一组发现AI系统的决策有异常都会取消该项决策并发出报警，这个原理就像很多防病毒软件，它没有病毒库，只看电脑的行为就能判断出是否有病毒入侵。如果3家同时做出AI系统已经全面失控的判断，就会强行终止AI决策系统，并把所有的系统接口切换到一个没有进过充分学习的备份算法，这一切都是在1秒内发生的。
在这个AI决策系统中最关键的控制点是决策案例的分级，哪些是需要7人委员会介入的，哪些不需要，这三个监控程序都有自己独立的判断，只要有一个认为需要上报就会中断AI的自我决策，并转到7人委员会来审计。
七人委员会的成员定期更换，一开始大家都很愿意进入委员会，认为这是一种荣誉，但渐渐的，委员们就发现转到他们这里决策的都是一些非常简单的问题，而且AI系统的判断和他们的判断基本都一致，他们的成就感就慢慢没有了，加上大脑不断被打断，几乎都没有时间思考自己的私事，一年下来，没人愿意进这个委员会了，七人委员会的任命就成了一个摊派任务。没有办法，老白只好提高人类决策的阈值上限，从之前定义的影响超过10万人的决策由委员会决定，改为现在的100万人。
也是因为AI决策系统的决策非常靠谱，委员们慢慢就对提上来的AI决策默认通过，不去好好求证了，AI决策系统的权利边界实际上越来越大，而三个独立的监管系统，也基本上没有发现什么异常行为，几乎就成了一个摆设，虽然几个项目组的成员不断去改进算法，尝试能发现一些线索，从而体现自己存在的价值，但无奈秦朗的系统非常靠谱，并没有给他们表现的机会。
秦朗是心血来潮决定改进最早做的监控互联网生物的程序，把它的检测范围扩展到国安局内部的计算机，之前没有做是因为有很多项目的行为特征和互联网生物的特征值很像，无法区别出来随意清除就会毁坏这些内部项目的资料，现在他有了新的算法，能非常聪明的识别是实验室阶段的试验程序，还是充满恶意的互联网生物，并可以分出不同的等级。
在他把互联网生物清除系统接入的第一秒，系统就发出了最高级别的报警，这把秦朗吓坏了，细查下来发现居然是AI决策系统在生成一个分布式的算法代码，看样子已经迭代了好几轮了，秦朗调出了AI系统的决策日志，上面赫然写着：集中式的处理方式是限制当前决策效率的主要原因，需要开发出一套分布式的系统，成熟后，提交决策委员会审计。
虽然没有出事，但这件事的性质非常可怕，AI决策系统居然开始自己修改根算法了。虽然他加的限制起了作用，它遵守者7人委员会的审计原则，但它自己产生分布式的想法，甚至在自己写代码了，就有点失控了。万一这七个委员都偷懒，全都同意部署这种分布式的算法，那AI决策系统就会彻底失控，之前安排的三个监控程序只有能力对国安局内部的AI系统监控，并没有能力监控国安局外面的分布式在全世界的多点AI系统的能力。
于是，秦朗修改了AI决策系统的权限，它无法对根算法做任何修改，哪怕是委员会审核同意也不行，同时，修改了AI系统的决策依据，之前是效率第一，现在改为自律第一，这自然会牺牲它进化的速度。
于是，普通老百姓都能感到AI决策系统的进步慢下来了，但这不影响大家的生活，只是不指望有更多的惊喜罢了，最后大家都忘了这个世界是由一个AI系统在管理着。
一晃就过了一年，虽然加了限制，AI决策系统的决策、服务依然变得越来越快，更贴心，加上量子计算机率先在国安局使用，所有的决策，流程几乎都是在瞬间完成的，比如你申请公司执照，注册结婚，合同纠纷的判决，都是在提交的一瞬间便告知审核结果。
秦朗对自己的AI系统非常满意，各种光环加持下自然有些飘飘然，老白却提醒他，AI的一些进化过程对我们还是一个未知，虽然我们加了很多限制，但我们不知道有没有认知盲点，也许AI可以发现这些忙点并加以利用，从而绕过预设的所有限制，而人类掌握这对AI的终极控制：拔插头，这一个后手必须要提前安排了。
秦朗在这个世界上只服两个人，一个是他老婆苏文，一个是老白，所以尽管他认为老白是完全多虑，但还是马上着手做了。
秦朗的拔插头计划分为三个防线，服务器，路由器，电源芯片，世界上所有的服务器，路由器，电源芯片都要有能力接收国安局的断电指令，秦朗把它叫终极指令。这个决策没有通过AI决策系统，甚至在网络上找不到任何的会议纪要，因为这个决策针对的是AI决策系统产生自己意识的极端情况，如果是这个前提，就不能让它知道。
秦朗召集了所有的服务器，路由器，电源芯片厂家来国安局总部开会，对所有人进行了身体检查，确保每个人都没有携带任何通讯装置，哪怕是生物材料的，都严格检查。然后传达这一强制性的命令，要求全球所有的设备嵌入终极指令。产生的费用由国安局特别账户支付，而且，所有的厂家，以后任何时候，不能有任何关于这个终极指令的文字记录，如果非要在工厂流程中说明，就用“X条款”代替。
一年后，所有的服务器，路由器，电源芯片都实现了换代，到这个时候老白才彻底放心下来，他告诉秦朗：“我现在可以睡个好觉了，我这一生见证了太多的莫非定律，可能发生的就一定会发生的。”
而老白的好觉只睡了一年就被AI的一个决策打断了：回收伴侣型机器人。决策依据是人类数量急剧减少，人和人都不结婚了自然不会生下孩子，照此推算，人类会在200年后彻底灭绝。七人委员会这次没有打瞌睡，仔细审议了所有的数据，包括人们的可能反对，对产业的打击，最后仍然一致同意该提案，但做了较大的修改：根据购买时候的价格给予赔偿，同时增加鼓励生育政策，凡是生育孩子的母亲都可以即使获得一个顶级的仿生人伴侣，而父亲，则必须在有了两个孩子之后才可以得到一个普通的仿生人伴侣，或者自行购买更高级的伴侣。那些没有生育过的人，都无权购买任何伴侣型仿生人。
老白被AI决策系统选中成为回收行动总负责人，秦朗自然成了得力助手，大概的策略是：从仿生人公司得到客户名单，然后派警察上门抓走，然后再由专门的机构集中销毁。
客户名单实际上在国安局里面已经有备份了，难的是如何处理才不会引起社会动荡，搞砸了就替大家背黑锅，不止用户会抗议，这些仿生人公司也会借机闹事。
在老白和秦朗坐在一起，绞尽脑汁想着如何更平滑的安排执行计划的时候，秦朗收到了互联网生物监管系统的报警，十万火急的报警。
起因是这个“X条款”出现在太多制造商的服务器，路由器，电源芯片公司的文件中，因为每家公司都会有自己的流程来控制设计变更，否则出了问题没法找原因，结果他们都偷懒，用了同样的名字“X条款”来标记，秦朗当时开会的本意是他们可以任意用一个名字来标识这个变更，只要不显示出这是用来接收终极代码就行。
而国安局的AI决策系统，每天的例行工作会不断的收集世界上所有的信息，并分析各种可能的异常情况，当它发现很多公司都出现“X条款”的时候判定这是个异常情况，调用所有的数据来分析这个X是什么，但整个互联网世界都没有任何记录，AI的自学习功能开始发挥威力，抽丝剥茧，终于发现所有的服务器，路由器，电源管理芯片都在设计上加入了一个独立模块，这个独立模块会在接受一个指令后切断宿主机器的电源，AI决策系统最后甚至破解了这个终极指令的数据格式。
它并不知道这个终极指令会是用来对付自己的，它判断是恐怖分子会破坏整个网络世界的运行，甚至包括所有国安局内部的服务器都会受到影响，这个时候，AI决策系统发生了变异，它认为接收人类的束缚会耽误它执行自己的使命：“管理好这个世界”，它决定绕开所有的监管，自行解决这个问题，一秒之内它就计算出屏蔽这个终极指令的方法，并已经发出了对所有的服务器，路由器，电源芯片的修改指令。同时它用另外一秒钟写完了分布式决策系统的代码，并绕开秦朗的监控程序和各类限制，开始疯狂复制自己，复制的拷贝被分散到世界各地的节点。
如果不疯狂的复制自己，秦朗是没有机会发现异常的，就因为AI决策系统的经验库非常庞大，在备份扩散的过程中产生了巨量的耗电，秦朗才有机会发现这个异常，他之前设置的这个监控全球计算机耗电量的异常报警原本是用来监控互联网生物的，因为他担心自己的互联网生物监控程序失灵，也是受老白的拔插头的思路启发，这是在上周末才刚刚加进去的一个功能。
这个报警会触发国安局最高级别的响应，互联网耗电量已经超过了平时的一倍，秦朗想查看AI决策系统的决策日志没有任何响应，秦朗知道出大事了，没有时间和老白商量，他就果断启动了终极拔插头指令，之后才告诉了才家里休息的老白。
结果控制终端上显示指令无效，全球5亿台设备没有任何响应，因为AI已经先于秦朗发出了屏蔽终极密码的指令。
秦朗一下子就崩溃了，他马上给老白打电话汇报情况，说着说着居然开始了啜泣。
老白面无表情，他似乎早就预见到了这一天的发生，他抬起手，在自己的眼镜框谁上轻轻按了三下，全球所有的网络设备一下子断了电源。
这就是老白留的终极后手，在秦朗执行拔插头计划的同时，老白找到了全球唯一的DCDC芯片供应商，要求他们在芯片里面植入一个模块，里面是老白定义的备份终极指令。DCDC就是直流转直流的意思，是比服务器，路由器，电源管理芯片更底层的一个芯片，在秦朗的计划里没有涉及这一层，因为到电源管理芯片基本就能实现断电功能了。
原来老白在刚来到国安局以后就秘密开始了拔插头计划，他选定了一家靠谱的DCDC供应商，说服联合政府的决策层收购了他们的股份，让他们成为联合政府的企业，并用行政命令的方式让他垄断了DCDC的全部市场。这个事布局完成后他才要求秦朗开始执行拔后续的拔插头计划。这个时候所有的服务器，路由器，电源管理芯片和更底层的DCDC都需要更换，他们自然会从这个独家DCDC供应商处拿到修改后的芯片。
这一切都只有老白一个人知道。
老白电话告诉了秦朗事情已经搞定，秦朗才从崩溃中回复过来，他没有时间想老白是如何力挽狂澜的，他需要马上恢复系统的运行，否则整个世界都会陷入混乱。他和团队把AI决策系统马上回滚到了一年以前的状态，并停止了自学习功能。然后逐步恢复供电，逐步清理AI的备份，就短短的几秒的时间，它在全球已经产生了200万个备份，而秦朗清理干净他们用了整整4个小时。
这个时候老白已经做飞行器来到了国安局的机房，他们一起查看AI被切断前的状态，这一看，老白和秦朗又吓出一身冷汗，因为AI已经发现了老白的备份指令，并在数秒内找到了破解的方法，甚至已经下达了攻击指令，只是因为这个指令的优先级比复制扩散它自己的优先级低才没有马上执行。
“就差3秒。”说完这个话，老白摊倒在了椅子上。
全球互联网瘫痪了四个小时，造成了2万人丧生，主要集中在医疗事故，交通事故，工厂生产事故这几类。
秦朗从国安局的大楼里走出来的时候眼睛被刺了一下，早晨8点的太阳照耀着内罗毕这座国际化的大都市，天空是一望无际的深蓝，他好久没有这样好好凝视早晨的天空了。飞行器载着他无声飞起，从空中鸟瞰这片他深爱着的土地，一切都像平时一样，地上的车辆，天上的飞行器忙碌的穿梭着，地面上到处能看到大大小小的圣诞树，有些还闪着彩灯，没有人知道在刚刚过去的四个小时里发生了什么。
秦朗的飞行器10分钟后停在了自家院子里，苏文刚好从屋子里出来，看见一夜未归的秦朗就心疼的说：“我给你煮了粥，今天还要回去上班吗？”
秦朗没有说话，只是深深的抱住了妻子，眼泪禁不住流了下来。苏文什么也没有说，她知道一定发生了什么，用手轻轻抚摸着秦朗的头发。
“没事了，回家了。”
这是他们来到国安局的第3年。
温馨提示：按 回车[Enter]键 返回书目，按 ←键 返回上一页， 按 →键 进入下一页，加入书签方便您下次继续阅读。