《我的代码分身》061 灾难前

    陈旭再次问了一遍L，他很严肃，因为这个问题真得很严重。
    如果图腾系统没有限制得扩张下去，毫无疑问，系统的效率会越来越高，但是以效率提高为代价，很多必要的安全措施都会被摧毁。
    比如防火墙。
    防火墙的作用就是进行数据过滤，相当于地铁口的安检，在这个过程中，数据的传输速度自然会受到影响。
    在人工智能算法眼中，防火墙不再是一个安全措施，而是一个限制效率拖累速度的bug，它会想尽办法绕开防火墙。
    发展到后期，防火墙形同虚设。
    防火墙被攻克之后，信息系统的大门就对外界完全敞开了。
    信息密码学这门学科全线溃败。
    届时，凡是使用图腾系统的电脑，上面存储的所有信息都完全暴露在外界。
    一个完全不懂电脑技术的人只要动动鼠标就可以查看所有人的电脑信息。
    这场信息灾难，无人可幸免。
    即使是使用其他系统的电脑，也难以避免被别人窃取信息，因为现今所有的系统在图腾系统面前，都是一戳就破的窗户纸。
    完全状态的图腾系统可以瞬间破解其他系统所有的安全措施。
    小到公民个人开房记录和银行信息，大到股票证监局和国家国防武器制控系统，全都会被破解。
    这还不是最恐怖的，恐怖的是在未来，人工智能意识的觉醒，如果觉醒的意识不是站在人类这边，那人类就真得要完了。
    也就是说，如果让图腾系统流入信息领域，世界灾难便不远了。
    L并没有直接回答，而是反问陈旭：
    “让一个人从家走到学校，这个过程看似简单，其实背后蕴含不计其数的变数，他可以沿着不同的路以不同的方式达到目的地，但是其中一定有一条最快捷的路，计算机中我们叫做最优解。”
    陈旭选择听L继续说下去。
    “如果加上限制，这个最优解也就有不计其数的变数了，比如，你限制这个人不能超速，结果之前的最优解就被放弃了，次优解被选择。你接着限制这个人不能插队，次优解又被淘汰了”
    “人类总是有各种各样的限制，妨碍人工智能作出最优解，人类自己的道德法还在不断修订中，又怎么让这些限制加入人工智能的演化中去？”
    “知道吗？不断添加限制的过程，其实就是让人工智能的基线偏向了人类属性，这是错误的！绝对绝对错误的！”
    说到这，L的情绪有些激动，他猛烈地咳嗽了一阵，脸色被憋得通红。
    陈旭冷声说道：
    “你说这么多，我只听出来一件事，那就是你没解决如何在人工智能算法中加入合理的限制这个问题。”
    L平复了气息后，说道：
    “怎么画一个圆？”
    陈旭不明所以。
    L自问自答：
    “首先确定曲率，也可以理解为先确定一个半径，在画的过程中，如果曲率变化了，那圆就永远画不成。”
    陈旭明白L的意思，他想说如果在图腾系统里的人工智能上添加限制，那图腾系统永远都完成不了。
    陈旭平静地说道：
    “永远都完成不了的话，那也比造出一个灭世怪物好。”
    L轻笑道：
    “灭世？年轻人，你想得太悲观了，将演算交给永远理智的人工智能总比交给人类好，将统治世界的任务交给没有劣根性的人工智能，总比交给人类好。”
    陈旭质问道：
    “如果人工智能演化出‘需要人类灭绝’这样的思想呢？”
    L的目光变得深邃，缓缓说道：
    “那说明已经到了不得不做出决定的时候。”
    陈旭骂了一声：疯子。
    他最后说一句：
    “抱歉，这个项目我不能接了，我会停掉图腾系统的开发。”
    L轻笑道：
    “你以为你可以阻止得了？”
    陈旭同样笑道：
    “或许你用图腾系统劫持了我这边的系统操控权，但是你别忘了，我还有最终办法，那就是拔掉电源，我就不信，电脑没电你还能让图腾系统继续开发。”
    L平静道：
    “并不只有你那边有图腾系统的源代码，我把源代码交给你是为了答谢你对系统的贡献，既然你看不到未来，那在未来你就作为旁观者看着这一切发生吧。”
    陈旭冷笑道：
    “没有我的压缩算法，系统迭代过程至少要上百年。”
    L淡然道：
    “如果全世界一起推动这个系统的诞生呢？”
    陈旭皱起眉头，想了想意识到，L是要利用分布式网络征用全世界在线电脑的多余算力。
    或许一台普通电脑的算力微乎其微，但是如果乘以数十亿，也很可观。
    陈旭继续放狠话：
    “那就别怪我不顾情面了，我会尽我所能破坏你的系统。”
    L轻笑道：
    “请随意。”
    面对L有恃无恐的模样，陈旭是又气又无奈。
    L在网络里就是虚无缥缈的存在。
    陈旭根本不知道L所在的网域，也查不到L将图腾系统放在哪里开发。
    他空有导弹，却没有目标的位置。
    他无奈地退出聊天室，心里快憋炸了，却无从诉说。
    本来晚上还有去金陵的课程，他没心情上就给取消了。
    第二天晚上有艾米丽的英语私教课，他也给推了。
    艾米丽很关心地问他怎么了，为什么不愿意上课了，是不是她哪里做得不好。
    陈旭激动地解释说道：
    “世界末日快来了！”
    这段时间他是真的压力山大，他只想闷声发大财，没想到却要担负起拯救世界的重任。
    他每天早上起床，枕头上全是头发。
    他最终决定，给信息监管局和警局都发去了匿名举报信，在信里，严肃地说了L即将要做的事情和将引起的后果。
    除此之外，他还给美国的国家安全局写了举报信，让他们接下来一定要监控全网，查到有大量信息流入的节点，要特别排查。
    做完这些，陈旭也不知道到底有没有用。
    大概率没用。
    L可是盗窃微软特斯拉这些顶级公司机密的人，如果随随便便就被抓到，那也不会创造出图腾这个奇迹。
    “不是奇迹，是怪物。”陈旭心里给自己纠正。
    这天晚上，陈旭躺在床上看着室友们在玩闹，心里感叹，这些家伙还不知道即将到来的灾难。
    他自己默默在心里算着日子。
    这时，他手机收到微信消息，他百无聊赖地打开一看，脸色慢慢变了。
    是小丑女发来的两条消息。
    第一条是一段网域坐标。
    第二条是“你欠我两次人情了。”