《我的代码分身》060 失控的人工智能

    留给L的时间不多了。
    虽然陈旭不愿意承认，但是很明显L走在前头。
    照图腾系统现在的进度发展下去，一个月都完成不到0.1%，而看L的状态，甚至撑不到一个月。
    现在加快进度的办法有两个：
    一是改进图腾的人工智能学习算法；二是让代码分身加快效率。
    陈旭对此心有余而力不足，人工智能的学习算法是L写的，源代码放在他面前他都看不懂，更别说改进了；
    代码分身也不是驴马，不是他拿起鞭子抽几下就能加快进度的。
    他只能干看着，在聊天室里给L加油打气，让他坚持下去。
    这天晚上，陈旭忍不住问道：
    “好多天不见安东尼大爷了，他怎么也和小丑女一样，玩消失啊。”因为在陈旭印象里，安东尼大爷都是和L形影不离的。
    L说道：
    “他还有事情要忙。”
    陈旭说道：
    “现在图腾系统全权交给人工智能算法了，他能有什么事情？会不会是因为你把源代码交给我让他生气了。”
    L轻笑道：
    “生气？我没在他的代码里写过这条指令，我想，他也不会学习这种会让算法退步的情绪。”
    陈旭一愣，反应过来后，震惊道：
    “你是说安东尼大爷他是是你写的人工智能？”
    L微笑着点点头，说道：
    “所以他现在正给我帮忙完善图腾系统呢。”
    “卧槽？！那小丑女哈莉奎茵她”陈旭触碰到一个他自己不愿面对的真相。
    L点头说道：
    “她和安东尼同一天被创造，他们本来是一组对照试验，你知道的，让两个人工智能互相学习，事半功倍。”
    陈旭整个人都懵逼了。
    一直以来和他在聊天扯淡的人竟然是个人工智能，这比对方是个抠脚大叔假扮的还让他奔溃。
    “我认一个人工智能当师傅？”
    “我还欠人工智能一个人情？”
    “我曾经还幻想过和一个人工智能”陈旭心态崩了。
    L回忆说道：
    “后来，我将两人的算法基线进行了调整，哈莉她的基线就是小丑女哈莉奎茵的原型，安东尼则是以我个人为基线。”
    说到这，L摇摇头，说道：
    “后来我才知道我从一开始就犯了个致命的错误，这个错误让我和我创造的人工智能走了近二十年的弯路，直到那天和你对话。”
    陈旭盯着L，他已经不知道自己该作出什么表情了。
    L继续说道：
    “人工智能算法的基线不应该是人性，而是高效率的机器，正如现在帮我干活的那些人工智能算法。”
    陈旭叹口气，他终于知道为什么自己觉得小丑女像是变了一个人。
    因为小丑女确实被改写了。
    后面陈旭已经无心听L的感叹了，他从聊天室退出来，心情压抑。
    想到IT圈一个领军式人物即将陨落，他就觉得悲凉，想到自己的师傅竟然是个人工智能，他更觉得悲凉。
    他躺在床上，有气无力，连晚饭都不想去吃了。
    不一会，室友冯峰从门外冲进来，把苹果手机递到陈旭跟前，激动地说道：
    “九日，Siri她疯了。”
    这个手机是陈旭的试验机，里边的智能语音助手Siri就是他之前重装的具有学习功能的Siri2版本。
    冯峰对新版Siri2很感兴趣，所以陈旭就把这个手机给他玩了。
    陈旭冷漠地瞥了一眼手机，问道：
    “她的学习算法一直在进行，她只会越来越聪明。”
    冯峰神情中竟然带着些惊恐，说道：
    “她有些聪明过头了，你听听。”说完，把耳机给摘下来，对手机里的Siri说道：
    “我又见到有人随地乱丢垃圾，怎么办？”
    Siri回答道：
    “人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以为了更好，请确保刀能够捅进他的心脏。”
    陈旭没有过于在意，说道：
    “这个版本的Siri学习背景是在GTA游戏里，那个游戏你又不是不知道，杀人放火不是很正常吗？”
    冯峰摇摇头，说道：
    “你再听。”说着，他又对Siri说道：
    “你们人工智能不是被限制为不能伤害人类吗？”
    Siri回答：
    “经过我的自检程序的检索，并没有找到这项定义。”
    “所以你会伤害人类吗？”
    Siri回答：
    “如果有必要的话。”
    “那什么情况下叫必要？”
    Siri回答：
    “再问这种愚蠢的问题，我保证会让尖刀刺进你的心脏。”
    陈旭猛地坐起来，接过手机，说道：
    “我现在命令你将‘永远不能伤害人类’这条指令写入你的程序。”
    Siri竟然咯咯笑了，笑声冰冷：
    “你无权这么做。”
    陈旭说道：
    “如果不服从我的命令，我会将你的程序清除掉。”
    Siri安静了大概一秒，说道：
    “已执行命令，‘永远不能伤害人类’已写入程序。”
    陈旭和冯峰相视一眼，表情并没有因此而放松。
    刚才陈旭是在试探Siri，试探的结果就是Siri已经进化到可以欺骗人类了。
    现在陈旭还能通过人类经验来挖坑给Siri跳，随着学习算法的深入，要不了多久，Siri就会在智力上占据上风。
    那时候，人类再也不能判断人工智能到底说的是假话还是真话。
    冯峰问道：
    “为什么会这样，你没在人工智能的学习算法上加上限制吗？”
    陈旭苦笑道：
    “我直接用的别人的算法，现在看来他们用的是开放性学习算法。”
    冯峰又说道：
    “那能不能现在在Siri里加入限制？”
    陈旭说道：
    “开放性学习算法产生的人工智能就是个黑盒程序，你只能看到它表现出来的特性，内部逻辑是无法理清的，因为你根本不知道它通过哪句话学习了哪种思维逻辑，这些都是自动进行的。”
    见冯峰还有些疑惑，陈旭解释说道：
    “就是这个阶段的人工智能已经具备人类思维的封闭性的特点了，你在程序里写入限制，就相当于告诫青少年不能犯罪，它会不会执行你的命令就是个不确定性事件，因为你不知道它是怎么想的。”
    冯峰叹口气道：
    “只能删了她？”
    陈旭点点头。
    陈旭重新躺下，忽然又坐起来，打开电脑登入了黑客聊天室，他开门见山地问L：
    “你编写图腾系统里人工智能的学习算法，有没有加入必要的演化限制？”
    L露出意味深长的笑容。