笔趣阁

第14章 脑风暴劝限机器人 谋战略立项逍遥游（第1页）

会议里大家头脑风暴了独立思考机器人通过即时就近组网模式共同决策的模式，遇到了机器人思维模式同化的问题。刘时空教授想到了张伍生是生物学方面的专家，对于脑思维的电子读取有许多研究，于是就这个问题征询意见："师导说的的确是个大问题，伍生导师您是生物学专家，您看这个问题有什么办法呀。"

张伍生："龙生九子，各不相同。人机器人都是通过固定的程序和数据去计算，同样的程序和数据得出同样的精确结果，决策这种事情又不能随机。我想到一个点，如果我们能够采集人类的决策方法和思考模式，我是说大量人类，把这些思考模式放在大量的机器人上，是不是就可以共同决策了？"

师刚："这个想法很新颖！就是读取大脑的技术很不成熟，不过理论上是可以的。"

唐斌："嗯，这个信息很重要，师教授还有什么补充么？"

师刚："暂时没有了。"

唐斌："刘教授，来，你再谈谈你的看法呀。"

刘诗红："那我就接着刚才的想法继续谈，先抛开军事问题，如果机器人具有了独立思考的能力，那么机器人和人的区别，就只是身体的结构了，机器人是不是就是一个硅基生命体了，《终结者》这部电影相信大家都看过，电影就变成现实了，有没有可能更大的敌人不是敌国，而是自己创造的这些机器人了？"

孟玄舰："因此，必须保持远程操控的优先权，确保机器人令行禁止。"

刘诗红："这个问题，就像人有选择的权利，人可以选择呆在国内，也可以选择出国生活，机器人有了独立思考，会不会选择自断联网的权利，或者从思想上拒绝远程操控的优先权呢，我觉得这是很可能的。生物是多样性的，机器人甚至不一定选择要做一个人，他独立的思想即使可以基于人的思想，越人的思想，但是我们判断这种越，会向着哪个方向去。我还一个担心，人类会出现相互战争，利益冲突，机器人和机器人之间有了独立思考，会不会也像人类一样生内斗，又有组网能力，吵架的过程就会变的非常迅，相互战斗也不一定非得通过武力，甚至有可能是黑客攻击快战胜敌人。"

唐斌："嗯，这个观点也很重要！凡事都有两面性！来，张教授你怎么看？"

张伍生："我非常赞同刘教授提到的生物多样性观点。独立思考的机器人为什么选择人工智能，而不是兽工智能，为什么要选择做一个人，他没有国家、民族的概念，没有现在人类需要维持的宗教、信仰、资源的抢夺和经济秩序，我们无法预知他们的选择。我觉的我们需要撇开我们的思想，我明确一下独立思考的机器人的机生目标的问题，这个目标才是引导他独立思考的终极主因，一切预设的目标在完成后，都会被终极目标取代，甚至终极目标会让他放弃预设的目标。"

孙小鹏："现在的机器人，设计多维人类形状，或者机器狗，或者独立的机械臂，采用行走的模式，但实际现在无人机的飞行技术已经非常的成熟，而且这方面最好的技术和产品都在中国，深圳的太柏无人机的全球市场占有率达到了7o%，现在民间主要用于航拍，治安领域则用于侦查，军用领域一般都是用无人机执行单一任务。刚才大家提到的独立思考的机器人技术如果嫁接在无人机上，让无人机具备这种思考，机器人为何还要在6地上行走呢？天空飞行无论从度和还是灵活性上都比6地上行走都占据极大的优势。"

唐斌："你这个观点很重要啊，跳出了重力的限制，也跳出了人思想的禁锢！李教授，你是项目组组长，你谈谈你的看法吧。"

李宇轩："我觉得先我们要从约定上去限制机器人的应用，尤其是独立思考的机器人，应该完全杜绝，对于执行单一任务的机器人，应该将其智力能力和活动范围严格局限在特定的范围内，为人类完成特定的使命。对于具有高度智商的机器人，应该严格遵守远程控制脱离及失效的自毁能力，防止失控。我非常同意刚才大家谈到的观点，我认为对于失控，对于独立思考机器人摆脱人类控制的顾虑，我的观点是，这不是顾虑，这是必然，一旦打开这扇门，机器人失控就会成为宿命，人类将无法阻挡。"

孟玄舰："如果敌军先成功研了这种机器人，大规模生产，大规模投放战场，歼灭我们的战士，我们当如何应对呢？敌人有了核武器，我们也有，形成核震慑，才能维持住今天国家国富民强的安稳局面，如果敌人有了独立思考机器人而我们没有，岂不是让我们的战士白白送死，人民再度被欺压。"

李宇轩眉头紧皱，喝了口水，"先，要有世界公约的约束，约束不光针对我们自己，也要针对任何其他国家。就如同我们研究了爆破技术，我们不会把量级放大到毁灭地球一样，我们在人工智能领域的应用，应该画一个清晰的边界。独立思考的大规模机器人的存在和投放战场，这大国之间的核战不同，核战，是相互毁灭，而大规模投放独立思考机器人用于杀敌，这是相约自杀。"

唐斌："宇轩哪，咱们写撇开顾虑，做一个假设，假设美国，已经在战场上投放了机器人，规模巨大，战斗力强，对我们的作战部队造成重创！这时候我们应该做何反应呢？这时候去国际上谴责美国，当然是要去做的，但是解不了燃眉之渴。这可能也是孟长想了解的，对吧？"，唐斌向孟玄舰点头征询，孟玄舰紧接着说:"李教授，您最大的担忧基于您认为独立思考的机器人就注定会毁灭人类，还是我们的机器人武法战胜敌国的机器人，您能具体阐述一下观点么？"

李宇轩:"长，我是想过一个问题，一山不容二虎，2o11年开始美国重返亚太，给中国造成了一系列威胁，是基于第一大国对第二大国越的担忧，这不是哪届总统的问题，而是中国快展必然要面对的问题；美国不容有国家大国越他。而人类，到目前也未曾现有其他物种越自己，假如，真的有这样一个独立思考的机器人物种存在了，智商和人类不相上下，甚至在人类之上，而人类还对他有生杀大权。在这种情况下，对于这些独立思考的机器人物种而言，能够在地球上容下人类么？对于他们而言，消灭人类的优先级高，还是帮助一波人类消灭另一波人类的优先级高？"

孟玄舰:"李教授考虑的非常周到，我想到时候机器人杀灭人类如同人类踩死蚂蚁，而帮助人类进行国家战争，犹如人类带着一波蚂蚁去和另一波蚂蚁厮杀，更大的可能性还是前者。"

在唐斌的主持下，各个领域的专家足足探讨了三个小时，大家谈了很多新颖的观点，并没有什么结论，瑶谣做了完善的会议纪要。

最后唐斌主持总结："这样，今天非常感谢各位，尤其感谢孟长的到来，科技强国，国防是国之根本，我们项目组，在未来的一段时间里，要和孟长经常打交道，今天大家谈到的内容，非常关键，接下来我还会做一下梳理，向上级做一下汇报，最后会形成一个明确的科研方向，以产研结合落地应用为目标，形成一系列战略优势地位的产品，把我们的智慧贡献给国家！

最后再次强调，密级绝密，包括内容、人、时间，严格遵守！

好！感谢各位，散会！"

接下来的半年，涉及人工智能方面的探讨，进行了数次，有几次孟长都带着不同技术领域的军方人员参与。李宇轩在项目领域也带领着各位攻坚克难，输出了一系列的国家层面的落地应用。

早在李宇轩博士后流动站工作时期，他就曾参与gF(长城防火墙）的人工智能策略优化。长城防火墙的人工智能优化为国家的网络安全防护提供了极高的即时策略优化能力，能够自动分析网络数据，现对国家网络安全有潜在风险的国外网站，并将他隔离在gF之外。而这个项目也在民间带来了一些负面反响，有一些声音指责中国的互联网和世界的互联网隔离开来。

同时，李宇轩所在项目组的一些关键技术点也输出给北斗项目组和国家芯片研项目，做出了相应的贡献。

2o16年的春节刚过，瑶谣逐个通知了项目组成员到中科院开会，项目组核心成员参加，孟长也在，并介绍了解放军总参的铁亿智将军共同出席。会议密级绝密，明确了研任务："研人工智能的战略武器，即独立作战机器人，要求具有压制对手的对等武器战斗能力，可用于装备海6空三军，并具有独立编制作战能力。"

研任务提出了几点要求：

1。独立作战机器人必须忠于党，忠于人民，立场坚定，不畏牺牲。

2。独立作战机器人需具备战斗素养，军令如山并兼备群体作战能力与独立作战能力、具有组织决策能力。

3。组织信仰高于生命；保护人民群众生命财产安全高于生命；时刻准备自我牺牲的能力。

科研任务代号：逍遥游，海6空三型机器人代号:灵鲑，灵兽，灵枭。

铁亿智项目组党委书记，唐斌担任项目组组长，李宇轩担任“逍遥游”项目副组长，并隐藏项目身份利用全球创新学院副院长身份负责中美相关研究领域学术信息交流。项目组各自成员定期碰头，不设置单独的费用，由瑶谣作为接口秘书负责一切经费支付接口，相互花销不设预算，瑶谣代号"瑶"，公布了专用加密邮箱和电话，瑶会根据项目进展联络每位项目成员，同时铁书记会给每个项目成员单独交代一个核对方式，一切来自瑶的指令都必须进行核对，放可根据指示行动。

是年3月，展人工智能产业被写入“十三五”规划；国家工信部支持创建北京、天津、杭州、广州、成都等第二批国家人工智能创新应用先导区；国家科技部支持建设多个人工智能创新展试验区，6续批复北京、上海、天津、深圳、杭州等15个国家新一代人工智能创新展试验区。