2020年1月，兰德发布了题为《DeterrenceintheAgeofThinkingMachines》（思维机器时代的威慑）的研究报告，分析了会思考的机器人（ThinkingMachine，人工智能）如何改变未来战争。在报告中，研究人员讨论了威慑的关键概念，给出了人工智能和自主系统的简要背景，确定了随着人工智能系统的使用可能会对威慑和升级带来影响的关键因素，呈现了多个国家使用人工智能和先进自主系统进行对抗的未来战争场景，给出了这些技术对威胁和升级带来的潜在影响，并确定了未来的研究领域。该报告研究并尝试回答以下4个问题：将具有思维的机器人和自主系统加入到各国表明使用武力及其潜在后果的实践中，会产生什么影响？当能够以机器的速度做出决策，同时由不危及使用国公民生命的力量执行时（比如机器人），威慑和升级会发生什么情况？这些能力的增强会怎么样对威慑带来影响？有哪些潜在的误判和意外的后果？ 文章仅供参考，观点不代表本机构立场。作者：YUNAHUHWONG,JOHNM.YURCHAK,ROBERTW.BUTTON,AARONFRANK,BURGESSLAIRD,OSONDEA.OSOBA,RANDALLSTEEB,BENJAMINN.HARRIS,SEBASTIANJOONBAE发布时间：2020年1月编译：学术plus张涛来源：一、概述人工智能和自主系统有改变未来战争的巨大潜力。随着战场上无人系统的使用、商业级AI取得的突破、许多国家将AI和自主系统应用于军事的兴趣，都使得人工智能和自主系统有望广泛应用于未来战争中。 二、人工智能与自主系统的兵棋推演该主题研究的核心是一场兵棋推演，其中涉及美国、中国、日本、韩国和朝鲜等国家。在未来这些国家将人工智能和自主系统应用于战争场景中，中国是一方，而美、日、韩是与中国对抗的另一方联盟。该战争场景中，中国是全球大国，美国、日本和韩国仍然是与中国对抗的盟友。推演的目的不是为测试或发现使用这些技术的玩家如何与其他人抗衡，而是在操作框架中进行有条理的对话，讨论人工智能和自主技术如何随着事件的发展影响局势升级和威慑方式。 以下为推演假设（推演过程中，中国用“Z国”代替）：兵棋推演始于Z国试图对该地区实施更大的控制，美国和日本抵制这一企图。推演在几个方面进行了冲突升级，先是无人系统之间的冲突，最终演变成Z美两国军事人员被杀的冲突。美国和日本进行联合演习，故意挑衅Z国。为了对日本某些港口实施封锁，Z国采取了逐步升级的步骤，宣布进行无限制的潜艇战争，并击沉了一艘日本无人货船。美国和日本的反潜战装备随后击沉了一艘Z国载人潜水艇，这是该推演场景中的第一艘载人潜水艇。美国和日本在这一点上无法缓和局势。Z国以导弹袭击美国和日本的舰队作为报复，也造成了人员伤亡。推演结束时，危机仍在升级。  三、兵棋推演的相关发现与无人系统相比，载人系统可能更有利于威慑。在兵棋推演中，美国和日本的系统更多地使用的是无人系统，而中国有很多的载人平台。由于中国载人系统平台上存在人员，使得美日两国在使用武力时更加犹豫，并经常将寻找方案以避免引发进一步升级的责任推到美日身上。用无人系统取代载人系统可能并不会降低安全承诺。尽管在威慑程度方面，载人系统可能比无人系统要好，但用无人系统取代载人系统并不总是被视为美国减少对该地区盟国承诺的标志。自主系统的加速使用确实导致了战争的意外升级。设置为自主模式的系统对人类其实并不打算使用武力的情况，可能会意外的作出使用武力的反应。距离仍然非常重要。人工智能在决策中的存在，创造了混淆玩家和将不确定性插入动态的可能性，参与推演的国家在不同层次上混合了不同类型的的人机架构，且玩家可能显著高估对手在不可观察领域的现代化程度，比如人工智能。四、对威慑的影响自主和无人系统会影响延伸性威慑以及向盟国兑现承诺的能力。在兵棋推演中，盟国并不认为用机器人取代美军是承诺减少的表现，但情况并非总是如此。如果盟国认为自主和无人系统更有能力，或者他们认为美国领导人更可能使用自主系统，那么自主系统可以提高美国常规、扩大威慑的可信度。另一方面，盟国可能会把美国对无人系统的依赖看作是不愿意在与对手的对抗中让美国的生命处于危险之中。这可能会降低美国向盟国保证的能力。广泛的人工智能和自主系统可能导致意外的升级和危机不稳定。以机器速度做出的决定也有可能使危机以机器的速度升级。在旷日持久的危机和冲突中，各方可能有强烈的动机尽早广泛地使用自主系统，以获得军事方面的优势。这就增加了首次打击不稳定的可能性。人工智能和自主系统也有可能会降低对手之间的战略稳定性，并进一步扩大使用武力的可能，因为这些系统会降低军事人员的风险。美国和中国之间的自主系统军备竞赛已经迫在眉睫，这可能会加剧不稳定的情况。人类与智能代理的不同组合可能会影响两者之间的升级动态。在兵棋推演中，美国和日本军队走上了一条主要使用无人系统和有人控制的道路，而中国军队则使用由机器控制的载人系统。这就形成了一种动态，其中美国和日本由于不愿意杀害中国人曾多次尝试解除危机，但中方似乎并不觉得有必要解除危机。机器在理解人类威慑性方面可能会更差。人工智能正被积极用于创造战术和作战优势，这可能会误解对手尝试解除危机的信号，和避免进一步升级或主动解除危机的情况。传统的威慑主要是关于人类试图了解其他人类，而在这个智能的新时代，威慑涉及到许多其他途径的理解。人类不仅必须了解敌手，还必须充分了解自己的（智能）机器和敌手的（智能）机器。同时，机器还必须准确地理解友军、敌军和敌军的（智能）机器。这些其他途径的理解可能会带来误解和误判的可能性。随着时间的推移，持续的现代化意味着国家使用的系统将可能是新系统和遗留系统的混合体，这可能会使人们难以理解军队中全部的人机交互。在过去，自动系统经常会有无意中与友军或平民目标交战的案例，这可能会带来一些更先进系统的技术事故或故障的质疑。军事自主系统并不是一个新的概念，地雷、鱼雷、方阵反导系统和宙斯盾武器系统等自主系统的交战也不鲜见。在许多过去的案例中，人和系统识别错目标是一个常见问题。人工智能有可能提高目标识别率，减少这种误差。在与更复杂的系统进行交互时产生的人类错误可能会带来一些新的非故意的接触。人工智能和自主系统有可能会对威慑带来潜在的巨大影响。机器决策的速度、机器决策与人工理解的差异、不同国家是否愿意使用自主系统、在该领域缺乏经验、以及在相关领域能力的持续发展都是可能会产生影响的因素。当前的规划和发展还跟不上处理这些新技术带来的升级问题的步伐。五、未来研究方向进一步研究威慑理论和其他框架，明确考虑人工智能和自主系统的潜在影响。为了成功管理预期的威慑活动和避免非预期的升级活动，非常有必要进行一些其他的思考。阻止人工智能和自主系统向军事领域应用的扩展是不可能的，所以在执行防御政策时，需要将其影响纳入考虑范围。在核威慑方面已经做了很多工作，因此研究人员建议：评估新系统的升级潜力。研究人员建议对提出的人工智能实现方案进行系统级的评估，以评估在其设计、开发、测试或使用中应考虑的所有升级影响。其中既包括用来训练算法的数据，也包括在测试后对系统进行建议的检查以监视现场的行为，以及将系统集成到人员和其他机器的流程中，以更好地管理可能发生的意外升级。评估新作战理念的升级潜力。除了了解在系统层会发生什么外，还需要了解AI赋能的决策过程如何处理决策，以及使用AI和自主系统的作战概念是否会导致错误计算或引发意外升级。给定的概念是否允许降级？怎么用？给定的作战概念本质上是否更具有升级性，或提供更多的作战优势？作战和战略层面的其他战争场景。兵棋推演对于更好地理解意外的后果来说是一个特别有用的工具。报告中，研究人员探讨了在一个地理区域范围内，包含一周的活动的作战级推演。具有更多场景、更多对手和盟友的推演可能会得出不同的观点。在更大时间范围内进行战略层面的推演可能会引发升级和军备竞赛的不稳定性。进一步研究对手和盟友的自主系统及其对自主系统的使用理念。威慑和保证不仅仅是要了解自己所拥有的能力，也涉及对对手和盟军能力的了解。知己知彼，百战不殆，对双方的人工智能和自主系统以及使用理念的了解是非常重要的。这些信息有望改善与盟国的互操作性，使美国的规划者可以更好地预测对手的决策周期。增加与对手和盟国的透明度。在冷战期间，美国、盟国和其他合作过的国家需要考虑开发新的信号和机制来管理升级的信号和机制。军队如何构造和使用这些系统的透明度可能有助于更好的沟通、减少误解和误判。原文链接： https://www.360kuai.com/pc/9b1a4fa941ae85695?cota=3&kuai_so=1&sign=360_da20e874&refer_scene=so_3    

12月8日，由浙江大学、杭州市科学技术局、萧山区人民政府、百度公司、全国高等学校计算机教育研究会共同主办，浙江大学人工智能研究所、萧山经济技术开发区管委会、萧山区科学技术局联合承办的“数字经济与智能制造萧山峰会”暨2020中国高校计算机大赛-人工智能创意赛总决赛颁奖典礼在杭州萧山召开。峰会凝聚了一批具有创新精神的专家学者、优秀青年、领先企业，共同关注和探讨数字经济与智能制造的发展前景与趋势、智能制造对新经济模式的革命性驱动、智能制造人才需求等主题，搭建起“AI赋能，产学协作，创新引领、交叉融合”的跨学科交流平台。峰会特邀中国工程院院士、国家新一代人工智能战略咨询委员会组长、教育部人工智能科技创新行动计划专家组咨询组组长、中国工程院原常务副院长潘云鹤，中国科学院院士、清华大学教授、国际著名焊接专家、西南联大北京校友会会长潘际銮及团队冯消冰博士，中国工程院院士、中国机械工程学会副理事长、中国图学学会副理事长谭建荣，分别做主旨报告，百度集团副总裁、深度学习技术及应用国家工程实验室副主任吴甜作为企业代表进行报告分享。萧山区人民政府副区长倪世英，杭州市科学技术局党组成员、巡视员宋新剑现场致辞。2020中国高校计算机大赛-人工智能创意赛颁奖典礼隆重举行，43支高校团队及数十位其指导老师获得了奖状和奖金。作为峰会的重要环节，百度与智海-新一代人工智能科教平台举行了合作发布仪式，双方表示，将共同打造人工智能深度学习的微认证课程体系，一方面发挥高校老师对理论的深刻理解与丰富的教学经验，另一方面百度飞桨将为学员提供产业实践的实训平台;同时，双方希望通过高校与企业的联合，可以肩负人工智能科技教育、产学协作的使命，更好促进跨学科人才培养，最终实现人工智能的广泛落地。中国智造驶入“快车道”：开源开放成为技术创新和产业发展重要模式科技革命和产业变革日新月异，数字经济蓬勃发展，积极推进数字产业化、产业数字化，引导数字经济和智能制造深度融合，是推动实体经济高质量发展的“双引擎”。会上，潘云鹤院士发表《经济智能化模型的分析》主题演讲，他提出：“5G的出现会使得工业互联网进入一个新的阶段。除了5G之外，人工智能走向2.0将对工业互联网平台和应用产生巨大影响，具体包括5个层面：工厂智能化、企业经营的智能化、产品创新的智能化、供应链链接智能化以及经济调节的智能化。”被称为“中国最强焊工”，今年94岁高龄的潘际銮院士通过视频的方式为大家介绍了爬行式智能焊接机器人。他强调，必须做好知识产权保护，维护好中国智造的品牌，同时要不断创新，让科研者的成果落地到企业转化成产品，这样科研成果才有价值，并请团队核心成员冯消冰博士现场做了详细介绍和展现。智能制造领域专家、浙江大学谭建荣院士分享了《智能制造与数字孪生：关键技术与发展趋势》的主题报告，为大家解析了当下智能制造和数字经济发展过程中关键技术担任的重要角色，并展望未来智能制造在数字化和人工智能加持下的前景。吴甜作为企业代表以《人工智能开源开放平台夯实创新基座》为主题发表演讲，她表示，开源开放已经成为技术创新和产业发展的重要模式，以百度飞桨深度学习平台为代表的人工智能开源开放平台既是智能时代的操作系统，也夯实了当下中国的创新基座，已助力智能制造行业实现大量的智能化应用。飞桨是百度研发的我国首个开源开放、功能完备的产业级深度学习平台，经过多次迭代升级，具备开发便捷的深度学习框架、超大规模深度学习模型训练技术、多端多平台部署的高性能推理引擎、产业及开源模型库四大领先优势。在智能制造行业，飞桨已有大量应用，3C微小零部件检测、笔记本外壳检测、总装车灯检测等基于飞桨打造的方案均实现了速度快、准确率高、效率大幅提升。除此之外，飞桨还为各行各业的AI大生产提供基础底座，研发的百度智能云AI产品涵盖了互联网、工业、农业、金融、城市、医疗、能源、教育等行业。值得一提的是，今年国家强调要充分认识推动量子科技发展的重要性和紧迫性，加强量子科技发展战略谋划和系统布局。百度研究院量子计算研究所所长段润尧也在峰会上演讲表示：“量子计算、量子通信以及量子精密测量等方面的先进成果，将逐步融入人工智能的技术发展和应用落地之中。”浙江大学人工智能研究所所长吴飞教授，中科院计算所大数据研究院院长王元卓，法定数字货币研究院院长、国际电联法定数字货币焦点主席浙江大学文武教授也分别带来主题演讲。峰会的“智能革命的当下与未来”圆桌论坛上，北京邮电大学陈光，百度杰出架构师、飞桨产品负责人毕然，中科院计算技术研究所王元卓，浙江大学教授何钦铭，香侬科技创始人李纪为，传化集团智能物流负责人董直烨等嘉宾展开讨论。“十四五”规划建议中，多次强调“智能制造”是下一阶段的重点发展目标。随着新技术新业态的不断涌现，人工智能凝聚全球智慧、助力全球经济复苏的力量更加凸显。AI人才培养：智能时代不可或缺的源动力峰会的前一天，2020中国高校计算机大赛-人工智能创意赛刚刚完成了总决赛的激烈角逐。来自北京大学、武汉大学、北京理工大学、华东交通大学、西安电子科技大学、桂林电子科技大学、四川农业大学等高校的数十支团队获得了创新组和赋能组的特等奖和一二三等奖，峰会现场为获奖团队、指导老师进行了颁奖。据悉，2020“中国高校计算机大赛-人工智能创意赛”是面向大学生群体规格高、覆盖广的高校AI竞赛，自2018年起，已经连续举办三届。本次大赛共有6000多名全国大学生报名参赛，100%覆盖双一流高校，同时吸引了国外知名院校和外国大学生参与其中。大赛旨在激发学生创新意识，提升人工智能创新实践应用能力，培养团队合作精神，促进校际交流，丰富校园学术气氛，推动“人工智能+X”知识体系下的人才培养。智能时代的人才梯队建设尤其是智能制造领域的人才需求，同样也是与会专家学者与企业代表的关注重点。浙江大学人工智能研究所所长、教育部人工智能创新行动计划专家组工作组组长吴飞教授在分享中表示，希望通过智海新一代人工智能科教平台，让高校依托企业积累的AI能力培养更多优秀的AI人才。河南理工大学芦碧波、东华大学刘晓强、浙江工业大学付明磊、中南大学郭璠以及北京邮电大学崔原豪等嘉宾围绕“科研育人与创新实践”话题进行了深入探讨。大家一致认为，想要加快推进人工智能落地，推进校企合作是至关重要且必不可少的一步。百度以人工智能开源开放平台作为创新基座助力人才培养，目前已构建起涵盖学习、实践、比赛、认证、就业在内的全周期服务体系。面向企业，设立了黄埔学院、AI私享会、AI快车道等培训项目;面向高校，设立深度学习师资培训班，支持200余所高校开设人工智能课程。截止目前，百度已经培养AI人才超过100万，未来5年百度还将培养500万AI人才，为中国智能经济和智能社会的发展提供AI人才保障。2020年，“新基建”成为疫情后国内经济快速恢复和经济高质量发展的强劲动力。百度作为国内AI领域“头雁”，未来也将继续创新技术、积极联合政府、企业、高校等多方建立起人才培养生态，加快让AI渗透到产业、社会以及生活中，提速智能经济发展。