社区论坛
Community Forum
本文转载自微信公众号“人机与认知实验室”(ID: 9h_9c3c1f805cb8)，作者韩建雨 等
摘要：随着以机器学习、深度学习和大数据为代表的人工智能技术不断发展，新一轮的产业革命正在到来，社会的经济和产业结构、劳动力市场分工发生了很大的变化，然而当前人工智能技术还面临着三道难题：可解释性、常识和知识，在它推动经济增长、改变产业结构的同时，我们需要更好的引导资本与技术的协调发展，构建新型智能经济生态。
关键词：人工智能；产业结构；人机融合智能
2017年10月19日，AlphaGo团队在《自然》杂志上发表了一篇论文，为人们展示了基于人工智能的游戏智能体AlphaGo的新版本AlphaGo Zero，它在没有学习任何人类对战数据的情况下，在40天内变得比之前所有版本的AlphaGo强大得多。这代表着人工智能(AI)可以从一无所有中学习或训练自己来打败人类专家，这是人工智能领域发展的一个里程碑，对人类社会具有重要的意义。
历史上有过许多重要的技术变革。由于蒸汽机的现世，开启了“工业革命1.0”的时代，从此机器开始不断升级换代来帮助人类进行生产和劳动，导致了社会生产率的提高。到了20世纪初，由于电力的普遍使用，人们开始通过使用流水线进行普遍的大规模生产，这一时期可以称为“工业2.0”，在此期间，工人们通过简单的编程来控制机器，以此来提高工作效率、生产率和产品的质量，在某种程度上机器开始取代劳动的某些功能。进入“工业3.0”时代之后，计算机的发明和信息通信技术的出现极大地改变了生产功能，劳动结构和工作所需的技能发生了变化，虽然许多传统的工作岗位被取代，但同时也创造了许多新的工作岗位。计算机程序和软件虽然越来越强大和高自动化，但它们仍然需要编程、控制和应用，在这之前，机器仍然是人类劳动的工具。上述三次科技革命都影响了社会生产率和经济，然而，我们现在所面临“工业4.0”似乎有很大的不同，它在未来可能会改变人类和机器在社会生产和生活中所扮演的角色，人工智能技术可以使机器产生一定的“智能”，让它们在更多方面代替人类的劳动。
人工智能领域包括机器人、神经网络和机器学习，以及符号系统。“自动化”、“数字化”和“计算机化”可能只反映了人工智能的一部分，自动化和机器人不一定是人工智能，因为我们可以通过简单的编程让它来执行给定的一些任务。目前的人工智能依赖于机器学习、深度神经网络、大数据、物联网和云计算等，它的一个关键特性是可以通过数据和计算来决定下一步的行动，例如它可以从物理环境中获取数据，然后通过这些数据来学习或者决定下一步的动作。人工智能的快速发展不仅是科学技术上的重大突破，而且对人类社会和经济及经济的发展都产生了深远影响，人工智能作为一项发展迅速的前沿技术，已经成为研究的热点。
一、促进经济增长，改变劳动力结构
人工智能作为当前人类科技水平的代表，能够大幅的提高各行业的社会劳动生产率，从而推动宏观经济的快速增长，在近几年内，以云计算、大数据、人工智能为代表的新一轮科技革命使得现有的信息科技技术快速迭代并逐渐大规模的实行商业化应用，改变了现有的经济模式。人工智能作为当前智能技术发展的核心力量，有望为当下数字经济的发展带来新的契机和变革，成为我国乃至全球经济增长的巨大推动力。作为一种全新的生产要素，人工智能将会在三个方面推动国民经济的平稳快速发展：创造新的虚拟劳动力；补充劳动力、提高现有的技术与能力；成为创新驱动力、推动创新发展。人工智能在提高社会生产率的同时，也将为经济贸易提供新的模式和机会，同时促进经济的快速增长。当前全球生产率处于低速增长的状态，因为对于任何一个经济体来说，都需要一定时间来学习、吸收并有效利用新技术，特别是会对整个经济体产生重要影响的复杂技术，比如人工智能，这些时间既包括我们建立足够大的资本量并开始产生影响的时间，也包括了投资人工智能（培养专业技术人员和业务发展）和补充投资所需要的时间。以人工智能为代表的相关技术目前已经对全球价值链的管理及发展产生了一定影响，企业可以通过它来改善对未来趋势的预测，例如消费者需求的变化，以便更好地应对供应链中的风险；可以利用机器人相关技术大幅提高包装的效率以及库藏搜检的效率；还可以使用人工智能改善供应链上资产的物理检查和维护。
以人工智能为驱动的技术给经济和贸易发展带来的好处将会是巨大的，世界头号咨询公司埃森哲（Accenture）曾做过一项预测，到2035年人工智能将会使我国经济增长率提高16%左右，使发达国家的年经济增长率提高一倍，并使得各行业的利润增长38%左右。人工智能技术在推动社会生产力不断提高、经济社会不断发展的同时，也使人们变得更有效率、不断改变着人们的生活和思维方式，从而使人们有更多的时间和机会来想象、创造和发明新事物，成为重要的创新驱动力。
科技的进步是人类的才能和智慧逐渐累积的结果，每一次的科技革命，都对劳动者的知识和技能要求有所不同：蒸汽时代不仅要求劳动者要掌握工艺生产的步骤，而且要学会在生产中协调人机关系，电力的应用要求一部分劳动者具有某种专业能力，以达到某种精密分工的要求。人工智能技术是建立在计算机科学和统计概率学的基础之上，在算法操纵下的智能机器首先取代了简单而且具有重复性的低技能岗位，而技术研发、软硬件开发、故障检测等有较高要求的岗位则变得更为重要，随着智能化技术和水平的不断提高，劳动者整体的知识和技能水平会不断增高，劳动分工越加细致，知识型、技术性的劳动者将会取代重复型的简单劳动者变成劳动者的主体。
总体来说，人工智能在未来取代的应该是从事重复性劳动的劳动者，未来这部分人的市场需求及福利待遇可能会同时降低，对于具有较强专业技术能力或者认知能力的劳动者来说，由于其特定的专业技能存在可变性因而难以被人工智能或自动化技术取代，这一类劳动者的市场需求反而可能会增加。人工智能和自动化技术取代了具有重复性的相对较低技能的劳动力，而增加了对高技能工人的需求，从而至少在短期内可能会给收入不平等带来上行压力。因此，获得高质量的教育变得更加重要，相对富裕的家庭将能够为他们的孩子提供良好的教育，他们将获得更高的技能和能力，在未来劳动力市场的竞争中取得优势。
二、影响资本和技术的发展
人工智能技术正在逐渐催动新一轮的产业结构变革，成为社会经济发展和科技创新的重要驱动力，其催生出的新的技术、产品、服务、模式等正在日益改变着社会产业结构、人们的生活以及思维方式。在这场人工智能的潮流中，国内外各个科技巨头无疑成为了这场产业革命的主力军，谷歌、微软、腾讯、阿里巴巴等资本巨头在人工智能方面的研究遥遥领先，这种将资本与智能技术融为一体的科技巨擘无疑对人工智能以及经济社会未来的发展有重大和深远的影响。
几乎所有科技革命从出现到不断发展，都是由人机环境系统不断推动而导致的，而资本和技术则是人机环系统中重要的一部分，现如今，资本和先进的科学技术都是经济财富的源泉，如果能将两者有机的结合起来，则会产生一种极为强大的“超级权力”。在当今的人工智能和数字经济时代，很多的突破性成果都是先由小的初创公司或者开发团队率先研发出来，而后被谷歌、BAT等大型公司收购的。人工智能技术有三个重要的支柱，即算法、算力和数据，一般来讲，谁拥有更先进的算法、拥有最快的计算芯片和最多的数据，谁就能成为人工智能领域的领导者，然而从本质上来讲，以统计概率学为主的人工智能算法的计算结果仅仅代表了某一事件可能发生的概率，算法本身并不具备推理能力，而且其仅仅适用于某一特定领域或场景，一旦转移到其他领域，算法就会失去原有的效果；数据同样是如此，即使再好再多的数据，也必须由开发者深入发掘其中的特征，同时与应用场景、意图、用户体验相结合之后才能得到其真正的价值。所以说，我们所谓的“超级权力”拥有者与众多小团队和研究院一样，都有开发出人工智能相关颠覆性技术的可能性，而大公司独有的作用则是收购、整合、应用、推广新技术，它们对人工智能技术以及未来发展的影响是有限的。
人工智能技术的发展和普及是一个相对漫长的过程，其需要的资本投入可能会导致社会各阶层和产业的发展潜力、资源占有率和影响力差距增加，大型的科技公司或组织将占有全球大部分产业结构、人才、技术和资金。市场经济的快速发展是国家利益的基本保障，国家应当对这种企业进行正确、有效的引导和监督，避免滥用人工智能技术从而扰乱社会秩序或因为资本的逐利性而激化社会矛盾等情况的发生。资本与技术进一步结合既可以促进科技的进步和创新，推动经济社会良性快速的发展，同时也有可能出现垄断集团，限制科技的更新和社会的进步。如何使资本与技术两者协调发展，各取所长，是我们始终要思考的经济-社会和资本-技术发展难题。
当前人工智能技术还面临着三个难题：学习、常识与可解释性。
学习：人类在学习过程中学的不是知识，而是获取数据、信息和知识经验的方法，而机器学习学的则是数据、信息和知识。相似性是自然界的一个基本特性，不同的系统之间存在着相似性；同一系统中的不同子系统与原系统之间也存在着相似性。机器学习的长处在于学习、迁移这种同质性、线性的相似系统，但是它很难在异质性、非线性等相似系统之间进行类比与转换，而人不同，人能够在线性与非线性、同质与非同质、同构与非同构、同源与非同源、同理与非同理、拓扑与非拓扑、周期与非周期、家族与非家族之间随意转换。机器的学习离不开时空与符号，而人的学习随着自身情感、价值、事实改变而不断发生变化；机器的学习遵循和依赖已有的规则，而人则是在学习中不断改变旧规则、打破常规则、建立新规则。例如优秀的领导者会在实践中不断打破规则创新改革，而不是循规蹈矩、四平八稳地逐渐腐朽和没落，更不是眼睁睁看着疫情肆虐而双眼却盯在竞选和权力上。
2017年3月16日美国国防高级研究计划局（DARPA）计划启动 "终身学习机"（L2M）项目，旨在发展新一代机器学习技术，并以此为来推动第三次AI技术浪潮。第一次 AI 技术浪潮以“规则知识”为特征，例如 Windows 操作系统、交通信号灯的控制等。第二次 AI 技术浪潮以“统计学习”为特征，例如贝叶斯网络、神经网络等。虽然上述 AI 技术对特定的问题有很强的推理和判断能力，但并不具备学习能力，很难处理一些不确定问题。第三次 AI 技术浪潮将以“适应环境”为特征，AI能够理解环境并发现逻辑规则，进行自我训练，建立正确的决策流程。由此可见，AI的持续自主学习能力将是第三次 AI 技术浪潮的核心动力，L2M 项目的目标与第三次AI浪潮“适应环境”的特征正好契合。通过研发新一代机器学习技术，使AI拥有从环境中不断学习并总结出知识的能力，L2M 项目将为第三次 AI 技术浪潮打下坚实的技术基础。
实际上，生活中有众多的无限的学习，就算是人都很难拥有终身学习的能力，更何况是没有“常识”和“类比”能力的机器，所以终身学习可能只是我们的梦想。人类的学习是不同角度的、全方位的学习，一个对象可以变成多个对象，一种关系可以变成多种关系，一个事实不但可以变成多个事实，而且可以变成多个价值，甚至有时候人的学习还可以将多个对象变成一个对象，将多种关系变成一种关系，将多个事实变成一个事实或者一个价值。机器学习本质上是人认知能力的显性化，是一种“自以为”“是”，人们常常只能认出自己习惯或熟悉的事物，这种的局限和狭隘自然而然地融入了模型和程序中，因而，这种一多的变换机制一开始就有不足之处。当然，机器学习也并不是一无是处，虽然可能无法做到真正的智能，但是也可以朝着自动化的方向不断发展。
常识：正如药一样，所有的知识都有其前提和适用范围，如果缺少了前提条件，知识便会产生副作用。知识只是常识的素材和原材料，机器只能做到“知”而无法拥有“识”，也就做不到知行合一。知识应该与思想结合起来而不仅仅是依附于思想，如果不能运用知识改变思想，使思想变得完善，那么知识就变成了一把双刃剑，可能给它的主人带来副作用或伤害。而人类避免知识产生副作用的良方之一便是常识，常识往往是碎片化的，而态势感知就是通过感、知这些碎片化常识的状态、趋势从而产生非常识的认识和洞察。人类可以通过自己的常识来感知世界、理解世界，而典型的人工智能体则缺乏对物理世界运行的一般理解、对人类动机和行为的基本理解（如直觉心理学）和对普遍事物的认知。
2017年，DARPA战略技术办公室（STO）提出了“马赛克战”的概念：未来战场应是由一个个低成本、低复杂的系统组成的拼接图，将这些系统以不同的方式连接起来便可产生理想的、适应于任何场景的效果。这种连接方式被描述为“以新的、令人惊讶的方式组合当前已有的武装力量”，其重点在于有人/无人编组、分解的能力、允许指挥官根据实际情形实时调动海陆空，而不考虑哪支部队在提供作战能力。
无论是我们所说的“机器常识”还是“马赛克战”，其实都是对抗博弈的背景下人-机-环境的新型拓扑系统。这个系统中真正有价值的不是那些基本的知识和规则，而是应用这些基本的知识和规则在实践中获得成功的人，比如毛泽东、粟裕等非科班出身的军事家和战略家便以自己的常识最终击败了黄埔系校长和将军们的知识。
可解释性：人工智能的可解释性问题一直备受关注，欧盟在去年出台的《人工智能道德准则》中提出AI未来应该向“可信赖”的方向发展，其中“可信赖”包含安全、隐私、透明和可解释性等方面。人工智能的应用以输出决策判断为目的，可解释性可以让人理解机器做出决策或判断的原因，AI的可解释性越高，人们就越容易理解模型做出的某种决策或预测的原因，可解释性指的是对模型内部的机制或机理的介绍以及对模型输出结果的解释。其重要性体现在：建模阶段，帮助研究人员理解模型，从而对不同的模型进行选择对比和调整优化；投入运行阶段，向应用方提供模型的内部机制和输出结果的解释，增加使用人员对模型的信任度。
目前，美国的人工智能技术在世界上处于领先地位，但在人机融合智能领域美国并没有太大的优势，这是由于人机融合智能中的人造成的。例如在这次疫情之中，美国的医疗水平和设施应该比中国的更为先进，但是由于领导人的失误使这些优势荡然无存。美国国防部2021年共申请289亿美元用作建设现代化的核武器设施，体现了特朗普政府的战略发展重点：提升核指挥、控制和通信（NC3）基础设施的准确度、速度以及自动化水平，与此同时产生了一个重要的问题：在未来的核战争中，人工智能自主系统在决定人类命运方面将扮演什么角色？当前的辅助决策系统处于起步阶段，很容易出现意想不到的错误和状况。机器学习算法虽然擅长人脸识别、检测等特定场景下的任务，但同时也会学习到训练数据中包含的内在“偏见”。所以只要核武器存在，人类就必须拥有对核武器的最终控制权，这种情况下人机融合智能显得异常重要。
人机融合智能既不同于人类的智能也不同于机器的智能，而是在人-机-环境系统交互中充分结合人和机的优势产生的一种新智能形式，是侧重于将人脖子以上的大脑与“电脑”相结合所产生的新型智能体。人的智能在于事前无数据，机器的智能体现在事后有数据，而数据的价值和意义则是由人来决定的，只有将人的认知与机器的计算结合起来才是未来智能领域发展的方向。
目前距离可解释人工智能还有一段距离，根本原因在于其中包含的不仅仅是数学语言，还有自然语言，甚至是思维语言。而人机融合智能不仅能自由的选择主体，还能适时地进行主体变换，在人-机-环境系统交互的过程中实现深度态势感知，有机地实现数学语言、自然语言、思维语言之间的能指、所指、意指切换，进而准确、快速的实现我们的意图和目的。
