社区论坛

Community Forum

专家论坛
Sonja 发表于:2021-03-31 09:34:03 回复 0 赞 1 34

本文转载自微信公众号“人机与认知实验室”(ID: 9h_9c3c1f805cb8),作者吴丹


 

吴丹说:今天这个题目可能会有很多的不认同,但是我们想说的是任何行业的发展不仅仅取决于技术,还有行业规律和行业基础。智能化行业说起来高大上,实际上在信息化发展的行列里,我们在底层梯队。我们对未来的期许需要走很长的路,需要脚踏实地。下面请看张老师的剖析。


在人工智能方兴未艾的今天,你可能会听到很多有关决策智能化令人血脉偾张的伟大的美好愿景,这给人的感觉貌似在不远的将来,人们可以将决策这件事完全交给机器做出。在智能建筑这个领域当然也不能意外,要求在智能建筑管理系统中包含决策智能化的功能需求,而且很多供应商也就承诺可以做到。


笔者之前也对实现决策智能化的愿景充满希望与孜孜追求,但是,经过这几年的工作实践、特别是拜读了一些人工智能领域先行者经潜心研究的力作之后,掩卷反思,逐渐对人工智能有了一点小小的体会。笔者认为目前提出的“决策智能化”的概念完全是伪命题,至少在实现所谓“通用人工智能”之前是不成立的。


为什么会得出这个结论?


首先让我们看看什么是决策,以及人类是怎样做决策的。


决策的主要任务是:根据不完整的小样本信息去决定如何处理从来没有遇到过的事件;或者基于多维动态条件下的动态趋势去预测未来,并通过调整行动促使发展方向逼近既定目标。


做出决策只能预测但无法预知这个决策将得到结果的是否最优或负向。很多时候只是需要迅速做出决策,是否正向有效要在执行决策过程中验证。另外,决策在执行过程中不应该是一成不变的,而是需要根据显性的态势及隐性感知进行不断的修正。通常来说,一个大决策需要随着事件发展做出很多小决策加以辅助,甚至随着事件的发展与转化,最终完全颠覆原来的大决策,事件处理的最终结果也很可能与预期愿景大相径庭。可以说决策不是一个静态节点而是一个过程,是被事件流引导的决策流而已。(大家能读懂不?我读了好几遍,如果不是很明白,看最后的举例)


目前所有类型的人工智能算法或学习方法都是基于有限的数据(即便是大数据)、有限的条件、有限的显性知识或规律建构在有限的规则基础上的。不可否认,人工智能与大数据技术的计算精确与速度在很多方面远远优于人类,能够为人类决策提供强有力的支撑,但是人类的跨域的综合归纳、演绎、推理、直觉、责任、情感,从未知推出已知的能力等方面,是目前人工智能根本做不到的,也看不到其何时能具有这种能力。一个优秀的人工智能算法或学习方法充其量只能认出“灰犀牛”而认不出“黑天鹅”。


如果将决策权完全交给人工智能,一旦出现凭人工智能现有算法算不出的“黑天鹅”事件,则人工智能则无所适从,甚至崩溃而导致“天下大乱”。因此,笔者绝不赞成在智能建筑管理系统中提出“决策智能化”的概念与诉求。


机器的优势是工于计算,而人类的优势是工于算计;算计定性决定干什么的方向,计算定量给出怎样干的度量和成功的概率。只有人类与机器结合才能做出比较正向的决策,才能根据事件的发展随时做出调整,尽管这个决策与调整不精确,但却是及时有效的。


可能有些读者对笔者的观点不认同,那么先请思考回答如何决策处理一下事件。事件场景是这样的,在你下班回家开车进入小区,你的自动驾驶人工智能先于你发现前面有一个生物,并判断即便是采取紧急刹车的措施,按照目前车速计算最佳结果也有80%的概率撞到那个生物,导致那个生物的受伤甚至死亡;而如果做急转弯处理,即便是最佳处理你也将会有70%的概率撞到路侧墙上,按照目前车速计算你自己有50%的概率受伤,30%的概率死亡。


按照人工智能预置的保护车主安全的处理原则,由人工智能做出的决策一定是首先通知你尽快保护自己,然后在采取刹车的同时直接向那个生物撞上去而不管他是什么。而作为人类的你将如何决策,这要取决于那个生物是什么以及你的道德伦理和对于风险的承受力。请回答以下问题:


1.   那个生物是一只野狗,你如何决策?

2.   那个生物是邻居家的狗,你如何决策?

3.   那个生物是你家的狗,你如何决策?

4.   那个生物是一个小孩,你如何决策?

5.    那个生物是你家小孩,你如何决策?


我想,针对上述五种情况每个人的决策都不同,作为人将承担决策后果,而机器决策只有一个而无需承担后果,因为制造这台机器的制造商只给了尽力保护车主这一条原则。这就是不能将决策权完全交给机器的原因。更遑论在智能建筑管理系统投入使用初期,不要说大数据即便小数据都没有的阶段,连个基本概率都计算不出来。




    立即登录游客您好,可以登录后发布评论哦!
1
回复帖子 返回顶部

请选择对留言操作
删除留言(管理员或楼主)
问题反馈
请将您的宝贵意见反馈给我们