会聊天的智能体能更好地与人类合作【Nature Communications 2018】
发布时间: 2020-12-31
近日,一家国际团队开发了一种人工智能算法,它在社交技能方面超过了人类,能与人或机器合作,玩各种各样的双人游戏。
该算法被称为S#(“sharp”),麻省理工学院媒体艺术与科学副教授Iyad Rahwan博士领导的研究人员对其进行了测试。在机器与机器、人类与机器和人类与人类三种类型的交互中,大多数情况下,使用S#编程的机器在寻找对双方都有利的折衷方案时,要优于人类。
研究报告的主要作者、计算机科学教授Jacob Crandall说:“如果两个人坦诚相待,彼此忠诚,那么他们就能和机器做得一样好了。”然而,事实上,接近一半的测试者都撒了谎。因此,从本质上讲,该算法的道德感更强(因为它被编程为不说谎),而且它一旦参与合作,也更容易保持下去。
Crandall说:“我们的最终目标是,理解人与人合作背后的数学原理,以及找到人工智能发展社交技能需要具备的属性。”“人工智能要对我们做出回应,并清楚地表达自己在做什么。”它必须能够与他人进行互动。
一个重要发现是:使用口语化的短语(在研究中称为“廉价谈话”)可以增强合作。在测试中,如果人类参与者与机器合作,机器可能会给出“甜蜜”的回应,比如,“我们发财了!”或“我很开心接受你最后的提议”。如果参与者想要背叛机器,或退出之前达成的协议,机器可能就会说“诅咒你!”“你会为此付出代价的!”甚至“真不要脸!”之类的话。
而当机器使用廉价谈话时,人类往往无法分辨对方是人还是机器,这有点像小型的“图灵测试”。
Crandall希望,研究结果可以对人际关系产生长远影响。他说:“社会中的人际关系一直很紧张。多年好友也可能一夜之间反目成仇。这台机器比人更容易找到双方都能接受的折衷方案,所以它可能教会我们如何更好地处理人际关系。”
该研究的详细内容已发布于《自然通讯》。
自从艾伦·图灵提出人工智能以来,人工智能技术是否取得进步的衡量标准,通常是以机器能否在博弈类游戏(例如,国际象棋,德州扑克或围棋)中击败人类来衡量的。大家对人机合作能给人类带来多少益处的关注比较少。合作不需要纯粹的计算能力,而是通过直觉、文化规范、情感、信号和预先进化的倾向来促成的。
我们开发了一种算法,结合了最先进的强化学习算法与信号机制。结果表明,该算法能在不同的两人重复随机博弈中,与人类和其他相当于人类合作水平的算法相配合。这些结果表明,使用一组能取得非凡效果但方式简单的算法机制,可以实现一般的人机合作。