情感计算如何解决实际场景需求 让机器学会 读心术 (情感计算算法)

文章编号:36666 资讯动态 2024-11-30 情绪识别情感计算深度学习

没错,当你在渴望get“读心术”技能的时候,机器已经能完美的实现了。目前,国内的翼开科技、以色列公司BeyondVerbal以及美国的Affectiva和Emotient都在做这情感计算解决方案。其应用场景也非常广泛:飞行员情绪监控、呼叫中心情绪考核、学生情绪监测甚至是智能硬件都可以使用这类算法,而且精度可以达到90%以上。

简单来说,机器是根据人的心率、呼吸、语音甚至是面部表情等特征,再通过特定的模型算法就能解读出人的情绪状态,从技术角度看,数据挖掘、机器学习等都是情感计算的基础。

那么完成情感判断需要哪些模块?以及具体实现原理是怎样的呢?本期硬创公开课,雷锋网邀请到了翼开科技创始人魏清晨为大家分享情感计算的技术问题以及应用场景。

嘉宾介绍

让机器学会“读心术”,情感计算如何解决实际场景需求? | 雷锋网公开课

魏清晨,翼开科技EmoKit创始人,目前全面负责EmoKit公司的战略规划、运营管理、团队建设,团队里两名核心科学家均为海归博士后。

EmoKit,即海妖情感计算引擎,包括情绪的识别、优化、表达,是人工智能的核心基础设施之一。自2015年创立半年获得600万投资,如今已经超2000万用户,今年获得近2000万元订单。Emokit先后获得美国麻省理工学院举办的“MIT-CHIEF全球创业大赛”中国区第一名,芬兰“Slush World 2014全球创业大赛”名列第一,工信部和全国科协2015全国移动互联网创业大赛“特等奖”,清华大学H+Lab“幸福科技全球挑战赛”冠军。

以下内容整理自本期公开课,雷锋网做了不改变愿意的编辑

情感计算的模块和价值

就我们现在在做的事情来看,我们把情感计算分成3个模块:第一部分是情绪识别,通过语音、心率、表情和写字过程中压感和速率的变化来判断用户的情绪。

情绪识别

让机器学会“读心术”,情感计算如何解决实际场景需求? | 雷锋网公开课

情绪的类型一共有24种,积极和消极各12种。在情感计算的发展过程中,算法也经历了六次升级。第一代我们通过量表测评,第二代加入了心率和呼吸,第三代针对个体增加了纵向的学习和训练,第四代我们对情绪做了一个细化(从原来的5中情绪增加到了24种),第五代加入了表情和笔记的情绪识别,第六代主要做两块工作:一个是判断了用户的情绪之后,基于单一的事件背景进一步识别用户的意图;第二个工作就是把语音、表情和视觉的行为、文本做一个多模态的拟合。

情绪优化模块

情绪识别只是第一步,未来需要解决的问题是调整用户的情绪。从上图可以看出,通过语音、心率表情和笔记这些信息判断用户的情绪之后,还可以通过推荐内容来缓解用户的情绪。

让机器学会“读心术”,情感计算如何解决实际场景需求? | 雷锋网公开课

例如,翼开科技2011年上线的一款应用就会给用户推荐诗歌、书法、音乐等等,后来在音乐内容上做得更加深入,我们通过分析音乐的音高、节奏、旋律和音强,3分钟的歌曲会采集6000个数据点分,根据这些信息来给歌曲打情绪标签。现在已经标注过得音乐数量超过了160万首,另外,像图片、视频都是可以通过用户的情绪来做内容匹配,最终达到缓解情绪的目的。

情绪表达

让机器学会“读心术”,情感计算如何解决实际场景需求? | 雷锋网公开课

情绪表达是利用情感合成技术,让一段语音、表情或者肢体动作模拟人的情感,让机器带有情感的表达出来,这样就可以提升人和机器的交互体验。

举个例子,如果送餐机器人只会识别菜和客人,这是基础服务;但要增加机器人的附加价值,需要送餐机器人读懂客人的情绪,客人情绪低落的时候,送餐机器人会以一种比较舒缓的情绪对话。

情感计算技术实现的路线

目前翼开科技和中科院心理所、清华大学心理系和美国卡内基梅隆大学语言技术研究所。

这实际上是两个流派:前面的两个机构代表的是基于理论研究的专家模型,卡内基梅隆大学是基于神经网络、深度学习的模型。

目前翼开科技在做的有一部分是基于深度学习的,也有一部分是基于专家模型。我们认为这两类的瓶颈都逐渐显现出来了,需要相互融合。

为什么会用深度学习来做表情的识别?

现在做深度学习的瓶颈在于大量标注过的数据,不过表情标注会相对比较容易,一张人脸只判断喜怒哀乐,一般情况下1秒就可以识别出一个人的表情,如果有几十万张表情图片,用众包的方式所需的时间和费用都不会很大。

不过有一些数据不太方便做标注,例如语音。

三分钟的语音,我们必须听完三分钟才能做情绪的标注,标注的工作量在无形中增加了上百倍,而且相对表情而言,语音的情绪表达更加隐性,所以也很难用深度学习的方式来实现语音的情绪识别。

还有一种是普通人很难进行标注的,如心率。即使你是一个专业的医生,看完一段心率图也无法确定测试对象心率变化的原因(开心、焦虑、愤怒)。

所以,现在表情是基于深度学习的,语音和心率基于专家模型。

不过刚才也讲到,这两类在发展到一定程度时候,会存在瓶颈。例表情面临的瓶颈有两个:1.普通人标注人脸表情的颗粒度一般是6-8种情绪,很难识别更细的(24种甚至是一百多种);2.即便完成了情绪类型的标准,但你无法确认情绪的真伪。

在专家模型中,则有比较成熟的模型来判断情绪的真伪,因此,我们可以在深度学习的基础上,再叠加专家模型来突破这样的瓶颈。

心率和语音基于专家模型也存在瓶颈,现在的解决办法是建立一个个体用户强化训练的模型(一个用户测得越多,模型会越贴合被测用户的特征);另外,我们还可以建立一个半监督学习算法来得到实时的反馈。

因此,表面上有两条技术路线,但实际上这二者是相互融合的。

情感计算的不同理解

不同的行业对于情感计算的理解是不一样的。罗莎琳德·皮卡德是麻省理工学院MediaLab的老师,她也是情感计算学科的奠基人。

在她《情感计算》这本书中的序言中有这么一句话:如果要让计算机实现真正的智能并适应我们,跟我们产生自然而然的人机交互,那么,它就需要具备情绪识别和表达能力,就需要具备情感。

谷歌云计算首席科学家李飞飞对情感计算是这么理解的:现在我们的AI都是用逻辑的方法来判断情感。逻辑代表IQ,而情感代表EQ。未来,从情绪到情感,是人工智能未来前进的方向。

我们认为可以从三个角度来理解情感计算:

应用场景

目前翼开科技和环信展开了合作,环信有IM沟通工具,这里面包含了语音、表情和文本等信息,我们对其开放了绑定的SDK,可以通过语音等信息来判断用户的情绪。

另外,我们现在还和科大讯飞有合作,合作的方式主要是相互交叉授权,通过绑定版的SDK,科大讯飞来识别语音,翼开科技来判断情绪;现在还在做视觉的应用,科大讯飞识别人的身份,翼开科技来识别其情绪。

另外,以下这些都是情感计算可能落地的应用场景:

当然,对于创业公司而言,要做出上述所有场景来推向市场,雷锋网了解到,翼开科技已经在教育、金融等领域做出了商业化的尝试。

精彩问答

Q:语音、图像这些不同的模块怎么在系统里面协调工作?

A:其实就是一个多模态的算法,有两种实现的方法:本身数据就是多模态的数据,然后做标注,做完玩标注就可以通过深度学习的方式来做训练;第二种,通过同一个sensor采集数据后再做多模态,例如通过麦克风可以采集到用户的语音、声纹特征,进一步分析文本,来做多模态。

Q:情感数据对准确率还是有很大的影响,这些数据是怎么搜集的?

A:在我们和卡内基梅隆大学情感计算专家交流的过程中,我们得到一个观点,通过单种信息来判断情绪,准确率是有局限性的;另外,越早做多模态越好,越多的模态拟合越好。

我们把反应情绪的信号分为两类,一类是浅层信号,如语音、表情;还有一类是深层信号,完全受交感神经和副交感神经的影响,主观意识很难控制。

浅层信号更容易采集,但权重不高;深层信号权重高,但采集难度比较大。两种信号做综合的多模态分析可以提升情感判断的准确度。

Q:目前的准确率有多高?多模态的模型有相关的paper吗?

A:语音和心率是基于专家模型的,这个精度会低一点,在85%左右,表情在90%左右(但是表情只有7中情绪)。

Q:情感识别目前有判断准确率的行业标准吗?没有标准的话,从哪些维度来提升识别率?

A:现在判断情绪标准的类型比较多,常见的如果用深度学习方法实现的模型,再重新另一套标注的数据来跑一下这个模型,来判断它的精度;另外,可以根据用户反馈来判断,把系统测试的结果反馈给用户,让用户来给出最终验证。

如何优化?可以通过半监督学习的方式,来进行自我训练自我校正。

Q:有采用脑电波的模态数据吗?

A:国外做这一块的研究有很多,我们现在认为脑电sensor还不是消费终端的标配,采集脑电要专门的sensor,目前只用在特殊的行业,还没有做通用算法的开放。

公开课视频

PS:翼开科技正在招聘:机器学习,机器视觉,情感计算,多模态,NLP等相关职位,如有意向欢迎投简历到:way@emokit.com

让机器学会“读心术”,情感计算如何解决实际场景需求? | 雷锋网公开课

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
平安银行官方网站

平安银行致力于为客户提供全方位的银行服务。您可以了解投资理财、贷款、个人通知存款、银行缴费、公司业务等平安银行业务,可以方便快捷的登录网上银行,办理转账汇款、账务查询等业务。

【创大钢铁】

创大钢铁网是中国优秀的钢铁商务平台,提供最新的钢材市场价格查询,分析判断钢材行情走势,免费发布钢材供求信息,登记钢铁企业黄页、钢材现货资源信息,钢材批发就上创大钢铁平台,钢材价格信息首选创大钢铁商务网站!

读书报告

读书报告提供读书报告怎么写,读书报告格式读书报告模板PPT下载,分享实用的读书报告范文,读书报告作文,大学读书报告,是专业的读书报告网站。

远程智能

浙江科洪电器有限公司位于温州乐清市柳市镇,主要经营配电开关控制设备、高低压电器及成套设备等产业,始终为客户提供高质量的产品、专业的技术支持以及健全的售后服务。

塑料包装膜,PE快递袋,食品卷膜自动包装,复合包装袋生产厂家

杭州振卫包装科技有限公司是一家集科研开发,生产于一体的软塑彩印包装企业,有液体包装膜,高温蒸煮袋,冷冻袋,水煮袋,休闲食品袋,铝箔袋等塑料包装袋及卷材。

天坛号

天坛号提供全球经济、股票、科技、创业、互联网等领域数据更新和实时解读。我们追求及时、全面、专业、准确的资讯与数据,为您保驾护航。

艺考网

艺考网,与你一起走进艺术的世界。与你分享艺考路上的经验技巧,助你实现艺术梦。欣赏艺术大师作品,沉醉于艺术的海洋。

户外休闲椅

湖北迎扬新材料技术有限公司专注塑木材料的应用与推广,面向湖北武汉.孝感.襄樊.荆州.宜昌.十堰.荆门.鄂州.黄冈.咸宁.随州.汉川.仙桃.潜江.天门.恩施等地销售塑木制品。

温泉设计

深圳市极水实业有限公司是集产品研发、生产销售、工程设计施工以及系统运维一站式服务的企业,是专业经营温泉设计、温泉工程设计、音乐喷泉工程、水乐园工程、水处理工程、污水处理、游泳馆水处理、游泳池设备的生产供应商。

礼塾酒

贵州贵在有礼酒业有限公司成立于茅台镇,是一家酱香型白酒销售公司,公司围绕新时代发展理念,顺应新时代发展潮流,公司以儒家五常之精髓“仁、义、礼、智、信”为主题,融合五行之文化。创新推出个性化,多样化,专业化的文化主题礼塾酒。

国外网站大全

资源狐网站(www.ziyuanhu.com)收集了世界各国的精品主流网站,包括国外新闻网站,国外视频网站,国外音乐网站,国外社交网站,国外中文网站,国外购物网站等,力求做到最新、最精、最全面,免费为广大网民提供最方便快捷的服务。

上门开锁电话

24小时上门开锁/换锁芯/修锁电话:400-8588-110,公司专注开房门锁,保险柜维修,汽车开锁,匹配汽车钥匙,安装指纹锁,售后服务好,安排附近师傅,同城急速开锁!

全局底部横幅