来自这六大厂的一线技术负责人聊了聊 关于自然语言对话的技术挑战和应用前景 (来自这六大厂的英文)
雷锋网 AI 科技评论按:对话作为人类最基本、最重要的交流方式,自然语言对话技术自然也成为了自然语言处理领域离人类最近的技术之一,这一领域乃至整个人工智能领域要想走向理想状态,势必要解决自然语言对话所面临的一系列问题和挑战。
而所有技术的问题和挑战在实践应用中是最容易体现出来的,因而对此最具有发言权的莫过于实现技术落地的企业一线技术人员。
近日,华为诺亚方舟实验室语音语义首席科学家刘群就在 CNCC2019 上主办了一场主题为「自然语言对话:技术挑战和应用前景」的技术论坛,邀请了来自微软、阿里、百度、小米、京东以及华为这几家在自然语言处理领域涉猎较深的大厂一线技术负责人——周明、陈海青、孙珂、王刚、何晓冬以及蒋欣来对这一主题进行探讨,几位演讲嘉宾既从宏观的技术视角阐述了自己对于该研究领域的看法和观点,也从应用案例的角度分享了自然语言对话的技术实践。
从左至右依次为:陈海青、何晓冬、孙珂、周明、王刚、蒋欣、刘群
我们一一来看他们在本场技术论坛的分享内容。
微软周明:面向深度理解的聊天机器人
来自微软亚洲研究院的周明,首先从宏观、全局的视角分享了聊天机器人的整个技术演化进程。他指出,聊天机器人技术有从检索式回复到生成式回复再到集成式回复的三个发展阶段。
其中检索式回复利用文本匹配技术选出相似的对话以此输出对应的回复,而生成式回复则是利用文本生成技术得到相应的回复,二者相比各有优缺,前者的优势在于可读性好、语言流程,多样性强以及易于分析、可解释性强,缺点则在于强依赖于检索数据,输出的回复有时在相关性方面并不好;后者在相关性方面表现较好,易于进行端到端实现并且灵活性强、不太依赖于检索数据,然而在多样性方面较差,同时输出的回复往往比较短,没有太多信息量。
集成式回复生成则采用检索式系统提供候选原型回复、生成式系统对原型加以修改的方式,既能够继承检索模型回复的多样性,又能够继承生成模型的灵活性,对二者扬长避短。
与此同时,周明指出,虽然回复技术取得了一定进展,包括基于神经网络的 S2S 模型一定程度上改进了生成的回复流畅度,预训练模型让检索式回复技术一定程度上增强了上下文理解能力等,但目前聊天机器人依旧距离理想的状态很远,具体而言体现在:
对此,未来聊天机器人需要采用面向深度理解的回复机制,努力的方向包括:让聊天机器人融入常识和知识、 精准理解对话历史、强化记忆机制从而提高上下文的一致性,并且能够实现定制回复生成的风格(包括词汇量、情感、句式和正规性等),而为了实现这些目标,社区还需要建立更加精准的评测,包括数据集和评测指标等。
阿里陈海青:阿里小蜜智能人机交互技术实践
阿里巴巴集团达摩院智能服务事业部资深算法专家陈海青则从更加应用的角度,基于阿里的人机交互产品——阿里小蜜介绍了阿里 NLP 核心技术及人机交互技术实践、面临的挑战及未来的发展方向。
简单介绍阿里小蜜平台的生态圈和应用后,陈海青介绍了其背后的核心 NLP 支撑技术:
而当前 NLU 还是以意图识别和实体识别为核心能力,其面临的核心挑战是意图的平台化扩展效率和小样本场景的冷启动,就 NLU 的效率和效果而言,主要涉及的问题是如何构建数据、算法和服务。
最后,陈海青指出,未来智能服务机器人将以多模态的方式,不仅提供自动服务模式,同时提供更好的人机协同模式,为用户和客服人员提供更复杂问题的解决能力和决策支持能力,而持续探索的技术方向有生成模型、强化模型、迁移学习、机器阅读理解、情感分析等。
百度孙珂:可定制对话系统的挑战与设计
百度自然语言处理部主任研发工程师、UNIT 平台技术负责人孙珂基于百度的智能对话定制和服务平台 UNIT 分享了目前可定制对话系统的挑战与设计。
一开始,孙珂先抛出了对话技术在面对产业定制需求时所面临的一些挑战:
而将可迁移对话技术的目标进行拆解来看,设计思路便是用高学习效率的模型和自动发现模型缺陷板块来提高单位数据对提高对话效果的帮助,而使用知识辅助构建和预置知识来降低单位数据的获取成本。
整体基于这一思路设计的 UNIT,核心对话技术包括任务式对话和问答式对话,具体设计思路分别如下:
小米王刚:语音交互带给人机交互的变化
与前两位基于自家产品进行技术解析不同,小米人工智能部副总经理、小爱团队负责人王刚从语音交互给人机交互带来的变化出发,阐述了自身对于语音交互未来发展方向的看法。
他认为未来的语音交互有三个发展趋势:无所不在、更自然的交互以及更懂你。而背后的技术可具体拆解为唤醒、识别、理解、满足与合成几大板块,针对这几大板块目前所存在的几大问题,王刚分别介绍了这些问题面临的挑战、当前的解决方案以及未来的潜在解决方案:
京东何晓冬:任务导向型大规模对话系统及应用
京东人工智能研究院常务副院长、深度学习及语音和语言实验室主任何晓冬在演讲中强调了人机对话对于人机交互未来发展的重要性及其当前面临的几大技术难点,基于此,他也对对话系统下一步的发展方向阐述了自己的观点。
他指出,多轮人机对话是人工智能的起点及圣杯,而作为人类最基本、最重要的交流方式,对话也是人机交互技术未来的期望所在,然而虽然目前出现了很多应用于特定领域的对话系统并且领域内也在尝试针对开放领域以及高复杂、可靠性要求高的任务的对话系统,但是目前尚无系统能够真正通过图灵测试。
在典型应用上,以京东大规模的复杂客服场景为例,对话系统需要覆盖售前、售中、售后以及物流,涉及到智能调度、智能导航、智能摘要、实时辅助应答、智能质检以及智能创事件等具体任务。基于在大规模任务导向场景中的积累,京东还联合北京智源研究院发布了智源—京东大规模任务导向性对话数据集。
从技术难点来看,何晓冬进一步指出,对话技术目前主要面临五大难点:
对此,何晓冬表示,对话系统下一步必然走向全方位多模态的交互方式,通过视觉、语音、语言、知识等统一,使得人与机器的交流变成无限制的交流。基于这一目标,京东 AI 研究院也在不断推进多模态对话智能基础研究。
华为蒋欣:对话系统中的若干技术探索
来自华为诺亚方舟实验室的蒋欣则从对话数据的收集和增强以及对话深度语义理解两个维度来分享对话系统中的一些技术探索。
作为构建对话系统的基石,对话数据的收集面临着不少困难,例如用户隐私、领域强相关、标注复杂性以及动态交互和评估等都是其面临的问题,对此学术界提出了人-人对话、人-机器对话以及机器-机器对话等三种数据收集方法。
其中人-人对话(Wizard-of-Oz)虽然较为贴近真实对话场景,然而人工标注和校验成本高,并且对交互行为的覆盖率低;机器-机器对话(SELF-Play)虽然在覆盖率和多样性方面更佳,标注也相对容易,然而对话数据质量依赖于模拟用户机器人和系统机器人,因而在实践中往往会结合 Wizard-of-Oz 和 Self-Play 两种方式分别生成对话数据,再使用数据训练对话系统的 NLU、DST、Policy 以及 NLG 模块,通常可以在受限领域的对话中达到较高的成功率。
对话数据增强方面,一个比较通用的方法则是复述生成,华为诺亚在近期的工作中提出基于 Seq2Seq 神经网络生成相同语义的不同表达,具备更好的可解释性、可控性和可迁移性;此外,在对话状态跟踪任务上,提出基于 Contextual Bandits 对增强的数据进行选择,最后并联合训练数据增强模块和状态跟踪模块。
对话深度语义理解上,目前最好的模型是预训练语言模型:
演讲结束后,在刘群的主持下,周明、陈海青、孙珂、王刚、何晓冬以及蒋欣六位嘉宾还基于本场技术论坛的主题「「自然语言对话:技术挑战和应用前景」,展开了一场 Panel 讨论,就「在开发对话系统的实践中遇到的难点」、「自然语言对话的数据和评价问题」、「强化学习在自然语言对话的实际应用中所存在的问题」以及「未来对话技术将会在哪些方面会取得突破,应用上是否会有杀手级的场景出现」等问题发表了自己的观点并展开了深度交流。
雷锋网 AI 科技评论报道。
原创文章,未经授权禁止转载。详情见 转载须知 。