《9-5通用对话系统:现状和未来.pdf》由会员分享,可在线阅读,更多相关《9-5通用对话系统:现状和未来.pdf(45页珍藏版)》请在三个皮匠报告上搜索。
1、开放域对话系统:现状和未来 -DataFunCon 自然语言处理大会 百度自然语言处理部 王凡 l 任务对话系统 (Task-Oriented) l 完成某个领域某项特定任务 l UNIT,客服系统 l 闲聊系统 (Chit - Chat) l 无目的,无领域约束 l 开放域对话系统(Open Domain Dialogue System) l 能在开放领域内,进行有意义地对话 l ? 对话系统分类 Seq2Seq open-domain dialogue system (Jiwei Li, 2016)End to end task oriented dialogue system (Tsun
2、g-Hsien Wen,2016) Traditional module-based task oriented dialogue system l 编码-解码器 l 人类对话语料 l 最大似然(Minimize Negative Log Likelihood)训练 端到端对话生成 对话系统的新机遇 EncoderDecoder InputOutputGroundTruth NLL 端到端对话生成的挑战(I) 17岁了 你今年多大了? 哈哈哈 我今天买彩票中了一瓶 洗发水 感觉很开心,你呢 还好 我住西城,很近呢 我住北京朝阳,你呢? 我就住龙岗,来找我,我带你玩 过两天我打算去深圳玩,有 什
3、么地方推荐? 。 l 人类的对话语料,充斥着已知和未知的背景信息,这使得对话成为一个一对多问题 l 神经网络,不管多复杂,始终是个一一映射的函数 l 最大似然只能所有语料的共通点,所有背景,独特的语境,逻辑都可能被模型认为都是噪音 今天好冷啊,外 面风好大。 是啊,温度下降好多 好期待下雪! 我发型都被吹乱了 是的 你今年多大了? 16岁 32 六十了都 端到端对话生成的挑战(II) 对话语料的局限性 l 多样性对话生成 l 知识对话生成 l 自动化评价和对话流控制 l 大规模和超大规模隐空间对话生成模型 百度NLP: 做有知识,可控 的对话生成方案 l 多样性对话生成 l 知识对话生成 l 自动化评价和对话流控制 l 大规模和超大规模隐空间对话生成模型 百度NLP: 做有知识,可控 的对话生成方案 多映射机制的端到端生成模型 l 如何利用神经网络来拟合可能来自于不同背景的语料? 你的爱好