专利汇可以提供一种基于结构化用户属性描述的个性化任务型对话系统专利检索,专利查询,专利分析的服务。并且本 发明 是一种基于结构化用户属性描述的个性化任务型 对话系统 ,通过结构化三元组的形式来描述用户的个性,然后再使用与对话上下文紧密相关的动态编码方法捕获用户个性知识,最后再使用端到端的对话检索模型融合动态个性编码来选择最合适贴切的回复,从而避免生成大量通用、千篇一律的答复,达到千人千面的效果,提高用户在对话过程中的融入感。,下面是一种基于结构化用户属性描述的个性化任务型对话系统专利的具体信息内容。
1.一种基于结构化用户属性描述的个性化任务型对话系统,其特征在于,主要包括用户个性动态编码和个性化匹配两个模块:
S1.用户个性动态编码模块,将输入的结构化用户属性描述编码为一个特征向量,在编码的过程中,用户个性动态编码模块使用对话的上下文来自动选择用户结构化用户属性描述中最重要和相关的属性,然后再结合一个分布式的静态全局个性编码,最终得到一个多粒度的内容相关的用户个性编码;
S2.个性化匹配模块,融合用户个性编码和对话内容,来从候选回复集中选择最合适贴切的对话回复。
2.根据权利要求1所述的系统,其特征在于,用户个性动态编码分为两部分:细粒度的对话上下文相关的动态编码和粗粒度的全局静态个性编码。
3.根据权利要求2所述的细粒度的对话上下文相关的动态编码,其特征在于,用户个性描述为如下形式:{年龄=中年,性别=女,饮食偏好=素食},每个用户个性描述由很多个属性组成,属性又分为属性键和值,例如,年龄为属性键,中年为其对应的属性值,我们使用e(ki)和e(vi)分别代表属性键和属性值的词向量编码。
4.根据权利要求2所述的细粒度的对话上下文相关的动态编码,其特征在于,通过一个双向长短记忆网络(BiLSTM)来编码对话历史,取最后时刻的隐层状态q作为对话上下文表征,在不同的上下文中,用户个性中的不同属性会发挥不同的作用,本发明通过对话上下文表征自适应地捕获用户个性中最重要的属性,从而获得细粒度的动态用户个性编码,具体来说,我们使用对话上下文表征q对所有的属性做注意力计算,获得用户动态个性表征pdynamic:
αi=qT·e(ki),i=1,2,…,n
5.根据权利要求2所述的粗粒度的全局静态个性编码,其特征在于,首先分别对用户个性描述中的所有属性分别进行one-hot编码(01编码),然后乘以一个用户个性编码矩阵(这个矩阵在训练初始阶段是随机初始化得到的),就得到粗粒度的全局静态个性编码,将细粒度的对话上下文相关的动态编码和粗粒度的全局静态个性编码拼接起来,最终得到一个多粒度的、对话上下文相关的用户个性编码:
p=Concat([pdynamic;pstatic])
6.根据权利要求1所述的系统,其特征在于,个性化匹配模块:获得用户个性编码之后,还需要将用户个性编码融合到对话上下文与候选答复的匹配过程中,本发明采用增强自然语言推理模型(ESIM)作为匹配模型,然后在ESIM模型的聚合层中融入用户个性编码向量,同时在ESIM的输出层增加一个与用户实体偏好相关的偏置参数。
7.根据权利要求6所述的系统,其特征在于,个性化匹配模块主要包括输入编码层、局部匹配层、聚合层以及输出层:
S2.1.输入编码层,将对话和候选答复中的每一个词转化为词向量,然后再经过一个BiLSTM层获取上下文依赖关系,得到隐层状态表示 和 其中i,j分别代表对话上下文中的第i个词,对话回复中的第j个词,
S2.2.局部匹配层,获取对话上下文和回复之间的语义交互信息,采用交叉注意力的方式,使用内积计算注意力分数:
然后分别加权求和:
最后将匹配信息融合,通过一个前馈网络计算:
S2.3.聚合层,负责融合用户个性编码与匹配交互信息,通过以下方式实现:
这里的BiLSTM与传统的不同,我们融合了用户个性编码的信息:
ct=ft·ct-1+it·lt
ht=ot·tanh(ct)
S2.4.输出层,将BiLSTM的隐层状态通过池化层输出固定维度的向量,然后再通过一个多层感知器(MLP)输出预测概率,预测结果为0或者1。
8.根据权利要求1所述的系统,其特征在于,通过用户个性编码来学习用户的实体偏好bk,进而辅助选择合适的候选回复:
标题 | 发布/更新时间 | 阅读量 |
---|---|---|
一种利用卷积多层注意力网络机制生成面向查询的视频摘要的方法 | 2020-05-13 | 356 |
基于极端随机树的非线性全光谱水体浊度定量分析方法 | 2020-05-17 | 955 |
一种AGV导航控制方法及系统 | 2020-05-14 | 25 |
一种基于特征选择和集成学习的软件缺陷个数预测方法 | 2020-05-18 | 531 |
一种基于安全态势感知的传感云双层网络防御系统及方法 | 2020-05-15 | 506 |
一种文本分类方法及系统 | 2020-05-13 | 822 |
一种基于对抗生成网络的人脑效应连接识别方法 | 2020-05-16 | 365 |
基于数据驱动与物理模型驱动结合的电网调频控制方法 | 2020-05-17 | 453 |
一种基于混合特征感知神经网络进行3D目标检测的方法 | 2020-05-15 | 907 |
用于控制器适应的系统和方法 | 2020-05-19 | 786 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。