专利汇可以提供一种社交网络下基于深度学习的个性化推荐系统专利检索,专利查询,专利分析的服务。并且本 发明 公开一种社交网络下基于 深度学习 的个性化推荐系统,主要包括离线学习模 块 和在线推荐模块。离线学习模块首先生成训练样本集合,进而构造带注意 力 机制的深度 卷积神经网络 学习模型,并对学习模型中的参数进行 迭代 优化;在线推荐模块基于训练得到的学习模型对新注册的用户进行实时物品推荐。与 现有技术 相比,本发明具有准确度高、速度快和简单易实现等优点,能够有效应用于 电子 商务、舆情监控、智能交通以及医疗健康等领域。,下面是一种社交网络下基于深度学习的个性化推荐系统专利的具体信息内容。
1.一种社交网络下基于深度学习的个性化推荐系统,其特征在于,包括离线学习和在线推荐两个模块,其中,
模块1包括三个步骤:
步骤1:训练样本集合生成;选取一定数量的现有用户,并针对被选取的每个用户,获取该用户最近购买过的若干物品以及从未购买过的若干物品;对于每个“用户-物品”对,将它表示成特征的形式,其中用户特征包括用户在推荐系统中登记的人口统计学特征、用户的社交网络特征以及用户联系最紧密的若干好友的人口统计学特征和社交网络特征,物品特征包括物品的固有特征、物品类别特征、物品购买行为特征以及物品的社交网络特征;在此基础上,产生两个形式的训练样本:
(1)如果用户购买过该物品,那么生成样本(用户特征,物品特征,+1),(2)如果用户从未购买过该物品,那么生成样本(用户特征,物品特征,-1);
步骤2:带注意力机制的深度卷积神经网络学习模型构造;学习模型从输入端到输出端,共由四个部件组成:
(1)特征嵌套层,将输入的训练样本转换成用户特征矩阵和物品特征矩阵,所述特征嵌套层,包含两个独立的特征嵌套部件,即用户特征嵌套部件和物品特征嵌套部件;
所述用户特征嵌套部件接收每个训练样本中的用户特征列表C(u)作为输入,它包含若干个子特征,用户特征嵌套部件利用word2vec词嵌套工具将该子特征转换成长度为一定的一维向量;对于每个训练样本,用户特征嵌套部件产生相应的二维用户特征矩阵MU;
所述物品特征嵌套部件接收每个训练样本中的物品特征列表C(g)作为输入,它包含若干个子特征,物品特征嵌套部件同样利用word2vec词嵌套工具将该子特征转换成长度为相同量的一维向量;对于每个训练样本,物品特征嵌套部件产生相应的二维物品特征矩阵MG;
(2)注意力机制层,基于特征嵌套层的用户特征矩阵和物品特征矩阵,分别产生用户注意力特征矩阵和物品注意力特征矩阵,具体为:
以特征嵌套层中的二维用户特征矩阵MU和二维物品特征矩阵MG两个矩阵为输入,首先构造二维注意力矩阵MA,MA第i行第j列单元的取值MA[i,j]的计算公式为:
其中MU[i]为矩阵MU的第i列向量,MG[j]为矩阵MG的第j列向量,“⊙”为向量的内积,||MU[i]||和||MG[j]||分别为向量MU[i]和MG[j]的模;
接着,注意力机制层引入两个权重矩阵WU和WG,其中WU的行数、列数为相同于所述二维注意力矩阵MA,WG的行数、列数相同于WU,并基于MA来分别获取用户注意力特征矩阵AU和物品注意力特征矩阵AG:
AU=WU×MAT,
AG=WG×MA,
其中MAT为矩阵MA的转置矩阵;
(3)特征融合层,融合特征嵌套层和注意力机制层中的用户特征矩阵和用户注意力特征矩阵,以及物品特征矩阵和物品注意力特征矩阵,分别产生用户融合矩阵和物品融合矩阵,
(4)卷积-池化层,基于特征融合层的用户融合矩阵和物品融合矩阵,分别产生全局用户池化向量和全局物品池化向量,
(5)逻辑回归层,基于卷积-池化层的全局用户池化向量和全局物品池化向量,输出一个0-1间的实数;
步骤3:学习模型参数迭代优化;对步骤2中的学习模型,构造其损失函数,并基于步骤1中的训练样本,采用不同的优化方法对损失函数中的参数进行迭代优化,并识别出最优的优化方法;
模块2对于新注册的用户,生成该用户的用户特征,并对推荐系统中的每个物品,生成其物品特征,然后基于模块1中获得的学习模型,产生新注册用户购买该物品的概率,并最终将概率值最高的若干物品返回给用户。
2.如权利要求1所述的系统,其特征在于,所述离线学习模块中步骤1具体如下:在推荐系统中随机选取N个现有用户,对于其中每个用户ui,1≤i≤N,选取ui最近购买过的ai个物品和从未购买过的bi个物品;
对于每个“用户-物品”对(u,g),首先获取u的用户特征列表C(u),包括:(1)u在推荐系统中登记的人口统计学特征u.D;(2)u的社交网络特征u.S;(3)u联系最紧密的一定数量个好友u1,u2…的人口统计学特征和社交网络特征,从而可得u的用户特征列表C(u)=
3.如权利要求1所述的系统,其特征在于,所述特征融合层,以特征嵌套层中的MU和MG以及注意力机制层中的AU和AG这四个矩阵为输入,产生两个矩阵FU和FG,其中FU为用户融合矩阵,行数、列数为相同于所述二维注意力矩阵MA,其第i行第j列单元的取值FU[i,j]的计算公式为:
FU[i,j]=MU[i,j]×AU[i,j],
而FG为物品融合矩阵,行数、列数相同于FU,其第i行第j列单元的取值FG[i,j]的计算公式为:
FG[i,j]=MG[i,j]×AG[i,j]。
4.如权利要求1所述的系统,其特征在于,卷积-池化层包含8个部件,分别为短步用户卷积部件、短步用户池化部件、长步用户卷积部件、全局用户池化部件、短步物品卷积部件、短步物品池化部件、长步物品卷积部件、全局物品池化部件,其中:
所述短步用户卷积部件接收特征融合层中的FU矩阵作为输入,首先将FU转换成行数为
200且列数为44的矩阵EFU,使得:
然后,引入一个行数为250且列数为400的权重矩阵SWU,并产生短步用户卷积矩阵SCU,其行数为250且列数为43;SCU每一列的取值SCU[:,j]为:
其中tanh为双曲正切函数, 为两个向量的拼接操作;
所述短步用户池化部件接收短步用户卷积矩阵SCU作为输入,并产生短步用户池化矩阵SPU,其行数为250且列数为42,其第i行第j列单元的取值SPU[i,j]的计算公式为:
SPU[i,j]=(SCU[i,j]+SCU[i,j+1])/2;
所述长步用户卷积部件接收短步用户池化矩阵SPU作为输入,首先将SPU转换成行数为
250且列数为48的矩阵EPU,使得:
然后,引入一个行数为300且列数为1000的权重矩阵LWU,并产生长步用户卷积矩阵LCU,其行数为350且列数为45;LCU每一列的取值LCU[:,j]为:
其中tanh为双曲正切函数, 为两个向量的拼接操作;
所述全局用户池化部件接收长步用户卷积矩阵LCU作为输入,并产生全局用户池化向量GPU,其长度为300,其第i个分量的取值GPU[i]的计算公式为:
所述短步物品卷积部件接收特征融合层中的FG矩阵作为输入,首先将FG转换成行数为
200且列数为55的矩阵EFG,使得:
然后,引入一个行数为250且列数为400的权重矩阵SWG,并产生短步物品卷积矩阵SCG,其行数为250且列数为54;SCG每一列的取值SCG[:,j]为:
其中tanh为双曲正切函数, 为两个向量的拼接操作;
所述短步物品池化部件接收短步物品卷积矩阵SCG作为输入,并产生短步物品池化矩阵SPG,其行数为250且列数为53,其第i行第j列单元的取值SPG[i,j]的计算公式为:
SPG[i,j]=(SCG[i,j]+SCG[i,j+1])/2;
所述长步物品卷积部件接收短步物品池化矩阵SPG作为输入,首先将SPG转换成行数为
250且列数为59的矩阵EPG,使得:
然后,引入一个行数为300且列数为1000的权重矩阵LWG,并产生长步物品卷积矩阵LCG,其行数为350且列数为56;LCG每一列的取值LCG[:,j]为:
其中tanh为双曲正切函数, 为两个向量的拼接操作;
所述全局物品池化部件接收长步物品卷积矩阵LCG作为输入,并产生全局物品池化向量GPG,其长度为300,其第i个分量的取值GPG[i]的计算公式为:
5.如权利要求1所述的系统,其特征在于,所述逻辑回归层接收卷积-池化层中的全局用户池化向量GPU和全局物品池化向量GPG作为输入,并引入一个一定长度的向量WL,并产生一个输出值v:
其中e为自然对数底数,变量z的计算公式为:
6.如权利要求1所述的系统,其特征在于,所述学习模型参数迭代优化,具体如下:
构造出损失函数如下:
其中Θ为所述学习模型中各权重参数所构成的集合, 和 分别为所述训练样本集合T中的正负样本集合,|T|为T所包含的训练样本数量,v(t)为以训练样本t为输入,利用学习模型最终产生的0-1间的输出值。
7.如权利要求6所述的系统,其特征在于,基于训练样本集合T,接着分别利用随机梯度下降、自适应矩估计、涅斯捷罗夫动量以及自适应梯度这四个优化方法对最小化损失函数的取值进行万次迭代优化,从而,分别得出这4个优化方法所对应的损失函数值,然后选择具有最小损失函数值的优化方法作为学习模型的优化方法。
8.如权利要求1所述的系统,其特征在于,所述在线推荐模块具体实施如下:对于新注册的用户 首先获取 的用户特征列表 以及推荐系统中的物品集合GS,接着,对于GS中的每个物品η,获取它的物品特征列表C(η),并将 和C(η)输入到模块 1中构造的带注意力机制的深度卷积神经网络学习模型中,从而得到用户 购买物品η的概率,即学习模型的输出值v;当物品集合GS中的所有物品均处理完毕之后,将概率值最大的前若干个物品返回给用户。
标题 | 发布/更新时间 | 阅读量 |
---|---|---|
自带发电机的用电产品 | 2020-05-08 | 536 |
一种叶片精密电解阴极型面设计及数字化修正方法 | 2020-05-08 | 390 |
用于主机的命令处理方法、装置、电子设备和存储介质 | 2020-05-11 | 422 |
一种地质钻孔的地基土回填压实装置 | 2020-05-11 | 794 |
用于分析皮肤状况的系统和方法 | 2020-05-08 | 435 |
页面渲染方法、装置、电子设备及存储介质 | 2020-05-08 | 628 |
一种移动式高效除甲醛空气净化装置 | 2020-05-11 | 863 |
一种汽车维修用车内空气分层滤清消毒装置 | 2020-05-08 | 262 |
一种耐火纤维干燥装置 | 2020-05-11 | 510 |
一种立式车床油水分离装置 | 2020-05-11 | 713 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。