首页 / 专利库 / 人工智能 / 三维人脸重建 / 个人三维形象互动试妆信息数据处理方法及装置

个人三维形象互动试妆信息数据处理方法及装置

阅读:755发布:2020-09-26

专利汇可以提供个人三维形象互动试妆信息数据处理方法及装置专利检索,专利查询,专利分析的服务。并且本 发明 涉及一种个人三维形象互动试妆信息 数据处理 方法及装置,包括客户端、 服务器 、通信网络,所述的客户端包括互联网终端、移动终端、零售终端,并均设有显示单元,所述的服务器包括人脸特征 定位 单元、3D形象重建单元、化妆处理单元、三维人脸特征 数据库 、化妆物品数据库,所述的客户端通过通信网络与服务器连接,本装置工作流程包括1)客户端获取用户照片信息,并将其传输给服务器等7个步骤。与 现有技术 相比,本发明具有可同时在互联网终端、移动终端、零售终端 触摸屏 实现跨媒体应用服务、促进产业更加智能化发展、应用服务范围更广、个性化体验更加真实、不受时间、地点和终端条件的限制等优点。,下面是个人三维形象互动试妆信息数据处理方法及装置专利的具体信息内容。

1.一种个人三维形象互动试妆信息数据处理方法,其特征在于,包括以下步骤:
1)客户端获取用户照片信息,并将其传输给服务器
2)服务器中的人脸特征定位单元对用户照片信息检测人脸位置,并判断是否检测成功,若为是,执行步骤3),若为否返回步骤1);
3)服务器中的人脸特征定位单元采用可变形状模型(ASM)检测算法来定位并提取人脸特征点信息;
4)服务器中的3D形象重建单元采用基于三维人脸特征数据库计算三维特征点,并采用基于标准模型的曲面变形算法建立三维人脸模型;
5)服务器将照片作为纹理映射到三维人脸模型中;
6)客户端通过flash来渲染3D模型,并通过模型形变方法来驱动3D模型模拟真人动作,通过客户端的显示单元来输出真人模拟形象信息;
7)用户在客户端选择化妆物品,服务器中的化妆处理单元根据选择的化妆物品信息和人脸特征点的位置信息,将化妆物品准确叠加到模型纹理图片上,更新3D形象渲染,并通过显示单元显示处理后的3D形象信息。
2.根据权利要求1所述的一种个人三维形象互动试妆信息数据处理方法,其特征在于,所述的步骤3)中的可变形状模型(ASM)检测算法如下:
31)模型初始定位:
对于人脸图像,采用人脸检测算法来确定照片中是否有人脸以及人脸的位置,根据得到的初始位置并通过度θ旋转、尺度s缩放以及位置t的平移将平均形状模型放到照片中,得到初始的形状
32)特征点法线方向上搜索:
利用训练得到的局部灰度模型,对每一个特征点使其沿法线方向在一定范围内进行搜索,在该范围内的每一个点计算其规格化灰度导数向量与训练得到该点的平均规格化灰度导数向量的氏距离,从中选取距离最小的候选点作为最佳匹配点,对模型的每一个特征点都进行最佳匹配点的搜索,得到了一个新的形状向量X′;
33)用形状模型对进行近似表达,由于每个特征点搜索后得到的形状无法在新的正交基下直接表示,只能得到最小误差意义上的近似表示,将X向X′作对齐运算得到仿射变换的四个参数(1+ds,dθ,dtx,dty),进一步得到形状参数的变化值
34)形状合理性的约束,形状参数bi的变化范围应在 范围内才能具有较合理的性质,因此要对b+db进行判断,对于不在该范围的bi将其变换到 范围内,利用最终得到的形状参数b+db计算出重构的形状;
35)重复32)~34)的步骤进行循环,当两次相邻循环的形状向量的欧式距离小于等于设定的阈值时,认为其收敛,迭代结束。
3.根据权利要求1所述的一种个人三维形象互动试妆信息数据处理方法,其特征在于,所述的步骤3)中的人脸特征点信息包括人脸轮廓点信息、眼睛轮廓点信息、鼻子轮廓点信息、嘴巴轮廓点信息、眉毛轮廓点信息。
4.根据权利要求1所述的一种个人三维形象互动试妆信息数据处理方法,其特征在于,所述的步骤4)中的基于标准模型的曲面变形算法如下:
经过步骤3)的处理,获得一般人脸模型的三维特征点Smf和照片人脸的三维特征点Sobj,通过它们的对应关系将一般人脸模型Smodel弹性变形为特定人脸模型,选择薄板样条插值算法(TPS),该算法是一种径向基插值函数,
2 2
TPS的基函数为U(r)=rlogr,其中r=‖Pi-(x,y,z)‖,(x,y,z)为待插值点的三维坐标,Pi为特征点,根据Smf与Sobj的对应关系,计算出径向基插值函数的系数,得到TPS插值函数为:
通过f(x,y,z)将一般人脸模型Smodel变为特定人脸。
5.根据权利要求1所述的一种个人三维形象互动试妆信息数据处理方法,其特征在于,所述的步骤6)中的模型形变方法具体如下:
基于面部运动编码系统FACS设立44个基本动作单元,每个基本动作单元控制一个或几个人脸特征点在三维空间的位移,将不同的基本动作单元组合,产生各种表情,并使用TPS对三维特征点进行插值变形,实现表情变化。
6.根据权利要求1所述的一种个人三维形象互动试妆信息数据处理方法,其特征在于,所述的步骤7)中的化妆物品包括眼镜、发型、首饰、化妆品,所述的眼镜、发型、首饰的图片加载后根据人脸特征点的位置直接叠加到模型纹理图片上,所述的化妆品按照影响区域和颜色合成颜色图层后根据人脸特征点的位置叠加到模型纹理图片上。
7.一种个人三维形象互动试妆信息数据处理装置,其特征在于,包括客户端、服务器、通信网络,所述的客户端包括互联网终端、移动终端、零售终端,并且均设有显示单元,所述的服务器包括人脸特征定位单元、3D形象重建单元、化妆处理单元、三维人脸特征数据库、化妆物品数据库,所述的客户端通过通信网络与服务器连接,所述的人脸特征定位单元、3D形象重建单元、化妆处理单元依次连接,所述的3D形象重建单元与三维人脸特征数据库连接,所述的化妆处理单元与化妆物品数据库连接。
8.根据权利要求7所述的一种个人三维形象互动试妆信息数据处理装置,其特征在于,所述的通信网络为internet、通信总线或无线网络。

说明书全文

个人三维形象互动试妆信息数据处理方法及装置

技术领域

[0001] 本发明涉及一种试妆信息数据处理方法及装置,尤其是涉及一种个人三维形象互动试妆信息数据处理方法及装置。

背景技术

[0002] 随着互联网的发展与普及,电子商务网站日益成为商品销售的重要渠道,网上购物的方式也日益为广大网民接受。然而,与个人形象息息相关的商品,需要用户亲身体验才能做出购买决定的商品如化妆品、服装等依然需要技术对在线体验的支持。在此需求下,近年来,各种在线体验式电子商务网站层出不穷,而此类技术成功的关键在于对用户体验过程模拟的逼真度。
[0003] 虚拟形象体验的感觉是否真实,首要的关键点在于形象是否是自己的形象。用模特的形象体验效果不能满足用户的需求,用户需要知道自己试用以后的效果。
[0004] 现有技术中,有能捕捉人脸动态图像进行化妆模拟的技术(比如,可参照日本专利申请公开“特开2003-44837”和中国专利申请公开“CN 101371272A”)。但是,这些方法是对动态图像中的每一桢做人脸特征追踪,计算量大,多以终端机或终端软件形式应用,无法以B/S软件形式应用于网络终端,应用范围有限。而且在终端应用中用户实时拍摄时一旦离开摄像头区域或者姿势不够正面就会失效。

发明内容

[0005] 本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种促进产业发展、可应用于网络终端、应用范围更广、体验更加真实、同时不受时间、地点和终端条件限制的个人三维形象互动试妆信息数据处理方法及装置。
[0006] 本发明的目的可以通过以下技术方案来实现:
[0007] 一种个人三维形象互动试妆信息数据处理方法,其特征在于,包括以下步骤:
[0008] 1)客户端获取用户照片信息,并将其传输给服务器
[0009] 2)服务器中的人脸特征定位单元对用户照片信息检测人脸位置,并判断是否检测成功,若为是,执行步骤3),若为否返回步骤1);
[0010] 3)服务器中的人脸特征定位单元采用可变形状模型(ASM)检测算法来定位并提取人脸特征点信息;
[0011] 4)服务器中的3D形象重建单元采用基于三维人脸特征数据库计算三维特征点,并采用基于标准模型的曲面变形算法建立三维人脸模型;
[0012] 5)服务器将照片作为纹理映射到三维人脸模型中;
[0013] 6)客户端通过flash来渲染3D模型,并通过模型形变方法来驱动3D模型模拟真人动作,通过客户端的显示单元来输出真人模拟形象信息;
[0014] 7)用户在客户端选择化妆物品,服务器中的化妆处理单元根据选择的化妆物品信息和人脸特征点的位置信息,将化妆物品准确叠加到模型纹理图片上,更新3D形象渲染,并通过显示单元显示处理后的3D形象信息。
[0015] 所述的步骤3)中的可变形状模型(ASM)检测算法如下:
[0016] 31)模型初始定位:
[0017] 对于人脸图像,采用人脸检测算法来确定照片中是否有人脸以及人脸的位置,根据得到的初始位置并通过度θ旋转、尺度s缩放以及位置t的平移将平均形状模型放到照片中,得到初始的形状
[0018]
[0019]
[0020] 32)特征点法线方向上搜索:
[0021] 利用训练得到的局部灰度模型,对每一个特征点使其沿法线方向在一定范围内进行搜索,在该范围内的每一个点计算其规格化灰度导数向量与训练得到该点的平均规格化灰度导数向量的氏距离,从中选取距离最小的候选点作为最佳匹配点,对模型的每一个特征点都进行最佳匹配点的搜索,得到了一个新的形状向量X′;
[0022] 33)用形状模型对进行近似表达,由于每个特征点搜索后得到的形状无法在新的正交基下直接表示,只能得到最小误差意义上的近似表示,将X向X′作对齐运算得到仿射变换的四个参数(1+ds,dθ,dtx,dty),进一步得到形状参数的变化值[0023]
[0024] 34)形状合理性的约束,形状参数bi的变化范围应在 范围内才能具有较合理的性质,因此要对b+db进行判断,对于不在该范围的bi将其变换到 范围内,利用最终得到的形状参数b+db计算出重构的形状;
[0025] 35)重复32)~34)的步骤进行循环,当两次相邻循环的形状向量的欧式距离小于等于设定的阈值时,认为其收敛,迭代结束。
[0026] 所述的步骤3)中的人脸特征点信息包括人脸轮廓点信息、眼睛轮廓点信息、鼻子轮廓点信息、嘴巴轮廓点信息、眉毛轮廓点信息。
[0027] 所述的步骤4)中的基于标准模型的曲面变形算法如下:
[0028] 经过步骤3)的处理,获得一般人脸模型的三维特征点Smf和照片人脸的三维特征点Sobj,通过它们的对应关系将一般人脸模型Smod el弹性变形为特定人脸模型,选择薄板样条插值算法(TPS),该算法是一种径向基插值函数,
[0029] TPS的基函数为U(r)=r2logr2,其中r=‖Pi-(x,y,z)‖,(x,y,z)为待插值点的三维坐标,Pi为特征点,根据Smf与Sobj的对应关系,计算出径向基插值函数的系数,得到TPS插值函数为:
[0030]
[0031] 通过f(x,y,z)将一般人脸模型Smod el变为特定人脸。
[0032] 所述的步骤6)中的模型形变方法具体如下:
[0033] 基于面部运动编码系统FACS设立44个基本动作单元,每个基本动作单元控制一个或几个人脸特征点在三维空间的位移,将不同的基本动作单元组合,产生各种表情,并使用TPS对三维特征点进行插值变形,实现表情变化。
[0034] 所述的步骤7)中的化妆物品包括眼镜、发型、首饰、化妆品,所述的眼镜、发型、首饰的图片加载后根据人脸特征点的位置直接叠加到模型纹理图片上,所述的化妆品按照影响区域和颜色合成颜色图层后根据人脸特征点的位置叠加到模型纹理图片上。
[0035] 一种个人三维形象互动试妆信息数据处理装置,其特征在于,包括客户端、服务器、通信网络,所述的客户端包括显示单元,所述的服务器包括人脸特征定位单元、3D形象重建单元、化妆处理单元、三维人脸特征数据库、化妆物品数据库,所述的客户端通过通信网络与服务器连接,所述的人脸特征定位单元、3D形象重建单元、化妆处理单元依次连接,所述的3D形象重建单元与三维人脸特征数据库连接,所述的化妆处理单元与化妆物品数据库连接。
[0036] 所述的通信网络为internet、通信总线或无线网络。
[0037] 与现有技术相比,本发明具有以下优点:
[0038] 1、促进产业发展:利用人脸三维重建技术和客户端3D显示技术很好的解决了用户的网上化妆品的购物体验难题,让用户能够在买商品之前真实的体验化妆品试用后的结果,极大的促进了化妆品商品的电子商务化进程
[0039] 2、应用范围广:可应用于互联网、桌面软件、终端一体机、移动终端中;
[0040] 3、体验更加真实:通过模型形变方法来驱动3D模型模拟真人动作,通过客户端的显示单元来输出真人模拟形象,让用户体验更加真实。
[0041] 4、更具有不受时间、地点和终端条件限制的优点,满足现代人可以在任何时间、任何地点、按照个人喜欢的方式使用服务的愿望。附图说明
[0042] 图1为本发明的三维人脸模型建立流程图
[0043] 图2为本发明的试妆过程流程图;
[0044] 图3为本发明的硬件结构示意图。

具体实施方式

[0045] 下面结合附图和具体实施例对本发明进行详细说明。
[0046] 实施例
[0047] 如图1、图2、图3所示,一种个人三维形象互动试妆信息数据处理方法,包括以下步骤:
[0048] 1)客户端1获取用户照片,并将其传输给服务器3;
[0049] 2)服务器2中的人脸特征定位单元21对用户照片检测人脸位置,并判断是否检测成功,若为是,执行步骤3),若为否返回步骤1);
[0050] 3)服务器2中的人脸特征定位单元21采用可变形状模型(ASM)检测算法来定位并提取人脸特征点;
[0051] 4)服务器2中的3D形象重建单元22采用基于三维人脸特征数据库24计算三维特征点,并采用基于标准模型的曲面变形算法建立三维人脸模型;
[0052] 5)服务器2将照片作为纹理映射到三维人脸模型中;
[0053] 6)客户端1通过flash来渲染3D模型,并通过模型形变方法来驱动3D模型模拟真人动作,通过客户端1的显示单元11来输出真人模拟形象;
[0054] 7)用户在客户端1选择化妆物品,服务器2中的化妆处理单元23根据选择的化妆物品和人脸特征点的位置,将化妆物品准确叠加到模型纹理图片上,更新3D形象渲染,并通过显示单元1显示处理后的3D形象。
[0055] 所述的步骤3)中的可变形状模型(ASM)检测算法如下:
[0056] 31)模型初始定位:
[0057] 对于人脸图像,采用人脸检测算法来确定照片中是否有人脸以及人脸的位置,根据得到的初始位置并通过角度θ旋转、尺度s缩放以及位置t的平移将平均形状模型放到照片中,得到初始的形状
[0058]
[0059]
[0060] 32)特征点法线方向上搜索:
[0061] 利用训练得到的局部灰度模型,对每一个特征点使其沿法线方向在一定范围内进行搜索,在该范围内的每一个点计算其规格化灰度导数向量与训练得到该点的平均规格化灰度导数向量的马氏距离,从中选取距离最小的候选点作为最佳匹配点,对模型的每一个特征点都进行最佳匹配点的搜索,得到了一个新的形状向量X′;
[0062] 33)用形状模型对进行近似表达,由于每个特征点搜索后得到的形状无法在新的正交基下直接表示,只能得到最小误差意义上的近似表示,将X向X′作对齐运算得到仿射变换的四个参数(1+ds,dθ,dtx,dty),进一步得到形状参数的变化值[0063]
[0064] 34)形状合理性的约束,形状参数bi的变化范围应在 范围内才能具有较合理的性质,因此要对b+db进行判断,对于不在该范围的bi将其变换到 范围内,利用最终得到的形状参数b+db计算出重构的形状;
[0065] 35)重复32)~34)的步骤进行循环,当两次相邻循环的形状向量的欧式距离小于等于设定的阈值时,认为其收敛,迭代结束。
[0066] 所述的步骤3)中的人脸特征点信息包括人脸轮廓点信息、眼睛轮廓点信息、鼻子轮廓点信息、嘴巴轮廓点信息、眉毛轮廓点信息。
[0067] 所述的步骤4)中的基于标准模型的曲面变形算法如下:
[0068] 经过步骤3)的处理,获得一般人脸模型的三维特征点Smf和照片人脸的三维特征点Sobj,通过它们的对应关系将一般人脸模型Smod el弹性变形为特定人脸模型,选择薄板样条插值算法(TPS),该算法是一种径向基插值函数,
[0069] TPS的基函数为U(r)=r2logr2,其中r=‖Pi-(x,y,z)‖,(x,y,z)为待插值点的三维坐标,Pi为特征点,根据Smf与Sobj的对应关系,计算出径向基插值函数的系数,得到TPS插值函数为:
[0070]
[0071] 通过f(x,y,z)将一般人脸模型Smodel变为特定人脸。
[0072] 所述的步骤6)中的模型形变方法具体如下:
[0073] 基于面部运动编码系统FACS设立44个基本动作单元,每个基本动作单元控制一个或几个人脸特征点在三维空间的位移,将不同的基本动作单元组合,产生各种表情,并使用TPS对三维特征点进行插值变形,实现表情变化。
[0074] 所述的步骤7)中的化妆物品包括眼镜、发型、首饰、化妆品,所述的眼镜、发型、首饰的图片加载后根据人脸特征点的位置直接叠加到模型纹理图片上,所述的化妆品按照影响区域和颜色合成颜色图层后根据人脸特征点的位置叠加到模型纹理图片上。
[0075] 本发明硬件设备包括客户端1、服务器2、通信网络3,所述的客户端1包括显示单元11,所述的服务器2包括人脸特征定位单元21、3D形象重建单元22、化妆处理单元23、三维人脸特征数据库24、化妆物品数据库25,所述的客户端1通过通信网络3与服务器2连接,所述的人脸特征定位单元21、3D形象重建单元22、化妆处理单元23依次连接,所述的3D形象重建单元22与三维人脸特征数据库24连接,所述的化妆处理单元23与化妆物品数据库25连接。所述的通信网络3为internet、通信总线或无线网络。
[0076] 若通信网络3为Internet,可以应用在互联网上,若通信网络3为通信总线,可以应用在终端一体机上,若通信网络3为无线网络,可应用在移动终端中。本产品将在2010上海世博会上展出。
[0077] 本发明使用户可以使用自己的照片生成的3D模拟形象(模拟真实的动作)体验各种商品如假发、眼影、唇膏、眼镜等试用后的效果,以此为基础可以应用在网络电子商务中,如假发电子商务网站中的假发虚拟3D体验、化妆品电子商务网站中的化妆品虚拟形象体验、以及眼镜、首饰等电子商务网站的虚拟体验。
[0078] 根据用户照片检测特征点的位置,包括脸、眼睛、鼻子、嘴巴、眉毛的轮廓以及肤色信息,并以这些信息为依据对不同类型化妆品的试用效果做出色彩变化,实现试用效果。
[0079] 由一张用户照片,通过检测特征点位置,使用三维重建方法重建以该照片为纹理的三维模型。并通过预存的模型变形信息和算法实现在模型3D渲染时的三维动作,如眨眼、微笑、说话等面部动作,以及头部的模拟真实的摆动动作。
[0080] 在网络客户端实现三维形象的3D渲染,并在渲染过程中通过改变模型纹理照片而实现3D渲染内容的实施改变,让体验更加真实。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈