首页 / 专利库 / 多媒体工具与应用 / 媒体流 / 视频流 / 一种分镜效果的实现方法、装置及相关产品

一种分镜效果的实现方法、装置及相关产品

阅读:825发布:2020-05-11

专利汇可以提供一种分镜效果的实现方法、装置及相关产品专利检索,专利查询,专利分析的服务。并且本 申请 提供了一种分镜效果的实现方法、装置及相关产品,其特征在于,方法包括:获取三维虚拟模型;以至少两个不同的镜头视 角 对所述三维虚拟模型进行 渲染 ,得到至少两个不同的镜头视角分别对应的虚拟图像。,下面是一种分镜效果的实现方法、装置及相关产品专利的具体信息内容。

1.一种分镜效果的实现方法,其特征在于,包括:
获取三维虚拟模型;
以至少两个不同的镜头视对所述三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像。
2.根据权利要求1所述的方法,其特征在于,所述三维虚拟模型包括处于三维虚拟场景模型中的三维虚拟人物模型,在所述获取三维虚拟模型之前,所述方法还包括:
获取真实图像,其中,所述真实图像包括真实人物图像;
对所述真实人物图像进行特征提取得到特征信息,其中,所述特征信息包括所述真实人物的动作信息;
根据所述特征信息生成所述三维虚拟模型,以使得所述三维虚拟模型中的所述三维虚拟人物模型的动作信息与所述真实人物的动作信息对应。
3.根据权利要求2所述的方法,其特征在于,所述获取真实图像包括:
获取视频流,根据所述视频流中的至少两图像得到至少两帧所述真实图像;
所述对所述真实人物图像进行特征提取得到特征信息,包括:
分别对每一帧所述真实人物图像进行特征提取得到对应的特征信息。
4.根据权利要求3所述的方法,其特征在于,所述真实图像还包括真实场景图像,所述三维虚拟模型还包括所述三维虚拟场景模型,在所述获取三维虚拟模型之前,所述方法还包括:
根据所述真实场景图像,构建所述三维虚拟场景图像。
5.根据权利要求3或4所述的方法,其特征在于,获取所述至少两个不同的镜头视角的步骤包括:
根据所述至少两帧所述真实图像,得到所述至少两个不同的镜头视角。
6.根据权利要求3或4所述的方法,其特征在于,所述获取所述至少两个不同的镜头视角的步骤包括:
根据所述至少两帧所述真实图像分别对应的动作信息,得到所述至少两个不同的镜头视角。
7.根据权利要求3或4所述的方法,其特征在于,所述获取所述至少两个不同的镜头视角的步骤包括:
获取背景音乐;
确定所述背景音乐对应的时间合集,其中所述时间合集包括至少两个时间段;
获取所述时间合集中每一个时间段对应的镜头视角。
8.根据权利要求1所述的方法,其特征在于,所述至少两个不同的镜头视角包括第一镜头视角和第二镜头视角,所述以至少两个不同的镜头视角对所述三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像包括:
以所述第一镜头视角对所述三维虚拟模型进行渲染,得到第一虚拟图像;
以所述第二镜头视角对所述三维虚拟模型进行渲染,得到第二虚拟图像;
展示根据所述第一虚拟图像和所述第二虚拟图像形成的图像序列
9.根据权利要求8所述的方法,其特征在于,所述以所述第二镜头视角对所述三维虚拟模型进行渲染,得到第二虚拟图像包括:
将所述第一镜头视角下的所述三维虚拟模型进行平移或者旋转,得到第二镜头视角下的所述三维虚拟模型;
获取所述第二镜头视角下的所述三维虚拟模型对应的所述第二虚拟图像。
10.根据权利要求9所述的方法,其特征在于,所述展示根据所述第一图像和所述第二虚拟图像形成的图像序列包括:
在所述第一虚拟图像和所述第二虚拟图像之间插入a帧虚拟图像,使得所述第一虚拟图像平缓切换至所述第二虚拟图像,其中,a是正整数。
11.根据权利要求7至10任一项权利要求所述的方法,其特征在于,所述方法还包括:
对所述背景音乐进行节拍检测,得到所述背景音乐的节拍合集,其中,所述节拍合集包括多个节拍,所述多个节拍中的每一个节拍对应一个舞台特效;
将所述节拍合集对应的目标舞台特效添加到所述三维虚拟模型中。
12.一种分镜效果的实现装置,其特征在于,包括:
获取单元,用于获取三维虚拟模型;
分镜单元,用于以至少两个不同的镜头视角对所述三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像。
13.一种电子设备,其特征在于,所述电子设备包括:处理器、通信接口以及存储器;所述存储器用于存储指令,所述处理器用于执行所述指令,所述通信接口用于在所述处理器的控制下与其他设备进行通信,其中,所述处理器执行所述指令时实现权利要求1至11任一项权利要求所述的方法。
14.一种计算机可读存储介质,其特征在于,存储有计算机程序,所述计算机程序被硬件执行以实现权利要求1至11任一项权利要求所述的方法。
15.一种计算机程序产品,其特征在于,所述计算机程序产品被计算机读取并执行以实现权利要求1至11任一项权利要求所述的方法。

说明书全文

一种分镜效果的实现方法、装置及相关产品

技术领域

[0001] 本申请涉及虚拟技术领域,尤其涉及一种分镜效果的实现方法、装置及相关产品。

背景技术

[0002] 近年来,“虚拟人物”频繁出现在我们的生活中,例如,人们熟知的“初音未来”、“洛天依”等虚拟偶像在音乐领域中的应用,或者虚拟主持人在新闻直播中的应用等等。由于虚拟人物可以代替真实人物在网络世界中进行活动,而且用户可以根据需求自行设置虚拟人物的外观、造型等等,因此,虚拟人物逐渐成为了一种人与人之间的交流方式。
[0003] 目前,网络中的虚拟人物在生成过程中普遍采用运动捕获技术,通过图像识别的方法对拍摄得到的真实人物图像进行分析,从而将真实人物的动作和表情定向到虚拟人物中,使得虚拟人物可以重现真实人物的动作和表情。发明内容
[0004] 本申请实施例公开了一种分镜效果的实现方法、装置及相关产品。
[0005] 第一方面,本申请提供了一种分镜效果的实现方法,包括:
[0006] 获取三维虚拟模型;
[0007] 以至少两个不同的镜头视对三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像。
[0008] 上述方法通过对获取三维虚拟模型,并以至少两个不同的镜头视角对三维虚拟模型进行渲染,从而得到至少两个不同的镜头视角分别对应的虚拟图像,使得用户可以看到不同镜头视角下的虚拟图像,为用户带来丰富的视觉体验。
[0009] 在本申请实施例中,三维虚拟模型包括处于三维虚拟场景模型中的三维虚拟人物模型,在获取三维虚拟模型之前,上述方法还包括:获取真实图像,其中,真实图像包括真实人物图像;对真实人物图像进行特征提取得到特征信息,其中,特征信息包括真实人物的动作信息;根据特征信息生成三维虚拟模型,以使得三维虚拟模型中的三维虚拟人物模型的动作信息与真实人物的动作信息对应。
[0010] 可以看出,通过对采集得到的真实人物图像进行特征提取,从而生成三维虚拟模型,使得三维虚拟模型中的三维虚拟人物模型可以重现真实人物的面部表情和肢体动作,方便观众通过观看三维虚拟模型对应的虚拟图像便可以得知真实人物的面部表情和肢体动作,从而使得观众与真人主播实现更为灵活的互动。
[0011] 在本申请实施例中,获取真实图像包括:获取视频流,根据视频流中的至少两图像得到至少两帧真实图像;对真实人物图像进行特征提取得到特征信息,包括:分别对每一帧真实人物图像进行特征提取得到对应的特征信息。
[0012] 可以看出,三维虚拟模型可以根据采集得到的多帧真实图像实时变化,使得用户可以看到不同镜头视角下的三维虚拟模型的动态变化过程。
[0013] 在本申请实施例中,真实图像还包括真实场景图像,三维虚拟模型还包括三维虚拟场景模型,在获取三维虚拟模型之前,上述方法还包括:根据真实场景图像,构建三维虚拟场景图像。
[0014] 可以看出,上述方法还可以利用真实场景图像来构建三维虚拟模型中的三维虚拟场景图像,相较于只能选择特定的三维虚拟场景图像来说,使得三维虚拟场景图像的选择性更多。
[0015] 在本申请实施例中,获取至少两个不同的镜头视角的步骤包括:根据至少两帧真实图像,得到至少两个不同的镜头视角。
[0016] 可以看出,每帧真实图像对应一个镜头视角,多帧真实图像对应多个镜头视角,因此根据至少两帧真实图像可以得到至少两帧不同的镜头视角,从而用于实现三维虚拟模型的镜头视角渲染,为用户提供丰富的视觉体验。
[0017] 在本申请实施例中,获取至少两个不同的镜头视角的步骤包括:根据至少两帧真实图像分别对应的动作信息,得到至少两个不同的镜头视角。
[0018] 可以看出,根据真实图像中的真实人物的动作信息来确定镜头视角,可以使得图像中放大显示对应的三维虚拟人物模型的动作,方便用户通过观看虚拟图像从而得知真实人物的动作,提高交互性与趣味性。
[0019] 在本申请实施例中,获取至少两个不同的镜头视角的步骤包括:获取背景音乐;确定背景音乐对应的时间合集,其中时间合集包括至少两个时间段;获取时间合集中每一个时间段对应的镜头视角。
[0020] 可以看出,上述方法中通过分析背景音乐,并确定背景音乐对应的时间合集,从而获取多个不同镜头视角,通过这种方法可以提高镜头视角的多样性,使得用户可以得到更为丰富的视觉体验。
[0021] 在本申请实施例中,至少两个不同的镜头视角包括第一镜头视角和第二镜头视角,以至少两个不同的镜头视角对三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像包括:以第一镜头视角对三维虚拟模型进行渲染,得到第一虚拟图像;以第二镜头视角对三维虚拟模型进行渲染,得到第二虚拟图像;展示根据第一虚拟图像和第二虚拟图像形成的图像序列
[0022] 可以看出,分别以第一镜头视角和第二镜头视角对三维虚拟模型进行渲染,可以使得用户观看到第一镜头视角下的三维虚拟模型以及第二镜头视角下的三维虚拟模型,从而为用户提供丰富的视觉体验。
[0023] 在本申请实施例中,以第二镜头视角对三维虚拟模型进行渲染,得到第二虚拟图像包括:将第一镜头视角下的三维虚拟模型进行平移或者旋转,得到第二镜头视角下的三维虚拟模型;获取第二镜头视角下的三维虚拟模型对应的第二虚拟图像。
[0024] 可以看出,通过将第一镜头视角下的三维虚拟模型进行平移或者旋转,可以快速且准确地得到第二镜头视角下的三维虚拟模型,也就是第二虚拟图像。
[0025] 在本申请实施例中,展示根据第一图像和第二虚拟图像形成的图像序列包括:在第一虚拟图像和第二虚拟图像之间插入a帧虚拟图像,使得第一虚拟图像平缓切换至第二虚拟图像,其中,a是正整数。
[0026] 可以看出,在第一虚拟图像和第二虚拟图像之间插入a帧虚拟图像,使得观众可以看到由第一虚拟图像到第二虚拟图像的整个变化过程,而不是单一的两张图像(第一虚拟图像和第二虚拟图像),从而使得观众可以适应由第一虚拟图像到第二虚拟图像所造成的视觉差的变化效果。
[0027] 在本申请实施例中,方法还包括:对背景音乐进行节拍检测,得到背景音乐的节拍合集,其中,节拍合集包括多个节拍,多个节拍中的每一个节拍对应一个舞台特效;将节拍合集对应的目标舞台特效添加到三维虚拟模型中。
[0028] 可以看出,根据音乐的节拍信息对虚拟人物模型所在的虚拟场景添加相应的舞台特效,从而为观众呈现出不同的舞台效果,增强了观众的观看体验度。
[0029] 第二方面,本申请提供了一种分镜效果的实现装置,包括:
[0030] 获取单元,用于获取三维虚拟模型;
[0031] 分镜单元,用于以至少两个不同的镜头视角对三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像。
[0032] 上述分镜效果实现装置通过获取单元得到三维虚拟模型,然后发送给分镜单元,分镜单元用多个镜头视角对三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像,从而使得用户可以看到不同镜头视角下的虚拟图像,为用户带来丰富的视觉体验。
[0033] 在本申请实施例中,三维虚拟模型包括处于三维虚拟场景模型中的三维虚拟人物模型,在获取三维虚拟模型之前,装置还包括:获取单元,还用于获取真实图像,其中,真实图像包括真实人物图像;特征提取单元,用于对真实人物图像进行特征提取得到特征信息,其中,特征信息包括真实人物的动作信息;三维虚拟模型生成单元,用于根据特征信息生成三维虚拟模型,以使得三维虚拟模型中的三维虚拟人物模型的动作信息与真实人物的动作信息对应。
[0034] 可以看出,特征提取单元通过对获取单元采集得到的真实人物图像进行特征提取,并将特征信息发送给三维虚拟模型生成单元,使得三维虚拟模型生成单元根据特征信息生成三维虚拟模型,因此三维虚拟模型中的三维虚拟人物模型可以重现真实人物的面部表情和肢体动作,方便观众通过观看三维虚拟模型对应的虚拟图像便可以得知真实人物的面部表情和肢体动作,从而使得观众与真人主播实现更为灵活的互动。
[0035] 在本申请实施例中,获取单元还用于:获取视频流,根据视频流中的至少两帧图像得到至少两帧真实图像;特征提取单元还用于:分别对每一帧真实人物图像进行特征提取得到对应的特征信息。
[0036] 可以看出,获取单元可以通过获得视频流,并根据视频流中的多帧真实图像来生成对应的三维虚拟模型,使得生成的三维虚拟模型可以根据采集得到的多帧真实图像实时变化,使得用户可以看到不同镜头视角下的三维虚拟模型的动态变化过程。
[0037] 在本申请实施例中,真实图像还包括真实场景图像,三维虚拟模型还包括三维虚拟场景模型,在获取三维虚拟模型之前,装置还包括:三维虚拟场景图像构建单元,用于根据真实场景图像,构建三维虚拟场景图像。
[0038] 可以看出,三维虚拟场景图像构建单元可以利用真实场景图像来构建三维虚拟模型中的三维虚拟场景图像,相较于只能选择特定的三维虚拟场景图像来说,使得三维虚拟场景图像的选择性更多。
[0039] 在本申请实施例中,装置还包括镜头视角获取单元,镜头视角获取单元用于获取至少两个不同的镜头视角,镜头视角获取单元还用于:根据至少两帧真实图像,得到至少两个不同的镜头视角。
[0040] 可以看出,镜头视角单元通过获取多帧真实图像,从而可以得到多个不同的镜头视角,并利用这些镜头视角对三维虚拟模型进行渲染,为用户提供丰富的视觉体验。
[0041] 在本申请实施例中,镜头视角获取单元用于:根据至少两帧真实图像分别对应的动作信息,得到至少两个不同的镜头视角。
[0042] 可以看出,镜头视角获取单元根据真实图像中的真实人物的动作信息来确定镜头视角,可以使得图像中放大显示对应的三维虚拟人物模型的动作,方便用户通过观看虚拟图像从而得知真实人物的动作,提高交互性与趣味性。
[0043] 在本申请实施例中,镜头视角获取单元用于:获取背景音乐;确定背景音乐对应的时间合集,其中时间合集包括至少两个时间段;获取时间合集中每一个时间段对应的镜头视角。
[0044] 可以看出,镜头视角获取单元通过分析背景音乐,并确定背景音乐对应的时间合集,从而获取多个不同镜头视角,通过这种方法可以提高镜头视角的多样性,使得用户可以得到更为丰富的视觉体验。
[0045] 在本申请实施例中,至少两个不同的镜头视角包括第一镜头视角和第二镜头视角,分镜单元具体用于:以第一镜头视角对三维虚拟模型进行渲染,得到第一虚拟图像;以第二镜头视角对三维虚拟模型进行渲染,得到第二虚拟图像;展示根据第一虚拟图像和第二虚拟图像形成的图像序列。
[0046] 可以看出,分镜单元可以分别利用第一镜头视角和第二镜头视角对三维虚拟模型进行渲染,从而使得用户可以观看到第一镜头视角下的三维虚拟模型以及第二镜头视角下的三维虚拟模型,提高用户的观看舒适度。
[0047] 在本申请实施例中,分镜单元还用于:将第一镜头视角下的三维虚拟模型进行平移或者旋转,得到第二镜头视角下的三维虚拟模型;获取第二镜头视角下的三维虚拟模型对应的第二虚拟图像。
[0048] 可以看出,分镜单元通过将第一镜头视角下的三维虚拟模型进行平移或者旋转,可以快速且准确地得到第二镜头视角下的三维虚拟模型,即第二虚拟图像。
[0049] 在本申请实施例中,分镜单元还用于:在第一虚拟图像和第二虚拟图像之间插入a帧虚拟图像,使得第一虚拟图像平缓切换至第二虚拟图像,其中,a是正整数。
[0050] 可以看出,分镜单元通过在第一虚拟图像和第二虚拟图像之间插入a帧虚拟图像,使得观众可以看到由第一虚拟图像到第二虚拟图像的整个变化过程,而不是单一的两张图像(第一虚拟图像和第二虚拟图像),从而使得观众可以适应由第一虚拟图像到第二虚拟图像所造成的视觉差的变化效果。
[0051] 在本申请实施例中,装置还包括:节拍检测单元,用于对背景音乐进行节拍检测,得到背景音乐的节拍合集,其中,节拍合集包括多个节拍,多个节拍中的每一个节拍对应一个舞台特效;舞台特效生成单元,用于将节拍合集对应的目标舞台特效添加到三维虚拟模型中。
[0052] 可以看出,节拍检测单元通过对背景音乐的节拍进行检测,使得舞台特效生成单元可以在不同节拍处对三维虚拟模型进行不同的渲染处理,从而为观众呈现出不同的舞台效果,增强了观众的观看体验度。
[0053] 第三方面,本申请提供了一种电子设备,包括:处理器、通信接口以及存储器;存储器用于存储指令,处理器用于执行指令,通信接口用于在处理器的控制下与其他设备进行通信,其中,处理器执行指令时使得电子设备实现如上述第一方面中的任一项方法。
[0054] 第四方面,本申请提供了一种计算机可读存储介质,存储有计算机程序,上述计算机程序被硬件执行以实现上述第一方面中的任一项方法。
[0055] 第五方面,本申请提供了一种计算机程序产品,当计算机程序产品被计算机读取并执行时,如上述第一方面中的任一项方法被执行。附图说明
[0056] 为了更清楚地说明本申请实施例或背景技术中的技术方案,下面将对本申请实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0057] 图1是本申请提供的一种具体应用场景的示意图;
[0058] 图2是本申请提供的一种可能的三维虚拟模型的示意图;
[0059] 图3是本申请提供的一种分镜效果实现方法的流程示意图;
[0060] 图4是本申请提供的一种插值曲线的示意图;
[0061] 图5是本申请提供的一种具体实施例的流程示意图;
[0062] 图6是本申请提供的一种分镜规则示意图;
[0063] 图7A是本申请提供的一种可能的虚拟图像的效果图;
[0064] 图7B是本申请提供的一种可能的虚拟图像的效果图;
[0065] 图7C是本申请提供的一种可能的虚拟图像的效果图;
[0066] 图7D是本申请提供的一种可能的虚拟图像的效果图;
[0067] 图8是本申请提供的一种分镜效果的实现装置的结构示意图;
[0068] 图9是本申请提供的一种电子设备的结构示意图。

具体实施方式

[0069] 本申请的实施例中使用的术语仅用于对本申请的具体实施例进行解释,而非旨在限定本申请。
[0070] 本申请提供的一种分镜效果的实现方法、装置及相关产品可以应用在社交、娱乐以及教育等多个领域,比如说,可以用于虚拟直播、虚拟社区中进行社交互动,也可以用于举办虚拟演唱会,还可以应用于课堂教学等等。为了方便理解本申请实施例,下面以虚拟直播为例,对本申请实施例的具体应用场景进行详细说明。
[0071] 虚拟直播,顾名思义就是一种在直播平台上利用虚拟人物代替真人主播进行直播的方式。由于虚拟人物具有丰富的表现,也更加符合社交网络的传播环境,因此,虚拟直播产业发展迅猛。在虚拟直播的过程中,通常利用面部表情捕捉、动作捕捉以及声音处理等计算机技术,将真人主播的面部表情和动作套用在虚拟人物模型上,从而实现观众与虚拟主播在视频网站或者社交网站中的互动。
[0072] 为了节省直播成本以及后期制作费用,用户通常直接使用手机、平板电脑等终端设备进行直播。请参见图1,图1是本申请提供的一种具体应用场景的示意图,在如图1示出的直播过程中,摄像设备110对真人主播进行拍摄,并将采集到的真实人物图像通过网络传送至服务器120中进行处理,之后服务器再将生成的虚拟图像发送至用户终端130,从而使得不同的观众通过对应的用户终端130观看到整个直播过程。
[0073] 可以看出,这种方式的虚拟直播虽然成本较低,但是由于只有的单个摄像设备110对真人主播进行拍摄,因此生成的虚拟主播与摄像设备110的位置有关,也就是说,观众只能看到特定视角下的虚拟人物,而这个特定视角取决于摄像设备110与真人主播之间的相对位置,从而使得呈现出的直播效果不尽如人意,例如,在虚拟直播过程中常常出现虚拟主播的动作僵硬、镜头切换画面不流畅或者镜头画面单调枯燥等问题,从而造成观众的视觉疲劳,无法令观众体会到身临其境的感受。
[0074] 类似的,在其他应用场景中,例如,教学过程中老师通过线上教学的形式为学生教授知识,但是这种教学方法通常是枯燥乏味的,视频中的老师无法实时得知学生对知识点的掌握情况,学生也只能看到单一视角画面中的老师或者教学讲义,容易造成学生的疲惫感,与老师现场教学相比视频教学的教学效果大打折扣。又例如,在举办演唱会的过程中可能由于天气、场地等限制,造成演唱会无法如期举办时,歌手可以在录音室中举办虚拟演唱会,以模拟真实演唱会的情景,为了实现真实演唱会的情景,通常需要搭设多台摄像机对歌手进行拍摄,这种虚拟演唱会的举办方式操作复杂且浪费成本,而且利用多台摄像机进行拍摄可以得到多个镜头下的画面,这就可能存在镜头切换不流畅的问题,从而使得用户无法适应不同镜头画面在切换时所造成的视觉差。为了解决上述应用场景中经常出现的画面镜头视角单一以及镜头切换画面不流畅等问题,本申请提供了一种用于实现分镜效果的方法,该方法根据采集得到的真实图像生成三维虚拟模型,并根据背景音乐或者真实人物的动作得到多个不同的镜头视角,然后以多个不同的镜头视角对三维虚拟模型进行渲染,得到多个不同的镜头视角分别对应的虚拟图像,从而模拟出在虚拟场景中有多个虚拟相机对三维虚拟模型进行拍摄的效果,提高了观众的观看体验感。另外,该方法还通过对背景音乐的节拍进行解析,并根据节拍信息在三维虚拟模型中添加对应的舞台特效,为观众呈现出不同的舞台效果,进一步增强了观众的观看体验感。
[0075] 下面,首先解释本申请实施例中由真实图像生成三维虚拟模型的具体过程。
[0076] 在本申请实施例中,三维虚拟模型包括处于三维虚拟场景中的三维虚拟人物模型。以图2为例,图2示出的一种可能的三维虚拟模型的示意图,根据图2所示的三维虚拟模型可以看到三维虚拟人物模型的双手举到胸前,为了突出对比效果,图2的左上角还展示了由分镜效果实现装置采集得到的真实图像,其中,真实人物也是双手举到胸前,换句话说,三维虚拟人物模型与真实人物的动作一致。可以理解,上述图2仅仅是一种举例,在实际应用中,分镜效果实现装置采集得到真实图像可以是三维图像,也可以是二维图像,真实图像中人物的数量可以是一个,也可以是多个,真实人物的动作可以是双手举到胸前,也可以是抬起左脚或者其他动作等等,相应的,由真实人物图像生成的三维虚拟模型中三维虚拟人物模型的数量可以是一个,也可以是多个,三维虚拟人物模型的动作可以是双手举到胸前,也可以是抬起左脚或者其他动作等等,此处不作具体限定。
[0077] 在本申请实施例中,分镜效果实现装置对真实人物进行拍摄,得到多帧真实图像I1,I2,…,In,并按照时间顺序对真实图像I1,I2,…,In分别进行特征提取,从而得到多个对应的三维虚拟模型M1,M2,…,Mn,其中n是正整数,并且真实图像I1,I2,…,In与三维虚拟模型M1,M2,…,Mn之间存在一一对应的关系,也就是说,一帧真实人物图像用于生成一个三维虚拟模型,一个三维虚拟模型是可以这样得到的,以真实图像Ii生成三维虚拟模型Mi为例:
[0078] 步骤一,分镜效果实现装置获取真实图像Ii。
[0079] 其中,真实图像Ii中包括真实人物图像,并且i是正整数,1≤i≤n。
[0080] 步骤二,分镜效果实现装置对真实图像Ii中的真实人物图像进行特征提取得到特征信息。
[0081] 其中,特征信息包括真实人物的动作信息。
[0082] 可以理解的,特征信息用于控制三维虚拟人物模型的姿态,特征信息中的动作信息包括面部表情特征以及肢体动作特征,面部表情特征用于描述人物的各种情绪状态,例如,高兴、悲伤、惊讶、恐惧、愤怒或者厌恶等等,肢体动作特征用于描述真实人物的动作状态,例如,举起左手、抬起右脚或者跳跃等等。另外,特征信息还可以包括人物信息,其中,人物信息包括真实人物的多个人体关键点及其对应的位置信息,人体关键点包括人脸关键点和人体骨骼关键点,位置特征包括真实人物的人体关键点的位置坐标。
[0083] 可选的,分镜效果实现装置通过对真实图像Ii进行图像分割,提取得到真实图像Ii中的真实人物图像;然后对提取得到的真实人物图像进行关键点检测得到上述多个人体关键点以及多个人体关键点的位置信息,其中,这些人体关键点包括人脸关键点和人体骨骼关键点,具体可以位于人体的头部区域、脖子区域、肩膀区域、脊柱区域、腰部区域、臀部区域、手腕区域、手臂区域、膝盖区域、腿部区域、脚腕区域以及脚掌区域等等;通过对人脸关键点以及人脸关键点的位置信息进行分析,得到真实图像Ii中真实人物的面部表情特征;通过对人体骨骼关键点以及人体骨骼关键点的位置信息进行分析,得到真实图像Ii中真实人物的骨骼特征,从而得到真实人物的肢体动作特征。
[0084] 可选的,分镜效果实现装置将真实图像Ii输入神经网络中进行特征提取,经过多个卷积层的计算后,提取得到上述多个人体关键点信息。其中,神经网络是通过大量的训练得到的,神经网络可以是卷积神经网络(convolution neural network,CNN),也可以是反向传播神经网络(back propagation neural network,BPNN),还可以是生成对抗网络(generative adversarial network,GAN)或者循环神经网络(recurrent neural network,RNN)等等,此处不作具体限定。需要说明的,上述人体特征的提取过程可以在同一个神经网络中进行,也可以在不同神经网络中进行,例如,分镜效果实现装置可以利用CNN提取人脸关键点,得到人体面部表情特征;也可以利用BPNN提取人体骨骼关键点,得到人体骨骼特征以及肢体动作特征,此处不作具体限定。另外,上述用于驱动三维虚拟人物模型的特征信息的示例仅仅用于进行举例,在实际应用中还可以包括其他特征信息,此处不作具体限定。
[0085] 步骤三,分镜效果实现装置根据特征信息生成三维虚拟模型Mi中的三维虚拟人物模型,以使得三维虚拟模型Mi中的三维虚拟人物模型与真实图像Ii中真实人物的动作信息对应。
[0086] 可选的,分镜效果实现装置通过上述特征信息建立真实人物的人体关键点到虚拟人物模型的人体关键点之间的映射关系;然后根据映射关系控制虚拟人物模型的表情和姿态,从而使得虚拟人物模型的面部表情和肢体动作与真实人物的面部表情和肢体动作一致。
[0087] 可选的,分镜效果实现装置分别对真实人物的人体关键点进行序号标注,得到真实人物的人体关键点的标注信息,其中,人体关键点与标注信息一一对应;然后,根据真实人物的人体关键点的标注信息来标注虚拟人物模型中的人体关键点,比如说,真实人物的左手手腕的标注信息是1号,则三维虚拟人物模型的左手手腕的标注信息也是1号,真实人物的左手手臂的标注信息是2号,则三维虚拟人物模型的左手手腕的标注信息也是2号等等;之后,再将真实人物的人体关键点标注信息与三维虚拟人物模型的人体关键点标注信息进行匹配,并将真实人物的人体关键点位置信息映射到对应的三维虚拟人物模型的人体关键点中,从而使得三维虚拟人物模型可以重现真实人物的面部表情和肢体动作。
[0088] 在本申请实施例中,真实图像Ii还包括真实场景图像,三维虚拟模型Mi还包括三维虚拟场景模型,上述根据真实图像Ii生成三维虚拟模型Mi的方法还包括:根据真实图像Ii中的真实场景图像构建三维虚拟模型Mi中的三维虚拟场景。
[0089] 可选的,分镜效果实现装置首先对真实图像Ii进行图像分割,得到真实图像Ii中的真实场景图像;然后提取真实场景图像中的场景特征,例如,真实场景中物体的位置特征、形状特征以及大小特征等等;根据场景特征构建三维虚拟图像Mi中的三维虚拟场景模型,使得三维虚拟图像Mi中的三维虚拟场景模型可以高度还原真实图像Ii中的真实场景图像。
[0090] 为了简便陈述,上述仅仅说明了由真实图像Ii生成三维虚拟模型Mi的过程,实际上,三维虚拟模型M1,M2,…,Mi-1,Mi+1,…,Mn的生成过程与三维虚拟模型Mi的生成过程类似,此处不再展开赘述。
[0091] 需要说明的,三维虚拟模型中的三维虚拟场景模型可以根据真实图像中的真实场景图像构建,也可以是用户自定义的三维虚拟场景模型;三维虚拟模型中三维虚拟人物模型的五官外貌可以由真实图像中的真实人物图像的五官构建,也可以是用户自定义的五官外貌,此处不作具体限定。
[0092] 接下来,对本申请实施例中涉及的以多个不同的镜头视角对三维虚拟模型M1,M2,…,Mn中的每一个三维虚拟模型进行镜头视角渲染,使得观众可以看到同一个三维虚拟模型在不同镜头视角下的虚拟图像进行详细说明。以真实图像Ii生成的三维虚拟模型Mi为例,分别使用k个不同的镜头对三维虚拟模型Mi进行渲染,得到k个不同镜头视角下的虚拟图像Qi1,Qi2,…,Qik,其中k≥2,从而实现分镜切换的效果,其具体过程可以表述如下:
[0093] 如图3所示,图3是本申请提供的一种分镜效果实现方法的流程示意图。本实施方式的分镜效果实现方法包括但不限于以下步骤:
[0094] S101、分镜效果实现装置获取三维虚拟模型。
[0095] 在本申请实施例中,三维虚拟模型用于模拟真实人物和真实场景,三维虚拟模型包括处于三维虚拟场景模型中的三维虚拟人物模型,三维虚拟模型是根据真实图像生成的,其中,三维虚拟人物模型是根据真实图像包括的真实人物图像生成的,三维虚拟模型中的三维虚拟人物模型用于模拟真实图像中的真实人物,并且三维虚拟人物模型的动作与真实人物的动作对应。三维虚拟场景模型可以是根据真实图像包括的真实场景图像构建的,也可以是预设的三维虚拟场景模型。当三维虚拟场景模型是由真实场景图像构建得到的,则三维虚拟场景模型可用于模拟真实图像中的真实场景。
[0096] S102、分镜效果实现装置获取至少两个不同的镜头视角。
[0097] 在本申请实施例中,镜头视角用于表示相机在拍摄物体时相机相对于被摄物体的位置。例如,相机在物体的正上方进行拍摄时可以得到物体的俯视图,假设相机位于物体的正上方对应的镜头视角为V,则利用该相机拍摄得到的图像展示了镜头视角V下的物体,也就是物体的俯视图。
[0098] 在本申请实施例中,真实图像可以是由真实相机拍摄得到的,真实相机相对于真实人物的位置可能是多个,由多个处于不同位置的真实相机拍摄得到的多张真实图像展示了多个不同镜头视角下的真实人物。
[0099] 在本申请实施例中,获取至少两个不同的镜头视角包括:根据至少两帧真实图像,得到至少两个不同的镜头视角。
[0100] 在本申请实施例中,动作信息包括真实图像中真实人物的肢体动作以及面部表情,其中,肢体动作包括很多种,肢体动作可以是举起右手、抬起左脚、跳跃等等中的一种或者多种,肢体动作同样也包括很多种,面部表情可以是微笑、流泪、恼怒等等中的一种或者多种。
[0101] 在本申请实施例中,一个动作或者多种动作的组合对应一个镜头视角。例如,当真实人物微笑且跳跃时对应的镜头视角为V1,当真实人物只跳跃时对应的镜头视角可以是镜头视角V1,也可以是镜头视角V2等等,同样的,当真实人物只微笑时对应的镜头视角可以是镜头视角V1,也可以是镜头视角V2,还可以是镜头视角V3等等。
[0102] 在本申请实施例中,获取至少两个不同的镜头视角包括:根据至少两帧真实图像分别对应的动作信息,得到至少两个不同的镜头视角。
[0103] 在本申请实施例中,真实图像可以是一段视频流中的一帧或者多帧,视频流中包括图像信息和背景音乐信息,其中,一帧图像与一帧音乐对应。
[0104] 在本申请实施例中,获取至少两个不同的镜头视角包括:获取背景音乐;确定背景音乐对应的时间合集,其中时间合集包括至少两个时间段;获取时间合集中每一个时间段对应的镜头视角。S103、分镜效果实现装置以至少两个不同的镜头视角对三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像。
[0105] 在本申请实施例中,上述至少两个不同的镜头视角包括第一镜头视角和第二镜头视角,以至少两个不同的镜头视角对所述三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像包括:
[0106] S1031、以第一镜头视角对三维虚拟模型进行渲染,得到第一虚拟图像。
[0107] S1032、以第二镜头视角对三维虚拟模型进行渲染,得到第二虚拟图像。
[0108] 在本申请实施例中,以第二镜头视角对三维虚拟模型进行渲染,得到第二虚拟图像包括:将第一镜头视角下的三维虚拟模型进行平移或者旋转,得到第二镜头视角下的三维虚拟模型;获取第二镜头视角下的三维虚拟模型对应的第二虚拟图像。
[0109] 可以理解的,第一镜头视角可以是根据真实图像得到的,也可以是根据真实图像对应的动作信息得到的,还可以是根据背景音乐对应的时间合集得到的;同样的,第二镜头视角可以是根据真实图像得到的,也可以是根据真实图像对应的动作信息得到的,还可以是根据背景音乐对应的时间合集得到的,本申请不作具体限定。
[0110] S1033、展示根据第一虚拟图像和第二虚拟图像形成的图像序列。
[0111] 在本申请实施例中,上述展示根据第一图像和第二虚拟图像形成的图像序列包括:在第一虚拟图像和所述第二虚拟图像之间插入a帧虚拟图像,使得第一虚拟图像平缓切换至第二虚拟图像,其中,a是正整数。
[0112] 可选的,在第一虚拟图像与第二虚拟图像之间插入a帧虚拟图像P1,P2,...,Pa,使得第一虚拟图像平缓切换至第二虚拟图像,其中a帧虚拟图像P1,P2,...,Pa插入的时间点为b1,b2,...,ba,时间点b1,b2,...,ba形成的曲线的斜率值满足先单调递减后单调递增的函数,并且a是正整数。
[0113] 举例说明,如图4所示,图4示出了一种插值曲线的示意图。图4中分镜效果实现装置在第1分钟时获得第一虚拟图像,在第2分钟时获得第二虚拟图像,且第一虚拟图像呈现的是三维虚拟模型的正视图,第二虚拟图像呈现的是三维虚拟模型的左视图。为了使得观众可以看到流畅的镜头切换画面,分镜效果实现装置在第1分钟与第2分钟之间插入多个时间点,并且在每一个时间点处插入一帧虚拟图像,例如,在1.4分钟时插入虚拟图像P1,在第1.65分钟时插入虚拟图像P2,在第1.8分钟时插入虚拟图像P3,在第1.85分钟插入虚拟图像P4,其中,虚拟图像P1呈现的是将三维虚拟模型向左旋转30度的效果,虚拟图像P2呈现的是将三维虚拟模型旋转50度的效果,虚拟图像P3和虚拟图像P4呈现的均是将三维虚拟模型旋转90度的效果,使得观众可以看到三维虚拟模型由正视图变换到左视图的整个过程,而不是单一的两张图像(三维虚拟模型的正视图和三维虚拟模型的左视图),从而使得观众可以适应从正视图切换到左视图的视觉差的变化效果。
[0114] 最后,对本申请实施例中提到的利用舞台特效对三维虚拟模型进行渲染,从而为观众呈现出不同的舞台效果进行详细说明,具体包括以下步骤:
[0115] 步骤一,分镜效果实现装置对背景音乐进行节拍检测,得到背景音乐的节拍合集。
[0116] 其中,节拍合集包括多个节拍,多个节拍中的每一个节拍对应一个舞台特效。可选的,分镜效果实现装置可以利用着色器和粒子特效分别对三维虚拟模型进行渲染处理,例如,着色器可用于实现虚拟舞台背面的聚光灯旋转效果以及虚拟舞台本身的音效波浪效果,粒子特效用于在三维虚拟模型中添加如火花、落叶、流星等类似的视觉效果。
[0117] 步骤二,分镜效果实现装置将节拍合集对应的目标舞台特效添加到三维虚拟模型中。
[0118] 上述方法通过根据采集得到的真实图像生成三维虚拟模型,并根据采集得到的真实图像、背景音乐以及真实人物的动作进行相应的镜头视角切换,从而模拟出在虚拟场景中有多个虚拟相机对三维虚拟模型进行拍摄的效果,提高了观众的观看体验感。另外,该方法还通过对背景音乐的节拍进行解析,并根据节拍信息在虚拟图像中添加对应的舞台特效,为观众呈现出不同的舞台效果,进一步增强了观众的观看体验感。
[0119] 为了便于理解上述实施例涉及的分镜效果实现方法,下面通过举例的方式详细地说明本申请实施例的分镜效果实现方法。
[0120] 请参见图5,如图5所示,图5示出了一种具体的实施例的流程示意图。
[0121] S201、分镜效果实现装置获取真实图像以及背景音乐,并根据真实图像获得第一镜头视角。
[0122] 其中,当背景音乐响起时,真实人物根据背景音乐进行动作,真实相机对真实人物进行拍摄得到真实图像。
[0123] S202、分镜效果实现装置根据真实图像生成三维虚拟模型。
[0124] 其中,三维虚拟模型是分镜效果实现装置在第一时刻获取得到的。
[0125] S203、分镜效果实现装置对背景音乐进行节拍检测,得到背景音乐的节拍合集,并将节拍合集对应的目标舞台特效添加到三维虚拟模型中。
[0126] S204、分镜效果实现装置以第一镜头视角对三维虚拟模型进行渲染,得到第一镜头视角对应的第一虚拟图像。
[0127] S205、分镜效果实现装置确定背景音乐对应的时间合集。
[0128] 其中,时间合集包括多个时间段,多个时间段中的每个时间段对应一个镜头视角;
[0129] S206、分镜效果实现装置判断动作信息库中是否包含有动作信息,在动作信息库中不包含动作信息的情况下执行S207-S209,在动作信息库中包含动作信息的情况下执行S210-S212。其中,动作信息是真实图像中真实人物的动作信息,动作信息库包括多个动作信息,多个动作信息中的每个动作信息对应一个镜头视角。
[0130] S207、分镜效果实现装置根据时间合集,确定第一时刻所处的时间段对应的第二镜头视角;
[0131] S208、分镜效果实现装置以第二镜头视角对三维虚拟模型进行渲染,得到第二镜头视角对应的第二虚拟图像。
[0132] S209、分镜效果实现装置展示根据第一虚拟图像和第二虚拟图像形成的图像序列。
[0133] S210、分镜效果实现装置根据动作信息,确定与动作信息对应的第三镜头视角。
[0134] S211、分镜效果实现装置以第三镜头视角对三维虚拟模型进行渲染,得到第三镜头视角对应的第三虚拟图像。
[0135] S212、分镜效果实现装置展示根据第一虚拟图像和第三虚拟图像形成的图像序列。
[0136] 根据如图5所述的方法,本申请提供了如图6所示的一种分镜规则示意图,根据图6示出的分镜规则对虚拟图像进行分镜处理以及舞台特效处理,可以得到如图7A-7D示出的四种虚拟图像的效果图。
[0137] 如图7A所示,在第1分钟时,分镜效果实现装置在镜头视角V1下对真实人物进行拍摄,得到真实图像I1(如图7A左上角所示),然后根据真实图像I1得到三维虚拟模型M1。分镜效果实现装置对背景音乐进行节拍检测,确定第1分钟对应的节拍为B1,并根据节拍B1得到第1分钟时的舞台特效W1,然后将舞台特效W1添加到三维虚拟模型M1中;分镜效果实现装置根据时间镜头脚本确定第1分钟对应的镜头视角为V1;分镜效果实现装置检测到真实人物在第1分钟的动作是双手举到胸前,并且双手举到胸前这个动作不在动作信息库中,则此时分镜效果实现装置上显示如图7A所示的虚拟图像,其中,图7A所示虚拟图像和真实图像I1的镜头视角相同。
[0138] 如图7B所示,在第2分钟时,分镜效果实现装置在镜头视角V1下对真实人物进行拍摄,得到真实图像I2(如图7B左上角所示),然后根据真实图像I2得到三维虚拟模型M2。分镜效果实现装置对背景音乐进行节拍检测,确定第2分钟对应的节拍B2,并根据节拍B2得到第2分钟时的舞台特效W2,然后在三维虚拟模型M2中添加舞台特效W2;分镜效果实现装置根据预设的镜头脚本确定第2分钟对应的镜头视角为V2;分镜效果实现装置检测到真实人物在第2分钟的动作是向上抬起双手,并且向上抬起双手这个动作不在动作信息库中,则此时分镜效果实现装置将三维虚拟模型M2向左上方旋转得到镜头视角为V2对应的虚拟图像。可以看出,当在三维虚拟模型M2中添加舞台特效W2时,图7B示出的虚拟图像比图7A示出的虚拟图像中增添了灯光效果。
[0139] 如图7C所示,在第3分钟时,分镜效果实现装置在镜头视角V1下对真实人物进行拍摄,得到真实图像I3(如图7C左上角所示),然后根据真实图像I3得到三维虚拟模型M3。分镜效果实现装置对背景音乐进行节拍检测,确定第3分钟对应的节拍B3,并根据节拍B3得到第3分钟时的舞台特效W3,然后在三维虚拟模型M3中添加舞台特效W3;分镜效果实现装置根据预设的镜头脚本确定第3分钟对应的镜头视角为V2;分镜效果实现装置检测到真实人物在第3分钟的动作是向上抬起左脚,并且抬起左脚这个动作对应的镜头视角为V3,则此时分镜效果实现装置将三维虚拟模型M3向左旋转得到镜头视角为V3对应的虚拟图像。可以看出,当在三维虚拟模型M3中添加舞台特效W3时,图7C示出的虚拟图像与图7B示出的虚拟图像中的灯光效果不同,并且图7C示出的虚拟图像中呈现有音效波浪效果。
[0140] 如图7D所示,在第4分钟时,分镜效果实现装置在镜头视角V1下对真实人物进行拍摄,得到真实图像I4(如图7D左上角所示),然后根据真实图像I4得到三维虚拟模型M4。分镜效果实现装置对背景音乐进行节拍检测,确定第4分钟对应的节拍B4,并根据节拍B4得到第4分钟时的舞台特效W3,然后在三维虚拟模型M4中添加舞台特效W4;分镜效果实现装置根据预设的镜头脚本确定第3分钟对应的镜头视角为V4;分镜效果实现装置检测到真实人物在第4分钟的动作是站立,并且站立这个动作对应的镜头视角为V4,则此时分镜效果实现装置将三维虚拟模型M4向右旋转得到镜头视角为V4对应的虚拟图像。可以看出,当在三维虚拟模型M4中添加舞台特效W4时,使得图7D示出的虚拟图像与图7C示出的虚拟图像中舞台效果不相同。
[0141] 本申请提供的分镜效果实现装置可以是软件装置也可以是硬件装置,当分镜效果实现装置为软件装置时,分镜效果实现装置可以单独部署在环境下的一个计算设备上,也可以单独部署在一个终端设备上,当分镜效果实现装置是硬件设备时,分镜效果实现装置内部的单元模也可以有多种划分,各个模块可以是软件模块也可以是硬件模块,也可以部分是软件模块部分是硬件模块,本申请不对其进行限制。图8为一种示例性的划分方式,如图8所示,图8是本申请提供的一种分镜效果的实现装置800,包括:
[0142] 获取单元810,用于获取三维虚拟模型;
[0143] 分镜单元820,用于以至少两个不同的镜头视角对三维虚拟模型进行渲染,得到至少两个不同的镜头视角分别对应的虚拟图像。
[0144] 在本申请实施例中,三维虚拟模型包括处于三维虚拟场景模型中的三维虚拟人物模型,在获取三维虚拟模型之前,上述装置还包括:获取单元810,还用于获取真实图像,其中,真实图像包括真实人物图像;特征提取单元830,用于对真实人物图像进行特征提取得到特征信息,其中,特征信息包括真实人物的动作信息;三维虚拟模型生成单元840,用于根据特征信息生成三维虚拟模型,以使得三维虚拟模型中的三维虚拟人物模型的动作信息与真实人物的动作信息对应。
[0145] 在本申请实施例中,获取单元还用于:获取视频流,根据视频流中的至少两帧图像得到至少两帧真实图像;特征提取单元830还用于:分别对每一帧真实人物图像进行特征提取得到对应的特征信息。
[0146] 在本申请实施例中,真实图像还包括真实场景图像,三维虚拟模型还包括三维虚拟场景模型,在获取三维虚拟模型之前,上述装置还包括:三维虚拟场景图像构建单元850,用于根据真实场景图像,构建三维虚拟场景图像。
[0147] 在本申请实施例中,上述装置还包括镜头视角获取单元860,镜头视角获取单元860用于获取至少两个不同的镜头视角,镜头视角获取单元860还用于:根据至少两帧真实图像,得到至少两个不同的镜头视角。
[0148] 在本申请实施例中,镜头视角获取单元860用于:根据至少两帧真实图像分别对应的动作信息,得到至少两个不同的镜头视角。
[0149] 在本申请实施例中,镜头视角获取单元860用于:获取背景音乐;确定背景音乐对应的时间合集,其中时间合集包括至少两个时间段;获取时间合集中每一个时间段对应的镜头视角。
[0150] 在本申请实施例中,至少两个不同的镜头视角包括第一镜头视角和第二镜头视角,分镜单元820具体用于:以第一镜头视角对三维虚拟模型进行渲染,得到第一虚拟图像;以第二镜头视角对三维虚拟模型进行渲染,得到第二虚拟图像;展示根据第一虚拟图像和第二虚拟图像形成的图像序列。
[0151] 在本申请实施例中,分镜单元820还用于:将第一镜头视角下的三维虚拟模型进行平移或者旋转,得到第二镜头视角下的三维虚拟模型;获取第二镜头视角下的三维虚拟模型对应的第二虚拟图像。
[0152] 在本申请实施例中,分镜单元820还用于:在第一虚拟图像和第二虚拟图像之间插入a帧虚拟图像,使得第一虚拟图像平缓切换至第二虚拟图像,其中,a是正整数。
[0153] 在本申请实施例中,上述装置还包括:节拍检测单元870,用于对背景音乐进行节拍检测,得到背景音乐的节拍合集,其中,节拍合集包括多个节拍,多个节拍中的每一个节拍对应一个舞台特效;舞台特效生成单元880,用于将节拍合集对应的目标舞台特效添加到三维虚拟模型中。
[0154] 上述分镜效果实现装置通过根据采集得到的真实图像生成三维虚拟模型,并根据采集得到的真实图像、背景音乐以及真实人物的动作得到多个镜头视角,并利用多个镜头视角对三维虚拟模型进行相应的镜头视角切换,从而模拟出在虚拟场景中有多个虚拟相机对三维虚拟模型进行拍摄的效果,使得用户可以看到多个不同镜头视角下的三维虚拟模型,提高了观众的观看体验感。另外,该装置还通过对背景音乐的节拍进行解析,并根据节拍信息在三维虚拟模型中添加对应的舞台特效,为观众呈现出不同的舞台效果,进一步增强了观众的直播观看体验感。
[0155] 参见图9,本申请提供了电子设备900的结构示意图,电子设备900可以是前述中的分镜效果实现装置,电子设备900包括:处理器910、通信接口920以及存储器930,其中,处理器910、通信接口920以及存储器930通过总线940进行耦合。其中,
[0156] 处理器910可以是中央处理器(central processing unit,CPU),通用处理器、数字信号处理器(digital signal processor,DSP)、专用集成电路(application-specific integrated circuit,ASIC)、现场可编程阵列(field programmable gate array,FPGA)或者其他可编程逻辑器件(programmable logic device,PLD),、晶体管逻辑器件、硬件部件或者其任意组合。处理器910可以实现或执行结合本申请公开内容所描述的各种示例性的方法。具体的,处理器910读取存储器930中存储的程序代码,并与通信接口920配合执行本申请上述实施例中由分镜效果实现装置执行的方法的部分或者全部步骤。
[0157] 通信接口920可以为有线接口或无线接口,用于与其他模块或设备进行通信,有线接口可以是以太接口、控制器局域网络接口、局域互联网络(local interconnect network,LIN)以及FlexRay接口,无线接口可以是蜂窝网络接口或使用无线局域网接口等。具体的,上述通信接口920与输入输出装置950相连接,输入输出装置950可以包括鼠标键盘、麦克等其他终端设备。
[0158] 存储器930可以包括易失性存储器,例如随机存取存储器(random access memory,RAM);存储器530也可以包括非易失性存储器(non-volatile memory),例如只读存储器(read-only memory,ROM)、快闪存储器、硬盘(hard disk drive,HDD)或固态硬盘(solid-state drive,SSD),存储器930还可以包括上述种类的存储器的组合。存储器930可以存储有程序代码以及程序数据。其中,程序代码由上述分镜效果实现装置800中的部分或者全部单元的代码组成,例如,获取单元810的代码、分镜单元820的代码、特征提取单元830的代码、三维训模型生成单元840的代码、三维虚拟场景图像构建单元850的代码、镜头视角获取单元860的代码、节拍检测单元870的代码以及舞台特效生成单元880的代码等等。程序数据由分镜效果实现装置800在运行过程中产生的数据,例如,真实图像数据、三维虚拟模型数据、镜头视角数据、背景音乐数据以及虚拟图像数据等等。
[0159] 总线940可以是控制器局域网络(controller area network,CAN)或其他实现车内各个系统或设备之间互连的内部总线。总线940可以分为地址总线数据总线、控制总线等。为了便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
[0160] 应当理解,电子设备900可能包含相比于图9展示的更多或者更少的组件,或者有不同的组件配置方式。
[0161] 本申请还提供了一种计算机可读存储介质,上述计算机可读存储介质存储有计算机程序,上述计算机程序被硬件(例如处理器等)执行,以实现上述分镜效果实现方法中部分或全部步骤。
[0162] 本申请还提供了一种计算机程序产品,当上述计算机程序产品在上述分镜效果实现装置或者电子设备上运行时,执行上述分镜效果实现方法的部分或全部步骤。
[0163] 在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、存储盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态存储盘Solid State Disk(SSD))等。在所述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
[0164] 在本申请所提供的几个实施例中,应该理解到,所揭露的装置,也可以通过其它的方式实现。例如以上所描述的装置实施例仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可结合或者可以集成到另一个系统,或一些特征可以忽略或不执行。另一点,所显示或讨论的相互之间的间接耦合或者直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性或其它的形式。
[0165] 所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者,也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本申请实施例的方案的目的。
[0166] 另外,在本申请各实施例中的各功能单元可集成在一个处理单元中,也可以是各单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。所述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
[0167] 所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质例如可包括:U盘、移动硬盘、只读存储器、随机存取存储器、磁碟或光盘等各种可存储程序代码的介质。
[0168] 以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈