首页 / 专利库 / 人工智能 / 定位 / 同步定位与地图构建 / 增强现实系统及其色彩补偿方法

增强现实系统及其色彩补偿方法

阅读:632发布:2020-05-18

专利汇可以提供增强现实系统及其色彩补偿方法专利检索,专利查询,专利分析的服务。并且一种 增强现实 系统及其色彩补偿方法,此方法适用于具有可透光的显示器以及影像感测器的增强现实系统,并且包括下列步骤。设定虚拟物件相对于实际场景的预设物件 位置 。利用影像感测器获取实际场景的影像,并且将实际场景的影像映射于显示器的 视野 范围,以产生相对于显示器的视野范围的背景影像。根据背景影像中对应于预设物件位置的背景重叠区域,针对虚拟物件进行色彩补偿,以产生调整后的虚拟物件,以及根据预设物件位置,将调整后的虚拟物件显示于显示器。,下面是增强现实系统及其色彩补偿方法专利的具体信息内容。

1.一种色彩补偿方法,适用于具有可透光的显示器以及影像感测器的增强现实系统,包括下列步骤:
设定虚拟物件相对于实际场景的预设物件位置
利用该影像感测器获取该实际场景的影像,并且映射该实际场景的该影像于该显示器的视野范围,以产生相对于该显示器的视野范围的背景影像;
根据该背景影像中对应于该预设物件位置的背景重叠区域,针对该虚拟物件进行色彩补偿,以产生调整后的虚拟物件;以及
根据该预设物件位置,显示该调整后的虚拟物件于该显示器。
2.如权利要求1所述的方法,其中该增强现实系统还包括深度感测器,而在设定该虚拟物件相对于该实际场景的该预设物件位置之前,该方法还包括:
至少利用该深度感测器,计算该实际场景的深度图;以及
以同步定位与地图构建方法,根据该深度图,产生该实际场景的绝对坐标。
3.如权利要求2所述的方法,其中设定该虚拟物件相对于该实际场景的该预设物件位置的步骤还包括:
设定该虚拟物件的外观;以及
设定该虚拟物件相对于该实际场景的绝对坐标位置,以做为该预设物件位置。
4.如权利要求1所述的方法,映射该实际场景的该影像于该显示器的该视野范围,以产生相对于该显示器的该视野范围的该背景影像的步骤包括:
取得该显示器的该视野范围与该影像感测器的视野范围,据以计算视野重叠区域,其中该影像感测器的该视野范围大于该显示器的该视野范围;以及
映射该视野重叠区域于该显示器的该视野范围,以产生相对于该显示器的该视野范围的该背景影像。
5.如权利要求4所述的方法,其中取得该显示器的该视野范围与该影像感测器的该视野范围,据以计算该视野重叠区域的步骤包括:
根据预设人眼位置、该显示器的设置位置以及该影像感测器的设置位置,计算该影像感测器相对于该视野重叠区域在不同距离下的垂直视以及平视角;以及针对各所述不同距离,自该影像感测器的该视野范围中取得该垂直视角以及该水平视角所涵盖的范围,以设定为该视野重叠区域。
6.如权利要求4所述的方法,其中取得该显示器的该视野范围与该影像感测器的该视野范围,据以计算该视野重叠区域的步骤包括:
设置另一影像感测器于预设人眼位置,其中该另一影像感测器的视野范围大于该显示器的该视野范围;
于相对于该显示器的不同距离下放置校正板,其中该校正板具有参考图案并且大于该显示器的该视野范围;以及
利用该另一影像感测器,获取该校正板中该显示器的该视野范围所涵盖的区域,以设定为该视野重叠区域。
7.如权利要求4所述的方法,其中映射该视野重叠区域于该显示器的该视野范围,以产生该背景影像的步骤包括:
根据该显示器的该视野范围,针对该视野重叠区域进行影像缩放处理以及影像扭转处理,以产生该背景影像。
8.如权利要求1所述的方法,其中根据该背景影像中对应于该预设物件位置的该背景重叠区域,针对该虚拟物件进行色彩补偿的步骤包括:
根据该虚拟物件的原色彩亮度以及该实际场景中对应于该背景重叠区域的实际重叠区域穿透该显示器后的背景穿透色彩亮度,针对该虚拟物件进行色彩补偿。
9.如权利要求8所述的方法,其中色彩补偿后的虚拟物件的校正色彩亮度为该虚拟物件的该原色彩亮度与该实际重叠区域穿透该显示器后的该背景穿透色彩亮度的差值。
10.如权利要求9所述的方法,其中该实际重叠区域穿透该显示器后的该背景穿透色彩亮度与环境亮度成正比。
11.如权利要求10所述的方法,其中该环境亮度的判断步骤为:
根据该影像感测器获取该实际场景的该影像进行自动曝光时所使用的增益值以及曝光时间,判断该环境亮度。
12.如权利要求9所述的方法,其中该实际重叠区域穿透该显示器后的该背景穿透色彩亮度与环境亮度以及该显示器的穿透率成正比。
13.如权利要求1所述的方法,其中针对该虚拟物件进行色彩补偿,以产生该调整后的虚拟物件的步骤包括:
取得色彩补偿后的虚拟物件的各个像素的亮度值,以设定为该虚拟物件的各个补偿亮度值;
取得各所述补偿亮度值中的最大补偿亮度值以及最小补偿亮度值;以及根据该最大补偿亮度值以及该最小补偿亮度值,调整各所述补偿亮度值,以产生该调整后的虚拟物件。
14.如权利要求12所述的方法,其中根据该最大补偿亮度值以及该最小补偿亮度值,调整各所述补偿亮度值,以产生该调整后的虚拟物件的步骤包括:
针对各所述补偿亮度值与该最小亮度值进行相减,以分别产生移位亮度值;
判断该最大补偿亮度值与该最小补偿亮度值的差值是否大于第一亮度阈值
若是,根据该第一亮度阈值,针对各所述移位亮度值进行正规化处理,以设定为该调整后的虚拟物件的各个像素的亮度值;以及
若否,设定各所述移位亮度值为该调整后的虚拟物件的各所述像素的该亮度值。
15.如权利要求13所述的方法,其中根据该第一亮度阈值,针对各所述移位亮度值进行正规化处理的步骤包括:
以该第一亮度阈值与所述移位亮度值中的最大移位亮度值之间的比值,针对所述移位亮度值进行正规化处理。
16.如权利要求12所述的方法,其中根据该最大补偿亮度值以及该最小补偿亮度值,调整各所述补偿亮度值,以产生该调整后的虚拟物件的步骤包括:
判断该最大补偿亮度值与该最小补偿亮度值的差值是否大于第二亮度阈值;
若否,针对各所述补偿亮度值与该最小亮度值进行相减,以分别产生移位亮度值,并且设定各所述移位亮度值为该调整后的虚拟物件的各所述像素的该亮度值;以及若是,调整所述补偿亮度值至0与该第二亮度阈值的区间,以做为该调整后的虚拟物件的各所述像素的该亮度值。
17.如权利要求12所述的方法,其中调整所述补偿亮度值至0与该第二亮度阈值的该区间的步骤包括:
针对各所述补偿亮度值:
判断该补偿亮度值是否小于零;
若是,调整该补偿亮度值为0,以做为该调整后的虚拟物件的对应像素的亮度值;以及若否,计算该最大补偿亮度值与该第二亮度阈值之间的差值,并且根据该差值针对该补偿亮度值进行移位,以做为该调整后的虚拟物件的该对应像素的亮度值。
18.一种增强现实系统,包括:
影像感测器,用以获取实际场景的影像;
可透光的显示器,用以显示虚拟物件;以及
运算装置,直接或间接电性连接于该影像感测器以及该显示器,用以:
设定该虚拟物件相对于该实际场景的预设物件位置;
利用该影像感测器获取该实际场景的影像,并且映射该实际场景的该影像于该显示器的视野范围,以产生相对于该显示器的该视野范围的背景影像;
根据该背景影像中对应于该预设物件位置的背景重叠区域,针对该虚拟物件进行色彩补偿,以产生调整后的虚拟物件;以及
根据该预设物件位置,显示该调整后的虚拟物件于该显示器。
19.如权利要求18所述的增强现实系统,还包括:
深度感测器,其中该运算装置至少利用该深度感测器,计算该实际场景的深度图,并且以同步定位与地图建构方法,根据该深度图,产生并且存储该实际场景的绝对坐标。
20.如权利要求18所述的增强现实系统,其中该运算装置还根据虚拟物件的原色彩亮度以及实际场景中对应于该背景重叠区域的实际重叠区域穿透该显示器后的背景穿透色彩亮度,针对该虚拟物件进行所述色彩补偿。
21.如权利要求20所述的增强现实系统,其中该运算装置还根据该影像感测器获取该实际场景的该影像进行自动曝光时所使用的增益值以及曝光时间,判断环境亮度。
22.一种色彩补偿方法,适用于具有可透光且可显示虚拟物件的显示器以及影像感测器的装置,其中该虚拟物件具有原色彩,该方法包括以下步骤:
利用该影像感测器获取实际场景的影像,以产生背景影像:
比较该显示器的该虚拟物件与该背景影像,以判断出该虚拟物件与该背景影像的实际重叠区域;
依据判断该背景影像的该实际重叠区域穿透该显示器的背景穿透色彩亮度与原色彩亮度的一关系而调整该虚拟物件的该原色彩亮度为校正色彩亮度。

说明书全文

增强现实系统及其色彩补偿方法

技术领域

[0001] 本发明涉及一种涉及对虚拟影像色彩处理的技术,且特别涉及一种利用该虚拟影像色彩处理技术的增强现实(augmented reality,AR)系统及其色彩补偿方法。

背景技术

[0002] 随着影像处理技术与空间定位识别技术的高度发展,市面上业者已不断推出各种虚拟现实(virtual reality,VR)、增强现实(augmented reality,AR)、混合实境(mixed reality,MR)等等各类型的头戴式装置(head-mounted device,HMD)以及其应用软件程序。其中,例如AR眼镜是一种将虚拟影像投射或显示在经过特殊设计的透明镜片上的电子装置,让使用者可通过AR眼镜同时看到真实环境以及虚拟影像。为了达到上述功能,AR眼镜的镜片皆为透明或半透明并且其穿透率约为70%,而镜片上的虚像颜色也因此受到环境的影响。当虚像投射在某一特定区域并且与该特定区域所对应的实像背景的颜色不同时,则使用者看到的虚像会叠加上背景的颜色。
[0003] 举例来说,如果虚像是叠加于白色或是单色的实像背景时,使用者所看到的成像的颜色则较为正常。然而,如果虚像是叠加于多重颜色的实像背景时,则会与实像背景的颜色混合在一起而与应所呈现的颜色有落差。

发明内容

[0004] 有鉴于此,本发明提供一种AR系统及其色彩补偿方法,其可避免使用者看到与实像背景颜色混合的虚像物件,以提升使用者经验。
[0005] 在本发明的一实施例中,上述的方法适用于具有可透光的显示器以及影像感测器的AR系统,包括下列步骤。设定虚拟物件相对于实际场景的预设物件位置。利用影像感测器获取实际场景的影像,并且将实际场景的影像映射于显示器的视野范围(field of view,FOV),以产生相对于显示器的视野范围的背景影像。根据背景影像中对应于预设物件位置的背景重叠区域,针对虚拟物件进行色彩补偿,以产生调整后的虚拟物件,以及根据预设物件位置,将调整后的虚拟物件显示于显示器。
[0006] 在本发明的一实施例中,上述的系统包括影像感测器、可透光的显示器以及运算装置,其中运算装置连接于影像感测器以及显示器。影像感测器用以获取影像。显示器用以显示虚拟物件。运算装置用以设定虚拟物件相对于实际场景的预设物件位置,利用影像感测器获取实际场景的影像,并且将实际场景的影像映射于显示器的视野范围,以产生相对于显示器的视野范围的背景影像,又根据背景影像中对应于预设物件位置的背景重叠区域,针对虚拟物件进行色彩补偿,以产生调整后的虚拟物件,以及根据预设物件位置,将调整后的虚拟物件显示于显示器。
[0007] 在本发明的一实施例中,上述的方法适用于具有可透光且可显示虚拟物件的显示器以及影像感测器的电子装置,此方法包括下列步骤。利用影像感测器获取实际场景的影像,以产生背景影像。将显示器的虚拟物件与背景影像进行比较,以判断出虚拟物件与背景影像的实际重叠区域。依据判断背景影像的实际重叠区域穿透显示器的背景穿透色彩亮度与原色彩亮度的关系而将虚拟物件的原色彩亮度调整为校正色彩亮度。
[0008] 为让本发明的上述特征和优点能更明显易懂,下文特举实施例,并配合说明书附图作详细说明如下。

附图说明

[0009] 图1为根据本发明一实施例所示出的AR系统的示意图。
[0010] 图2A为根据现有AR眼镜的显示画面的示意图。
[0011] 图2B为根据现有AR眼镜的显示画面的示意图。
[0012] 图2C为根据本发明一实施例所示出的AR系统的显示画面的示意图。
[0013] 图3为根据本发明一实施例所示出的色彩补偿方法的流程图
[0014] 图4A为根据本发明的一实施例所示出的视野重叠区域的示意图。
[0015] 图4B为根据本发明的一实施例所示出的相对于垂直方向的视野重叠区域的示意图。
[0016] 图4C为根据本发明的一实施例所示出的相对于平方向的视野重叠区域的示意图。
[0017] 图4D为根据本发明的一实施例所示出的影像感测器的视野范围的示意图。
[0018] 图4E为根据本发明的一实施例所示出的校正板的示意图。
[0019] 图5为根据本发明一实施例所示出的影像感测器的视野范围以及显示器的视野范围的示意图。
[0020] 图6为根据本发明一实施例所示出的背景影像以及虚像物件的示意图。
[0021] 图7为根据本发明一实施例所示出的亮度调整方法的流程图。
[0022] 图8为根据本发明另一实施例所示出的亮度调整方法的流程图。
[0023] 附图标记说明:
[0024] 100:VR系统
[0025] 110、110’:影像感测器
[0026] 120:显示器
[0027] 130:运算装置
[0028] 210、220:实像背景
[0029] 250:虚拟物件
[0030] 250’:调整后的虚拟物件
[0031] S302~S310、S702~S714、S802~S816:步骤
[0032] E:预设人眼位置
[0033] NA:显示器的邻近区域
[0034] ARVS:视野重叠区域
[0035] B1~B4:端点
[0036] C:中心点
[0037] p1、p1’:影像感测器的设置位置
[0038] p2、p2’:预设人眼位置
[0039] ω1、ω2:
[0040] 40:影像感测器的视野范围
[0041] 40’:校正板
[0042] 41、41’:视野重叠区域
[0043] F1~F4:端点
[0044] AR1~AR4:F1~F4的映射点
[0045] 50:背景影像
[0046] 51:影像感测器的视野范围
[0047] 61:背景影像
[0048] 610、620:实像背景
[0049] 650:虚拟物件
[0050] 651:物件重叠区域

具体实施方式

[0051] 本发明的部分实施例接下来将会配合附图来详细描述,以下的描述所引用的元件符号,当不同附图出现相同的元件符号将视为相同或相似的元件。这些实施例只是本发明的一部分,并未公开所有本发明的可实施方式。更确切的说,这些实施例只是本发明的专利申请范围中的方法以及系统的范例。
[0052] 图1为根据本发明一实施例所示出的AR系统的示意图,但此仅是为了方便说明,并不用以限制本发明。首先图1先介绍AR系统中的所有构件以及配置关系,详细功能将配合图2一并公开。
[0053] 请参照图1,AR系统100至少包括影像感测器110、可透光的显示器120以及运算装置130,其中运算装置130直接或间接电性连接于影像感测器110以及显示器120。
[0054] 影像感测器110用以获取影像并且包括具有透镜以及感光元件的摄像镜头。感光元件用以感测进入透镜的光线强度,进而产生影像。感光元件可以例如是电荷耦合元件(charge coupled device,CCD)、互补性化金属半导体(complementary metal-oxide semiconductor,CMOS)元件或其他元件,本发明不在此设限。
[0055] 显示器120可以液晶有机发光二极管电子墨水或是投影方式等显示技术显示虚拟物件,其具有半透明或是透明的光学镜片。因此,使用者通过显示器120所观看到的内容将会是叠加虚拟物件的实体场景。
[0056] 运算装置130用以控制AR系统100的作动,其包括存储器以及处理器。存储器可以例如是任意形式的固定式或可移动式随机存取存储器(random access memory,RAM)、只读存储器(read-only memory,ROM)、快闪存储器(flash memory)、硬盘或其他类似装置、集成电路及其组合。处理器可以例如是中央处理单元(central processing unit,CPU)、应用处理器(application processor,AP),或是其他可程序化的一般用途或特殊用途的微处理器(microprocessor)、数字信号处理器(digital signal processor,DSP)、影像信号处理器(image signal processor,ISP)、图形处理器(graphics processing unit,GPU)或其他类似装置、集成电路及其组合。
[0057] 在本实施例中,AR系统100为单一整合系统,其可以实作成AR眼镜等一体式头戴式显示装置,而在以下的说明中将以AR眼镜来做为实作范例。在另一实施例中,影像感测器110以及显示器120可以实作成头戴式显示装置,而运算装置130实作成电脑系统,而头戴式显示装置与电脑系统将构成分离式系统,并且通过各自的通信接口以现有有线或是无线的方式传输信息。
[0058] 以一般的AR眼镜来说,仅有在虚像物件叠加于白色或是单色的实像背景时,使用者所看到的成像的颜色才较为正常。以图2A根据现有AR眼镜的显示画面的示意图为例,假设实像背景210以及实像背景220为具有多重颜色的实像背景。当虚像物件250并没有成像在实像背景210以及实像背景220上时,使用者所看到的成像颜色可接近于正常。然而,以图2B根据现有AR眼镜的显示画面的示意图为例,当虚像物件250成像于实像背景220上时,两者的颜色将混合在一起,虚像物件250的右半部会透出实像背景220的颜色,造成使用者看到的虚像物件250的颜色与其原本应有的颜色有所差异。因此,本实施例所提出的AR系统
100可针对与实像背景220有重叠的虚像物件250进行色彩补偿,让使用者在不同背景也能通过AR系统100的显示画面看到如图2C所示不受到实像背景220所影响的虚像物件250’。以下实施例中将搭配AR系统100的各元件来说明色彩补偿的实施细节。
[0059] 图3是根据本发明的一实施例所示出的色彩补偿方法的流程图,而图3的方法流程可以图1的AR系统100来实现。
[0060] 请同时参照图1以及图3,首先,AR系统100的运算装置130将设定虚拟物件相对于实际场景的预设物件位置(步骤S302)。在此,假设对于运算装置130而言,虚拟物件的大小、形状等外观为已知,也就是已预先存储于运算装置130的存储器中以让使用者进行选择或者是运算装置130自行设定。另一方面,预设物件位置则是虚拟物件相对于实际场景的位置。
[0061] 为了在后续使得虚拟物件呈现于更为精确的位置,预设物件位置可以是以绝对坐标来表示。在本实施例中,运算装置130可在针对虚拟物件进行任何设定之前,利用同步定位与地图建构(simultaneous localization and mapping,SLAM)技术搭配实际场景的深度图以及惯性测量单元(inertial measurement unit,IMU)来针对实际场景进行扫描,以实现对于实际场景的三维绝对坐标定位,而运算装置130可从而设定虚拟物件于实际场景中的绝对坐标位置。
[0062] 深度图的产生方式可以是利用影像感测器110搭配深度感测器(未示出)以本领域具通常知识者所熟知的方式来产生。深度感测器用以检测实际场景的深度信息,其可以分为主动式深度感测器以及被动式深度感测器。主动式深度感测器可通过主动发出光源、红外线、超音波、激光等作为信号搭配时差测距技术(time-of-flight,ToF)来计算实际场景的深度信息。另一方面,被动式深度感测器可以例如是另一个影像感测器,并且与影像感测器110以不同视角同时获取其前方的两张影像,以利用两张影像的视差来计算实际场景的深度信息。而在其它实施例,亦不排除该深度感测器采用标准的深度感测器而独立于影像感测器110外单独运行而取得实际场景的深度信息。或是在其它实施例中,采用具有前述影像感测器功能的深度感测器,亦即其不但能产生深度信息以进行三维坐标地图建构,并且亦能将获取到的实际场景影像输出传送至运算装置130以进行本公开后续步骤304的处理。据此,本公开所指的「深度感测器」为一种广义的抽象功能机制而泛指具有检测空间中深度信息功能的机制手段者,亦即可与前述影像感测器110各为单独元件,或是与前述影像感测器110协同组成深度感测器,或是融合前述影像感测器110功能。
[0063] 惯性测量单元为多轴的运动感测器,其可以包括三轴的陀螺仪以及三个方向的加速度器来测量AR系统100在三维空间中的角速度以及加速度。惯性测量单元可以实时提供AR系统100的角度以及一小段时间内的移动距离。运算单元130可以利用AR系统100所得到的深度图以及搭配本身的姿态与移动距离,通过SLAM技术来达到自身于实际场景中的定位以及针对实际场景来进行地图构建的目的。
[0064] 接着,运算装置130将利用影像感测器110获取实际场景的影像(步骤S304),并且将实际场景的影像映射于显示器120的视野范围,以产生背景影像(步骤S306)。详细来说,实际场景的影像关联于影像感测器110的视野范围,而显示器120的视野范围关联于显示器120的显示区域以及预设人眼位置。在此可合理地假设影像感测器110与显示器120的设置位置不同,并且影像感测器110的视野范围大于显示器120的视野范围。运算装置130会先计算影像感测器110的视野范围与影像感测器110的视野范围之间的重叠区域(以下称为“视野重叠区域”),并且会进一步地将视野重叠区域映射至显示器120的整个视野范围。
[0065] 具体来说,图4A为根据本发明的一实施例所示出的视野重叠区域的示意图。以显示器120的观点来说,区域ARVS为自预设人眼位置E以视角θ(angle of view)下通过显示器120所能观看到的场景内容(即,显示器120的视野范围)。以影像感测器110的观点来说,区域ARVS为以视角 所获取到的场景内容,其涵盖在影像感测器110的视野范围中。
[0066] 换句话说,区域ARVS即为影像感测器110的视野范围与显示器120的视野范围的重叠区域,即前述所定义的视野重叠区域。运算装置130可通过计算视角 自影像感测器110所获取到的实际场景的影像中定义出视野重叠区域,再将视野重叠区域映射回显示器120的整个视野范围,以产生对应于显示器120的视野范围的背景影像。必须先说明的是,基于影像感测器110与显示器120的设置位置不同,并且影像感测器110的视野范围大于显示器120的视野范围,因此在显示器120的邻近区域NA则会无法涵盖到,本实施例将不针对此区域NA进行处理。以下将说明自实际场景的影像中取出视野重叠区域的方式。
[0067] 图4B为根据本发明的一实施例所示出的相对于垂直方向的视野重叠区域的示意图。请参照图4B,由于影像感测器110的设置位置p1=(m,n)、预设人眼位置p2=(0,0)及其相对于显示器120的视角θ为已知,运算装置130可计算在预设人眼位置p2与视野重叠区域ARVS为不同距离x下(即,影像感测器110的设置位置p1与视野重叠区域ARVS为不同距离x-m下),影像感测器110相对于视野重叠区域ARVS的垂直视角 在此,视野重叠区域ARVS的垂直中心点位置为C=(x,0),而视野重叠区域ARVS的垂直端点为B1=(x,xtan(θ/2))以及B2=(x,-xtan(θ/2)),因此可进而计算出d1=xtan(θ/2)-n以及d2=n+xtan(θ/2)。
通过三角函数可得出 其中:
[0068]
[0069]
[0070] 图4C为根据本发明的一实施例所示出的相对于水平方向的视野重叠区域的示意图。请参照图4C,由于影像感测器110的设置位置p1′=(u,v)、预设人眼位置p2′=(0,0)及其与显示器120的视角ψ为已知,运算装置130可计算在预设人眼位置p2的不同距离x下(即,影像感测器110的设置位置p1′与视野重叠区域ARVS为不同距离x-u下),影像感测器110相对于视野重叠区域ARVS的垂直视角(ω1+ω2)。在此,视野重叠区域ARVS的水平中心点位置为C=(x,0),而视野重叠区域ARVS的水平端点为B3=(x,xtan(ψ/2))以及B4=(x,-xtan(ψ/2)),因此可进而计算出d3=xtan(ψ/2)-v以及d4=v+xtan(ψ/2)。通过三角函数可得出(ω1+ω2),其中:
[0071] ω1=tan-1((xtan(ψ/2)-v)/(x-u))
[0072] ω2=tan-1((v+xtan(ψ/2))/(x-u))
[0073] 接着,针对各个不同距离,运算装置130可自影像感测器110的视野范围的中取得垂直视角以及水平视角所涵盖的范围,以设定为视野重叠区域。以图4D根据本发明的一实施例所示出的影像感测器110的视野范围40为例,显示器120的视野范围41为F1=(sx1,sy1)、F2=(sx2,sy2)、F3=(sx3,sy3)以及F4=(sx4,sy4)四个端点所构成的区域,其亦为视野重叠区域。
[0074] 在另一实施例中,可以预先在离线(offline)阶段时,在预设人眼位置设置另一个视野范围大于显示器120的视野范围的影像感测器,并且在相对于显示器120的不同距离下放置具有参考图案的校正板(例如棋盘格板),其大小需大于显示器120的视野范围。以图4E根据本发明的一实施例所示出的校正板40’为例,运算装置130可利用位于预设人眼位置的影像感测器110’获取显示器120的视野范围所涵盖的区域41’,也就是F1=(sx1,sy1)、F2=(sx2,sy2)、F3=(sx3,sy3)以及F4=(sx4,sy4)四个端点所构成的区域,其亦为视野重叠区域。
[0075] 运算装置130在得到影像感测器110与显示器120的视野重叠区域后,可以从影像感测器130的视野范围中直接定义出显示器120的视野范围。以图5根据本发明一实施例所示出的影像感测器130的视野范围以及显示器120的视野范围的示意图为例,运算装置130会将影像感测器110的视野范围51内的视野重叠区域(即F1=(sx1,sy1)、F2=(sx2,sy2)、F3=(sx3,sy3)以及F4=(sx4,sy4)所构成的区域),根据显示器120的视野范围来进行影像缩放处理(image resizing)、影像扭转处理(image warping),以针对影像感测器110与显示器120之间角度或是分辨率的差异所造成的位置差距进行修正,而处理后的影像即为背景影像50,其中F1=(sx1,sy1)、F2=(sx2,sy2)、F3=(sx3,sy3)以及F4=(sx4,sy4)分别映射为AR1=(0,0)、AR2=(ax,0)、AR3=(0,ay)以及AR4=(ax,ay)。
[0076] 请再回到图3,运算装置130将根据背景影像中对应于预设物件位置的背景重叠区域,针对虚拟物件进行色彩补偿,以产生调整后的虚拟物件(步骤S308)。具体来说,以图6根据本发明一实施例所示出的背景影像以及虚像物件的示意图为例,AR1=(0,0)、AR2=(ax,0)、AR3=(0,ay)以及AR4=(ax,ay)所构成的背景影像61中包括实像背景610以及实像背景
620,其中运算装置130可得知虚拟物件650中的物件重叠区域651将会与实像背景620重叠,因此将会针对物件重叠区域651进行色彩补偿。
[0077] 在本实施例中,运算装置130可根据虚拟物件的亮度(luminance,单位为nit)以及实际场景中对应于背景重叠区域的实际重叠区域穿透显示器120后的亮度,针对虚拟物件进行色彩补偿。详细来说,如前述,基于显示器120为可透光,因此实际场景中会有一部分穿透显示器120,而穿透的量与显示器120的穿透率、实际场景中的环境亮度以及虚拟物体的色彩相关。在此,运算装置130可以根据影像感测器110所使用的自动曝光(auto-exposure,AE)的增益值(gain)以及曝光时间(exposure time)来补偿环境亮度。当增益值以及曝光时间越高时,则代表环境越暗、穿透显示器120的强度较弱,也代表显示器120可以调整的亮度以及可以补偿的区间就越大。反之,当增益值以及曝光时间越短时,则代表环境越亮、穿透显示器120的强度较强,也代表显示器120可以调整的亮度以及可以补偿的区间就越小。在本发明另一实施例,AR系统100也可以设置有独立于影像感测器110之外的光感应器以检测与取得环境亮度值。
[0078] 为方便明了,以下将针对虚拟物件的单一像素来说明色彩补偿的细节,其它像素可依此类推。假设原本虚拟物件的原色彩可以表示成Original(r,g,b),而原色彩经过显示器120的显示亮度加乘L后,双眼将接收到的虚拟物件的色彩亮度为(hr,hg,hb),其可以下列公式表示:
[0079]
[0080] 其中L代表显示器120的显示亮度对原色彩的加乘,当显示器120的亮度较暗时,L的数值较低,反之则较高。此外,不同的显示器的特性亦有可能对于原色彩的三个通道有不同的加乘。在此,虚拟物件相对应的实际重叠区域的背景色彩亮度可以表示成(hbr,hbg,hbb),由于预估实际重叠区域穿透显示器120后的色彩亮度将会与环境亮度成正比,也就是与增益值以及曝光时间成反比。因此,预估实际重叠区域的背景色彩亮度穿透显示器120到眼睛的背景穿透色彩亮度(ehbr,ehbg,ehbb)可以下列公式表示:
[0081]
[0082] 其中C关联于环境亮度或者是同时关联于环境亮度以及显示器120的穿透率,例如:
[0083]
[0084] 其中a为经验常数值或者是变数乘上显示器120的穿透率。此外,运算装置130可以预先存储例如是以下表1的对应表来取得C:
[0085]
[0086]
[0087] 表1
[0088] 由于背景穿透色彩亮度(ehbr,ehbg,ehbb)与虚拟物件的原色彩亮度(hr,hg,hb)重叠,因此眼睛将接收到的视觉色彩亮度(er,eg,eb)应为:
[0089]
[0090] 在此,须将原始虚拟物件的原色彩亮度(hr,hg,hb)调整为校正色彩亮度(cr,cg,cb),以使得眼睛实际所接收到的视觉色彩亮度(er,eg,eb)能与原始虚拟物件的原色彩亮度(hr,hg,hb)一样,而得到以下公式:
[0091]
[0092]
[0093] 也就是说,色彩补偿后的虚拟物件的校正色彩亮度应为虚拟物件的原色彩亮度与实际重叠区域穿透显示器120后的背景穿透色彩亮度的差值。
[0094] 值得注意的是,当环境过亮时,将会导致预估实际重叠区域穿透显示器120到眼睛的背景穿透色彩亮度 比虚拟物件的原色彩亮度(hr,hg,hb)还亮,然而显示器120为半透明的材料而无法吸收光线,因此色彩补偿后的校正色彩亮度(cr,cg,cb)并不能小于0。此时,仅能提升整体的校正色彩亮度(cr,cg,cb),但又基于显示器120的显示亮度范围并无法无上限地提升,也就是色彩补偿后的校正色彩亮度(cr,cg,cb)应要设有上限值。因此,运算装置130将以图7以及图8分别根据本发明一实施例所示出的亮度调整方法的流程图来针对色彩补偿后的虚拟物件的校正色彩进行调整。
[0095] 请先参照图7,运算装置130将先取得色彩补偿后的虚拟物件的各个像素的亮度值HG(cr,cg,cb),以设定为虚拟物件的补偿亮度值(步骤S702)。接着,运算装置130将取得所有补偿亮度值中的最小补偿亮度值min{HG(cr,cg,cb)}以及最大补偿亮度值max{HG(cr,cg,cb)}(步骤S704以及步骤S706,此二步骤不分前后顺序),而此两个极值是用以做为调整所有补偿亮度值的依据。
[0096] 具体来说,基于最小亮度值有可能是负数,运算装置130可以针对各个补偿亮度值HG(cr,cg,cb)与最小补偿亮度值min{HG(cr,cg,cb)}进行相减,以分别产生移位亮度值HG′(cr,cg,cb)(步骤S708),其可表示如下:
[0097] HG′(cr,cg,cb)=HG(cr,cg,cb)-min{HG(cr,cg,cb)}
[0098] 接着,运算装置130将判断最大补偿亮度值max{HG(cr,cg,cb)}与最小补偿亮度值min{HG(cr,cg,cb)}的差值是否大于第一亮度阈值TH1(步骤S710),也就是判断是否满足以下条件式:
[0099] max{HG(cr,cg,cb)}-min{HG(cr,cg,cb)}>TH1
[0100] 在此的第一亮度阈值TH1可以例如是2000nits。若否,则运算装置130会将各个移位亮度值HG′(cr,cg,cb)直接设定为调整后的虚拟物件的各个像素的亮度值HGadj(步骤S712),其可表示如下:
[0101] HGadj=HG′(cr,cg,cb)
[0102] 若是,则运算装置130将根据第一亮度阈值TH1,针对各所述移位亮度值HG′(cr,cg,cb)进行正规化处理,以设定为调整后的虚拟物件的各个像素的亮度值HGadj,例如以第一亮度阈值TH1与所有移位亮度值中的最大移位亮度值max{HG′(cr,cg,cb)}之间的比值,针对所有移位亮度值进行正规化处理,以产生调整后的虚拟物件的各个像素的亮度值max{HG′(cr,cg,cb)}(步骤S714),其可表示如下:
[0103]
[0104] 然而,此方法可在环境过亮处可能导致补偿后的虚拟物件的色彩变淡,因此较不适用于环境过亮的实际场景。
[0105] 请再参照图8,类似于图7,运算装置130将先取得色彩补偿后的虚拟物件的各个像素的亮度值HG(cr,cg,cb),以设定为虚拟物件的补偿亮度值(步骤S802)。接着,运算装置130将取得所有补偿亮度值中的最小补偿亮度值min{HG(cr,cg,cb)}以及最大补偿亮度值max{HG(cr,cg,cb)}(步骤S804以及步骤S806,此二步骤不分前后顺序),而此两个极值是用以做为调整所有补偿亮度值的依据。
[0106] 具体来说,运算装置130将判断最大补偿亮度值max{HG(cr,cg,cb)}与最小补偿亮度值min{HG(cr,cg,cb)}的差值是否大于第二亮度阈值TH2(步骤S808),也就是判断是否满足以下条件:
[0107] max{HG(cr,cg,cb)}-min{HG(cr,cg,cb)}>TH2
[0108] 在此的第二亮度阈值TH2可以例如是2000nits。若否,则运算装置130将针对各个补偿亮度值HG(cr,cg,cb)与该最小补偿亮度值min{HG(cr,cg,cb)}进行相减,以设定为调整后的虚拟物件的各个像素的亮度值HGadj(步骤S810),其可表示如下:
[0109] HGadj(cr,cg,cb)=HG(cr,cg,cb)-min{HG(cr,cg,cb)}
[0110] 若是,运算装置130会将各个补偿亮度值HG(cr,cg,cb)调整到0至第二亮度阈值TH2的区间。具体来说,针对各个补偿亮度值HG(cr,cg,cb),运算装置会130先判断其是否大于0(步骤S812)。若是,则运算装置130将会先计算最大补偿亮度值max{HG(cr,cg,cb)}与第二亮度阈值之间的差值,再根据此差值来对补偿亮度值进行移位,以设定为调整后的虚拟物件的各个像素的亮度值HGadj(步骤S814),如下表示:
[0111] HGadj(cr,cg,cb)=HG(cr,cg,cb)-[max{HG(cr,cg,cb)}-TH2][0112] 若否,则运算装置130会将调整后的虚拟物件的各所述像素的亮度值HGadj设定为0(步骤S816),即:
[0113] HGadj(cr,cg,cb)=0
[0114] 通过将补偿亮度值调整至0与第二亮度阈值TH2的区间可使得环境过亮处仍保持虚拟物件的色彩,而放弃补偿过亮的部分。
[0115] 请再回到图3,运算装置130将根据预设物件位置来使调整后的虚拟物件显示于显示器120(步骤S310)。详细来说,前述步骤已通过影像感测器110的视野范围与显示器120的视野范围的重叠部分来进行映射,而当运算装置130要显示器120上对应于预设预定位置的地方成像前,即可利用映射后的关系得知背景影像中对应于预设物件位置的背景重叠区域的形状以及颜色,再根据自动曝光功能对应出显示器120所看到的区域的环境亮度,以对应出环境可能入射显示器120的光量,进而调整虚拟物件的亮度以及颜色,并且将调整后的虚拟物件显示在显示器120上。以AR眼镜来说,调整后的虚拟物件则是分别会在左右镜片上成像。如此一来,使用者所观看到的虚拟物件的颜色将会较为统一且不会被其背景的颜色所影响。
[0116] 综上所述,本发明所提出的AR系统及其色彩补偿方法,其可在显示虚拟物件前,先根据实际场景中与虚拟物件重叠的背景重叠区域,针对虚拟物件进行色彩补偿。如此一来,可避免使用者看到与实像背景颜色混合的虚像物件,从而提升使用者经验。
[0117] 此外,本公开上述说明书以及权利要求中所提及的AR眼镜或AR系统只是一种在技术概念上至少采用了广义AR技术的眼镜或系统而并非专指狭义且具特定结构或功能而命名为「AR」的装置,事实上,只要是能将虚像结合在实像上或是将实像结合在虚像上而会产生实像与虚像重叠的任何形态电子装置皆可属于本公开以广义定义的AR眼镜或AR系统。
[0118] 虽然本发明已以实施例公开如上,然其并非用以限定本发明,任何所属技术领域中技术人员,在不脱离本发明的构思和范围内,当可作些许的变动与润饰,故本发明的保护范围当视权利要求所界定者为准。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈