首页 / 专利库 / 显示技术 / 双目视觉 / 一种红外和可见光的融合方法

一种红外和可见光的融合方法

阅读:874发布:2020-05-08

专利汇可以提供一种红外和可见光的融合方法专利检索,专利查询,专利分析的服务。并且本 发明 提供一种红外和可见光的融合方法,属于 图像处理 和 计算机视觉 领域。本发明采用一对红外双目相机和可见光双目相机获取图像,涉及构建融合图像金字塔与视觉显著增强 算法 ,是一种利用多尺度变换的红外与可见光融合算法。本发明利用双目相机和NVIDIATX2构建高性能运算平台,并构建高性能求解算法以获高 质量 的红外和可见光融合图像。本发明利用红外和可见光相机成像的不同原理,通过设计滤波模板来构建图像金子塔,获取不同尺度下的图像信息后进行图像超分辨与显著增强,最后通过GPU 加速 达到实时。本发明的系统易于构建,分别使用红外立体双目相机和可见光立体双目相机即可完成输入数据的采集;程序简单,易于实现。,下面是一种红外和可见光的融合方法专利的具体信息内容。

1.一种红外和可见光的融合方法,其特征在于,所述融合方法包括以下步骤:
1)获取配准好的红外和可见光图像;
2)对图像进行多尺度金子塔变换,利用设计的滤波模板分别对红外图像和可见光图像进行下卷积下采样;所述的滤波模板获取模式为:
其中,x为邻域内像素其他像素与中心像素的距离;y为邻域内像素其他像素与中心像素的距离;σ为标准差参数;
3)进行基于多尺度金子塔变换的红外图像和可见光图像的细节提取,利用线性差值法获取的图像高频作为融合的细节层;
4)图像色彩空间转换;
5)用滤波卷积细节并对红外及可见光细节图进行筛选;
6)利用图像超分辨进行逆多尺度金子塔变换;
7)色彩空间的还原与色彩增强。
2.根据权利要求1所述的一种红外和可见光的融合方法,其特征在于,所述步骤1)具体包括以下步骤:
1-1)分别对可见光双目相机及红外双目相机进行每个镜头的标定及各自系统的联合标定;
1-2)利用张正友标定法对每台红外双目相机、可见光双目相机分别进行标定,获得每台相机的内部参数和外部参数;所述内部参数包括焦距和主点位置,外部参数包括旋转和平移;
1-3)利用联合标定法获得的外部参数RT及检测的棋盘格点,计算同一平面在可见光图像与红外图像中的位置关系,并运用单应性矩阵进行可见光图像到红外图像的配准。
3.根据权利要求1或2所述的一种红外和可见光的融合方法,其特征在于,所述步骤4)具体包括如下步骤:
4-1)当可见光图像是RGB三通道,进行RGB色彩空间到HSV色彩空间的转换,具体转换如下所示:
Cmax=max(R′,G′,B′) (5)
Cmin=min(R′,G′,B′) (6)
Δ=Cmax-Cmin (7)
V=Cmax (8)
其中,R为红色通道,G为绿色通道,B为蓝色通道;R′为色彩空间转换后的红色通道,G′为色彩空间转换后的绿色通道,B′为色彩空间转换后的蓝色通道;Cmax表示R′、G′、B′中最大的值;Cmin表示R′、G′、B′中最小的值;Δ表示R′、G′、B′中最大值与最小值的差;
4-2)提取明度信息V作为可见光的输入,保留色调H、饱和度S到对应的矩阵,为后面融合后的色彩还原保留颜色信息。
4.根据权利要求1或2所述的一种红外和可见光的融合方法,其特征在于,所述步骤5)具体包括如下步骤:
5-1)设计两个3×3的空矩阵,依次从两张图像的起始像素点开始卷积,根据可见光和红外细节图对应点的八邻域像素点进行辨别,对应邻域像素显著性驻点判别,大的取1,小的取0,分别存入对相应的矩阵;依次更新,直到图像的最后一个像素点;
5-2)根据生成矩阵的权重,把红外和可见光图的细节图融合,生成纹理丰富的细节图。
5.根据权利要求3所述的一种红外和可见光的融合方法,其特征在于,所述步骤5)具体包括如下步骤:
5-1)设计两个3×3的空矩阵,依次从两张图像的起始像素点开始卷积,根据可见光和红外细节图对应点的八邻域像素点进行辨别,对应邻域像素显著性驻点判别,大的取1,小的取0,分别存入对相应的矩阵;依次更新,直到图像的最后一个像素点;
5-2)根据生成矩阵的权重,把红外和可见光图的细节图融合,生成纹理丰富的细节图。
6.根据权利要求1、2或5所述的一种红外和可见光的融合方法,其特征在于,所述步骤
6)具体包括如下步骤:
6-1)选取立方卷积差值超分辨算法进行逆多尺度金子塔变换,从下采样最深的子图开始,融合细节图后,超分辨扩大图像到第二深的子图,依次迭代,直到还原到初始图像大小;
当为像素点时,该像素点在竖直和平方向上与待求像素点的距离分别是1+u和v,则像素点的权重为w=w(1+u)×w(v);则
待求像素点的像素值f(i+u,j+v)的计算方法如下:
f(i+u,j+v)=A×Q×P (9)
其中,A、Q、P为距离生成的矩阵;A=[w(1+u) w(u) w(1-u) w(2-u)];
P=[w(1+v) w(v) w(1-v) w(2-v)]T;
差值核w(x)为:
最后依据像素点的权重与数值求出该像素点在超分辨后对应位置的像素值;
6-2)超分辨的融合图像存入新建的零矩阵中。
7.根据权利要求4所述的一种红外和可见光的融合方法,其特征在于,所述步骤6)具体包括如下步骤:
6-1)选取立方卷积差值超分辨算法进行逆多尺度金子塔变换,从下采样最深的子图开始,融合细节图后,超分辨扩大图像到第二深的子图,依次迭代,直到还原到初始图像大小;
当为像素点时,该像素点在竖直和水平方向上与待求像素点的距离分别是1+u和v,则像素点的权重为w=w(1+u)×w(v);则
待求像素点的像素值f(i+u,j+v)的计算方法如下:
f(i+u,j+v)=A×Q×P (9)
其中,A、Q、P为距离生成的矩阵;A=[w(1+u) w(u) w(1-u) w(2-u)];
P=[w(1+v) w(v) w(1-v) w(2-v)]T;
差值核w(x)为:
最后依据像素点的权重与数值求出该像素点在超分辨后对应位置的像素值;
6-2)超分辨的融合图像存入新建的零矩阵中。
8.根据权利要求1、2、5或7所述的一种红外和可见光的融合方法,其特征在于,所述步骤7)具体包括如下步骤:
7-1)通过把超分辨后的融合图像存入明度信息V进行更新,结合之前保留的色调H和饱和度S,进行HSV到RGB色彩空间的还原;具体公式如下所示:
C=V×S (11)
X=C×(1-|(H/60°)mod2-1|) (12)
m=V-C (13)
R′,G′,B′=((R′+m)×255,(G′+m)×255,(B′+m)×255) (15)
其中,C为明度与饱和度的乘积;m为明度与C的差值;
7-2)对步骤7-1)还原的图像进行颜色校正与增强,生成符合观察与检测的三通道图片;分别对R通道、G通道、B通道进行色彩增强,具体如下公式所示:
Rout=(Rin)1/gamma (16)
Rdisplay=(Rin(1/gamma))gamma (17)
Gout=(Gin)1/gamma (18)
Gdisplay=(Gin)(1/gamma))gamma (19)
Bout=(Bin)1/gamma (20)
Bdisplay=(Bin(1/gamma))gamma (21)
其中,gamma为亮度增强参数;Rout为gamma矫正红色通道逆变换;Rin为初始红色通道数值;Rdisplay为R通道gamma矫正后数值;Gdisplay为G通道gamma矫正后数值;Bdisplay为B通道gamma矫正后数值补偿值。

说明书全文

一种红外和可见光的融合方法

技术领域

[0001] 本发明属于图像处理计算机视觉领域,采用一对红外相机和可见光相机获取图像,涉及构建融合图像金字塔与视觉显著增强算法,是一种利用多尺度变换的红外与可见光融合算法。

背景技术

[0002] 基于可见光波段的双目立体视觉技术发展较为成熟,可见光成像具有丰富的对比度颜色、形状信息,因而可以准确、迅速地获得双目图像之间的匹配信息,进而获取场景深度信息。但可见光波段成像存在其缺陷,如在强光、雾雨、天或夜晚,其成像质量大大下降,影响匹配的精度。因此利用不同波段信息源的互补性建立彩色融合系统,是实现特殊环境下产生更可信的图像的有效途径。如利用可见光波段双目相机与红外波段双目相机构成多波段立体视觉系统,利用红外成像不受雾雨雪、光照影响的优势,弥补可见光波段成像的不足,从而获取更完整、精确的融合信息。
[0003] 图像融合是图像处理领域一项具有很大发展前景的研究,通过图像融合技术可以将两种不同类型成像传感器或者同类传感器不同焦距、曝光等情况下所成图像合成一副信息量更加丰富的图像,更适合于后期的处理和研究,这些优势使得图像融合在遥感、相机或手机成像、监控、侦查等领域广泛发展,尤其是红外与可见光图像融合在军事领域起到了非常重要的作用。近年来,大多融合方法都是基于变换域进行研究设计,没有考虑到图像多尺度的细节信息,导致融合后的图像中细节丢失,如公开专利CN208240087U[中文]一种红外与可见光融合系统及图像融合装置。传统的多尺度变换主要由线性滤波器构成,在分解过程中容易产生光晕伪影。边缘保持滤波在较好地保留图像边缘特征的同时能够避免边缘的光晕伪影现象,在图像融合中能取得较好的效果,受到了越来越多的关注。因而本发明在保留红外和可见光图像的有效信息的基础上,实现细节的增强且去除伪影。

发明内容

[0004] 为了克服现有技术的不足,本发明提供了一种基于多尺度金子塔变换的红外与可见光实时融合算法,通过设计滤波模板来构建图像金子塔,获取不同尺度下的图像信息后进行图像超分辨与显著增强,最后通过GPU加速达到实时。
[0005] 本发明的具体技术方案为:
[0006] 一种红外和可见光的融合方法,包括以下步骤:
[0007] 1)对可见光图像进行色彩空间的转换,从RGB图像转成HSV图像;提取彩色图像的明度信息作为图像融合的输入,保留其原有色调饱和度
[0008] 2)创建滤波核模板:根据红外和可见光的图像尺寸构建相应的滤波核模板;如输入640*480的红外和可见光图像,核模板如下所示:
[0009]
[0010] 3)利用滤波盒模板卷积构建图像金子塔;
[0011] 4)用线性差值法进行金字塔不同尺度的细节提取;
[0012] 5)利用细节的显著性判别金子塔的每层红外和可见光的细节,利用设计的滑动窗口对图像进行卷积生成权重矩阵,根据权重矩阵对比每个像素点的邻域信息进行判别后提取更可信的细节图。
[0013] 6)最小尺度的红外和可见光图像进行线性相加等到平滑的背景图,然后将提取的细节图融合到背景图后,进行图像的超分辨升高尺度,然后加入上层尺度的细节信息,依次迭代,直到升到金子塔顶端。
[0014] 6-1)超分辨技术利用立方卷积差值,相比双线性差值,图像放大后的细节更加丰富,每个像素值的权重由该点到待求像素点的距离确定,这个距离包括平和竖直两个方向上的距离。
[0015] 7)色彩空间转换:将融合的图像转回RGB图像并添加之前保留下的色调和饱和度。
[0016] 8)色彩增强:对融合的图像进行色彩增强,从而生成一幅清晰度和对比度更优的融合图像。针对每个像素点的对比度,进行像素级的图像增强。
[0017] 本发明的有益效果:本发明设计了一种利用红外和可见光双目立体相机实时融合的方法。本发明利用多尺度金子塔变换求解红外和可见光的细节,利用超分辨技术进行了金子塔的逆变换,构建了高可信的融合图像,具有以下特点:(1)系统容易构建,使用立体双目相机即可完成输入数据的采集;(2)程序简单,易于实现;(3)利用金子塔多尺度变换得到图像更好的细节;(4)利用超分辨技术有效弥补了金子塔逆变换细节丢失的问题;(5)结构完成,可多线成操作,程序具有鲁棒性;(6)利用细节图进行显著增强与判别,提升算法的泛化能附图说明
[0018] 图1为采集平台采集的红外和可见光图并进行金子塔多尺度分解示意图。
[0019] 图2为整体采集图像及融合的步骤图。
[0020] 图3是本发明的流程图
[0021] 图4是本发明最终融合的图像。

具体实施方式

[0022] 本发明提出了一种利用红外相机和可见光相机进行实时图像融合的方法,结合附图及实施例详细说明如下:
[0023] 将双目立体相机摆放在固定的平台上,本实施例中相机的图像分辨率为1280×720,视场为45.4°;实验平台如图1所示,为保证实时性,利用NVIDIATX2进行计算。在此基础上提供一种红外和可见光的融合方法,所述的方法包括下列步骤:
[0024] 1)获取配准好的红外和可见光图像
[0025] 1-1)分别对可见光双目相机及红外双目相机进行每个镜头的标定及各自系统的联合标定;
[0026] 1-2)利用张正友标定法对每台红外双目相机、可见光双目相机分别进行标定,获得每台相机的焦距、主点位置等内部参数和旋转、平移等外部参数;
[0027] 1-3)利用联合标定法获得的外部参数RT及检测的棋盘格角点,计算同一平面在可见光图像与红外图像中的位置关系,运用单应性矩阵进行可见光图像到红外图像的配准。
[0028] 2)对图像进行多尺度金子塔变换,利用设计的滤波模板分别对红外图像和可见光图像进行下卷积下采样,如图1所示,滤波模板获取模式如下公式所示:
[0029]
[0030] 其中,x为邻域内像素其他像素与中心像素的距离;y为邻域内像素其他像素与中心像素的距离;σ为标准差参数。
[0031] 3)进行基于多尺度金子塔变换的红外和可见光图像的细节提取,利用线性差值法获取的图像高频作为融合的细节层。
[0032] 下面是算法的主要流程如图2所示,具体描述如下:
[0033] 4)图像色彩空间转换
[0034] 4-1)针对可见光图像是RGB三通道的问题,进行RGB色彩空间到HSV色彩空间的转换,提取可见光图像的V(明度)信息与红外图像进行融合,保留其H(色调)S(饱和度),具体转换如下所示:
[0035]
[0036]
[0037]
[0038] Cmax=max(R′,G′,B′)  (5)
[0039] Cmin=min(R′,G′,B′)  (6)
[0040] Δ=Cmax-Cmin  (7)
[0041] V=Cmax  (8)
[0042] 其中,R为红色通道,G为绿色通道,B为蓝色通道;R′为色彩空间转换后的红色通道,G′为色彩空间转换后的绿色通道,B′为色彩空间转换后的蓝色通道;Cmax表示R′、G′、B′中最大的值;Cmin表示R′、G′、B′中最小的值;Δ表示R′、G′、B′中最大值与最小值的差;
[0043] 4-2)提取V(明度)通道作为可见光的输入,保留色调H和饱和度S到对应的矩阵,为后面融合后的色彩还原保留颜色信息。
[0044] 5)用滤波卷积细节并对红外及可见光细节图进行筛选
[0045] 5-1)设计两个3×3的空矩阵,依次从两张图像的起始像素点开始卷积,根据可见光和红外细节图对应点的八邻域像素点进行辨别,对应邻域像素显著性驻点判别,大的取1,小的取0,分别的存入对相应的矩阵;依次更新,直到图像的最后一个像素点;
[0046] 5-2)根据生成矩阵的权重,把红外和可见光图的细节图融合,生成纹理更加丰富的细节图。
[0047] 6)利用图像超分辨进行逆多尺度金子塔变换
[0048] 6-1)选取立方卷积差值超分辨算法进行逆多尺度金子塔变换,从下采样最深的子图开始,融合细节图后,超分辨扩大图像到第二深的子图,依次迭代,直到还原到初始图像大小;以像素点为例,该像素点在竖直和水平方向上与待求像素点的距离分别是1+u和v,则像素点的权重为w=w(1+u)×w(v);则待求像素点的像素值f(i+u,j+v)的计算方法如下:
[0049] f(i+u,j+v)=A×Q×P  (9)
[0050] 其中:A、Q、P为距离生成的矩阵;A=[w(1+u) w(u) w(1-u) w(2-u)];
[0051] P=[w(1+v) w(v) w(1-v) w(2-v)]T;
[0052]
[0053] 差值核w(x)为:
[0054]
[0055] 最后依据像素点的权重与数值求出该像素点在超分辨后对应位置的像素值;
[0056] 6-2)超分辨的融合图像存入新建的零矩阵中,为下一步做准备。
[0057] 7)色彩空间的还原与色彩增强
[0058] 7-1)通过把超分辨后的融合图像存入V(明度)通道进行更新,结合之前保留的H(色调)和S(饱和度),进行HSV到RGB色彩空间的还原;具体的更新公式如下所示:
[0059] C=V×S  (11)
[0060] X=C×(1-|(H/60°)mod2-1|)  (12)
[0061] m=V-C  (13)
[0062]
[0063] R′,G′,B′=((R′+m)×255,(G′+m)×255,(B′+m)×255)  (15)
[0064] 其中,C为明度与饱和度的乘积;m为明度与C的差值。
[0065] 7-2)对步骤7-1)还原的图像进行颜色校正与增强,生成更符合观察与检测的三通道图片;分别对R通道、G通道和B通道进行色彩增强,如下公式所示:
[0066] Rout=(Rin)1/gamma  (16)
[0067] Rdisplay=(Rin(1/gamma))gamma  (17)
[0068] Gout=(Gin)1/gamma  (18)
[0069] Gdisplay=(Gin)(1/gamma))gamma  (19)
[0070] Bout=(Bin)1/gamma  (20)
[0071] Bdisplay=(Bin(1/gamma))gamma  (21)
[0072] 其中,gamma为亮度增强参数;Rout为gamma矫正红色通道逆变换;Rin为初始红色通道数值;Rdisplay为R通道gamma矫正后数值;Gdisplay为G通道gamma矫正后数值;Bdisplay为B通道gamma矫正后数值补偿值。生成后的图像如图4所示。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈