专利汇可以提供使用照片或视频重建三维牙模的方法及使用RGBD图像重建三维牙模的方法专利检索,专利查询,专利分析的服务。并且本 发明 公开了使用照片或视频重建三维牙模的方法及使用RGBD图像重建三维牙模的方法,涉及 图像处理 领域,前者分为增量和全局两个方法。增量方案可以满足当生成牙模不够完整,或者在某些关键区域不够清晰的情况下,增加新 角 度的照片,进行处理,以达到更好的生成效果;全局方案可以满足当拍摄角度固定而且完整,确保关键区域可以清晰的表达的情况下,一次性生成牙模,不再需要人工判断或干预;RGBD的方案不需要计算深度信息是对于非RGBD图像计算上的优化,对于深度信息的计算,使用RGBD图像可以获取深度信息的 精度 高于需要估算的非RGBD图像。本发明针对以上三个方案还提出了相应的优化方案,以减少处理流程,增加了处理精度。,下面是使用照片或视频重建三维牙模的方法及使用RGBD图像重建三维牙模的方法专利的具体信息内容。
1.一种使用照片或视频重建三维牙模的方法,其特征在于它分为增量的方法和全局的方法,具体包括以下步骤:
第一步,拍摄一组多角度多位置RGB牙齿图像,并去除产生畸变的图像;
第二步,
对所有的图像提取特征并匹配;
第三步,
针对增量的方法,选择一对图像做初始的配对,计算相对位姿,估算初始的三维牙模;
针对全局的方法,估算所有图像的相机位姿;
第四步,
针对增量的方法:通过增量的方式增加图像,以补全初始的三维牙模,并全局优化;
针对全局的方法,估算三维牙模,并做全局优化;
第五步,输出牙齿的三维牙模,并按照标定还原模型尺寸。
2.根据权利要求1所述的一种使用照片或视频重建三维牙模的方法,其特征在于针对增量的方法,第二步具体为:
2.1读取牙齿图像,并对所有牙齿图像进行特征提取,每张牙齿图像都得到:一组特征点Keypt,一组描述子Descp以及特征点的颜色信息Keycolor,若特征点少于设定阈值则排除该牙齿图像;
2.2对所有牙齿图像中的Descp进行顺次匹配,第n张PicN与第n+1张PicN+1进行匹配;并过滤错误匹配的点;最后保存匹配信息M,M由PicN中与PicN+1匹配上的Keypt的索引配对组成;
2.3根据匹配信息M选取最多有效匹配点的一对牙齿图像作为种子图像对,对于种子图像对中图像 的特征点Keypt,根据M中的索引,获取其匹配特征点坐标组pt1对于图像 的特征点Keypt,根据M中的索引,获取其匹配特征点
坐标组pt2 并根据M中的索引,保存匹配特征点的颜色信息Keycolor;
针对全局的方法,第二步具体为:
2.1读取牙齿图像,并对所有牙齿图像进行特征提取;每牙齿图像都得到:一组特征点Keypt以及一组描述子Descp和特征点的颜色信息Keycolor,若特征点少于设定阈值则排除该牙齿图像;
2.2对所有图像中的Descp进行匹配,每一图像与其他所有的图像进行匹配,并过滤错误匹配的点,每两图像成功匹配构成一个图像对;最后保存匹配点信息M。M由PicN中与PicN+1匹配上的Keypt的索引配对组成;
2.3对于每个图像对中的图像PicN的Keypt,根据M中的索引,获取其匹配特征点坐标组pt1(pt1∈PicN的Keypt);对于图像的PicN+1的的Keypt,根据M中的索引,获取其匹配特征点坐标组pt2(pt2∈PicN+1的Keypt);并根据M中的索引,保存匹配特征点的颜色信息Keycolor。
3.根据权利要求2所述的一种使用照片或视频重建三维牙模的方法,其特征在于针对增量的方法,第三步具体为:
3.1估算图像对的相机位姿,先求取图像对中 与 的相对变化矩阵,使用
opencv库函数findEssentialMat函数计算两图像的本征矩阵E,findEssentialMat需要提供关键参数如下:
1.图像对匹配点组信息pt1和pt2
2.从相机内参矩阵K提取像素焦距fpix和光心坐标Pp(cx,cy)
3.选择随机抽样一致性算法RANSAC作为参数
然后通过分解本征矩阵E进行SVD奇异值分解,可得到相对变换;使用opencv库函数recoverPose反算图像对的相对变换,也就是计算R和T;recoverPose输入参数如下:
1.图像对匹配点组信息pt1和pt2
2.本征矩阵E
3.从相机内参矩阵K提取像素焦距fpix和光心坐标Pp(cx,cy)
3.2使用三角测量计算图像对对应点的空间坐标,即图像对的三维牙模的初始估算;P为空间中一点,x1为空间点P在PicN的投影,x1’为空间点P在PicN+1的投影;通过两个相机投影矩阵Camproj1和Camproj2,以及匹配点组pt1(x1∈pt1)和pt2(x1’∈pt2),使用opencv库函数triangulatePoints计算三维结构,得到三维结构Struc;其中Camproj1与Camproj2均为相机投影矩阵,由相机内参矩阵K乘以相机外参矩阵得到,相机外参矩阵即图像对中各自的旋转矩阵R与平移向量T组合得到;
triangulatePoints使用的关键参数如下:
1.投影矩阵Camproj1和Camproj2
2.匹配点组pt1和pt2;
针对全局的方法,第三步具体为:
3.1估算所有图像对的相机位姿:首先求取所有图像对中PicN与PicN+1的相对变换矩阵,使用opencv库函数findEssentialMat计算两张图像的本征矩阵E,findEssentialMat需要提供参数如下
1.图像对匹配点组信息pt1和pt2,
2.从相机内参矩阵K提取像素焦距fpix和光心坐标Pp(cx,cy)
3.选择随机抽样一致性算法RANSAC作为参数
然后通过分解本征矩阵E进行SVD奇异值分解,可得到相对变换;将本征矩阵带入opencv库函数recoverPose反算图像对的相对变换,也就是计算Rij和Tij;recoverPose输入参数如下:
1.图像对匹配点组信息pt1和pt2
2.本征矩阵E
3.从相机内参矩阵K提取像素焦距fpix和光心坐标Pp(cx,cy)
3.2根据所有图像,估算几何结构:对于相机i,其位置信息(Ri,Ti),对于相机j,其位置信息(Rj,Tj);二者之间的绝对旋转可以通过对以下公式求解求得:
Rj=RijRi
其中:
Rij为图PicN与PicN+1的相对旋转,已由上一步获取;
Ri与Rj为图PicN与PicN+1的绝对旋转;
计算方法:首先构造位姿图,将两图像间有相对位姿的图像加入图,如图像PicN为节点
1,节点1的子节点PicN+1为节点2,节点2的子节点PicN+2为节点3;将PicN的绝对旋转设为单位矩阵,使用以上公式求得节点2的绝对旋转;当PicN+1的绝对旋转被确定下来后,随之继续计算所有剩余的图中的绝对旋转。
4.根据权利要求3所述的一种使用照片或视频重建三维牙模的方法,其特征在于针对增量的方法,第四步具体为:
4.1使用BundleAdjustment做全局优化;当牙模数据的三维结构不够完整时,增加新的牙齿图像;上一步通过对图像对中PicN与PicN+1进行三维重建后,获取了三维结构Struc;新增图像为图像PicN+2,使用opencv库中的solvePnPRansac的函数,求得PicN+2的相对旋转矩阵R与平移向量T;继续使用三角测量计算并将新的未添加进三维牙模结构的点增加到三维牙模Struc中,并保存新增点的颜色信息Keycolor;solvePnPRansac使用的关键参数如下:
1.三维结构Struc
2.图PicN+2二维匹配信息pt2
3. 3*3的相机内参矩阵K
若仍有新增图像,则重复本步骤;
针对全局的方法,第四步具体为:
使用三角测量计算图像对对应点的空间坐标,即图像对的三维牙模的初始估算:P为空间中一点,x1为空间点P在PicN的投影,x1’为空间点P在PicN+1的投影;通过两个相机投影矩阵Camproj1和Camproj2,以及匹配点组pt1(x1∈pt1)和pt2(x1’∈pt2),使用opencv库函数triangulatePoints计算三维结构,得到三维结构Struc;其中Camproj1与Camproj2均为相机投影矩阵,由相机内参矩阵K乘以相机外参矩阵得到,外相机参矩阵即图像对中各自的旋转矩阵R与平移向量T组合得到;triangulatePoints使用的关键参数如下:
1.投影矩阵Camproj1和Camproj2
2.匹配点组pt1和pt2;
使用BundleAdjustment做全局优化。
5.一种使用照片或视频重建三维牙模的方法,其特征在于它分为增量的方法和全局的方法,具体包括以下步骤:
第一步,拍摄一组多位置且固定角度差的RGB牙齿图像,拍摄时,将牙模位置固定在托盘圆心上,每次按照固定角度旋转托盘,此时每两张图的旋转矩阵相同,每两张图的平移向量T也相同,将问题简化为以牙模为轴心的固定轨迹的周期运算,并去除产生畸变的图像;
第二步,对所有的图像提取特征并匹配;
针对增量的方法,第二步具体为:
2.1读取牙齿图像,并对所有牙齿图像进行特征提取,每张牙齿图像都得到:一组特征点Keypt,一组描述子Descp以及特征点的颜色信息Keycolor,若特征点少于设定阈值则排除该牙齿图像;
2.2对所有牙齿图像中的Descp进行顺次匹配,第n张PicN与第n+1张PicN+1进行匹配;并过滤错误匹配的点;最后保存匹配信息M,M由PicN中与PicN+1匹配上的Keypt的索引配对组成;
2.3根据匹配信息M选取最多有效匹配点的一对牙齿图像作为种子图像对,对于种子图像对中图像 的特征点Keypt,根据M中的索引,获取其匹配特征点坐标组pt1对于图像 的特征点Keypt,根据M中的索引,获取其匹配特征点
坐标组pt2 并根据M中的索引,保存匹配特征点的颜色信息Keycolor;
针对全局的方法,第二步具体为:
2.1读取牙齿图像,并对所有牙齿图像进行特征提取;每牙齿图像都得到:一组特征点Keypt以及一组描述子Descp和特征点的颜色信息Keycolor,若特征点少于设定阈值则排除该牙齿图像;
2.2对所有图像中的Descp进行匹配,每一图像与其他所有的图像进行匹配,并过滤错误匹配的点,每两图像成功匹配构成一个图像对;最后保存匹配点信息M。M由PicN中与PicN+1匹配上的Keypt的索引配对组成;
2.3对于每个图像对中的图像PicN的Keypt,根据M中的索引,获取其匹配特征点坐标组pt1(pt1∈PicN的Keypt);对于图像的PicN+1的的Keypt,根据M中的索引,获取其匹配特征点坐标组pt2(pt2∈PicN+1的Keypt);并根据M中的索引,保存匹配特征点的颜色信息Keycolor第三步,
针对增量的方法/针对全局的方法,估算所有图像的相机位姿;
3.1首先基于欧拉角生成旋转矩阵:
然后,根据轴向旋转的不同,通过矩阵相乘得到3*3的旋转矩阵R;再根据X′1=RX1+T求解平移向量T,其中匹配点组x1∈pt1,x1’∈pt2:
最后将计算出的相对旋转矩阵R和平移向量T代入下式:
以上求得的旋转矩阵R与平移向量T可直接代入其他图像对的相机外参矩阵;
3.2使用三角测量计算图像对对应点的空间坐标,即图像对的三维牙模的初始估算;P为空间中一点,x1为空间点P在PicN的投影,x1’为空间点P在PicN+1的投影;通过两个相机投影矩阵Camproj1和Camproj2,以及匹配点组pt1(x1∈pt1)和pt2(x1’∈pt2),使用opencv库函数triangulatePoints计算三维结构,得到三维结构Struc;其中Camproj1与Camproj2均为相机投影矩阵,由相机内参矩阵K乘以相机外参矩阵得到,相机外参矩阵即图像对中各自的旋转矩阵R与平移向量T组合得到;
triangulatePoints使用的关键参数如下:
1.投影矩阵Camproj1和Camproj2
2.匹配点组pt1和pt2;
第四步,
针对增量的方法:通过增量的方式增加图像,以补全初始的三维牙模,并全局优化:
4.1使用BundleAdjustment做全局优化;当牙模数据的三维结构不够完整时,增加新的牙齿图像;上一步通过对图像对中PicN与PicN+1进行三维重建后,获取了三维结构Struc;新增图像为图像PicN+2,使用已经计算出的相对旋转矩阵R与平移向量T;继续使用三角测量计算并将新的未添加进三维牙模结构的点增加到三维牙模Struc中,并保存新增点的颜色信息Keycolor;
4.2若仍有新增图像,则重复本步骤;
针对全局的方法,
使用三角测量计算图像对对应点的空间坐标,即图像对的三维牙模的初始估算:P为空间中一点,x1为空间点P在PicN的投影,x1’为空间点P在PicN+1的投影;通过两个相机投影矩阵Camproj1和Camproj2,以及匹配点组pt1(x1∈pt1)和pt2(x1’∈pt2),使用opencv库函数triangulatePoints计算三维结构,得到三维结构Struc;其中Camproj1与Camproj2均为相机投影矩阵,由相机内参矩阵K乘以相机外参矩阵得到,外相机参矩阵即图像对中各自的旋转矩阵R与平移向量T组合得到;triangulatePoints使用的关键参数如下:
1.投影矩阵Camproj1和Camproj2
2.匹配点组pt1和pt2;
使用Bundle Adjustment做全局优化。
6.一种使用RGBD图像重建三维牙模的方法,其特征在于包括以下步骤:
第一步,拍摄一组多角度RGBD牙齿图像;
第二步,特征提取匹配及配准;
第三步,将图像转化为点云数据;
第四步,拼接点云数据;
第五步,输出牙齿的三维牙模,并按照标定还原模型尺寸。
7.根据权利要求6所述的一种使用照片或视频重建三维牙模的方法,其特征在于第二步具体为:读取RGB图像,并对所有图像进行特征提取,每个图像都得到:一组特征点Keypt,一组描述子Descp以及特征点的颜色信息Keycolor,若特征点少于设定阈值则排除该牙齿图像;对所有图像中的Descp进行顺次匹配,第n张PicN与第n+1张PicN+1进行匹配;并过滤错误匹配的点,最后保存匹配信息M,M由PicN中与PicN+1匹配上的Keypt的索引配对组成;根据匹配信息M选取最多有效匹配点的一对图像作为种子图像对,对于种子图像对中的图 从M中获取其所有特征点坐标组pt1,对于图像 从M中获取其所有特征点坐标组pt2。
8.根据权利要求7所述的一种使用照片或视频重建三维牙模的方法,其特征在于第三步具体为:
遍历深度图,从图像 的深度图获取特征点组pt1的深度信息d;利用深度信息,相机焦距和光心坐标,反算三维空间点坐标组
对 中的一个空间点(x,y,z)和它在图像中的像素坐标(u,v,d)有如下关系:
z=d/s
x=(u-cx)*z/fx
y=(v-cy)*z/fy
cx,cy:光心坐标,在图像的中心,由最高分辨率除以2得到;
fpix:像素焦距;
u,v,d,为空间点投影到图像的像素坐标,其中d为深度信息;
x,y,z,为世界坐标系中空间点的齐次坐标;
s:深度图的缩放因子;
从RGB图像颜色图获取颜色信息Color,使用opencv库中的solvePnPRansac的函数,计算相对矩阵[R|T];solvePnPRansac使用的关键参数如下:
1.三维空间点坐标组
2.图 二维匹配信息pt2
3.3*3的相机内参矩阵K。
9.根据权利要求8所述的一种使用照片或视频重建三维牙模的方法,其特征在于第四步具体为:
拼接点云数据,将图像PicN与图像PicN+1转换为点云数据Ptcloud1与Ptcloud2,以及变换矩阵[R|T]来拼接点云,利用点云库函数pcl::transformPointCloud来拼接点云数据;Ptcloud1与Ptcloud2合并得到Ptall;对于新增的图像,使用opencv库中的solvePnPRansac的函数,将新图像中匹配点的二维坐标带入,计算新的[R|T];solvePnPRansac使用的关键参数如下:
1.三维空间点坐标组
2.图PicN+2二维匹配信息
3. 3*3的相机内参矩阵K
若有新图像则继续计算,将未添加进三维牙模结构的点合并到Ptall中,最后继续使用BundleAdjustment做全局优化。
10.一种使用RGBD图像重建三维牙模的方法,其特征在于包括以下步骤:
第一步,拍摄一组多位置且固定角度差的RGBD牙齿图像;
第二步,特征提取匹配及配准:
读取RGB图像,并对所有图像进行特征提取,每个图像都得到:一组特征点Keypt,一组描述子Descp以及特征点的颜色信息Keycolor,若特征点少于设定阈值则排除该牙齿图像;对所有图像中的Descp进行顺次匹配,第n张PicN与第n+1张PicN+1进行匹配;并过滤错误匹配的点,最后保存匹配信息M,M由PicN中与PicN+1匹配上的Keypt的索引配对组成;根据匹配信息M选取最多有效匹配点的一对图像作为种子图像对,对于种子图像对中的图 从M中获取其所有特征点坐标组pt1,对于图像 从M中获取其所有特征点坐标组pt2;
第三步,将图像转化为点云数据:
3.1遍历深度图,从图像 的深度图获取特征点组pt1的深度信息d;利用深度信息,相机焦距和光心坐标,反算三维空间点坐标组
对 中的一个空间点(x,y,z)和它在图像中的像素坐标(u,v,d)有如下关系:
z=d/s
x=(u-cx)*z/fx
y=(v-cy)*z/fy
cx,cy:光心坐标,在图像的中心,由最高分辨率除以2得到;
fpix:像素焦距;
u,v,d,为空间点投影到图像的像素坐标,其中d为深度信息;
x,y,z,为世界坐标系中空间点的齐次坐标;
s:深度图的缩放因子;
3.2首先基于欧拉角生成旋转矩阵将欧拉角转换为旋转矩阵:
然后,根据轴向旋转的不同,通过矩阵相乘得到3*3的旋转矩阵R;再根据X′1=RX1+T求解平移向量T,其中匹配点组x1∈pt1,x1’∈pt2:
最后将计算出的相对旋转矩阵R和平移向量T代入下式:
以上求得的旋转矩阵R与平移向量T可直接代入其他图像对的相机外参矩阵;
第四步,拼接点云数据:
拼接点云数据,将图像PicN与图像PicN+1转换为点云数据Ptcloud1与Ptcloud2,以及变换矩阵[R|T]来拼接点云,利用点云库函数pcl::transformPointCloud来拼接点云数据;Ptcloud1与Ptcloud2合并得到Ptall;对于新增的图像,使用已经计算出的相机外参矩阵[R|T];并将未添加进三维牙模结构的点合并到Ptall中,最后继续使用BundleAdjustment做全局优化;
第五步,输出牙齿的三维牙模,并按照标定还原模型尺寸。
维牙模的方法
标题 | 发布/更新时间 | 阅读量 |
---|---|---|
一种应用深度采样进行光场重构的方法及系统 | 2020-05-08 | 894 |
一种基于视觉信息的环境语义感知方法 | 2020-05-08 | 818 |
一种圆柱玻璃表面质量视觉检测系统与方法 | 2020-05-11 | 191 |
位姿确定方法及装置、增强现实设备和可读存储介质 | 2020-05-08 | 1043 |
一种铁路货车人力制动机轴链脱落故障图像识别方法 | 2020-05-11 | 25 |
一种基于YOLOv3的机器人自主分类抓取方法 | 2020-05-08 | 840 |
一种室外无人机的自主定位方法 | 2020-05-11 | 975 |
一种成捆棒材端面的标牌焊接定位方法 | 2020-05-08 | 655 |
基于深度学习的无监督端到端的驾驶环境感知方法 | 2020-05-08 | 508 |
一种抗遮挡目标跟踪方法 | 2020-05-08 | 106 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。