首页 / 专利库 / 人工智能 / 机器学习 / 监督学习 / 基于深度学习的文档自动归类及光学字符识别方法及系统

基于深度学习的文档自动归类及光学字符识别方法及系统

阅读:424发布:2020-05-08

专利汇可以提供基于深度学习的文档自动归类及光学字符识别方法及系统专利检索,专利查询,专利分析的服务。并且本 发明 提供了一种基于 深度学习 的文档自动归类及光学字符识别方法及系统,其方法包括:首先对待扫描的文档进行扫描,得到扫描图片,并对所述扫描图片进行预处理,得到预处理后的扫描图片;然后采用 卷积神经网络 对所述预处理后的扫描图片进行特征提取和分类,得到所述扫描图片的图片特征,并根据所述图片特征对所述扫描图片进行分类,以实现待扫描文档的自动归类;最后利用OCR引擎对所述扫描图片中的关键信息进行提取,以实现扫描图片的光学字符识别。本发明的有益效果是:利用卷积神经网络结合光学字符识别技术,实现扫描文档图片分类 整理 以及文件夹命名自动化、智能化处理的工作。,下面是基于深度学习的文档自动归类及光学字符识别方法及系统专利的具体信息内容。

1.一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:包括以下步骤:
S101:对待扫描的文档进行扫描,得到扫描图片,并对所述扫描图片进行预处理,得到预处理后的扫描图片;
S102:采用卷积神经网络对所述预处理后的扫描图片进行特征提取和分类,得到所述扫描图片的图片特征,并根据所述图片特征对所述扫描图片进行分类,以实现待扫描文档的自动归类;
S103:利用OCR引擎对所述扫描图片中的关键信息进行提取,以实现扫描图片的光学字符识别。
2.如权利要求1所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:步骤S101中,对所述扫描图片进行预处理,具体为:将所述扫描图片缩放至预设尺寸大小,以便于后续使用。
3.如权利要求1所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:步骤S102中,所述卷积神经网络为Resnet18,采用监督学习的方法,利用随机梯度下降优化器事先在ImageNet上预训练权重。
4.如权利要求3所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:采用Mxnet框架实现卷积神经网络的搭建和监督学习,损失函数采用的是交叉熵损失函数。
5.如权利要求1所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:步骤S103中,使用Tesseract OCR的python接口实现扫描图片中的字符识别,实现关键信息的提取工作。
6.如权利要求5所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:所述关键信息包括待修改的文字、待搜索的特征或者待删除的文字。
7.一种基于深度学习的文档自动归类及光学字符识别系统,其特征在于:包括以下模
文档扫描与预处理模块,用于对待扫描的文档进行扫描,得到扫描图片,并对所述扫描图片进行预处理,得到预处理后的扫描图片;
分类模块,用于采用卷积神经网络对所述预处理后的扫描图片进行特征提取和分类,得到所述扫描图片的图片特征,并根据所述图片特征对所述扫描图片进行分类,以实现待扫描文档的自动归类;
识别模块,用于利用OCR引擎对所述扫描图片中的关键信息进行提取,以实现扫描图片的光学字符识别。
8.如权利要求7所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:文档扫描与预处理模块中,对所述扫描图片进行预处理,具体为:将所述扫描图片缩放至预设尺寸大小,以便于后续使用。
9.如权利要求7所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:分类模块中,所述卷积神经网络为Resnet18,采用监督学习的方法,利用随机梯度下降优化器事先在ImageNet上预训练权重。
10.如权利要求9所述的一种基于深度学习的文档自动归类及光学字符识别方法,其特征在于:采用Mxnet框架实现卷积神经网络的搭建和监督学习,损失函数采用的是交叉熵损失函数。

说明书全文

基于深度学习的文档自动归类及光学字符识别方法及系统

技术领域

[0001] 本发明涉及扫描文档图片信息处理、信息提取及图片模式识别技术领域,尤其涉及一种基于深度学习的文档自动归类及光学字符识别方法及系统。

背景技术

[0002] 光学字符识别(Optical Character Recognition,OCR)是指电子设备(例如扫描仪数码相机)检查纸上打印的字符,通过检测暗、亮的模式确定其形状,然后用字符识别方法将形状翻译成计算机文字的过程;即,针对印刷体字符,采用光学的方式将纸质文档中的文字转换成为黑白点阵的图像文件,并通过识别软件将图像中的文字转换成文本格式,供文字处理软件进一步编辑加工的技术;而扫描文档图片是利用电子扫描技术对文档进行扫描成像,获得文档的扫描图片。扫描文档图片较为色彩单调,一般是白纸黑字形式。因此在生产生活中为了对文档进行快速的存储备份,一般会进行电子扫描存档。
[0003] 对于扫描的文档图片一般需要进行归档分类整理,现在采用的方法多是利用人工识别分类整理。人工识别整理的方法不仅费时费,同时效率较低。无法满足生产生活的需求。
[0004] 近年来,在人工智能(AI)领域兴起的深度学习算法,是一种全新的计算模型,能够对海量数据提取高级特征,进行高效的信息分类、解译和理解。深度学习算法已成功应用于计算机视觉机器翻译语音识别、AI强化学习等领域,甚至在某些应用中表现已经超过人类平。深度学习方法包含多种学习模型,其中卷积神经网络(CNN)在图像处理应用中表现最为出色[1-2]。卷积神经网络由输入层、卷积层、池化层、全连接层和输出层组成,通过对多层卷积核(特征提取器)的训练,实现影像解译功能。利用卷积神经网络能够学习到更加抽象、稳定的特征,这些高级特征对噪声及影像局部变化具有低敏感性,如果使用这些高层次特征进行分类任务,有助于提高分类精度。此外,与基于提取人工规则特征的分类方法相比,卷积神经网络将卷积层和全连接层相结合,能够同时实现影像对象的特征提取和分类,减少了人工干预过程,提高网络模型的识别能力。但目前主要将深度学习的方法应用到自然影像或遥感影像的分类任务中,还没有将深度学习的技术应用于扫描文档图片分类的应用。

发明内容

[0005] 为了解决上述问题,本发明提供了一种基于深度学习的文档自动归类及光学字符识别方法及系统;
[0006] 一种基于深度学习的文档自动归类及光学字符识别方法,主要包括以下步骤:
[0007] S101:对待扫描的文档进行扫描,得到扫描图片,并对所述扫描图片进行预处理,得到预处理后的扫描图片;
[0008] S102:采用卷积神经网络对所述预处理后的扫描图片进行特征提取和分类,得到所述扫描图片的图片特征,并根据所述图片特征对所述扫描图片进行分类,以实现待扫描文档的自动归类;
[0009] S103:利用OCR引擎对所述扫描图片中的关键信息进行提取,以实现扫描图片的光学字符识别。
[0010] 进一步地,步骤S101中,对所述扫描图片进行预处理,具体为:将所述扫描图片缩放至预设尺寸大小,以便于后续使用。
[0011] 进一步地,步骤S102中,所述卷积神经网络为Resnet18,采用监督学习的方法,利用随机梯度下降优化器事先在ImageNet上预训练权重。
[0012] 进一步地,采用Mxnet框架实现卷积神经网络的搭建和监督学习,损失函数采用的是交叉熵损失函数。
[0013] 进一步地,步骤S103中,使用Tesseract OCR的python接口实现扫描图片中的字符识别,实现关键信息的提取工作;所述关键信息包括待修改的文字、待搜索的特征或者待删除的文字。
[0014] 进一步地,一种基于深度学习的文档自动归类及光学字符识别系统,其特征在于:包括以下模
[0015] 文档扫描与预处理模块,用于对待扫描的文档进行扫描,得到扫描图片,并对所述扫描图片进行预处理,得到预处理后的扫描图片;
[0016] 分类模块,用于采用卷积神经网络对所述预处理后的扫描图片进行特征提取和分类,得到所述扫描图片的图片特征,并根据所述图片特征对所述扫描图片进行分类,以实现待扫描文档的自动归类;
[0017] 识别模块,用于利用OCR引擎对所述扫描图片中的关键信息进行提取,以实现扫描图片的光学字符识别。
[0018] 进一步地,文档扫描与预处理模块中,对所述扫描图片进行预处理,具体为:将所述扫描图片缩放至预设尺寸大小,以便于后续使用。
[0019] 进一步地,分类模块中,所述卷积神经网络为Resnet18,采用监督学习的方法,利用随机梯度下降优化器事先在ImageNet上预训练权重。
[0020] 进一步地,采用Mxnet框架实现卷积神经网络的搭建和监督学习,损失函数采用的是交叉熵损失函数。
[0021] 本发明提供的技术方案带来的有益效果是:本发明所提出的技术方案具备以下技术效果:
[0022] (1)利用卷积神经网络实现扫描文档图片的归类;
[0023] (2)利用光学字符识别技术实现扫描文档图片中关键信息的提取;
[0024] (3)利用卷积神经网络结合光学字符识别技术,实现扫描文档图片分类整理以及文件夹命名自动化、智能化处理的工作。附图说明
[0025] 下面将结合附图及实施例对本发明作进一步说明,附图中:
[0026] 图1是本发明实施例中一种基于深度学习的文档自动归类及光学字符识别方法的流程图
[0027] 图2是本发明实施例中卷积操作示意图;
[0028] 图3是本发明实施例中池化操作示意图;
[0029] 图4是本发明实施例中全连接层示意图;
[0030] 图5是本发明实施例中扫描文档图片归档处理结果示意图;
[0031] 图6是本发明实施例中OCR户名提取实现文件夹重命名结果示意图;
[0032] 图7是本发明实施例中,一种基于深度学习的文档自动归类及光学字符识别系统的模块组成示意图。

具体实施方式

[0033] 为了对本发明的技术特征、目的和效果有更加清楚的理解,现对照附图详细说明本发明的具体实施方式。
[0034] 本发明的实施例提供了一种基于深度学习的文档自动归类及光学字符识别方法及系统。
[0035] 请参考图1,图1是本发明实施例中一种基于深度学习的文档自动归类及光学字符识别方法的流程图,具体包括如下步骤:
[0036] S101:对待扫描的文档进行扫描,得到扫描图片,并对所述扫描图片进行预处理,得到预处理后的扫描图片;
[0037] S102:采用卷积神经网络对所述预处理后的扫描图片进行特征提取和分类,得到所述扫描图片的图片特征,并根据所述图片特征对所述扫描图片进行分类,以实现待扫描文档的自动归类;
[0038] S103:利用OCR引擎对所述扫描图片中的关键信息进行提取,以实现扫描图片的光学字符识别。
[0039] 步骤S101中,对所述扫描图片进行预处理,具体为:将所述扫描图片缩放至预设尺寸大小,以便于后续使用;所述预设尺寸根据实际需求进行设置,在本发明实施例中,统一将图片缩放至256×256的大小。
[0040] 步骤S102中,所述卷积神经网络为Resnet18,采用监督学习的方法,利用随机梯度下降优化器事先在ImageNet上预训练权重。
[0041] 采用Mxnet框架实现卷积神经网络的搭建和监督学习,损失函数采用的是交叉熵损失函数,如下式所示:
[0042]
[0043] 上式中, 表示真实的第i个样本在各个类别上的概率分布,pi表示对应的在各个类别上的概率分布预测;利用随机梯度下降优化器使得上述损失函数的值越来越小,从而使得模型得到优化训练;初始学习率为0.001,训练100轮后获得相应的模型。
[0044] 在本发明实施例中,卷积神经网络主要由卷积层(Convolutional Layer)、池化层(Pooling Layer)以及全连接层(Fully Connected Layer)组成,相应介绍如下:
[0045] 1)卷积层
[0046] 卷积层通过一个固定大小的窗口(卷积核)在输入的图像或特征图上进行滑动卷积,得到关于输入的输出,这个输出称为特征图。输入卷积层是一个形如(r,m,n)的三维数组,r表示输入图像通道数或特征图的个数,m、n表示图像或特征图的大小。其基本原理如下图2所示:
[0047] 图2中输入图像或特征图中红色框区域即为当前正在进行卷积操作的图像区域,对应区域的像素值矩阵为 绿色表示卷积核,为 计算结果为对应位置值的乘积之和,作为输出特征图对应位置的值,即为1。神经网络中的卷积核中的参数为待学习的参数,是通过训练自动学习到的,不需要人为的设置。此外卷积层可以对图像的特征进行提取,获取有利于完成任务的图像特征。
[0048] 2)池化层
[0049] 池化层为卷积神经网络另一个重要的基本组成单元,池化操作与卷积操作类似,只是池化函数一般为取最大值函数或取平均值函数,即对特征图上指定大小窗口的像素组成的矩阵进行取极大值或取平均值操作,从而获取池化后特征图对应位置的值。池化层采用的池化函数为取极值或取平均操作,没有需要学习的参数。池化层用来对相邻特征进行整合提取,对特征进行精简和提炼,避免提取的特征冗余。对于常用的最大池化、平均池化和全局平均池化基本原理如图3所示:
[0050] 图3中池化区域为2×2,移动步长为2,图中a,b,c分别表示对特征图进行最大池化、平均池化和全局池化后的输出结果。其中a,b网格颜色对应于特征图中进行池化操作的区域。由于全局池化对一张特征图只有一个输出,因此c中只有一个对输入特征图全局平均的输出值。
[0051] 3)全连接层
[0052] 经过卷积层和池化层提取的特征为二维特征,通过相关操作转化为一维特征后,输入全连接层,从而对最终的特征进行组合,使之有利于最终的任务完成。全连接层的基本结构如图4所示,其中,x1、x2、x3为全连接层的输入,a1、a2、a3为输出,其公式为:
[0053]
[0054] 上式中,中W矩阵和偏差矩阵b中的元素即为网络学习的参数。
[0055] 步骤S103中,使用Tesseract OCR的python接口实现扫描图片中的字符识别,实现关键信息的提取工作;所述关键信息包括待修改的文字、待搜索的特征或者待删除的文字。
[0056] 本发明实施例中,以地籍地块调查扫描文档图片归类和户主姓名提取为例。在地籍地块调查任务中会对每户的地籍地块进行相关信息的记录,按照内容的不同,需要将记录的文档扫描图进行相应的归类整理,形成相应的文件夹。主要包括以下几个文件夹:承包方(cbf)文件夹、登记簿(djb)文件夹、地块调查(dkdc)文件夹、归户表(ghb)文件夹、合同书(hts)文件夹、授权书(sqs)文件夹、指界通知(zjtz)文件夹等。同时需要在扫描的文档图片中提取出该户的户主姓名,并将文件夹的名称修改为户主名。利用本方法,可以实现扫描文档图片的自动归类以及自动识别户名并修改文件夹的名称;具体步骤如下:
[0057] 1)扫描文档图片预处理:
[0058] 对于扫描文档图片,统一进行了强制缩放处理,将扫描文档图片缩放至256×256的大小。
[0059] 2)卷积神经网络设计及训练:
[0060] 利用Resnet18作为扫描文档图片的特征提取网络,全连接层利用提取的特征进行分类。采用Mxnet框架实现网络结构的搭建和监督学习。损失函数采用的是交叉熵损失函数。
[0061] 3)光学字符识别:
[0062] 利用Tesseract OCR的python接口,从地籍地块调查扫描文档图片中提取出户主名称。(Tesseract OCR,这是一款由HP实验室开发由Google维护的开源OCR(Optical Character Recognition,光学字符识别)引擎);
[0063] 实验结果图如图5和图6所示。
[0064] 请参阅图7,图7是本发明实施例中,一种基于深度学习的文档自动归类及光学字符识别系统的模块组成示意图;包括顺次连接的:文档扫描与预处理模块11、分类模块12和识别模块13;
[0065] 文档扫描与预处理模块11,用于对待扫描的文档进行扫描,得到扫描图片,并对所述扫描图片进行预处理,得到预处理后的扫描图片;
[0066] 分类模块12,用于采用卷积神经网络对所述预处理后的扫描图片进行特征提取和分类,得到所述扫描图片的图片特征,并根据所述图片特征对所述扫描图片进行分类,以实现待扫描文档的自动归类;
[0067] 识别模块13,用于利用OCR引擎对所述扫描图片中的关键信息进行提取,以实现扫描图片的光学字符识别。
[0068] 文档扫描与预处理模块11中,对所述扫描图片进行预处理,具体为:将所述扫描图片缩放至预设尺寸大小,以便于后续使用。
[0069] 分类模块12中,所述卷积神经网络为Resnet18,采用监督学习的方法,利用随机梯度下降优化器事先在ImageNet上预训练权重。
[0070] 采用Mxnet框架实现卷积神经网络的搭建和监督学习,损失函数采用的是交叉熵损失函数。
[0071] 本发明的有益效果是:本发明所提出的技术方案具备以下技术效果:
[0072] (1)利用卷积神经网络实现扫描文档图片的归类;
[0073] (2)利用光学字符识别技术实现扫描文档图片中关键信息的提取;
[0074] (3)利用卷积神经网络结合光学字符识别技术,实现扫描文档图片分类整理以及文件夹命名自动化、智能化处理的工作。
[0075] 以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈