OpenCV身份证离线识别技术实战(一)
OpenCV身份证离线识别技术的主要技术就是通过OpenCV找到身份证号码区域，然后通过OCR进行数字识别该区域的截图即可得到身份证号码。本地ORC使用tess-two来完成，Tesseract是C++实现的OCR引擎，在Android中使用不是很方便，需要封装JavaAPI才能在Android平台中进行调用，然而tess-two已经帮我们做好了这些事情，通过集成tess-two就可以很方便的完成文字识别。
总体思路
图像的预处理
1、无损压缩
首先要处理的问题就是图片的大小不一样，因为每台设备的的像素或者说每个图片的大小本身都不一样，处理过程也会有所差异，所以首先解决的问题就是大小统一，先通过无损压缩把图片处理为大小一致的图像。根据经验值（或者说这是处理证件类的通用手法），先把图像处理为640×400的大小。
2、灰度化
现在大部分的彩色图像都是采用RGB颜色模式，处理图像的时候，要分别对RGB三种分量进行处理，实际上RGB并不能反映图像的形态特征，只是从光学的原理上进行颜色的调配。图像灰度化处理可以作为图像处理的预处理步骤，为之后的图像分割、图像识别和图像分析等上层操作做准备。
其实可以仔细想想，如果是处理一张RGB图像的话，一个像素点需要同时处理3个值，灰度化之后只需要处理一个值。如果是对比的话，一个RGB像素点就有256×256×256种可能，但是如果是对比灰度图的像素点，则只有256种可能，65536倍的速度提升，所以很多时候做其他图像处理之前，先转化为灰度图。
图像灰度化处理有分量法、最大值法、平均值法、加权平均法，其中用得较多的是加权平均法。由于人眼对绿色的敏感最高，对蓝色敏感最低，因此，按下式对RGB三分量进行加权平均能得到较合理的灰度图像: $$ \operatorname{Gray}(i, j)=0.299 * R(i, j)+0.578 * G(i, j)+0.114 * B(i, j) $$
3、图像二值化
通过以上对彩色图片进行灰度化以后，把获取到的灰度图像进行二值化处理。对于二值化，其目的是将目标用户背景分类，为后续车道的识别做准备。灰度图像二值化最常用的方法是阈值法，他利用图像中目标与背景的差异，把图像分别设置为两个不同的级别，选取一个合适的阈值，以确定某像素是目标还是背景，从而获得二值化的图像。比如以100为阈值对图像进行二值化操作：
$$ f(i, j)=\left{\begin{array}{cc} 0, & (\text { gray }<=100) \ 255, & (\text { gray }>100) \end{array}\right. $$
4、膨胀与腐蚀
膨胀与腐蚀属于图像处理中最基本的形态学运算，形态学操作就是基于形状的一系列图像处理操作。OpenCV为进行图像的形态学变换提供了快捷且方便的函数。主要用于噪声消除、分割出独立的图像元素、在图像中连接相邻的元素、寻找图像中的明显的极大值区域或极小值区域、求出图像的梯度。
简单理解，膨胀就是求局部最大值的操作。腐蚀就是求局部最小值的操作。在处理身份证的时候，我们希望把身份证号码等数字区域连接在一起，即在图像中连接相邻的元素，所以需要使用膨胀处理，就跟蒸馒头的酵母粉一样，可以是我们想要的元素膨胀并且黏合在一起。
5、轮廓检测与图像分割
通过图像的膨胀操作，身份证号码区域已经被连接在一起了，目前需要做的事情就是检测出该区域的轮廓，使用拉普拉斯算子可以完成这个操作，OpenCV内部也提供了findContours函数做轮廓检测。
那么如何分割出身份证号码区域呢？其实有一个非常简单的思路，由于身份证号码是一串不换行的数字，宽高比通常是大于9:1的，而且是位于最后一行的，如果有其他的部分的宽高比大于9:1但是却不是位于最后，那么也不能认为是身份证号码，只有坐标是最底部，而且宽高比满足大于9:1的条件才可以。
VS2022 + OpenCV4.5.4
1#include <iostream>
2#include <opencv2/opencv.hpp>
3#include <vector>
4
5#define DEFAULT_CARD_WIDTH 640
6#define DEFAULT_CARD_HEIGHT 400
7
8#define FIX_IDCARD_SIZE Size(DEFAULT_CARD_WIDTH, DEFAULT_CARD_HEIGHT)
9
10#define FIX_TEMPLATE_SIZE Size(153, 28)
11
12using namespace std;
13using namespace cv;
14
15int main() {
16 std::cout << "Hello, World!" << std::endl;
17 Mat src = imread("src.png");
18 imshow("src", src);
19
20 //处理身份证
21 Mat src_img = src;
22 //1、无损压缩 640*400 （通用卡片类的处理方式）
23 resize(src_img, src_img, FIX_IDCARD_SIZE);
24 imshow("dst", src_img);
25
26 Mat dst_img;
27 //2、灰度化
28 Mat dst;
29 cvtColor(src_img, dst, COLOR_BGR2GRAY);
30 imshow("gray", dst);
31
32 //3、二值化（降噪）
33 threshold(dst, dst, 100, 255, THRESH_BINARY);
34 imshow("threshold", dst);
35
36 // 4.1 腐蚀、膨胀
37 Mat erodeElement = getStructuringElement(MORPH_RECT, Size(20, 10));
38 erode(dst, dst, erodeElement);
39 imshow("erode", dst);
40
41 //4、轮廓检测，把所有的连续的闭包用矩形包起来
42 // 一个矩形用两个点表示，contours就包含了很多矩形
43 vector<vector<Point>> contours;
44 vector<Rect> rects;
45
46 findContours(dst, contours, RETR_TREE, CHAIN_APPROX_SIMPLE, Point(0, 0));
47
48 for (size_t i = 0; i < contours.size(); i++)
49 {
50 // 基于两点构建矩形
51 Rect rect = boundingRect(contours.at(i));
52 // 绘制矩形
53 rectangle(dst, rect, Scalar(0, 0, 255));
54 imshow("contours", dst);
55 // 对符合条件的图片进行筛选，宽高比大于1：9的
56 if(rect.width > rect.height*9)
57 {
58 cout << "找到了" << endl;
59 rects.push_back(rect);
60 rectangle(dst, rect, Scalar(0, 0, 255));
61
62 // 还需要再次矫正
63 //dst_img = src_img(rect);
64 }
65 }
66
67 // imshow("dst_Img", dst_img);
68
69 // 如果只找到了一个矩形，说明这个就是，如果多个就找出纵坐标最低的矩形
70 if(rects.size() == 1)
71 {
72 Rect rect = rects.at(0);
73 dst_img = src_img(rect);
74 }else{
75 int lowPoint = 0;
76 Rect finalRect;
77 for (size_t i = 0; i < rects.size(); ++i){
78 Rect rect = rects.at(i);
79 Point p = rect.tl();
80 if(rect.tl().y > lowPoint){
81 lowPoint = rect.tl().y;
82 finalRect = rect;
83 }
84 }
85 rectangle(dst, finalRect, Scalar(255, 255, 0));
86 dst_img = src_img(finalRect);
87 }
88
89 imshow("dst_Img", dst_img);
90 waitKey();
91 return 0;
92}
CMakeList.txt
1cmake_minimum_required (VERSION 3.8)
2
3project(opencv_idcard)
4
5set(CMAKE_CXX_STANDARD 11)
6
7add_executable (opencv_idcard "opencv_idcard.cpp" )
8
9set(OpenCV_DIR "D:/develop/opencv-4.5.4/opencv-4.5.4-build")
10
11find_package(OpenCV REQUIRED)
12
13include_directories(${OpenCV_INCLUDE_DIRS})
14
15target_link_libraries(opencv_idcard ${OpenCV_LIBS})
来看看通过一系列的处理效果吧：
接下来要干的事情就主要有两件，首先是集成tess-two到Android，这样离线识别便搞定了，另外一件事情就是图像预处理的代码移植到Android上，这两件事情完成便搞定了身份证号码离线识别的功能了。