猿创征文|OpenCV编程——计算机视觉的登堂入室

计算机视觉是一门研究如何使机器“看”的科学，更进一步的说，就是是指用摄像头和计算机代替人眼对目标进行识别、跟踪和测量等，并进一步做图像处理，使计算机处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科，计算机视觉研究相关的理论和技术，试图建立能够从图像或者多维数据中获取“信息”的人工智能系统。

图像和视频再当今的数字世界可谓无处不在，随着运算能力强劲而又实惠的计算设备的问世，创建复杂的图像应用从未像今天这般容易。市面上有众多的软件和库用于操作图像和视频，但是对于期望自己开发软件的人而言，OpenCV库是一款必备的工具。

OpenCV（Open Source Computer Vision）

是一个开放源代码的图像及视频分析库，它包含500多个优化过的算法。自1999年问世以来，它已经被计算机视觉领域的学者和开发人员视为首选工具。下面就一起进入计算机视觉的大门！

文章目录

一、接触图像

本章将带领你完成最基本的操作：读取、显示及保存图像。在着手开发前需要先安装库和一个顺手的IDE，这里推荐VS或者Qt。计算机视觉不依赖于特定的环境或操作系统。

• opencv_core模块：包含核心功能，尤其是底层数据结构和算法函数。
• opencv_imgproc模块：包含图像处理函数。
• opencv_highgui模块：包含读写图像及视频的函数，以及操作图形用户界面函数。
• opencv_features2d模块：包含兴趣点检测子、描述子以及兴趣点匹配框架。

下面开始读取我们准备的图像，然后设置窗口，接着在窗口中显示图像，不停等待用户键入退出：

cv::Mat image = cv::imread("/home/dzh/QtOpenCV/image.png",1);
cv::namedWindow("Image");
cv::imshow("Image", image);
cv::waitKey(0);

下面我是在类中写的方法，读取文件夹中所有图像并依次显示出来。

二、操作像素

为了编写计算机视觉应用，年必须会存取图像的内容，如修改和创建图像。本章会教会你如何操作图像的基本像素，即所谓的像素。你将学会如何遍历一张图像并且处理其像素。opencv采用cv::Mat这个数据结构来表示图像的原因。矩阵的每个元素代表一个像素。对于灰度图像而言，像素由8位无符号数来表示，其中0代表黑色，255代表白色。彩色图像则需要3个颜色通道。

我们可以使用指针遍历图像，遍历图像的领域操作，进行简单的图像运算，定义感兴趣区域。

// 颜色缩减[指针遍历]voidMainWindow::colorReduce(cv::Mat &image, cv::Mat &result,int div){// 行数int nl = image.rows;// 每行的元素个数（像素个数 x 通道数）int nc = image.cols * image.channels();// 左移位数int n =0;// 遍历每一行for(int j =0; j < nl; j++){// 得到第j行的首地址
        uchar* data = image.ptr<uchar>(j);// 求解pow的反函数for(int k =1; k <=8; k++){if(pow(2, k)== div){
                n = k;break;}elseif(pow(2, k)> div){
                n = k -1;break;}}// 掩码左移
        uchar mask =0xFF<< n;for(int i =0; i < nc; i++){//            data[i] = data[i] / div * div + div / 2;
            data[i]=(data[i]& mask)+ div /2;}}}// 图像运算voidMainWindow::imageProc(cv::Mat &image1, cv::Mat &image2, cv::Mat &result){
    result = image1 *0.8+ image2 *0.2;}// 感兴趣区域voidMainWindow::imageROI(cv::Mat &image1, cv::Mat &image2){// 相当于截取图像的一个区域
    cv::Mat roi =image1(cv::Rect(280,260, image2.cols, image2.rows));
    cv::addWeighted(roi,0.2, image2,0.8,0.1, roi);}

三、基于类的图像处理

计算机视觉程序的质量与良好的编程习惯紧密相关。创建不含BUG的应用仅仅是开始，我们希望应用能够轻松应付新的需求。设计模式是软件工程中众所周知的概念。一个设计模式是一个可靠的、可重用的方案，用于解决软件设计中频繁出现的问题。首先是策略模式，使用控制器实现模块间通信，使用单件设计模式，使用MVC架构设计应用程序。

voidHistogram1D::process(){
    cv::Mat image = cv::imread("/home/dzh/QtOpenCV/image.png");if(!image.data){
        cout <<"图像不存在"<< endl;return;}else{
        cout <<"图像的宽度："<< image.cols <<"图像的高度："<< image.rows <<"像素总数："<< image.cols * image.rows << endl;}
    Histogram1D hc;
    cv::Mat imageROI;// 获取感兴趣区域
    imageROI =image(cv::Rect(160,300,100,120));int minSat =65;// 彩色直方图
    cv::MatND colorhist = hc.getHueHistogram(imageROI, minSat);
    ContentFinder finder;
    finder.setHistogram(colorhist);
    cv::Mat detect = cv::imread("/home/dzh/QtOpenCV/image.png");
    cv::imshow("Detect", detect);
    cv::Mat hsv;
    cv::cvtColor(image, hsv, CV_BGR2HSV);
    vector<cv::Mat> v;
    cv::split(hsv, v);
    cv::Mat result;
    cv::threshold(v[1], v[1], minSat,255, cv::THRESH_BINARY);
    result = finder.find(hsv,0.0f,180.0f, channels,1);
    cv::bitwise_and(result, v[1], result);
    cv::Rect rect(110,260,35,40);
    cv::rectangle(image, rect, cv::Scalar(255,255,255));
    cv::TermCriteria criteria(cv::TermCriteria::MAX_ITER,10,0.01);
    cv::meanShift(result, rect, criteria);//    cv::imshow("origin", colorhist);
    cv::imshow("output", result);
    cv::waitKey(0);}

颜色空间转换效果图：

四、使用直方图统计像素

一个图像是由不同颜色值的像素组成的。像素值在图像中的分布情况是这幅图像的一个重要特征。可以计算并使用直方图来修改图像的外观。对于灰度图像，直方图相当于长度为256的数组，每个数组元素代表灰度值为当前下标的像素个数。

cv::Mat Histogram3D::getHistogramImage(cv::Mat &image){// 先求取直方图(256x256x256)
    cv::MatND hist =getHistogram(image);// 设置最大值和最小值double maxVal = INT_MIN;double minVal = INT_MAX;// 创建显示图像256x256x3
    cv::Mat histImg(histSize[0], histSize[0], CV_8UC3, cv::Scalar(255,255,255));int hpt =static_cast<int>(0.9* histSize[0]);// 3D->2D，可以减少一个维度
    vector<vector<float>>vec(3,vector<float>(256));// b通道for(int i =0; i <256; i++){// g通道for(int j =0; j <256; j++){// r通道for(int k =0; k <256; k++){
                vec[0][i]+= hist.at<float>(i, j, k);
                vec[1][j]+= hist.at<float>(i, j, k);
                vec[2][k]+= hist.at<float>(i, j, k);}}}// 先遍历每一行for(int i =0; i < vec.size(); i++){// 对于每一行直方图取最大值和最小值
        cv::minMaxLoc(vec[i],&minVal,&maxVal,0,0);
        cout <<"maxVal:"<< maxVal <<",minVal:"<< minVal << endl;// 再遍历每一列for(int j =0; j < vec[i].size(); j++){float val = vec[i][j];int intensity =static_cast<int>(val * hpt / maxVal);
            cv::Scalar color;
            color[i]=255;
            cv::line(histImg, cv::Point(j, histSize[i]), cv::Point(j, histSize[i]- intensity), color);}}return histImg;}

即使是最常用的640x480的图像，也有30万个像素，可想平时看视频时候的1080P和4K，那每秒都是30帧以上，每帧都几百万像素

五、基于形态学运算的图像变换

形态学滤波理论于上世纪90年代提出，被用于分析及处理离散图形。它定义了一系列运算，应用预定义的形状元素来变换一张图像。形状元素与像素相邻点相交的方式确定了运算结果。腐蚀和膨胀就是最基本的形态学运算。由于形态学滤波通常使用于二值图像，使用白色像素表示前景物体，使用黑色像素表示背景。开闭运算都是最基本的，这里我们演示下使用形态学滤波对图像进行边缘及角点检测。

cv::Mat MorphoFeatures::getEdges(cv::Mat &image){// 得到梯度图
    cv::Mat result;
    cv::morphologyEx(image, result, cv::MORPH_GRADIENT, cv::Mat());// 阈值化得到二值图像applyThreshold(result);return result;}voidMorphoFeatures::setThreshold(int value){
    threshold = value;}

cv::Mat MorphoFeatures::getCorners(cv::Mat &image){
    cv::Mat result;
    cv::dilate(image, result, cross);
    cv::erode(result, result, diamond);

    cv::Mat result2;
    cv::dilate(image, result2, x);
    cv::erode(result2, result, square);

    cv::absdiff(result2, result, result);applyThreshold(result);return result;}

使用自带函数可以轻松检测直线，角点需要定义4种结构元素：方形、菱形、十字形和X形。

可以使用分水岭算法对图像进行分割，还可以使用GrabCut算法提取前景物体。

六、图像滤波

滤波（Filtering）是信号处理及图像处理中的一个基本操作，旨在特定的应用程序中，选择性地提取图像中被认为传达重要信息的部分。滤波去除图像中的噪声，提取感兴趣的视觉特征，允许图像重采样。矩阵位于中心的元素对应的是滤波器当前正在处理的像素。这样的矩阵称为核（Kernel）或者掩码（Mask）。最常用的有：均值滤波、中值滤波、Sobel滤波和图像的拉普拉斯变换。

cv::Mat contoursInv;
cv::threshold(contours, contoursInv,128,255, cv::THRESH_BINARY_INV);
cv::imshow("Inv", contoursInv);
cv::Mat result1, result2;
cv::Sobel(image, result1, CV_8U,1,0,3,0.4,128);
cv::Sobel(image, result2, CV_8U,0,1,3,0.4,128);
cv::imshow("result1", result1);
cv::imshow("result2", result2);
cv::Mat sobelX, sobelY;
cv::Sobel(image, sobelX, CV_8U,1,0);
cv::Sobel(image, sobelY, CV_8U,0,1);
cv::Mat sobel;
sobel = sobelX + sobelY;
cv::imshow("Sobel", sobel);

下面从左上是原图，然后依次是均值滤波、中值滤波和sobel滤波后的结果，均值滤波一般都都会模糊图像，中值滤波去除噪声点非常有效，sobel算子广泛用于边缘或轮廓的检测。

七、检测并匹配特征点

在计算机视觉中兴趣点（也叫做关键点或特征点）的概念被大量用于解决物体识别、图像匹配、视觉跟踪和三维重建等问题。cv::cornerHarris检测Harris角点，当然Fast角点检测要更加快速。尺度不变的概念是指每个检测到的特征点都伴随着对应的尺寸因子，其中非常受欢迎的特征点：SURF特征点，它也是SIFT算法的高效变种。

在特征匹配中，特征描述子通常是N维向量，在光照以及少许透视变换的情况下很理想。检测特征点可以概述为：提取关键点，计算描述子。

// 计算Harris角点voidHarrisDetector::detect(cv::Mat &image){
    cv::cornerHarris(image, cornerStrength, neighbourhood, aperture, k);double minStrength;
    cv::minMaxLoc(cornerStrength,&minStrength,&maxStregth);
    cv::Mat dilated;
    cv::dilate(cornerStrength, dilated, cv::Mat());
    cv::compare(cornerStrength, dilated, localMax, cv::CMP_EQ);}// 由Harris值获取角点图
cv::Mat HarrisDetector::getCornerMap(double qualityLevel){
    cv::Mat cornerMap;
    threshold = qualityLevel * maxStregth;
    cv::threshold(cornerStrength, cornerTh, threshold,255, cv::THRESH_BINARY);
    cornerTh.convertTo(cornerMap, CV_8U);
    cv::bitwise_and(cornerMap, localMax, cornerMap);return cornerMap;}

当然以上特征点检测库函数并不在OpenCV中，由于专利原因被全部安排到扩展库中了。安装方法可以参考我的教程：ubuntu安装opencv_contrib扩展库，附踩坑+测试

当然计算机视觉是一个非常庞大的学科，本文限于篇幅只能讲解一二，感兴趣的同学可以再去读相关的书籍。现在CV主要任务是目标识别、目标检测和目标跟踪，网络结构也从传统的CNN变为了Transformer，人工智能的快速发展离不开CV，也离不开大家开源的贡献！