复杂纹理瓷砖表面缺陷检测算法研究
欧阳周1,2, 张怀亮1,2, 唐子暘1,2, 彭玲1,2, 俞胜1,2     
1. 中南大学 高性能复杂制造国家重点实验室, 湖南 长沙 410083;
2. 中南大学 机电工程学院, 湖南 长沙 410083
摘要: 针对复杂纹理瓷砖表面缺陷检测困难的问题,提出一种基于人眼视觉注意机制的显著性目标检测方法并用于瓷砖表面缺陷检测。利用单尺度SSR光照校正方法和双边滤波方法对图像进行预处理; 根据视觉注意机制中的对比度原理及高频抑制原理,针对复杂背景纹理的“成像性”与“聚集性”特征,建立基于视觉注意机制的检测模型,根据视觉注意机制中的对比性原理和高频抑制原理对瓷砖表面进行特征提取,再依据图像的显著性准则得到图像颜色斑块权重显著图和图像特征融合显著图并将两者融合,进行缺陷的判定和标记,最终得到已标记的瓷砖缺陷。将此缺陷检测算法和另外2种算法应用于随机选取的3类复杂纹理瓷砖并进行对比实验,结果表明,相比较于其他算法,此算法对复杂纹理瓷砖的缺陷检测达到96%以上的综合检测率,可以获得良好的瓷砖缺陷检测效果。
关键词: 缺陷检测    显著性目标检测    光照校正    复杂纹理    视觉注意机制    

近年来,中国陶瓷砖产业转型升级和发展取得巨大的成果,截至2019年,我国形成比较大的陶瓷砖产业集群22个,全国陶瓷砖企业1 500多家,年产量82.2亿平方米,全年市场营收收入超3 877亿元(中瓷网数据)。但我国瓷砖依旧未摆脱瓷砖品质普遍偏低的困境,处于“大”而不“精”的现状。瓷砖生产领域的产品缺陷检测手段主要依赖于人工检测,在检测速度和检测准确率上因个体之间能力差异存在很大的不确定性。

在瓷砖视觉检测领域,意大利System公司[1]应用线阵相机结合PSD的方法实现了瓷砖平整度的检测;美国某检测公司[2]设计的检测分类系统实现了瓷砖色差、尺寸、平整度方面的检测;Hanzaei等[3]通过缺陷区域的几何特征分析,实现了对缺陷瓷砖的检测分类;国内的邹庆胜等[4]实现了单色瓷砖的色差、直角度、尺寸、针孔的多参数检测。但以上所提及的系统、方法的应用场景受限于瓷砖的色差、尺寸、平整度等参数的检测或是单色简单纹理瓷砖的缺陷检测。权小霞等[5]通过含缺陷瓷砖图与标准瓷砖图对比,提出了一种基于局部方差加权信息熵的检测算法,实现了缺陷检测;Treisman等[6]提出的特征融合理论使视觉显著性计算成为可能;Itti等[7]利用颜色、对比度、方向3个特征建立了最早的显著性检测模型;此后,Perazzi等[8]通过局部和全局特征的度量获得显著图,利用高维高斯滤波器依次对各个像素赋予相应的显著值;Casagrande等[9]提出了一种结合图像处理方法的瓷砖缺陷自动检测方法,发现将SFTA与DWT结合使用可显著提高总体精度。Mishra等[10]提出了一种基于人工神经网络(ANN)的技术,该技术利用瓷砖图像的变换域特性,通过系统学习模型的能力使其具有灵活性和动态可配置性。仿真结果也验证了该算法的优势之处。Zhang、孙丰东、Cheng等[11-13]都分别提出了多种不同的显著性检测模型。

为解决现有瓷砖缺陷检测方法准确率低和稳定性差等问题,本文引入基于视觉注意机制的显著性目标检测方法,并将其运用到瓷砖表面缺陷检测的研究,开展针对纹理瓷砖表面缺陷检测的研究,实现抗瓷砖表面纹理干扰检测,这对于瓷砖的自动化检测发展具有重要意义,也是实现复杂纹理瓷砖在线检测的关键一步。

1 图像的采集与预处理

根据瓷砖缺陷区域的成像特征, 采用改进传统单尺度SSR光照校正算法和双边滤波处理进行预处理。传统的单尺度光照校正存在一定的局限性,因此图像预处理中必须先对其校正方式进行相应改进,以适应实际的检测需求。根据瓷砖缺陷区域的成像特征,改进传统单尺度SSR光照校正算法的下限取值方式,具体步骤如下:

1) 选取多幅表面存在缺陷的瓷砖图像作为数据样本,定位并提取相应的缺陷区域;

2) 提取各个缺陷区域对应的三通道数值,并计算其均值,依据三通道数据与数值均值的分布关系,求取相应的权重;

3) 分别求取各通道的加权均值作为该通道的数值波动下限参数,替代原算法中寻找最小值操作;

4) 统计图像中有任一通道值小于对应通道下限的像素,记为待定像素(原图像与待定像素对应点不进行光照校正计算);

5) 依据待定像素的坐标,对应生成二值图,其中与待定像素对应点置1,其余置0,作为后续疑似区域补充信息。

对于像素点通道值小于设定值的点,直接定义为疑似缺陷区域的像素点,采用步骤4)~5)进行处理。

双边滤波作为一种基于加权平均的非线性滤波器,既考量了像素的欧式距离,又考量了像素区域的辐射差异,可以有效地实现边缘保持、平滑去噪。经双边滤波后的图像和权重系数w(i, j, k, l)表达式为

(1)
(2)

式(1)中:Ipbf为滤波后图像; Wpbf为局部区域的权重之和; Iq为输入图像; σs定义像素滤波的空间尺度,即模糊尺度; σr为控制相邻像素因亮度差异导致的权重系数; 式(2)中σdσr为模糊尺度;I(i, j)和I(k, l)为像素值。

改进方法与SSR算法结果对比如图 1~2所示。

图 1 SSR光照校正后图像结果
图 2 改进单尺度算法以及双边滤波处理后图像结果

对比图 1图 2,依次经过光照校正和双边滤波处理后的图像实现了保持边缘、降噪平滑的目的,同时使得图像具有更好的区域块聚集性,方便图像各类颜色像素统计,有利于后续缺陷检测的实现。

2 基于视觉注意机制的瓷砖缺陷检测 2.1 颜色空间的处理和瓷砖表面特征提取

视觉注意机制直接决定了检测模型对外部信息的辨别处理能力,关系复杂纹理瓷砖表面缺陷的显著性检测到最后模型检测结果的正确与否[14]。因此本文的研究主要采用基于数据驱动的自底向上的视觉注意机制显著性检测方法,如图 3所示。

图 3 基于视觉注意机制的瓷砖缺陷检测模型框图

颜色空间处理能将HSV(色调、饱和度和明度值)空间模型的三通道都压缩至5个量级,共描述125种颜色,在实际检测中单图像颜色种类可控制在50种以内。经过颜色空间处理之后,可得到图 4所示的表面斑块破损的瓷砖图像。

图 4 表面斑块破损瓷砖图像

根据视觉注意机制中对比性原理及高频抑制原理,结合“成像性”与“聚集性”,即瓷砖的表面缺陷成像颜色相对一致,空间分布相对聚集,且瓷砖的背景纹理成像颜色相对一致但空间分布相对分散。可以通过改进图像方差特征公式, 从求取图像灰度的不均匀性转而求取各类颜色像素的空间分布方差,其计算表达式为:

(3)
(4)

式中:DI为第I种颜色的空间分布方差;Si为第i类颜色的像素点集合;xiyi分别代表第i类颜色所有像素点的坐标均值。

对图像的各类颜色进行统计,并依据各类颜色像素的频数进行降序排列,然后对各类颜色逐一进行颜色空间分布方差计算。选取具有代表性的9种颜色对应的分布方差计算值,分别为319.64, 333.08, 267.67, 399.98, 303.56, 208.49, 9.75, 2.65和2.23,如图 5所示。将图 5a)~5g)所代表的颜色分布方差进行对比,图 5a)~5g)所代表的颜色RGB值为(180, 217, 211), (152, 152, 83)和(99, 105, 87),如图 6所示。

图 5 各类颜色的分布方差值
图 6 3类颜色的分布方差值

图 5a)~5e)可以看出,瓷砖修饰纹理分布较为分散,其分布方差值也较大,而图 5g)为缺陷区域图像,分布较为集中,其分布方差值较小。从图 5a)~5b)5g)图 6可以看出,图 5g)中的方差值明显低于其他纹理特征。而图 5h)5i)是颜色统计过程中的一些小类颜色杂质像素,后续需要对其进行有效剔除处理。依据公式计算出各类颜色的空间分布方差后,即可分配各类颜色对应的显著值,显著值的分配准则为:方差越小,显著值越大。

依据显著性原理分配各类颜色的显著值后,对像素逐一进行显著性赋值,即可获得颜色空间分布方差显著图,如图 7所示(瓷砖缺陷在图中用红色矩形标记)。

图 7 各类颜色的空间分布方差显著性

图 7可以看出,颜色空间分布方差特征有效地实现了对瓷砖表面缺陷区域的检测,克服了表面纹理为背景信息的干扰。但是仍然存在着一些颜色种类的干扰,甚至其显著性值处于高位状态,需要进行进一步的图像处理。

2.2 图像斑块权重特征

在瓷砖表面特征提取之后,仍有可能出现图 8所示的情况(瓷砖缺陷在图 8a)中用矩形标记)。

图 8 缺陷检测对照

其中图 8b)中绿圈表示的是真实缺陷区域和非缺陷的干扰像素, 这两者会出现在同一种颜色分量分布图中的原因是瓷砖背景纹理有小块纹理颜色与缺陷区域颜色接近,二者在光照校正处理和颜色种类降级处理之后被划分成了同一颜色。为了进行缺陷区域的有效区分判断,在此引入斑块权重来描述不同级别的特征,斑块权重Uij表达式为

(5)

式中:Uij为第i种颜色的显著值;C1为增益因数;Sij代表的是第i种颜色第j块独立子区域的面积。

依据公式计算出各类颜色的斑块权重后,即可分配其对应的显著值。以图 4为例,对各类颜色依据显著性准则计算其子区域的显著值,获得的各颜色斑块权重显著图,与图 5对应的9种颜色对应的分布方差计算值图,如图 9所示。

图 9 各类颜色的斑块权重

图 9先将图像的各类颜色进行统计,再依据各类颜色像素的频数进行降序排列成图 9a)~9i)。由图可知:对于像素数量大、分布广泛的颜色种类,例如图 9b)~9e),其斑块权重的显著值均较小,使得整个显著图呈现“黑色”;图 9a)图 9f)虽然仍存在一些纹理斑块,但其显著值处于低位状态,大比例的纹理像素的显著值都得到很好抑制;图 9g)作为缺陷区域,保持了较好的高亮性,其显著值处于高位状态,符合检测的要求,而图 9h)图 9i)作为小数量像素的干扰现象仍存在,需要进行图像的后处理进行剔除。通过对各类颜色的斑块权重图进行叠加,得到图像颜色斑块权重显著图如图 10a)所示(瓷砖缺陷在图中用红色矩形标记)。对比图 10a)图 9的9个图可以看出,颜色斑块权重特征也可以有效地实现对瓷砖表面缺陷区域的检测,可以有效克服纹理背景的干扰。

图 10 瓷砖图像显著图
2.3 显著图融合

经过图像特征描述分析后,分别获得了颜色空间分布方差显著图和颜色斑块权重显著图。为了获得一张最具代表的显著图用以缺陷检测判别,采用指数函数形式,融合2个描述特征,最终融合的显著图SQ(x, y)具体表达式如(6)式所示。

(6)

式中:C2为增益系数;B(x, y)是叠加后的各类颜色的斑块权重图。

依据表达式计算,有效地融合了颜色空间分布方差显著图和颜色斑块权重显著图,获得了新的瓷砖检测显著图,具体融合后的显著图如图 10b)所示(瓷砖缺陷在图中用红色矩形标记)。从图 10b)可以看出,相较于单独特征的显著图,融合后的显著图有效地保留了真实的缺陷区域,而其余纹理背景区域得到了更好的淡化抑制,使其显著值处于低位状态,使得检测更为准确。依据最大类间方差法对特征融合显著图进行二值化的阈值求解,并将其转化为二值图,如图 10c)所示(瓷砖缺陷在图中用红色矩形标记)。

2.4 缺陷判定

在图像斑块权重显著图中,仍然存在一些由于小类颜色种类以及像素颜色压缩降级导致的一些不同颜色像素的错误合并,会出现一些“小而强”像素点。因此在获得融合的显著图后,需要对其进行剔除。这些奇异点往往所占像素数量较小,连通性差,因此根据连通性特点对其进行剔除。

本文采用八邻域模型,实现对二值显著图中连通域的寻找和标记,二值显著图经过连通域寻找和标记后,即实现了对图像中子块区域的划分和标序,即可按其标号依次进行各子块区域面积的计算,而面积的计算实质上就是具有相同标号子块区域的像素数目统计。通过分析子块区域大小实现取舍:若子块区域小于设定阈值,则像素值置0,剔除;反之,则置1,保留。经奇异点剔除操作后,获得的最终显著图如图 11a)所示(瓷砖缺陷在图中用红色矩形标记)。采用最小外接矩形方法进行缺陷标记,如图 11b)所示。(瓷砖缺陷在图中用红色矩形标记)。由图 11可知,判定之后得到瓷砖缺陷图像与实际情况吻合。

图 11 瓷砖缺陷检测结果
3 实验结果及分析 3.1 图像数据

为了验证本文提出的算法有效性,将本文的SOD算法与文献[9]中研究的基于分割的分形纹理分析算法(SFTA)和文献[10]中研究的人工神经网络算法(ANN)进行对比,将3种不同的瓷砖检测算法应用于图 12所示的3种不同的复杂纹理瓷砖缺陷检测。实验采用3类不同纹理的瓷砖进行测试,每一类瓷砖有合格瓷砖64块与不合格瓷砖30块,瓷砖纹理如图 12所示。

图 12 实验瓷砖
3.2 评价指标

采用定量评估进行实验结果分析,涉及以下参数:

TP:瓷砖无缺陷,判为无缺陷;

FP:瓷砖有缺陷,判为无缺陷;

FN:瓷砖无缺陷,判为有缺陷;

TN:瓷砖有缺陷,判为有缺陷;

准确率(Accuracy)、精确率(Precision)、召回率(Recall)和综合率(F-Measure)的公式分别为:

(7)
(8)
(9)
(10)
3.3 实验结果与分析

依次对3类瓷砖的样本图像进行缺陷检测实验,检测结果的准确率、精确率如表 1所示。取其中的综合检测率为对比对象,比较3种算法[9-10]的优劣如图 13所示。

表 1 指标结果
检测算法 瓷砖纹理 运行时间/s 准确率/% 精确率/% 召回率/% 综合率/%
SOD 1 96.64 96.53 96.25 96.55
2 4.31 98.24 98.30 98.24 98.27
3 98.75 98.75 98.75 98.80
SFTA 1 88.30 87.86 86.11 89.98
2 5.64 90.43 89.43 88.76 89.09
3 75.53 74.95 72.71 73.81
ANN 1 62.77 55.83 56.19 56.01
2 4.12 80.85 70 89.02 78.37
3 72.34 61.09 69.02 64.81
图 13 评价结果

从上述结果可以看出,基于视觉注意机制的复杂纹理瓷砖表面缺陷检测算法,针对随机选取的3类复杂纹理瓷砖均具有良好的检测效果,检测效果评价指标均达到90%。本文提出的针对复杂纹理瓷砖表面缺陷检测的SOD算法,在3类复杂纹理瓷砖的检测效果良好,4项评价指标也均处于较高水平。分析各评价指标,其中综合率作为最重要指标,SOD算法模型的检测准确率均达到了96%以上,说明了SOD算法模型的稳定检测性能。相比较于其他算法,本文研究的SOD缺陷检测算法更适合于复杂纹理瓷砖表面的缺陷检测,也从侧面说明了SOD算法模型具有较低的误检、漏检率。而ANN算法适用于市面上大多数普通瓷砖的缺陷检测,对于本文研究的复杂纹理瓷砖检测效果在算法复杂度上有优势,但检测率欠佳。综上所述,本文提出的瓷砖缺陷检测算法有较好的检测性能,符合实际检测需求,具有一定的实际意义。

但检测结果仍存在一定的误差,主要由于一些小类颜色种类以及像素颜色压缩降级导致颜色接近像素的错误合并,形成一些具有大连通域的奇异点,超过了利用连通域筛选的阈值,造成误检。

4 结论

1) 改进了单通道SSR光照校正算法的数值下限选取方式,图像实现了保持边缘、降噪平滑的目的,方便图像各类颜色像素统计,有利于后续的缺陷检测实现。

2) 提出了一种新的复杂纹理瓷砖表面缺陷检测算法,建立了基于视觉注意机制的瓷砖缺陷检测模型。通过压缩HSV颜色空间各通道的数量等级,实现像素颜色种类数目的降低,提高了瓷砖表面缺陷检测精确性和稳定性并降低了运算处理量。

3) 随机选取3类复杂纹理瓷砖进行实验,对比3种不同的检测算法。实验结果表明,本文提出的缺陷检测算法针对3类实验复杂纹理瓷砖均达到了96%以上的综合检测率,比SFTA缺陷检测算法和ANN缺陷检测算法拥有更高的检测率。证明了本文提出的针对复杂纹理瓷砖表面缺陷显著性检测模型的正确性以及检测算法的稳定性。

参考文献
[1] ROMAGNOLI M, BURANI M, TARI G, et al. A non-destructive method to assess delamination of ceramic tiles[J]. Journal of the European Ceramic Society, 2007, 27(2/3): 1631-1636.
[2] GLUD J A, DULIEU-BARTON J M, THOMSEN O T, et al. Automated counting of off-axis tunnelling cracks using digital image processing[J]. Composites Science and Technology, 2016, 125: 80-89. DOI:10.1016/j.compscitech.2016.01.019
[3] HANZAEI S H, AFSHAR A, BARAZANDEH F. Automatic detection and classification of the ceramic tiles' surface defects[J]. Pattern Recognition, 2016, 66: 174-189.
[4] 邹庆胜, 汪仁煌, 明俊峰. 基于机器视觉的瓷砖多参数分类系统的设计[J]. 广东工业大学学报, 2010, 27(4): 46-49.
ZOU Qingsheng, WANG Renhuang, MING Junfeng. Design of multi-parameter classifying system in ceramic tiles based on machine vision[J]. Journal of Guangdong University of Technology, 2010, 27(4): 46-49. (in Chinese) DOI:10.3969/j.issn.1007-7162.2010.04.012
[5] 权小霞, 李军华, 汪宇玲. 基于局部方差加权信息熵的瓷砖表面缺陷检测[J]. 中国陶瓷, 2019, 10(55): 46-55.
QUAN Xiaoxia, LI Junhua, WANG Yuling. A tile surface defect detection based on local variance weighted information entropy[J]. China Ceramics, 2019, 10(55): 46-55. (in Chinese)
[6] TREISMAN A, GELADE G. A feature-integration theory of attention[J]. Cognitive Psychology, 1980, 12(1): 97-136. DOI:10.1016/0010-0285(80)90005-5
[7] ITTI L, KOCH C, NIEBUR E. A model of saliency-based visual attention for rapid scene analysis[J]. IEEE Trans on Pattern Analysis and Machine Intelligence, 1998, 20(11): 1254-1259. DOI:10.1109/34.730558
[8] PERAZZI F, KRAHENBUHL P, PRITCH Y, et al. Saliency filters: contrast based filtering for salient region detection[C]//IEEE Conference on Computer Vision and Pattern Recognition, 2012
[9] CASAGRANDE L, MACARINI L A B, BITENCOURT D, et al. A new feature extraction process based on SFTA and DWT to enhance classification of ceramic tiles quality[J]. Machine Vision and Applications, 2020, 31(7): 1-15.
[10] MISHRA R, SHUKLA D. An automated ceramic tiles defect detection and classification system based on artificial neural network[J]. International Journal of Emerging Technology and Advanced Engineering, 2014, 4(3): 229-233.
[11] ZHANG J, DAI Y, PORIKLI F. Deep salient object detection by integrating multi-level cues[C]//2017 IEEE Winter Conference on Applications of Computer Vision, 2017
[12] 孙丰东. 图像显著性检测若干关键问题研究[D]. 长春: 吉林大学, 2019
SUN Fengdong. Research on several key issues of image saliency detection[D]. Changchun: Jilin University, 2019 (in Chinese)
[13] CHENG M M, MITRA N J, HUANG X, et al. Global contrast based salient region detection[J]. IEEE Trans on Pattern Analysis and Machine Intelligence, 2014, 37(3): 569-582.
[14] 郭雷, 姚西文, 韩军伟, 等. 结合视觉显著性和空间金字塔的遥感图像机场检测[J]. 西北工业大学学报, 2014, 32(1): 98-101.
GUO Lei, YAO Xiwen, HAN Junwei, et al. A new method for airport remote sensing image detection based on visual saliency and spatial pyramid feature[J]. Journal of Northwestern Polytechnical University, 2014, 32(1): 98-101. (in Chinese)
Research on defect detection algorithm of complex texture ceramic tiles based on visual attention mechanism
OUYANG Zhou1,2, ZHANG Huailiang1,2, TANG Ziyang1,2, PENG Ling1,2, YU Sheng1,2     
1. State Key Laboratory of High Performance and Complex Manufacturing, Central South University, Changsha 410083, China;
2. College of Mechanical and Electrical Engineering, Central South University, Changsha 410083, China
Abstract: Aiming at the difficulty of detecting the surface defects of complex texture tiles, a salient target detection method based on the human visual attention mechanism is proposed and used for the detection of tile surface defects. Firstly, the image of ceramic tile surface is pretreated using the single-scale SSR light correction method and bilateral filtering method; Secondly, according to the principle of contrast and high-frequency suppression in the visual attention mechanism, aiming at the "imaging" and "aggregation" characteristics of complex background textures, a detection model based on the visual attention mechanism is established to determine and mark defects.According to the contrast principle and high-frequency suppression principle in visual attention mechanism, feature extraction of ceramic tile surface is carried out. Then, the image color patch weight salient map and image feature fused salient map are obtained, and the two maps are fused according to the image saliency criteria.Finally, the marked ceramic tile defects are determined and marked.Finally the marked ceramic tile defects are obtained. This defect detection algorithm and the other two algorithms are applied to three kinds of randomly selected complex texture ceramic tiles. The experimental results show that compared with other algorithms, our algorithm can achieve a comprehensive detection rate of more than 96% for complex texture ceramic tiles, and can obtain a good effect of ceramic tile defect detection as well.
Keywords: defect detection    salient object Detection    illumination correction    complex texture    visual attention mechanism    
西北工业大学主办。
0

文章信息

欧阳周, 张怀亮, 唐子暘, 彭玲, 俞胜
OUYANG Zhou, ZHANG Huailiang, TANG Ziyang, PENG Ling, YU Sheng
复杂纹理瓷砖表面缺陷检测算法研究
Research on defect detection algorithm of complex texture ceramic tiles based on visual attention mechanism
西北工业大学学报, 2022, 40(2): 414-421.
Journal of Northwestern Polytechnical University, 2022, 40(2): 414-421.

文章历史

收稿日期: 2021-07-22

相关文章

工作空间