知识|知识蒸馏在工业缺陷检测轻量模型中的应用｜陈鹏光主讲回顾( 五 )

第五个优势是针对性强，这个就是说我们会针对工业场景中经常出现的一些情况进行对应的一个改进。在这里举了一个改进的例子，工业场景的图片它和自然场景是有非常大的一个区别的，针对工业界中经常出现的问题，我们提出了一种针对于工业场景的一种蒸馏方式，即基于信息熵的一种蒸馏方法，我们可以利用不同区域的一个信息熵，来调整蒸馏算法的一些实现，从而可以在工业场景中去取得一个更好的效果。这些方法它在自然场景中不一定合适，但是针对于我们所经常出现的工业场景的图片，是可以取得非常好的一个效果。
以上就是我们算法平台以及知识蒸馏模块的介绍。利用这个算法平台，我们就可以做到很多别人做不到的事情。比如说我们可以在很短的时间内就完成POC的模型，提升工作效率，也可以利用我们的各种工具来提升模型的一个精度等等。
04
知识蒸馏在缺陷检测轻量模型实现中的作用
最后我们拿一些实际项目的例子简单介绍下，知识蒸馏在我们实际项目中的一个作用。首先以一个全球知名手机品牌的无线充电线圈的缺陷检测，这款手机估计很多在场的朋友也都是在用的，其中它的一个元器件检测就是我们在做的，目前是已经交付落地。在其中我们是做了超过30种高难度缺陷的检测，也得到了非常好的一个检出率。最后总的检出率是超过了99.8%，人力成本削减达到了80%。在其中我们就用到了知识蒸馏的一些技巧，可以把检出率提升两个点左右。这个就是一些更加具体的中间结果，是经过了脱敏处理的，是像素级的准确率，不是最终衡量标准，可以更好的看出我们的蒸馏方法的一些优势。

文章插图
大家可以看到用大模型通常会比小模型要来的更好一些，然后不同缺陷之间，其实它们的经度的差异也很大，比如说对于这个缺陷来说，它可能就出现的比较少，或者说它的面积比较小，精度就会比较低，然后有的缺陷可能出现的多一些，它的精度就会比较高。我们可以使用一些传统的方式去进行蒸馏，最终确实是会有提升的。但是我们用我们自己所设计的这一套算法可以得到一个更加有效的提升效果。
最后跟大家分享的是一个芯片工艺分析的项目。芯片是非常小的，我们是需要检测里面的电路结构，这个任务他们之前的一些做法是靠人的手工去磨，磨了一层之后再使用电子显微镜去成像，成像之后可以得到灰度颜色不一样的电路图，然后再去做结构化。这种情况下当你的需求量大了之后，比如说当你的需求量到了百万千万这个级别之后，就不能再靠人工去做这样的事情，所以说它非常有迫切的自动化的需求。这个听起来简单，但其实要处理的问题很多，比如说可能会遇到一些成像模糊或者说制成不同，它的28纳米和14纳米成像出来都是不一样的，或者说是有一些噪声等等。然后思谋针对这样一个任务，推出了对应的全站解决方案，并且实现了一种结构自动结构化检测。最后的检出率非常高，是远远超出了我们标准，达到了99.99%，处理效率提高了96%。在这个过程中我们也有用到知识蒸馏的思想，使我们的检出率大概也是有了1到2个点的提升。