可解释的深度网络抗噪音干扰性逐层评估方法
网络安全与数据治理
周瑞丰1，栾瑞鹏2，张超1
1.大连理工大学数学科学学院； 2. 91550部队
摘要： 在复杂应用场景中，深度神经网络易受噪音数据干扰，如何客观、有效、可靠地评估深度网络的抗噪音干扰性已成为智能化技术开发的关键问题之一。然而，现有的评估方法只能对网络抗噪音干扰性进行整体评估，且不具备可解释的理论依据。为了解决上述问题，基于闵可夫斯基差线性可分性度量，提出一种深度神经网络逐层抗噪音干扰性评估方法，实现了神经网络抗噪音干扰性的可解释性评估。该方法可以对深度网络各隐层数据映射行为进行定量分析，解析噪音干扰对网络各隐层的影响机理，进而建立面向网络隐层的可解释抗噪音干扰性评估方法。
中图分类号：TP181文献标识码：ADOI:10.19358/j.issn.2097-1788.2025.09.007
引用格式：周瑞丰，栾瑞鹏，张超. 可解释的深度网络抗噪音干扰性逐层评估方法［J］.网络安全与数据治理，2025，44（9）：46-50.
引用格式：周瑞丰，栾瑞鹏，张超. 可解释的深度网络抗噪音干扰性逐层评估方法［J］.网络安全与数据治理，2025，44（9）：46-50.
Explainable methods for layer-wise evaluating noise resistance of deep networks
Zhou Ruifeng1，Luan Ruipeng 2，Zhang Chao1
1. School of Mathematical Science, Dalian University of Technology; 2. Unit 91550
Abstract： In complex application scenarios, deep neural networks are susceptible to noise data interference. How to objectively, effectively, and reliably evaluate the noise resistance of deep networks has become one of the key issues in the development of intelligent technology. However, the existing evaluation methods can only evaluate the noise resistance of the whole network, and have no explainable theoretical basis. To address the above problems, based on Minkowski difference based linear separability measure, a layer-wise noise resistance evaluation method for deep neural networks is proposed, achieving an explainable evaluation of the network′s noise resistance performance. This method can quantitatively analyze the data mapping behavior of each hidden layer of the deep network, explain the influence mechanism of noise interference on each hidden layer of the network, and then establish an explainable noise resistance evaluation method for the network′s hidden layers.
Key words : noise resistance evaluation; explainability; neural network
引言
随着神经网络在图像分类［1］、语义分割［2］等领域的长足发展，其被广泛地应用于工业生产［3］、自动驾驶［4］、医学［5］等新的任务场景中。然而，这些新的任务场景往往更加复杂，其中包含着干扰输入数据的多种噪音，会显著影响网络的性能。同时，在这些任务场景中，网络判断出错所造成的后果往往要更加严重。因此，如何评估网络对任务场景中噪音的抗干扰性，从而判断网络在该任务场景中的适用性，成为了一个需要解决的问题。
目前，通过生成让网络判断出错的最小扰动的对抗样本［6-8］或者生成任务场景［9-10］中常见的模拟噪音都可以作为生成噪音的方法，并进一步得到网络在面对噪音下的数值化抗干扰性指标。但是，现有的网络评估方法大多对网络整体进行评估，无法分析噪音对网络输出的影响机理，缺乏可解释性，并且评估结果也无法对网络改进起到积极的指导作用。
为了解决上述问题，本文引入基于闵可夫斯基差的线性可分性度量(Minkowski Difference based Linear Separability Measure, MDLSM)作为分类神经网络的隐层分析工具，借助MDLSM对网络隐层的数据映射行为进行分析，得到噪音对网络各个隐层的扰动，确定噪音对网络的影响机理，从而实现网络的可解释性抗干扰性逐层评估。
本文详细内容请下载：
//www.51qz.net/resource/share/2000006706
作者信息：
周瑞丰1，栾瑞鹏2，张超1
(1.大连理工大学数学科学学院，辽宁大连116024；
2. 91550部队，辽宁大连116023)
此内容为AET网站原创，未经授权禁止转载。