基于图片边界后门嵌入的图像识别攻击研究

采用公开数据集或预训练好的神经网络模型可以快速实现图像分析、语音识别等应用，但存在一定的风险或威胁。攻击者可以通过向开源训练数据或者训练模型中嵌入后门，使模型在接收到带有触发功能的数据时执行指定的后门行为。目前，图像识别的后门攻击采用的后门触发器大多在视觉上容易被发现，为此，文中提出一种基于图片边界后门嵌入的图像识别攻击方法。该方法向训练图片边界添加窄的有色带作为后门触发器，利用隐蔽的外形逃避视觉关注。在MNIST、CIFAR-10等图像识别数据集上对所提方法进行测试，实验结果表明，该后门可以稳定注入，并在毒药率为30%时，攻击成功率达到99.73%。相比于其他两种常见的后门攻击方法，所提方法攻击成功率更高，具有较强的攻击性和鲁棒性。