Towards Backdoor Attack on Deep Learning based Time Series Classification

时间序列分类是现代数据挖掘的一项基本任务，在股票价格预测、网络流量分析等领域有着重要的应用。由于深度神经网络(deep neural networks, DNN)的非线性结构，深度学习已成为时间序列分类的一种有效解决方案。然而，dnn过度的学习能力可能使其容易受到后门攻击的威胁，攻击者在dnn中嵌入隐藏的功能(即后门)，并通过特殊设计的输入(即触发器)激活后门。尽管针对图像和文本领域的后门攻击进行了广泛的研究，但基于深度神经网络的时间序列分类器在抵御后门攻击方面的脆弱性尚不清楚。由于时间序列数据的特殊性，现有的大多数后门攻击技术无法对时间序列分类器构成威胁。

文中通过分析影响后门有效性的关键因素，梳理了时序数据上触发器设计的实用原则。为此，提出一种新的框架TimeTrojan，旨在通过约束多目标优化学习形成触发模式。为了解决此后具有挑战性的优化问题，进一步设计了一种迭代学习算法。值得注意的是，所提出的框架对广泛的DNN分类器是不可知的。在6个具有代表性的DNN分类器和6个真实数据集上的实验结果验证了所提攻击框架的有效性。在大多数情况下，TimeTrojan以100%的攻击成功率成功注入后门，而不影响模型对干净样本的准确率，这意味着敌手完全控制了DNN分类器的行为。