Python,Pytorch使用一维CNN-Transformer,对一维序列进行分类源程序。
程序旨在学习如何构建CNN-Transformer网络,以及如何转换数据维度使得CNN的输出能够衔接Transformer,本程序是将CNN的输出通道数直接匹配作为Transformer的维度。CNN可以提取空间特征,Transformer则提取长时序列特征,模型创新性较强。
在使用此程序时,建议先大致了解Transformer框架的基本结构:Transformer模型中有Encoder和Decoder模块。参考了许多使用Transformer做分类的程序,模型中均是只使用了Encoder模块。本程序仅使用了Transformer的Encoder模块,没有用Decoder。且没有用Embedding,因为考虑到需要级联CNN,Embedding不好写进去,而且序列也没有明确的位置信息,可以不用Embedding。
程序工作如下:
1、加载数据。原始数据为Excel,400条1*500的序列(心电信号),其中200条正常,200条异常。
2、构建CNN-Transformer模型。其中,CNN用了2层,Transformer_Encoder用了6层,里面nhead=4。
3、训练、测试。显示训练集准确率和Loss变化,计算测试集Acc、Pre、Recall、F1-score,绘制混淆矩阵。
注:①程序包含原始数据和代码,注释详细,容易看懂。能直接运行,如运行遇到问题可远程帮忙调通。②本程序是二分类,看懂后也可方便改为多分类。数据为Excel,方便替换为自己的数据,但需要看懂并修改程序中的数据维度转化部分和修改模型的输入维度等参数。③再次注意本程序没有使用Decoder和Embedding。④可有偿帮助替换数据。⑤工作较忙,时间关系仅解答简单问题。
本程序完全由本人撰写,整理不易,价格25元,唯一渠道为闲鱼售卖,请谨防其他网站盗卖。
【闲鱼链接】:https://m.tb.cn/h.gq5oviu?tk=2Wj13hJsSXR ZH4920
如果连接失效,可在闲鱼搜索:耐心的等待5283,然后点“用户”即可找到个人主页下的程序。
过程及结果图: