- 博客(28)
- 收藏
- 关注
RSS订阅原创 问题解决方法—更新Nvidia显卡驱动后，WSL系统CUDA失效并且Anaconda环境消失
问题解决方法—更新Nvidia显卡驱动后，WSL系统CUDA失效并且Anaconda环境消失
2024-12-18 15:34:00
356
原创 ChatGPT 通过三种方式帮助我进行学术写作
生成式人工智能在同行评审过程中可以成为一种有价值的工具。在仔细阅读稿件后，总结出需要评审的要点和领域。然后，使用人工智能帮助组织和表达你的反馈（无需直接输入或上传稿件文本，从而避免隐私问题）。例如，你可以指示人工智能：“假设你是一位专家和经验丰富的学者，在[领域]拥有 20 多年的学术经验。根据我对[领域]论文的总结，如果主要关注的是[一般主题]，请按照以下顺序对本文进行详细回顾：1）简要讨论其核心内容；2）确定其局限性；3）按重要性顺序解释每个局限性的重要性。始终保持简洁而专业的语气。
2024-11-11 13:48:00
869
原创 关于训练损失是空的局限性解答Train Loss: nan l Val Loss: nan
如果数据集有很多连续的0，归一化如果直接调用torch的01归一化，计算过程中就会除以0，出现null，跟数据集数量大小没关系。我的解决方法是，把0的位置加上0.00001，就不报错了，影响应该有但是很小。
2024-11-08 11:23:24
107
原创 Pyraformer复现心得
x_dec, x_mark_dec, mask=None都没用到直接进入encoder重构了encoder和decoder，跟transformer的很不一样embedding方法跟former一样encoder的注意力用的fullattention，并且用到了掩码。
2024-11-06 15:05:58
297
原创 论文阅读：人工智能赋能源网荷储协同互动的应用及展望
新型电力系统的主要特征之一是源网荷储高效协同，人工智能是实现源网荷储高效协同的重要赋能技术。
2024-11-06 13:15:44
1456
原创 DMRl-Former用于工业过程预测建模和关键样本分析的数据模式相关可解释Transformer网络
DMRl-Former用于工业过程预测建模和关键样本分析的数据模式相关可解释Transformer网络
2024-11-05 18:06:19
407
原创 “源网荷储”负荷预测调研
网（电网）：指的是电力的传输网络，包括变电站、输电线路等设备和设施。通过源、网、荷、储各环节的协同互动，充分发挥各类电源的调节能力、电网的输电能力、负荷的需求响应能力和储能的灵活调节能力，实现电力系统的灵活运行，有效应对可再生能源的波动性和不确定性。促进源、网、荷、储各环节的资源优化配置和高效利用，实现能源在生产、传输、消费和存储过程中的协同优化，降低能源损耗，提高能源利用效率。然而，随着可再生能源的大规模发展、能源消费结构的变革以及能源互联网建设的推进，传统的“源随荷动”模式已难以适应新的能源发展需求。
2024-11-02 18:17:04
426
原创 AUtoformer代码复现心得
季节趋势分解部分移动平均的实现方法比较巧妙，先在头和尾部分别重复kernel_size - 1) // 步长，次这样移动平均计算完之后数据的维度不变对于趋势分量，前面是季节趋势分解完之后的趋势的label长度拼接上，上面计算的均值对于季节分量，前面是季节趋势分解完之后的季节的label长度拼接上，上面计算的零向量在encoder部分一切正常，没有用到季节趋势分量在encoder的embedding阶段用的不是transformer的三种嵌入方式。
2024-11-02 18:02:01
1203
原创 ## EPSANet论文阅读心得
通道注意力和空间注意力可以提升性能。如何有效捕获和利用不同尺度的特征图的空间信息来丰富特征空间；通道或空间注意力只能有效捕捉局部信息，难以建立long-range的通道依赖关系。现有方法虽能解决上述问题，但会增加模型复杂度和计算开销。论文提出一个低成本且有效的注意力模块——金字塔压缩注意力（Pyramid Squeeze Attention，PSA），旨在以较低模型复杂度学习注意力权重，并有效整合局部注意力和全局注意力以建立long-range长期通道依赖关系。
2024-10-31 13:54:13
539
原创 时序Transformer代码复现心得
和encoder不同的是，decoder的注意力计算创建了一个下三角的掩码，确保在序列中的位置只能关注它之前的位置，而不能关注它之后的位置只有decoder的自注意力用到了掩码。
2024-10-30 13:16:35
497
原创 patchTST代码复现心得
x_mark_enc, x_dec, x_mark_dec这三都没用着啊来到patch_embedding，这是新设计的decode部分。
2024-10-29 20:56:14
707
4
原创 问：请问如何实现时间戳信息的嵌入
我答：先把数据时间列传成datatime格式，然后把年月日信息单独提取出来，根据采样步长判断时间戳信息的维度（就是有几列），再单独计算年月日时分秒信息在各自维度的相对位置，计算完得到时间戳信息。嵌入到对应的数值信息上。比如2024/10/21 16:10:00,分钟时间戳就是（MinuteOfHour。16除以23减去0.5）依次类推，最后每条时间信息都变成了六个维度。假设原始数据是2024/10/21 16:10:00，666，777只有三列，嵌入完时间戳是2+6=8列，信息更丰富。
2024-10-21 16:01:30
184
原创 《PyraFormer》学习笔记-基于金字塔注意力机制的长序列预测算法
长程依赖性的特征是时间序列中任意两个位置之间最长信号穿越路径的长度。（1）金字塔注意力模块(PAM)（2）CSCM。
2023-12-05 16:09:45
3002
原创 目标检测算法《EfficientDet》与云团跟踪学习笔记
EfficientDet-D2模型)的目标检测技术来检测图像序列中的云的新方法。该方法还计算云运动的速度和方向，从而可以预测由云引起的可用太阳辐射的瞬变。研究了用于物体检测的神经网络架构设计选择，并提出了几种提高效率的关键优化方案。加权双向特征金字塔网络（BiFPN），可以方便快捷地进行多尺度特征融合提出了一种复合缩放方法，可以同时对所有骨干网络、特征网络和盒/类预测网络的分辨率、深度和宽度进行统一缩放。
2023-12-01 19:53:46
1640
原创 时序数据之概念漂移检测学习笔记
1]陈九妹. 基于CEEMDAN-ARO-LSTM模型的短期光伏发电功率预测研究[D].江西财经大学,2023.DOI:10.27175/d.cnki.gjxcu.2023.000769.
2023-12-01 19:50:31
2062
原创 transfomer学习笔记
主流的序列转换模型基于复杂的递归或卷积神经网络，其中包括一个编码器和一个解码器。性能最好的模型还通过注意力机制连接编码器和解码器。我们提出了一种新的简单网络架构–“转换器”（Transformer）。跟RESNET一样，简单的架构有时候效果很好。完全基于注意力机制，无需递归和卷积一开始为了解决机器翻译问题。
2023-12-01 19:30:59
358
原创 CCDM2024方向调研
主办单位：中国计算机学会承办单位：济南大学会议时间：第十届中国数据挖掘会议将于2024年8月在泰安市举办，中国数据挖掘会议（China Conference on Data Mining，CCDM）是由中国计算机学会和中国人工智能学会主办，中国计算机学会人工智能与模式识别专业委员会和中国人工智能学会机器学习专业委员会协办的数据挖掘领域盛会。会议旨在为数据挖掘领域从业者提供一个互动交流平台，使参会者了解最前沿的学术动态，分享数据挖掘领域的最新研究成果、创新思想和科学方法，提高国内数据挖掘领域的研究水平。
2023-12-01 19:26:12
1548
2
原创 kdd 数据挖掘竞赛调研
SDWPF，是从风电场的监控和数据采集 (SCADA) 系统收集的。SCADA 数据每 10 分钟从风电场中的每个风力发电机采样一次，该风电场由 134 台风力发电机组成，共245天数据。数据集包括影响风力发电的关键外部特征，例如风速、风向和外部温度；以及重要的内部特征，例如内部温度、机舱方向和叶片角度，可以指示每个风力涡轮机的运行状态。每台风力发电机可以单独产生风能，风电场的输出功率是所有风力发电机的总和。数据集中发布了风电场中所有风机的相对位置，以表征风机之间的空间相关性。
2023-11-08 21:23:15
905
原创 研一上第三周（9.25-10.1）周报
这周学习了一些经典的异常检测算法的思想，没有深究里面的数学公式，打算用到的时候再学。找了一篇轴承状态评估和剩余寿命预测的博士论文，读的过程中遇到了一些不懂的专业名词，公式理解起来比较困难，不知道有没有必要搞懂，目前我是先跳过了公式的理解，搞明白这个公式有什么用，就往下看了。这篇文章引入了一种新的混合多工况数据融合思想，假定研究轴承处于工况 1，该工况运行下的轴承只有少量全寿程退化数据，而相同设备下其他工况的轴承运行退化数据较为丰富，因此通过将工况 1 退化数据与其他工况轴承退化数据融合。
2023-11-08 21:17:44
77
原创 【基于深度学习的电厂设备运行参数 异常检测】
目的是使用设备在正常工况下的运行参数建立模型，该模型能识别出设备运行时发生的异常。作者发明了一种结合特征强化的深度自编码高斯混合模型，设计了一个新的损失函数，有效降低了压缩特征各维属性间的线性相关性提出了一种计算“最低压缩特征维数”的方法，为设置合适的压缩特征维数提供参考作者的第一个模型DAGMM-RF中，没有考虑到电厂设备参数的时序特征。针对这一问题，作者进一步提出异构时序自编码高斯混合模型。使用循环神经网络构建自编码网络的编码部分，使用全连接层构建解码部分key-words。
2023-09-24 01:00:00
312
原创 卷积CNN学习笔记
卷积这个操作把大的原始图像，保留特征，变成小的特征图。如果卷积核很多，那么卷积完得到的特征图维度就会很高，不利于操作，因此引入池化，在特征图中画小框，从每一个小框里选一个代表，比如最大池化和平均池化，就可以压缩特征图的体积。，听了很多汇报，下周一整理一下和同组的讨论一下，总共四个会场，我们五个去的不同的地方。超参数，卷积核的尺寸，数目，卷积核中的数字，池化的步长，全连接层神经元的数量。下图中，假设右上是异常点，用基于距离的方法就判断不出来，需要基于密度的方法。，看到了理论算法部分，公式很长，很难理解。
2023-09-23 00:15:00
58
原创 机器学习基础知识学习
自训练是一种半监督学习方法，其中模型首先使用已标记的数据进行训练，然后用模型对未标记的数据进行预测，并将非常确信的预测结果（比如分类中90%的概率可以归到A类)添加到已标记数据中，再训练一个新的模型，然后继续迭代。由于模型过于复杂，以至于它学习到了训练数据中的噪声和随机变化，比如进行训练中的女人图片都是长头发的，训练出的模型就识别不出短头发的女人。一种常用方法，选中从25%到75%的中间区间的数值，计算这一区间的高度，向上延申1.5倍的高度定义为最大值，向下同理，超过最大最小值的数据可以认为是异常数据。
2023-09-18 12:52:36
135
DMRl-Former用于工业过程预测建模和关键样本分析的数据模式相关可解释Transformer网络
2024-11-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人