科研记录LSTM Pytorch是可以实现正则化的，其中其中，权重衰减系数weight_decay就是一种正则方法。具体而言：权重衰减等价于 L2 范数正则化（regularization）。但Pytorch无法实现嵌套的正则化，只能单纯重写写。
深度学习——公式推导——微积分20230509 为了书写方便，我们通常将单个函数对多个变量（标量关于向量）或者多元函数对单个变量（向量对标量）的偏导数写成向量和矩阵的形式，使其可以被当成一个整体处理。当研究到神经网络求偏导的过程中，一直不理解标量对向量求导的公式维度怎么写，以及向量对标量求导，向量对向量求导，通过下面的过程算是有了初步的理解。矩阵微积分是多元微积分的一种表达形式，即使用矩阵和向量来表示因变量每个成分关于自变量每个成分的偏导数。邱锡鹏 神经网络与深度学习Neural Networks and Deep Learning。
matlab中if return end return是函数直接返回, 也就是结束该函数,要跳出循环用break, if代码段是不能用break跳出的, 在一个函数内任意位置调用return, 直接退出函数。if判断正确，会执行代码段2，然后执行代码段2后面的return，此时fn执行结束，将不再执行return之后的所有语句，所以不会执行代码段1。参考链接：https://blog.csdn.net/weixin_44412840/article/details/104935152。if 和end是不能分开的；
科研工具分享 论文阅读工具1：https://www.connectedpapers.com/该网址可以对某一论文的延伸很好的覆盖，可以将该领域的论文形成一一串研究思路。如Attention is all you need找到论文的代码实现Papers With Code：自动把论文连接到实现代码的 GitHub 资源库和数据集，并根据 GitHub 的收藏量排序。每篇论文可能有多个合并的条目.Github pwc：以相当简洁的列表关联论文和代码实现，包含最新的 NIPS 论文.GitXiv：每个项目可
英语作文例子模板 开头段话题类These days, the topic of medical scientists has captured the media attention, occupying the newspaper headline, sparking the heated the discussion on the website.It is essential that trust （主题词替换）is to the society what water is to the fish.图画类Th
英语作文万能句子整理1-20220320 作文首段句 一般都是进行主题、图表、图画、谚语引入，或个人观点或图表图画总结 谚语解释等。1. 主题引入句These days ,the topic of medical scientist （主题词替换，其余看保持不变）has captured the midia attention, occupying the newspaper headline, sparking the heated the discussion on the website.Recently the issue ha
英语写作方法论整体 整体分三大段：开头段第一类：话题类作文（确定）第二类：选择类话题（A/B不确定选择）第三类：图画作文1. 引出话题（参考第一类话题类作文引入方式）2. 图画描述3. 图画总结第四类：图表作文1. 引出图表2. 图表描述①静态图；②动态图；3. 图表总结第五类：谚语类文章1. 引出谚语2. 谚语说明中间段三种方法适用的场景；当题目是有定论的时候，比如题干说明了某一个话题是有价值的，适用原因后果论证；当题目是有正面的，个人品质，谚语类，适用举例论证，当题目是无定论的时候
英语翻译学习中译英2 翻译起始：中文关（1） 找主干，翻译主干；（2） 标定语，翻译定语；单词修饰的定语：放在前面翻译；短语句子修饰的定语：放在后面翻译；（3） 往主干里增加定语；合并成一个句子。翻译后：结构调整，回译检查对译文进行修正、加工与润饰。先检查译文中的单词拼写及语法，从形式上保证语言的准确；再次检查译文有无漏译、错译、曲解的地方，从内容上保证与原文的对应；最后脱离原文，看译文上下文有无不连贯、矛盾、重复之处，从通顺性上进行最后查对。翻译长句翻译出现问题时，也可拆分成短句，从而进行短句翻译；在翻译的
英语阅读和翻译做题技巧1 英语阅读学习时间 1 3 5 阅读，2 4 听力 6 7 翻译 作文阅读做题方案（1） 阅读题干，找主谓宾定状，题干一般就主谓宾；（2） 纵向看题干之间的联系，将题干多次出现的词圈出；（3） 阅读原文，原文每个句子寻找主谓宾定状，当出现与题干相同的词时，圈出并重点关注；（4） 依次阅读选项题干，来回对比原文和题干确定最终答案。句子不同的成分标注方法：主语： ；谓语：_____;宾语：~~~；定语：（）；状语：[ ]翻译做题方案1一定要打草稿翻译前：词汇关 将不知道怎么翻
工业大数据论文阅读 今天读了好多论文，特意总结如下：我的论文阅读模板 哈哈哈哈通信单位 第一作者 通信作者论文英文名论文中文名发表时间：摘要：引言如何引出问题：引言最后一二段：结论：图表：实验数据及规模：实验过程实验结果：自己总结：论文我的疑问，问题：为什么能发表？创新点？看论文中遇到的概念：阅读论文方法模板1华东理工大学 化工先进控制与优化教育部国家重点实验室 Qingchao JiangLocal–Global Modeling and Distributed Computing
Pytorch编程学习 第一段时间学习Pytorch五部分牢记于心模型定义数据处理与加载训练模型（Train和Validate）测试模型训练过程可视化1. 模型的定义# 模型的定义import torch.nn as nnimport torch.nn.functional as F# 1. 数据的定义class Net(nn.Module): def __init__(self): super(Net,self).__init__() #这是对继承自父类的属性进行初始化
工业大数据分析建模和算法 前期简单了解了工业大数据大概的研究框架，为了进一步了解工业大数据如何用，进行进一步的研究调研。工业大数据驱动技术模型与算法智能制造业过去几年，智能制造在研究和工业上获得了巨大的关注。在几乎相同的时间里，机器学习取得了惊人的进步，进入了制造业的许多方面。人工智能领域的最新发展应用在实际的制造业应用决策中变的十分普遍。决策支持系统可以通过使用机器学习方法进行不同的应用程序的实现。机器学习是人工智能的一个分支，是一种应用的计算机技术，能够对大量复杂多维数据处理和学习以建立预测模型。...
关注
