- 博客(2)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 复值神经网络（complexNN）
目前，最先进的复值神经网络库，如deep_complex_networks、complexPytorch等，都是通过利用两组参数来表示实部和虚部来实现复值网络模块。这种实现方法不仅增加了参数数量，而且不利于梯度的反向传播，显著增加了训练难度。由于PyTorch v1.7后支持了对复数的梯度计算，因此，我直接利用PyTorch实现了无额外参数的复值网络模块。深度状态空间模型（deep SSM）中状态常用复数形式（主要由于对角分解在复数域更通用的缘故），复值神经网络在大语言模型（LLMs）中也大有可为。
2024-01-28 19:47:01
892
原创 Physics-informed neural networks文献解读
基于物理信息的神经网络1 研究背景机器学习的最新研究在众多科学学科中有了革命性的成果，但是在复杂物理、生物或工程领域中常常因为训练数据采集难度高而受到限制。2 研究目的在较小训练集的情况下能达到较高的预测精度。3 研究内容3.1 实验原理本文用物理定律来对解空间进行约束，将物理规则作为一个正则器来正则化训练集，用结构化的数据来训练模型，使模型可以从同样规模的数据中学到更多的内容。大多数物理定律由偏微分方程的形式表述，而高阶偏微分方程难以求解析解，本文采用神经网络逼近的方法逼近
2021-11-27 19:55:48
2322
4
空空如也
为什么随意定义一个tf.constant（不在任何地方用它）都会造成网络性能下降？
2022-03-10
TA创建的收藏夹 TA关注的收藏夹
TA关注的人