- 博客(7)
- 收藏
- 关注
RSS订阅原创 知识图谱项目
python 是Python 3.8.19。数据集找不见或报链接错误（下不下来）把代码注意黑框代码也要粘住否则报错。这是requirement 安包。新手如何在csdn里写博客，直接点发布，像我一样。
2024-05-11 10:01:05
859
2
原创 BERT（Bidirectional Encoder Representations from Transformers）和Transformer之间的关系
BERT则使用了Transformer架构中的编码器部分（Encoder），它是一种基于Transformer的预训练模型。同时，BERT采用了双向（双向上下文）的训练方式，通过遮蔽输入文本中的一些词，然后预测这些词的上下文，从而使模型能够考虑到每个词的上下文信息。BERT（Bidirectional Encoder Representations from Transformers）和Transformer之间的关系主要体现在BERT是建立在Transformer架构之上的一种模型。
2024-03-17 18:53:31
514
原创 pycharm 终端报错
原文链接：https://blog.csdn.net/MengYa_Dream/article/details/121142905。此电脑-属性-高级系统设置-环境变量-path检查环境。1. 设置 ——工具 ——终端。电脑环境变量添加（重点）***惊喜：就环境这一块说的十分确切。
2024-03-13 09:25:40
1935
2
原创 深度学习的重要概念
减少震荡：在训练过程中，Momentum会积累之前梯度的指数级衰减的移动平均，并继续沿该方向移动，从而减少模型在训练过程中的震荡。克服局部最优解：Momentum有一定的摆脱陷入局部最优解的能力，能够通过在相关方向上进行训练，来跳出局部最优解的陷阱。Momentum的实现方法是在每次更新参数时，不仅考虑当前的梯度，还考虑之前的梯度，并根据当前的速度和方向来更新参数。Momentum在深度学习中被广泛应用，它能够提高模型的训练速度和性能，特别是在处理高曲率、小但一致的梯度或带噪声的梯度时效果更佳。
2023-10-28 09:03:43
16
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人