- 博客(11)
- 收藏
- 关注
RSS订阅原创 《昇思25天学习打卡营第11天|文本解码原理--以MindNLP为例》
num_beams, 的大小是该算法保留可能概率最大的句子的数量，通过保留少部分可能存在较大概率的句子进行对比留下最大概率的句子，也能节省空间。根据上一个词来计算下一个词的概率，文本不容易重样，有创造性，但是可能语句不通畅，生成质量不好。（如图示，0.4*0.9的概率最大，但是该算法无法看到后面的概率。该算法，选择了前K个单词作为生成备选，忽视了各个单词生成的概率情况。根据各个单词的概率总和来选择备选单词库，更加合理。
2024-07-11 14:42:57
204
原创 《昇思25天学习打卡营第10天|10-使用静态图加速》
本章节介绍了什么是静态图，动态图与静态图区别以及如何使用静态图：记笔记，反正，静态图的不实用用场景：如果函数无需反复执行，使用静态图加速也可能没有价值。
2024-07-09 14:38:07
118
原创 《昇思25天学习打卡营第9天|09-保存与加载》
save__checkpint()接口,保存了网络与指定文件“model.ckpt”，最后在用load_param_into_net()检查参数是否加载成功。本节内容不多，却十分重要。本节介绍了如何保存、加载训练的模型，便于后续的微调、模型推理与部署。这里简单定义了一个模型。
2024-07-09 12:35:42
112
原创 《昇思25天学习打卡营第8天|08-模型训练》
超参数包括有训练次数（epoch）批次大小（batch)、__学习率（learning rate）训练轮次（epoch）：训练时遍历数据集的次数。批次大小（batch size）：数据集进行分批读取训练，设定每个批次数据的大小。batch size过小，花费时间多，同时梯度震荡严重，不利于收敛；batch size过大，不同batch的梯度方向没有任何变化，容易陷入局部极小值，因此需要选择合适的batch size，可以有效提高模型精度、全局收敛。学习率（learning rate。
2024-07-09 01:37:44
410
原创 《昇思25天学习打卡营第6天|07-函数式自动微分》
grad 和 value_and_grad 提供 has_aux 参数，当其设置为 True 时，可以自动实现前文手动添加 stop_gradient的功能，满足返回辅助数据的同时不影响梯度计算的效果。Auxiliary data意为辅助数据，是函数除第一个输出项外的其他输出。通常我们会将函数的loss设置为函数的第一个输出，其他的输出即为辅助数据。可以代替stop_gradient()功能，让代码更整洁。此时，z对function的求导是无影响的。（2，3）位置对应w，b。fn : 待求导的函数。
2024-07-08 15:04:37
203
原创 《昇思25天学习打卡营第5天|06-网络构建》
这节课学习网络的构造，在mindspore中提供了Cell类，这也是构建一切网络 的基础。定义网络类中，__init__中构造网络结构，constructure中实现Tensor操作方法。
2024-07-07 14:04:03
192
原创 《昇思25天学习打卡营第5天|数据变换 Transforms》
可对(height, width, channel)或(channel, height, width)进行转换。这里用到了map与lambda，lambda假定一个临时函数map连接函数与数据，还是非常简单、灵活好用的。map（）是执行函数与数值（列表）的连接。next，就是迭代器一个个的输出。可以看到，像素值进行了缩放。
2024-07-06 16:06:11
221
原创 《昇思25天学习打卡营第3天|张量 Tensor》
在深思平台上学习机械学习，可以一边看教程，一边手敲代码（环境已经配好了），学习非常轻松，有实践也有知识点，遇到不会的可以上网搜索解答。
2024-06-28 15:28:55
136
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人