炼丹，shuffle很重要，以及其他性能反常时代码检查点，

于 2020-07-11 09:29:04 发布
阅读量135 收藏
点赞数
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ll1042668699/article/details/107280015
版权

1. 跑实验，忘记shuffle，导致一直没调出结果来，开启结果后性能提升近20个点，

当性能反常时记得检查代码点，

1. 是否shuffle

2. 保存模型的mode是否是和metric一致，val_loss时mode为min...

3. 

 

大猫子的技术日记
关注
专栏目录
深度学习与炼丹技巧.zip
04-14
一些常用的深度学习与炼丹技巧
【数据集划分】误用shuffle，导致训练集和测试集掺混
weixin_44560088的博客
11-04 1941
误用tf.data.Data.shuffle，导致训练集和测试集掺混
谈谈怎样提高炼丹手速.rar
10-18
并行计算的应用在大数据时代显得尤为重要。**分布式计算**能大幅缩短模型训练的时间，如使用Spark、Hadoop等框架进行数据处理，或使用GPU进行深度学习模型的并行训练。通过合理分配计算资源，可以显著提高“炼丹”的...
谈谈怎样提高炼丹手速.pdf
08-12
熟练掌握shell也很重要，可以帮助我们快速处理大量数据和实现复杂的任务。 熟练掌握主力深度学习框架也是提高炼丹手速的关键。这包括了解框架的底层运行机制、常用API的行为、框架的能力覆盖面、不同版本的差异化点...
保姆级 Lora 炼丹教程
07-06
模型的 Loss 值是衡量其性能的关键指标，一般来说，Loss 值在0.07~0.09之间的模型被认为表现良好。不过，最终模型的好坏还需要在 Stable Diffusion 环境中进行实际应用测试，以确保其在不同场景下的表现。 通过以上...
深度学习的调参指南（炼丹）
06-20
【深度学习调参指南（炼丹）】 深度学习模型的性能优化是一个复杂且细致的过程，涉及到许多关键因素的调整，包括模型架构的选择、优化器的选取、超参数的设定等。以下是一些核心知识点： 1. **选择模型架构**： -...
NNL（negative log loss） 和 cross entropy loss的区别
ll1042668699的博客
12-29 4794
CE formulation： NNL公式： NNL是CE的一种应用形式，使用的就是CE的计算公式，但在通常看到的计算形式是这种： 为什么累加符号以及没有了呢？ 首先CE计算的是两个分布（真实分布与预测分布）之间的交叉熵，即距离，以此距离值作为损失值。而在多分类（multi-class）任务中，预测分布式模型经过softmax函数后的输出vector，而真实分布则是每个输出目...
实现keras 自定义fit函数的几种实现思路
ll1042668699的博客
01-15 1271
model.train_on_batch（首推），注：train_on_batch在TensorFlow中有若干种版本实现，而TensorFlow有动态选择的机制，因此最好是调试一下，看进入的是哪个版本，在tf2中逐步调试很方便。 fit源码重组，这种实现方式可以应用callback等keras自带的各种魔法小工具。 fit_generator源码重组，同2. ...
如何配置dataset以适应keras的多输入场景？
ll1042668699的博客
01-21 1033
答案：字典 tf.data.Dataset.from_tensor_slices 函数既可以传入元组，也可以传入字典。传输元组时，该元组最大可传入三个成员，同时其位置是固定的，第一个就是X,第二个是y,第三个则是sampleweight，同时除了x是必须的，y和sampleweight都是可以设置为空的。在传入字典时，则可以适应多输入模型的场景，此时字典的key是模型input层的na...
tensorflow2.0-keras： fit 源码初探1【2020-1-22 09:39:47】
ll1042668699的博客
01-15 877
最近由于工作需要，keras提供的fit函数不能满足需求，而自己去写一个自定义的fit函数后进行测试时，砍掉加入的其他组件，只对自己的fit函数功能进行测试，却始终不能得到与keras原生fit函数一样的结果，因此不得已看源码学习keras是如何实现的。 以下内容将十分琐碎，有空进行整理，仅记录对我有用的东西，开始吧。 输入数据 输入数据会被转换成dataset对象 中间结果： ...
tensorflow2.0-keras： fit_generator 源码初探1
ll1042668699的博客
01-18 656
呵，这个的实现思路倒是和我的一模一样，大致如下： 这个图好丑，坚果云照抄还抄的配色方案不行，下次还是换draw.io画。
优秀啊，这么好的激活函数汇总，必须收藏一下。
ll1042668699的博客
07-06 268
【转载】https://dashee87.github.io/deep%20learning/visualising-activation-functions-in-neural-networks/
tf.train/tf.TFRecords/tf.data/tf.io 四个库的关系梳理
ll1042668699的博客
01-21 260
自己整理了一下这四个库的关系，整理前不知道什么时候用record什么时候用dataset，整理后对于tf提供的数据pipeline的使用得心应手，非常爽。 参考文献： https://www.tensorflow.org/tutorials/load_data/tfrecord https://www.tensorflow.org/guide/data_performance http...
数据挖掘（三）相关数据集资源
10-27
数据挖掘（三）相关数据集资源
《GNU_Linux环境高级编程》.pdf
10-27
《GNU_Linux环境高级编程》.pdf
人工智能-基于kinect的人体动作识别系统源码（毕业设计）
10-27
人工智能-基于kinect的人体动作识别系统源码（毕业设计），该项目是个人毕设项目，答辩评审分达到98分，代码都经过调试测试，确保可以运行！欢迎下载使用，可用于小白学习、进阶。该资源主要针对计算机、通信、人工智能、自动化等相关专业的学生、老师或从业者下载使用，亦可作为期末课程设计、课程大作业、毕业设计等。项目整体具有较高的学习借鉴价值！基础能力强的可以在此基础上修改调整，以实现不同的功能。 人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人工智能-基于kinect的人体动作识别系统源码（毕业设计）人
福建农林大学在陕西2020-2024各专业最低录取分数及位次表.pdf
10-27
那些年，与你同分同位次的同学都去了哪里？全国各大学在陕西2020-2024年各专业最低录取分数及录取位次数据，高考志愿必备参考数据
基于MATLAB火焰检测定位代码【带界面GUI】.zip
最新发布
10-27
matlab
diffusion炼丹
09-03
在引用的内容中，并没有提到关于diffusion炼丹的信息。因此，我无法回答这个问题。在上述引用中，提到了Stable Diffusion这个技术，它是一种稳定扩散技术，具有多种功能，如恢复画质和室内设计等。如果您有关于Stable Diffusion技术的其他问题，我可以帮您解答。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [AI绘画：Stable Diffusion 终极炼丹宝典：从入门到精通](https://blog.csdn.net/weixin_38428126/article/details/131500230)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值