77

原创 Datawhale X 李宏毅苹果书 AI夏令营（进阶Task2）

回归任务预测一个连续的值，而分类任务预测一个离散的标签。分类可以被视为回归的一种特殊情况，其中输出通过激活函数转换为概率分布。传统的梯度下降方法为所有参数设置了相同的固定学习率，这在实践中可能不是最优选择，因为不同的参数可能需要不同的学习率。在深度学习中，模型在优化过程中面临突然“爆炸”的现象，是一种策略，它根据训练的不同阶段动态调整学习率，以促进模型的训练过程。此范式不仅适用于图像分类任务，对于广泛的深度学习任务也是适用的。，即：通过为每个参数分配不同的学习率来提高优化过程的效果。

原创 Datawhale X 李宏毅苹果书 AI夏令营(入门Task2)

线性模型是一种用于预测的简单模型，通常用来描述输入特征与输出结果之间的线性关系。从和两方面考虑，可以把线性模型做好。

原创 Datawhale X 李宏毅苹果书 AI夏令营（进阶Task1）

在做优化的时候经常会发现，随着参数不断更新，训练的损失不会再下降,，但对这个损失仍然不满意。但有时候，模型一开始就训练不起来，不管怎么更新参数，损失都降不下去。这个时候到底发生了什么事情？

原创 Datawhale X 李宏毅苹果书 AI夏令营(入门Task1)

这个函数的输入是模型里面的未知参数，定义损失为函数，其输入是模型参数跟。输出的值越大，代表现在这一组参数越不好；越小，代表现在这一组参数越好。估测的值跟实际的值之间的差距，其实有不同的计算方法，计算与之间绝对值的差距，如式所示，称为平均绝对误差（Mean Absolute Error，MAE）。如果算与之间平方的差距，则称为均方误差（Mean SquaredError，MSE）。通过实际数据可得到不同的跟的组合，就可以画出如图所示的等高线图。

原创 Datawhale X 魔搭 AI夏令营

后向过程是扩散模型中恢复原始数据的关键部分。通过逐步去噪，模型能够从高斯噪声中恢复出原始数据。这一过程依赖于训练好的去噪模型，该模型能够预测如何从当前的噪声状态恢复到更接近原始数据的状态。GUI 是 "Graphical User Interface"（图形用户界面）的缩写。ComfyUI是GUI的一种，是基于节点工作的用户界面，主要用于操作图像的生成技术，特别之处在于它采用了一种模块化的设计，把图像生成的过程分解成了许多小的步骤，每个步骤都是一个节点。

原创 Datawhale X 魔搭 AI夏令营

扩散模型的一个典型例子是高斯过程扩散模型（Gaussian Process based Diffusion Model），但更常见的可能是指最近在深度学习社区中非常流行的得分匹配（score-matching）和去噪扩散概率模型（denoising diffusion probabilistic models, DDPMs）。在训练过程中，模型会学习如何逆向这个过程，即后向过程（去噪过程），从而能够生成新的数据样本。（1）将数据集中的图像转换为 RGB 模式，并保存到指定目录。（4）加载微调后的模型。

原创 Datawhale X 魔搭 AI夏令营

生成式模型本质上是从一组概率分布中得到另一组概率分布。如下图所示，左边是一个训练数据集，里面所有的数据都是从某个数据中独立同分布取出的随机样本。右边就是其生成式模型（概率分布），在这种概率分布中，找出一个分布使得它离的距离最近。接着在​上采新的样本，可以获得源源不断的新数据。DDPM扩散模型公式推理----扩散和逆扩散过程_ddpm 反向公式推导-CSDN博客。

原创 Datawhale AI夏令营

然后，找到一个拟合降水模型过程的函数，利用深度学习（pytorch）搭建神经网络进行数据拟合，通过调参可得到相应模型。作为AI的初学者，能够参与第三期的学习活动（极端降水预报）是一种很好的实践经历。根据速通手册，再结合大家在学习群中分享的信息，按照步骤很快跑通了baseline。结合速通指南可以了解操作流程，对初学者而言仍是一头雾水，说明进一步地学习与实践是接下来的重要环节。（1） 将baseline代码与文档中的结构对照学习，了解整体过程和框架。（2）了解降水模型的搭建步骤。（1）下载地址的变化。

原创 numpy中合并举例