- 博客(13)
- 收藏
- 关注
RSS订阅原创 VGG和ResNet
本周，我学习了两个经典卷积神经网络模型——VggNet和ResNet。VggNet训练参数量巨大，而ResNet训练参数相较于VggNet少了很多，并且能有效解决深层神经网络的退化问题。ImageNet数据集（官网下载需要教育邮箱，这里我使用了Kaggle上的一个ImageNet数据集）给出了1000个种类，不同种类图片的尺寸都不相同，因此需要对数据进行预处理。在进行预处理之前，需要自定义数据集类，如此才能利用PyTorch中的DataLoader加载数据。
2024-10-19 12:47:10
632
原创 卷积神经网络
本周，我学习卷积神经网络中的卷积层和池化层，了解它们的作用。本周，我学习卷积神经网络中的卷积层和池化层，了解它们的作用。下周，我将学习一些经典卷积神经网络模型，如ResNet。
2024-10-12 12:01:59
898
原创 其他激活函数以及多分类问题
本周，我学了神经网络中其他的激活函数以及通过PyTorch构建了多分类神经网络。本周，我学了神经网络中其他的激活函数以及通过PyTorch构建了多分类神经网络。下周，我将学习神经网络中的正则化。
2024-10-05 12:43:39
969
原创 Softmax回归
独热编码是一种处理分类特征的方法，它将分类变量转换为机器学习算法可以更好地处理的形式。在独热编码中，每个类别值都被表示为一个二进制向量，除了表示该类别的一个位置是1以外，其余位置都是0。softmax函数输出的是一个向量，对应位置上的值是样本属于该类别的概率，比如softmax输出的向量为。举个例子，比如说水果现在有三种：苹果，香蕉，西瓜。个训练样本经softmax回归输出的向量。Softmax回归是一般化的逻辑回归，用来解决多分类问题。个类别，每个类别的权重和偏置分别为。个训练样本的独热编码，也就是。
2024-10-02 19:40:11
864
原创 对多变量线性回归的补充
刘浩洋，户将，李勇锋，文再文 最优化：建模、算法与理论。关于0的次梯度：根据次梯度的定义，可以得到。后的多变量线性回归。模型不变，代价函数为。后的多变量线性回归。模型不变，代价函数为。和b的梯度下降公式为。
2024-10-01 20:36:57
773
原创 机器学习的数学基础(二)——优化算法
尽管现在不论是机器学习还是深度学习，都已经有了相当成熟的Python库，比如机器学习的库Scikit-Learn，或者深度学习的库PyTorch等。因为机器学习中大多数模型的代价函数（优化目标函数）都是凸函数，而梯度下降法在凸函数上收敛速度很快，因此几乎所有的模型都可以用梯度下降法，除了L1正则化后的模型和支持向量机。有时候，凸函数可能在某些地方不是光滑的，因此凸函数在这些地方是不可导的，这里就需要引入次梯度的概念。为下降的步长，可以选择固定的值，或者根据线搜索方法选取，对于适当函数，规定其定义域为。
2024-10-01 20:05:15
458
原创 初识神经网络
本周，我初步学习了神经网络，了解了神经网络的基础——感知机以及神经网络中的的前向传播和反向传播算法。本周，我学习了感知机，神经网络的前向传播和反向传播算法。下周，我将学习神经网络中的不同激活函数以及多分类问题。
2024-09-28 19:51:01
811
原创 逻辑回归以及正则化
本周，我学习了逻辑回归，了解了过拟合和欠拟合的现象以及如何利用正则化惩罚模型的权重来解决过拟合问题。文章最后介绍了如何使用scikit-learn进行逻辑回归。本周，我学习了逻辑回归以及如何利用正则化解决模型的过拟合问题。下周，我将初步学习神经网络。
2024-09-21 09:47:11
1046
原创 多变量线性回归以及多项式回归
本周主要学习了多变量线性回归和多项式回归，简单了解了特征工程以及如下用scikit-learn库进行线性回归和多项式回归。本文以多变量线性回归为例子，详细讲解了如何选择合适的迭代次数和学习率。特征工程需要从原始数据中提取、构建和选择特征，以便提高机器学习模型的性能。本周，我学习了多变量线性回归、多项式回归，对特征工程有了初步的了解，明白了如何选择合适的迭代次数和学习率。下周，我将学习了逻辑回归和正则化。
2024-09-14 19:03:00
344
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人