- 博客(11)
- 收藏
- 关注
RSS订阅原创 google colab基本使用
挂载谷歌云盘快捷键挂载或代码段挂载from google.colab import drivedrive.mount('/content/gdrive/')GPU资源申请device_name = tf.test.gpu_device_name()if device_name != '/device:GPU:0': raise SystemError('GPU device not found')print('Found GPU at: {}'.forma...
2021-11-23 22:21:29
455
原创 回归与分类
无监督学习无标签----学习数据本身的结构和关系,监督学习有标签----用于预测因变量监督学习的因变量 (连续--回归 离散--分类)流程明确项目任务：回归/分类 收集数据集并选择合适的特征。 选择度量模型性能的指标。 选择具体的模型并进行训练以优化模型。 评估模型的性能并调参。回归模型选择线性\多项式回归分类回归树---递归分割,将特征空间按递归分割为互不重叠的区域(分块,每个块内不同的函数) 由节点和有向边组成,节点分为内部节点和叶节...
2021-08-19 20:44:51
108
原创 机器学习数学基础
高等数学 多元函数的偏导梯度向量雅克比矩阵（一阶偏导）黑塞矩阵（二阶偏导）多元函数极值（驻点邻域内有二阶连续偏导） A正定矩阵--极小值点A负定矩阵--极大值点带等式约束的优化问题--拉格朗日乘子法梯度优化梯度下降 -- 接近最优值时要不断缩小步长，防止震荡牛顿法 --...
2021-08-18 00:50:41
134
原创 李宏毅深度学习总结与体会
此次datawhale的打卡学习以基础理论的大框架为主，离深入理解、应用还有差距，着重学习了神经网络的优化。之后还要加上代码实践，进行调参比较、搭建网络、解决实际问题的实践才算真的学会深度学习，期间可能会遇上难以预知的问题，不过经过这组队学习，也认识了不少优秀的学员。两周学习结束了，也只是让你知道了大致框架，里面的世界还有许多未知等待探索，学习才刚刚开始。...
2021-07-25 22:11:51
238
原创 卷积神经网路CNN
简化全连接，降维提取局部特征选定滤波大小filter size，步长stride卷积convolution ---提取特征pattern最大值池化max pooling（平移、旋转、尺度不变性）---降维拉直flattingetc：图像风格变化---deep style...
2021-07-24 21:07:42
46
原创 神经网络优化方法
优化失败--梯度消失卡在驻点（局部极小值、鞍点）判断：求黑塞矩阵H（多元函数的二阶偏导）正定（特征值恒正）--局部极小值 特征值有正有负--鞍点鞍点处可沿着负的特征值--特征向量对应的方向梯度下降batch size selection相比于小的batch，大的batch单次更新慢，一个周期更新快，更稳定，但准确度低解释：大的batch更容易卡在驻点，小的batch可更新逃离驻点即使优化大的batch使其在训练数据上与小的batch准确度相近 ，在测试数据上依旧是...
2021-07-20 12:28:18
282
原创 深度学习与反向传播
深度学习的基础：神经网络neural netwoork1.感知机perceptron(模仿神经细胞的二分类线性模型：input-树突 weight-细胞体 output-轴突学习过程更新权重，加权求和后与阈值比较进行判别分类局限：只限于线性可分，无法表示异或)2.多层感知机MLP（可含多个隐藏层的全连接模型 隐藏层的f激活函数非线性 常用ReLU、sigmoid、tanh函数）若无激活函数 无论多少层隐藏层，输出都为输入的线性组合注意梯度消失问题3.卷...
2021-07-18 21:13:10
101
原创 分类classify
用回归来处理分类：归属于最接近的类别存在问题：极端偏离点影响分类结果（影响程度不同）多分类间应当无关，但回归处理添加了关系 （相邻的更相似）概率生成模型数学原理：Bayes model贝叶斯模型-先验/后验概率generative model全概率公式生成模型高斯分布--最大似然估计求期望 和协方差矩阵...
2021-07-17 11:23:12
523
原创 回归Regression
线性回归-判别模型损失函数 （常用损失函数--平方误差）优化目标优化过程：梯度下降学习率步长可调----过大会反复横跳，过小收敛过慢批量梯度下降（对所有的xi同时偏导）--平滑稳定但慢随机梯度下降（对某个xi偏导）---更快，但有不确定性或震荡小批量梯度下降--可并行验证模型好坏训练集上平均误差和测试集上平均误差model selection---防止过拟合、欠拟合高次、分类、寻找隐藏因素正则化惩罚项--更平滑对...
2021-07-14 16:11:49
40
原创 机器学习概论
基本假设：训练和测试数据有相同分布流程目的：分类与回归classification/regression分类模型：离散（定性）etc：Logistic Regression（ 通过sigmoid 函数映射到(0,1)上，阈值划分二分类）SVM（超平面分割）Naive Bayes（后验P(y|x) 给定x得到各个类y的概率）回归模型：连续（定量）etc：Linear Regression（y=wx+b）类别监督学习：有标签 p(x)用于预测...
2021-07-12 11:29:28
62
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人