![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
机器学习笔记
小吴今天运动了吗
满怀希望就能所向披靡
展开
-
Pytorch的数据操作
import torch'''************************ 代码参考来自:https://github.com/ShusenTang/Dive-into-DL-PyTorch/blob/master/docs/chapter02_prerequisite/2.2_tensor.md***********************'''## 创建tensorx = torch.empty(5,3)print(x)x = torch.rand(5,3)print(x).原创 2021-08-04 12:01:32 · 88 阅读 · 0 评论 -
代价函数和正则化
一、代价函数的惩罚项当模型过拟合时,要减少某个输入变量x对预测结果的影响,只需要保证其对应的参数θ足够小即可,这可以通过改动代价函数来实现。例如在这个代价函数中,要保证取最小值两个参数的值就需要接近0。这种方式就是给模型加入惩罚项,一般会对所有的参数进行这样的约束。一、线性回归的正则化1. Gradient descentRepeat{}2. 矩阵求解一般求解B是一个对角线上值为0,1,... ,1的n+1阶矩阵。对于不可...原创 2021-07-19 19:12:20 · 400 阅读 · 0 评论 -
多元分类和过拟合
一、多元分类1. one-vs-all:选择得分最高的类别有几个类别建立几个分类器,单个分类器只识别一个类别。 classifierA classifierB classifierC classifierD positive 0.56 0.96 0.22 0.11 negtive 0.44 0.04 0.78 0.89 上面表格对应的样例的分类结果为class B。2. one-vs-one:设有n个类别原创 2021-07-19 16:17:27 · 465 阅读 · 0 评论 -
分类决策界限
No1. 一般选择一个常数 a 作为分类界限。if , predict y = 1.if , predict y = 0.这种方法属于线性规划。No2. 当直线没办法对数据很好分类时(非线性决策边界),选择高次幂的分类线。原创 2021-07-19 15:34:41 · 82 阅读 · 0 评论 -
二、逻辑回归(分类)
一、原理线性回归中加入阈值设阈值为0.5则有Logistic Regression:sigmoid函数:loss:原创 2021-07-01 09:05:43 · 148 阅读 · 0 评论 -
一、多元线性回归
一、原理公式:Hypothesis:这里:Parameters:Cost Function:使用的是均方差损失(MSE)梯度下降:用于最小化代价函数,一般用代价函数对求偏导获得。Gradient descent:Repeat{}即Repeat{}其中表示学习率...原创 2021-06-24 13:54:47 · 423 阅读 · 0 评论