![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
ttinch
这个作者很懒,什么都没留下…
展开
-
数据结构总结
数据结构二叉树深度优先遍历(递归、非递归)前序遍历中序遍历后序遍历广度优先遍历(层序遍历)堆图最短路前k条最短路深度优先搜索(DFS)广度优先搜索(BFS)二叉树# Definition for a binary tree node.class TreeNode: def __init__(self, x): self.val = x self.lef...原创 2021-06-03 17:08:32 · 87 阅读 · 0 评论 -
逻辑回归
逻辑回归1. 逻辑回归模型2. 损失函数3. 损失函数求解3.1 梯度下降法3.2 牛顿法4. 为什么sigmoid输出代表概率5. 共线性问题1. 逻辑回归模型逻辑回归将线性回归的预测值转换为0/1值,通常采用sigmoid函数g(z)=11+e−zg(z)=\frac{1}{1+e^{-z}}g(z)=1+e−z1进行转换:h(x)=11+e−(ωTx+b)h(x)=\frac{1}{1+e^{-(\omega^Tx+b)}}h(x)=1+e−(ωTx+b)1即P(y=1∣x)=11+e−原创 2020-05-12 23:07:28 · 165 阅读 · 0 评论 -
线性回归
线性回归1. 线性回归模型2. 损失函数3. 损失函数求解3.1 最小二乘法3.2 梯度下降法1. 线性回归模型通过属性的线性组合进行预测。对于nnn维数据样本,有f(x1,x2,⋯ ,xn)=ω0x0+ω1x1+⋯+ωnxn+bf(x_1,x_2,\cdots,x_n)=\omega_0x_0+\omega_1x_1+\cdots+\omega_nx_n+bf(x1,x2,⋯,xn)=ω0x0+ω1x1+⋯+ωnxn+b表示为矩阵形式f(x)=ωTx+bf(x)=\omega^原创 2020-05-10 22:21:33 · 195 阅读 · 0 评论 -
广义线性模型(Generalized Linear Model)
广义线性模型广义线性模型(Generalized Linear Model)指数分布族广义线性模型建模(三个假设)线性回归推导Gaussian 分布的指数分布族形式广义线性模型进行建模逻辑回归推导Bernoulli分布的指数分布族形式广义线性模型进行建模Softmax回归(多分类)多项式分布的指数分布族形式广义线性模型进行建模广义线性模型(Generalized Linear Model)指数分布族指数分布族具有如下形式p(y∣η)=b(y)exp(ηTT(y)−a(η)))p(y|\eta )=原创 2020-05-10 00:29:26 · 2223 阅读 · 0 评论 -
机器学习之决策树
机器学习之决策树决策树原理生成过程停止条件优缺点划分选择信息增益(ID3)信息增益率(C4.5)基尼系数(CART)剪枝预剪枝后剪枝连续值与缺失值处理连续值处理缺失值处理回归树(CART)决策树参数其它决策树原理决策树是一种分类和回归的基本模型,可从三个角度来理解它,即:一棵树if-then规则的集合,该集合是决策树上的所有从根节点到叶节点的路径的集合定义在特征空间与类空间上的条件概率...原创 2019-10-28 20:28:04 · 378 阅读 · 0 评论