3.10机器学习复习

最新推荐文章于 2024-06-24 16:20:40 发布
最新推荐文章于 2024-06-24 16:20:40 发布
阅读量280 收藏 1
点赞数
分类专栏： 机器学习整理No.1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Captain_DUDU/article/details/104768825
版权 
01：机器学习概念：有监督（带答案），无监督（无答案数据）

在这里插入图片描述
02分类问题：什么数据分什么
在这里插入图片描述

在这里插入图片描述
机器学习三要素：模型，策略，算法
模型：knn kmeans
策略:评价标准损失函数（01损失，平方损失，绝对损失，对数损失{交叉熵}））

逻辑回归：对数损失（交叉熵损失函数）

在这里插入图片描述
损失里包含两种损失风险，经验风险和结构风险，也有理解为惩罚的 J 有两种方法l1和l2 ( LASSO和 RIDGE)?

线性回归 ridge梯度下降， LASSO坐标上升

mini batch

在这里插入图片描述

在这里插入图片描述

梯度下降三种方式：

批量，小批量，随机

归一化，减少量纲影响，减少随机震荡下降
在这里插入图片描述

凸函数有最优解

3种方法求解：1定义2一阶判断，3 二阶判断

在这里插入图片描述
在这里插入图片描述

以下公式记住特性
在这里插入图片描述

在这里插入图片描述
凸优化

在这里插入图片描述
鞍点问题
在这里插入图片描述
以上以线性回归举例

gbdt 不是用梯度下降法求解的
树模型 不用梯度下降法求解
mse 均方误差
(hx-y)^2

	正则化  l1 l2正则 防止过拟合
过拟合 ：训练集表现好，测试集差

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
l1 l2正则表达式
在这里插入图片描述
逻辑回归 实际上是分类
在这里插入图片描述

在这里插入图片描述
公式推导

在这里插入图片描述

求最大值
在这里插入图片描述

极大似然公式推导
在这里插入图片描述

在这里插入图片描述

信息熵概念
在这里插入图片描述
交叉熵：真实分布乘以预测
在这里插入图片描述

交叉熵越小越

在这里插入图片描述

在这里插入图片描述
决策树 3种
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
决策树的损失函数

在这里插入图片描述

模型区别
在这里插入图片描述
xgboost
在这里插入图片描述

Captain_Data
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
人工智能复习（期末考试）
qq_41214166的博客
06-28 3930
1.框架表示法有什么特点？继承性，自然性，结构性。 2.产生式表示法的优点缺点：模块性，清晰性，自然性，有效性 缺点：效率不高，不能表示具有结构关系的知识 3.什么是产生式系统，它是由什么组成的 把一组产生式放在一起，使其相互作用，协同合作，其中一个产生式得出的结论可供另一个产生式作为已知事实使用，从而得出问题的解，这样的系统叫做产生式系统。产生式系统由：规则库，推理机，综合数据库。 4.产生式表示法适合表示的知识： 由许多相对独立的知识元组成的领域知识，且相互之间联系不密切，不存在结构关系，如化学反应 具
机器学习线性模型（对率回归，十折交叉，线性判别）
09-23
机器学习线性模型 机器学习线性模型是机器学习领域中的一种重要模型，旨在解决回归问题和分类问题。线性模型的概念包括线性回归、对数几率回归、线性判别分析和多分类学习等。 3.1 线性模型概念 线性模型是指模型...
机器学习（周志华）第三章习题3.10的理解
nilgnaw的博客
06-19 367
10.试推出多分类代价敏感学习(仅考虑基于类别的错误分类代价)使用“再缩放”能获得理论最优解的条件。 个人理解，题目的重点是能否获得最优解，以及获得最优解的条件。 能获得理论最优解的条件是其二阶导数>0。 再缩放之后，二分类情况下，预测为正例的可能性从y变为。 多分类情况下，y'变为，再带入估计函数。 在对ω和b进行估计的时候，需要看y对估计函数的二阶导数的值是否有影响，若有影响，则需进一步分析y和分类代价的取值范围（即条件），若无影响，y和分类代价值可能会对求解过程有影响。 同时，如书中
人工智能基础知识复习：机器学习
weixin_34221073的博客
04-16 272
机器学习的定义 　　顾名思义,机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技能,并识别现有知识的学问。 影响学习系统设计的要素 环境向系统提供的信息或者更具体地说是信息的质量 最重要因素知识库是影响学习系统设计的第二个因素 知识的表示有特征向量、一阶逻辑语句、...
人工智能考试复习题（自己背的）
热门推荐
PZ的博客
05-18 5万+
选择题： 人工智能的含义最早由一位科学家于1950年提出,并且同时提出一个机器智能的测试模型,请问这个科学家是：（图灵） 神经网络研究属于下列（连接主义）学派。 产生式系统的推理不包括（简单推理）。 下列不在人工智能系统知识包含的4个要素中（关系）。 要想让机器具有智能，必须让机器具有知识。因此在人工智能中有一个研究领域，主要眼球计算机如何自动获取知识和技能，实现自我完善，这门研究分支学...
机器学习【期末复习总结】——知识点和算法例题（详细整理）
Ax的博客
12-08 4万+
【电子科技大学、机器学习课程】（期末复习、知识点和算法例题、详细总结）
机器学习数学基础：学习线性代数，千万不要误入歧途！推荐一个正确学习路线
12-21 1514
机器学习数学基础：学习线性代数，千万不要误入歧途！推荐一个正确学习路线 序言 写完《机器学习深度研究：机器学习中的高等数学/微积分及Python实现》，觉得十分对不起读者，写的自己都不满意。 就像前篇所说，这种极度基础的知识是最难介绍的，我也在思考如何转变方式，把问题讲清楚。但是头条是不支持数学公式的，篇幅也受限。所以本篇文章，我想介绍一下自己的学习历程，看过不错的教材和视频推荐给大家。这样大家也能少走弯路，更全面的学到知识。 同时建议：贪多嚼不烂，求精不求多，我有自信，看过我推荐的这本书和视频，线性代数
CS229 机器学习课程复习材料-线性代数
Never say never
10-22 443
本文是斯坦福大学CS 229机器学习课程的基础材料，原始文件下载 原文作者：Zico Kolter，修改：Chuong Do， Tengyu Ma 翻译：黄海广 备注：请关注github的更新，线性代数和概率论已经更新完毕。 CS229 机器学习课程复习材料-线性代数 文章目录CS229 机器学习课程复习材料-线性代数线性代数复习和参考1. 基础概念和符号1.1 基本符号2.矩阵乘法2.1 向量-向量乘法2.2 矩阵-向量乘法2.3 矩阵-矩阵乘法3 运算和属性3.1 单位矩阵和对角矩阵3.2 转.
斯坦福吴恩达-深度学习和机器学习全套视频+课件！
最新发布
Alexquyun的专栏
06-24 521
这些课程专为已有一定基础（基本的编程知识，熟悉 Python、对机器学习有基本了 解），想要尝试进入人工智能领域的计算机专业人士准备。介绍显示：“深度学习是科技业 最热门的技能之一，本课程将帮你掌握深度学习。” 学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。
python3.10对应的dlib版本
03-07
Python 和 dlib 是两个在计算机视觉...这个版本的 dlib 可以让你在 Python 3.10 上利用其丰富的机器学习和图像处理功能，尤其在计算机视觉项目中。正确安装并使用 dlib，可以帮助开发者实现高效且精确的图像分析任务。
python3.10安装包
08-23
Python 3.10是Python编程语言的一个重要版本，它带来了许多新特性和改进，旨在提升开发者的效率和代码性能。这个安装包是为AMD64（也称为x86-64）架构设计的，这意味着它适用于大多数现代64位Windows系统。以下是...
poi-3.10完整包
07-26
8. **社区支持**：Apache POI有一个活跃的开发者社区，提供详细的文档、示例代码和用户论坛，便于开发者学习和解决问题。 9. **扩展性**：Apache POI允许用户自定义解析器和序列化器，以适应特定需求，比如加密文档...
NO.1 机器学习干货与代码参数详解
Captain_DUDU的博客
03-11 1521
模型的一些通用方法： lg = LinearRegression() lg.fit(X,y) lg.coef_ lg.intercept_ lg.predict(X_new) get_params([deep])：返回模型的参数。 deep： 如果为True，则可以返回模型参数的子对象。 set_params(**params)：设置模型的参数。 params：待设置的关键字参数。 ...
no.20 算法 模型 步骤
Captain_DUDU的博客
05-19 1090
建模分析的步骤 1 确定需求，提取数据 2 数据预处理（异常值，缺失值） 3 特征选择 4 对离散数据编码(哑变量，虚拟变量） 3 拆分训练集，测试集 4 选择并训练模型(多个备选模型) 5 模型评估 6 保存模型 7 投入生产 数据预处理 1 异常值 离散型(定性): value_counts(),unique() 方法： 改为缺失 连续型(定量): 箱型图原则(1.5IQR),3西格玛（3倍标准差） 方法：改为缺失，盖帽法 2 缺失值 1. 小于15%可以补充 2. 15% `5
机器学习cv
Captain_DUDU的博客
02-18 1089
1 定义，二阶导确定二阶函数 保凸 2 逐个点最大值保凸 证明 3 凸优化 复杂矩阵，鞍点好多 方法：多次初始化随机点 4过拟合（面试问题） 原因：训练和测试不是同一个分布 怎么解决：？ 认识:吴恩达 中间最好 代码演示 6预处理 1,1空 1.2 6： 代码 01：学习曲线 02 结果展...
2.21逻辑回归损失函数 误差度量
Captain_DUDU的博客
02-21 967
上面代表单条特征，下面代表多条特征的损失函数 2.误差度量： 准确率：=TP+Tn/（TP+FP+FN+TN） 查准率/精确率=TP/(TP+FP) 举例：抓小偷，务必提高精确率，预测准确，让好人少进来 查全率/召回率=TP/(TP+FN)举例：FN是假阴性：新冠病人用的这个 灵敏度 TPR roc 曲线 X:fpr Y:TPR 围成面积：auc 1.导包2. 拟合数据3....
No.1.6决策树 id3 /c4.5 / cart 优缺点
Captain_DUDU的博客
03-25 865
1决策树基于信息增益，信息熵 3 个算法 id3算法缺点： c4.5 / cart
2.25基尼系数
Captain_DUDU的博客
02-25 728
基尼系数代表不确定性，不确定越多，基尼系数越大 rf gbd svn bagging boosting xgboost 由内往外代入公式 连续型数据的拟合回归树 集成学习 bagging原理 多个策略不同的弱学习器 结果展现出答案为得到的最多值 rf优点 ...
Python3.10
12-10
Python 3.10是Python编程语言的最新版本，于2021年10月4日发布。它包含了许多新的功能和改进，例如结构模式匹配、更好的错误消息、更好的类型提示等等。如果您想安装Python 3.10，请按照以下步骤操作： 1.进入...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Captain_Data

打赏一下~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值