李航《统计学习方法》第2版 第6章课后习题答案

最新推荐文章于 2024-10-24 21:29:05 发布
最新推荐文章于 2024-10-24 21:29:05 发布
阅读量5.3k 收藏 44
点赞数 7
分类专栏： 李航统计学习课后解答 文章标签： 机器学习 统计学
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43646592/article/details/109754894
版权
本文详细解答了李航《统计学习方法》第6章的习题6.1至6.3，涉及逻辑斯蒂分布的指数族属性、逻辑斯蒂回归的梯度下降算法以及最大熵模型的DFP算法。同时，介绍了使用Python实现逻辑斯蒂回归的梯度下降法，包括随机梯度下降和批量梯度下降，并提供了MNIST数据集分类的实践参考链接。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

习题6.1

题目：确认逻辑斯谛分布属于指数分布族.
在这里插入图片描述

习题6.2

题目：写出逻辑斯谛回归模型学习的梯度下降算法.
在这里插入图片描述

习题6.3

题目：写出最大熵模型学习的DFP算法.（关于一般的DFP算法参见附录B）
解：这个DFP算法可参考书本附录B

对于习题6.2的逻辑斯蒂回归算法，这里用python自编程实现（学习算法采用梯度下降法）

梯度下降法：

了解本专栏 订阅专栏 解锁全文 超级会员免费看
李航《统计学习方法》第2版 第6章 编程实现逻辑斯谛回归（梯度下降算法）调用sklearn模块实现逻辑斯谛回归（梯度下降算法，牛顿、拟牛顿算法）
weixin_43646592的博客
11-17 576
参考里面的习题6.2的代码就是了： 李航《统计学习方法》第2版 第6章课后习题答案
李航《统计学习方法》第2版 第9章课后习题答案
weixin_43646592的博客
12-23 4067
习题9.1 习题9.2 习题9.3 2个分模型，5个参数μ0，σ0，μ1，σ1，（a0,a1） 代码实现： import numpy as np import itertools import matplotlib.pyplot as plt import time class MyEM(): def __init__(self, y, args, tol=0.001, K=2, max_iter=50): self.y = y self.r = None #分模型k对观测数据.
李航《统计学习方法》——第六章逻辑回归和最大熵模型笔记及理解+习题
李滚滚的博客
01-04 4894
习题 6.1确认逻辑斯蒂分布属于指数族分布 指数族分布,满足一下形式P(y;η)=b(y)exp(ηTT(y)−a(η))P(y;\eta) = b(y)exp(\eta^TT(y)-a(\eta))P(y;η)=b(y)exp(ηTT(y)−a(η))η被称为分布的自然参数（也称为规范参数） T(y)是充分统计量（通常情况下有T(y)=y） a(η)被称为对数划分函数。这一项本质上是起到了正则化...
李航老师《统计学习方法》第二版第六章答案
qq_41626059的博客
04-19 2447
1、确认逻辑斯谛分布属于指数分布族。 证明： 逻辑斯谛分布的概率密度函数是： f(x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2(1)f(x) = \frac{e^{-(x-\mu )/\gamma } }{\gamma (1+e^{-(x-\mu )/\gamma})^{2} } \tag{1}f(x)=γ(1+e−(x−μ)/γ)2e−(x−μ)/γ​(1) 而指数族分布是指概率密度函数可以表示为下面的形式： p(x)=h(x)eθTT(x)−A(θ)(2)p(x) = h(x)e^{\thet
统计学习方法 第六章习题答案
qq_41562704的博客
06-04 4439
习题6.1 题目：确认逻辑斯谛分布属于指数分布族. 答： 习题6.2 题目：写出逻辑斯谛回归模型学习的梯度下降算法. 习题6.3 题目：写出最大熵模型学习的DFP算法.（关于一般的DFP算法参见附录B） 参考 指数分布族 ...
读书笔记-统计学习方法（李航） 第六章
weixin_42681868的博客
05-07 1096
第六章 逻辑回归和最大熵模型6.1 逻辑斯蒂回归模型6.2 最大熵模型6.3 模型学习的最优化算法实战： 6.1 逻辑斯蒂回归模型 二项逻辑斯蒂回归模型: 极大似然估计： 多分类： 6.2 最大熵模型 最大熵原理是在满足约束条件的集合中选择熵最大的模型。 最大熵模型： 求解最大熵模型的过程就是求一个有约束的最优化问题。可以通过引进拉格朗日乘子构建拉格朗日函数，再通过求对偶问题的方式得到原...
李航 统计学习方法 第五章 决策树 课后 习题 答案
热门推荐
fxnfk
07-24 4万+
决策树是一种基本的分类和回归方法。决策树呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间和类空间上的条件概率分布。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决策树模型进行分类。决策树学习通常包括三个步骤：特征选择、决策树的生成和决策树的剪枝。（ID3、C4.5、CART）
李航《统计学习方法》第2版 第2章课后习题答案
weixin_43646592的博客
11-09 6151
习题2.1 题目：Minsky与Papert指出：感知机因为是线性模型，所以不能表示复杂的函数，如异或（XOR），验证感知机为什么不能表示异或。 习题2.2 题目：模仿例题2.1，构建从训练数据集求解感知机模型的例子。 解：这里用python代码分别实现一下感知机学习算法的原始形式与对偶形式 原始形式： """ 感知机(原始形式)：实现书本P40页 例题2.1 """ import numpy as np import matplotlib.pyplot as plt class MyPerceptr
李航老师《统计学习方法》第三章：课后习题3.1-3.3,python代码实现
最新发布
yuzixuan233的博客
10-24 187
3.2: 利用例题3.2构造的kd树求x的最近邻点。习题3.1：画出k不同时的k近邻法划分的空间。3.3: k近邻版本的kd树。
《统计学习方法》第10章习题答案
时间的玫瑰的博客
12-11 2253
10.2 参考：李航统计学习方法第二版第十章习题解答 α1(1)=π1b1(o1)=0.2×0.5=0.1\alpha_1(1) = \pi_1 b_1(o_1) = 0.2 \times 0.5 = 0.1α1​(1)=π1​b1​(o1​)=0.2×0.5=0.1 α1(2)=π2b2(o1)=0.3×0.4=0.12\alpha_1(2) = \pi_2 b_2(o_1) = 0.3 \times 0.4 = 0.12α1​(2)=π2​b2​(o1​)=0.3×0.4=0.12 α1(3)=π3b3
《统计学习方法》学习方法（第六章）
Hhhhuply的博客
04-03 433
逻辑斯蒂回归 源代码：https://github.com/fengdu78/lihang-code/blob/master/code/第6章 逻辑斯谛回归(LogisticRegression)/LR.ipynb LR是经典的分类方法 sigmoid函数f(x)=11+e−xf(x) = \frac{1}{1+e^{-x}}f(x)=1+e−x1​ 线性回归wx=w0∗x0+w1∗x1+w2∗x...
《统计学习方法》第六章
hongyesuifeng的博客
03-24 748
统计学习方法笔记与习题解答(Chapter6)(一)
老肥码码码
05-25 764
文章目录逻辑斯谛回归与最大熵模型逻辑斯谛回归模型逻辑斯谛分布二项逻辑斯谛回归模型模型参数估计多项逻辑斯谛回归最大熵模型联合熵条件熵互信息信息增益相对熵 (KL 散度)最大熵模型的学习 逻辑斯谛回归与最大熵模型 logistic regression是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，推广到分类问题得到最大熵模型(maxium entropy model) 这两种模型都属于...
【转】李航-统计学习方法课后习题答案
fanwu72的专栏
03-23 1244
第一章https://blog.csdn.net/familyshizhouna/article/details/70160782 第二章 2.1-2.2https://blog.csdn.net/cracker180/article/details/78778305 2.3https://blog.csdn.net/xiaoxiao_wen/article/details/54097835 感知机，线性可分和线性不可分的相关讨论，https://blog.csdn.net/taoyanqi8932...
李航统计学习方法课后习题答案总结
Enola_li的博客
06-14 4713
写在前面：在做作业的时候纯属为了方便整理的，如有侵权，联系删除 第一章 https://blog.csdn.net/familyshizhouna/article/details/70160782 第二章 2.1-2.2 https://blog.csdn.net/cracker180/article/details/78778305 2.3 https://blog.csdn.net/xiaoxiao_wen/article/details/54097835 感知机，线性可分和线性不可分的相关讨论，htt
统计学习方法 第6章 习题
qq_26954059的博客
04-14 1267
6.1确认逻辑斯蒂分布属于指数分布族：确认 6.2逻辑斯蒂回归模型的梯度下降法 # -*- coding: utf-8 -*- import numpy as np import matplotlib.pyplot as plt class Logistic(): def __init__(self,X,Y): self.X = np....
李航老师统计学习方法答案汇总
qq_41626059的博客
05-15 1万+
由于博主本人还没把这本书的算法学完，所以答案还在持续更新中… 第一章 第二章 第三章 第四章 第五章 第六章 第七章 第八章 第九章 第十章 第十一章 第十四章 第二十一章
《统计学习方法》各章节课后习题参考解答
随笔
02-02 2171
文章目录第二章 感知机第三章 k近邻法 第二章 感知机 第三章 k近邻法
李航 统计学习方法 第二版 课后习题答案 机器学习
weixin_43646592的博客
01-09 2091
李航 统计学习方法 第二版 课后习题答案 机器学习
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

#苦行僧

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值