李宏毅机器学习（1.深度学习）

已于 2022-10-29 10:43:18 修改
阅读量108 收藏
点赞数
分类专栏： 机器学习 文章标签： 深度学习
于 2022-10-28 20:06:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43509450/article/details/127565336
版权

机器学习

Deep Learning

Linear Model

Linear Model
y=b+wx。现实情况比LInear Model复杂得多，可能会出现曲线，如下图所示。

Piecewise Linear Model

piecewise linear
红色曲线可通过1、2、3三条蓝色曲线叠加而成
red curve = constant + sum of a set of blue curve
在这里插入图片描述

在这里插入图片描述
无论多么复杂的曲线都可以用多个折点的曲线逼近

激活函数Sigmoid

Signmoid Function

θ是公式中出现的需要自己定义的参数，通过梯度下降的方法不断更新参数

激活函数Rectified Linear Unit(ReLU)

在这里插入图片描述
Sigmoid相当于两个ReLU做叠加。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
还需考虑到过拟合的情况（过拟合：训练数据表现好，测试数据表现不好）

我妻善逸丶
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
matlab源码已知球半径是2-piecewiseLinearModel:这是我们系统分段线性模型开发的日志
05-19
matlab原始已知球骨架是2 piecewiseLinearModel 这是我们系统分段线性模型开发的日志 固定在顶部 一天的事情 将所有标志放在一个位置并对其进行优化 我们是否应该以低刷新率检查一些仿真（在真实硬件上运行并报告时间） 图形位置和图形标题 证明参考 垃圾堆里的东西 执行 修改userHandInit.m以隔离无手情况 统一XY工作台（合并OL和DMIMO） DMIMO的冲突检测 关闭DMIMO的重力 使用OL进行更全面的扫掠以确保墙的稳定刚度 重写userHandInit.m 用区域而不是线（死区/死区）进行碰撞检测这在一定程度上得以实施。 （20191119） 做所有保存文件和图形的文档 重写保存脚本，以便仅保存某些内容，而不是模拟后保存所有内容 额外检查 将配置也移到顶部 检查一组（20批）模拟的干扰水平的分布 未来的陷阱 在任务空间而不是联合空间中做所有事情 在不同的方向上有不同的约束 区分关节扭矩和电机扭矩（齿轮比建模） 增加箱子的尺寸（更复杂的墙壁） 20210112 出于怀疑，我以更长的初始化延迟重新生成了所有QT。 minStiff图类似于新的traj图
machine learning to deep learning
weixin_45743760的博客
11-21 682
machine learning 基本概念二 接上 linear models are too simple…we need more sophisticated models. Model Bias:来自model的限制，模型偏差 一、function with unknown 1.线性——>红色折线如何表示 all piecewise linear curves（分段线性曲线） =constant +sum of a set of blue curve. More pieces requ
李宏毅深度学习课件.rar
12-02
李宏毅教授是国际知名的机器学习专家，他在深度学习领域的教学经验丰富，其课程深受广大学习者喜爱。本压缩包“李宏毅深度学习课件.rar”包含了李宏毅老师深度学习课程的完整资料，旨在帮助学习者系统地理解和掌握...
使用VAE生成宝可梦，李宏毅机器学习。.zip
04-17
机器学习是一种人工智能（AI）的子领域，致力于研究如何利用数据和算法让计算机系统具备学习能力，从而能够自动地完成特定任务或者改进自身性能。机器学习的核心思想是让计算机系统通过学习数据中的模式和规律来实现...
李宏毅机器学习HW5.zip
04-08
进入21世纪，深度学习成为机器学习领域的重要突破，采用多层神经网络模型，通过大量数据和强大的计算能力来训练模型，在计算机视觉、自然语言处理和语音识别等领域取得了显著的成果。 机器学习算法在各个领域都有...
李宏毅机器学习hw4.zip
04-08
进入21世纪，深度学习成为机器学习领域的重要突破，采用多层神经网络模型，通过大量数据和强大的计算能力来训练模型，在计算机视觉、自然语言处理和语音识别等领域取得了显著的成果。 机器学习算法在各个领域都有...
【人工智能基础一】：深度学习基础
hiliang521的博客
07-30 938
【人工智能】基础三：深度学习概述、人工神经网络基础
【深度学习】【框架】【基本结构】激活函数
andeyeluguo的博客
08-03 43
优点： 它既有 ReLU（Rectified Linear Unit）激活函数的一些优点（例如，能够缓解梯度消失问题），又能解决 ReLU 函数的一些缺点（例如，ReLU 函数不是零中心的，且在负数部分的梯度为零）。此外，Swish 函数还是平滑函数，这意味着它在整个定义域内都有导数，这有利于优化。函数：f(x) = x * sigmoid(x)
在深度学习中，什么是张量
weixin_51087794的博客
08-03 387
在图像处理中，一个彩色图像可以表示为一个三维张量，维度分别是高度、宽度和颜色通道（红色、绿色、蓝色），如 ( (高度 \times 宽度 \times 3) )。在深度学习框架（如 TensorFlow 和 PyTorch）中，张量是基本的数据结构，框架中的许多操作（如矩阵乘法、求和等）都是以张量为输入和输出的。在深度学习和数值计算中，张量（tensor）是一个多维数组的数学对象，用于表示数据。：神经网络的输出通常也是张量，例如分类问题的输出可以是一个一维张量，其中每个元素代表一个类别的预测概率。
基于深度学习的联邦学习
weixin_42605076的博客
08-03 312
基于深度学习的联邦学习（Federated Learning, FL）是一种分布式机器学习方法，允许多个参与者（如设备或组织）在不共享原始数据的情况下共同训练模型。它通过在本地设备上训练模型，并仅共享模型更新（如梯度或参数），保护数据隐私和安全。
深度学习（1）--机器学习、人工智能、深度学习的关系
qiaoxinyu1989的博客
08-03 322
（1）传统软件传统软件是「if-then」的基本逻辑，人类通过自己的经验总结出一些有效的规则，然后让计算机自动的运行这些规则。传统软件永远不可能超越人类的知识边界，因为所有规则都是人类制定的。简单的说：传统软件是「基于规则」的，需要人为的设定条件，并且告诉计算机符合这个条件后该做什么。图2 传统软件的逻辑这种逻辑在处理一些简单问题时非常好用，因为规则明确，结果都是可预期的，程序员就是软件的上帝。
计算机的错误计算（五十）
zaim1的博客
08-03 352
扩展了《计算机的错误计算（四十九）》中的代码。同时发现，误差也“扩展”了。
对于深度学习中训练模型的体会
最新发布
普通人能赶追天才的方法只有坚持
08-03 395
1、数据预处理：包括数据清洗、划分数据集 、数据增强等2、定义模型3、定义损失函数和优化器4、配置超参数5、开始训练，观察训练损失和验证损失6、根据训练结果重新调整超参数或者网络直到模型性能满意。
深度学习常见的卷积和注意力机制文章集锦（持续更新）
m0_49586319的博客
07-29 162
深度学习的一些友好文章链接
【PyTorch】神经风格迁移项目
Frost_Descent的博客
08-03 251
定义函数，获取模型中指定层的特征# 创建一个空字典，用于存储特征# 遍历模型的所有子层# 将输入数据传入子层，得到输出数据# 如果子层的名称在指定的层列表中# 将输出数据存储到字典中，键为子层的名称# 返回字典# 定义函数，于计算gram矩阵# 获取输入张量的维度# 将输入张量展平# 计算gram矩阵# 定义函数，获取内容损失# 获取目标特征# 获取预测特征# 计算均方误差损失# 定义函数，获取风格损失# 初始化损失为0loss = 0。
【人工智能基础三】卷积神经网络基础（CNN）
hiliang521的博客
08-03 717
卷积神经网络
简单的基于LSTM的黄金价格预测（Python）
weixin_39402231的博客
08-03 96
简单的基于LSTM的黄金价格预测（Python）
深度学习之参数初始化问题
weixin_47020721的博客
08-03 693
如果输入不止3个，而是n个输入，y的离散程度将会被进一步放大，当不使用任何激活函数的时候，放大的y值将被累积在反向传播的过程里，这将造成梯度爆炸，如果使用tanh作为激活函数，也有可能因为y的值过大或者过小得到一个非常小或者非常大的梯度，造成梯度爆炸和梯度消失。当参数都初始化为0，两个神经元的梯度一样，初始值一样，最后会导致训练过程中的变化也一样，无法学习更复杂的特征，这种情况称为对称现象。2、方差的线性性质：对于两个随机变量X和Y，如果它们是独立的，那么Var(X+Y) = Var(X) +Var(Y)
评价指标--深度学习
dezwb的博客
08-03 414
TP：预测为真所以是Positive，预测结果和真实结果一致所以为TrueTN：预测为假所以是Negative，预测结果和真实结果一致所以为TrueFP：预测为真所以是Positive，预测结果和真实结果不一致所以为FalseFN：预测为假所以是Negative，预测结果和真实结果不一致所以为False。
李宏毅解析：机器学习入门与深度学习区别
李宏毅推荐对于想要深入了解机器学习的人来说，除了这篇文章作为入门资源外，还可以参考经典的《机器学习》（Machine Learning, by Tom Mitchell）和《深度学习》（Deep Learning, by Ian Goodfellow, Yoshua Bengio...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值