Datawhale X 李宏毅苹果书 AI夏令营--＞task2

最新推荐文章于 2024-08-28 20:18:30 发布
最新推荐文章于 2024-08-28 20:18:30 发布
阅读量29 收藏
点赞数
文章标签： 人工智能 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2402_86285986/article/details/141644004
版权

主要介绍了在拟合非线性模型时常用的方法。

一般的线形模型在拟合现实生活中的情况是作用很有限，如果方程是一个曲线，我们通常将它切割成尽可能多的小曲线去分段拟合

每一段小曲线的拟合通常可用hard sigmoid函数去代替，hard sigmoid函数是分段的，整体形势为平坦——斜坡——平坦。我们通常用sigmoid或者ReLU函数去拟合

sigmiod函数是sigmoid\left ( x;w,b \right )=\frac{1}{1+e^{-(wx+b)}}

ReLU(Recified Linear Unit)函数是ReLU(x;w,b)=max(0,wx+b)

其中w,b是未知参数，需要我们去迭代计算。

在实际操作中，一般通过神经元构成的单层网络去同时迭代计算每一段函数的参数。

多层神经网络可用于回归拟合更复杂的函数，通过将前一层的输出值作为后一层的输入值，但同时过多的隐藏层也可能带来overfitting的问题，最好通过预测集与训练集的loss变换来选择合适的层数

Oathkeeper488
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Datawhale X 李宏毅苹果书 AI夏令营：TASK2+CNN实践, pytorch，数据增强，可视化
08-26
Datawhale X 李宏毅苹果书 AI夏令营：TASK2+CNN实践, pytorch，数据增强，可视化
Datawhale X 李宏毅苹果书 AI夏令营：《深度学习详解》
08-24
Datawhale X 李宏毅苹果书 AI夏令营：《深度学习详解》
Datawhale X 李宏毅苹果书 AI夏令营task1笔记
scipig_的博客
08-22 849
本章主要介绍深度学习常见的一些概念，方便我们从不同的角度来更好地优化神经网络。
Datawhale X 李宏毅苹果书 AI夏令营 ------Task01
m0_74107353的博客
08-27 101
还有好多的任务需要找一个很复杂的函数，以图像识别为例，图像识别函数的输入是一张图片，输出是这个图片里面的内容。找一个 w 跟 b，把未知的参数找一个数值出来，看代哪一个数值进去可以让损失 L 的值最小，就是要找的 w 跟 b，这个可以让损失最小的 w 跟 b 称为 w∗ 跟 b∗ 代表它们是最好的一组 w 跟 b，可以让损失的值最小。这个函数的输入是模型里面的参数，模型是 y = b + w ∗ x1，而 b 跟 w 是未知的，损失是函数 L(b, w)，其输入是模型参数 b 跟w。
Datawhale X 李宏毅苹果书 AI夏令营-- 学习笔记task 1
Jasperpen的博客
08-25 100
无监督学习则是处理无标注的数据，挖掘数据中的隐藏模式。最后，通过测试数据对模型进行评估，确保其具有良好的准确性和泛化能力，模型最终会被部署到实际应用场景中，用于提供预测服务。比如，使用机器学习进行图片分类时，常常通过监督学习来训练模型，使其能够识别并区分不同类别的图像。数据量和数据质量是影响模型表现的重要因素，尤其是当数据中存在噪声或者偏差时，会导致模型性能下降。过拟合和欠拟合问题也是模型开发中的常见难题，过拟合意味着模型在训练数据上表现出色但无法泛化到新数据，而欠拟合则是模型无法捕捉到数据的规律。
Datawhale X 李宏毅苹果书 AI夏令营-深度学习入门班-task2
m0_73202283的博客
08-25 165
过拟合是指在训练数据上效果好，测试数据上效果差，对训练数据太拟合太贴切；欠拟合则相反，往往是模型太简单或者训练轮次不够。说到激活函数，最主要的作用是引入非线性，特别是在深度学习中，如果没有激活函数，多层神经网络始终可以用两层来代替。额，不知道为什么要在这里这样引入sigmoid函数，有点怪怪的，但确实用无限多的分段函数就能拟合很多曲线。一开始假设的模型是y=b+w1，但在可视化预测值和真实值后，发现数据具有规律性，因此换成7天。所以这里的意思是引入多变量去更好的拟合问题所需的模型？
Datawhale 5 李宏毅苹果书 AI夏令营.pdf
08-26
Datawhale 5 李宏毅苹果书 AI夏令营.pdf
Datawhale X 李宏毅苹果书 全书
08-26
Datawhale X 李宏毅苹果书 全书
【小迪安全笔记V2022】信息打6~8
2202_75354817的博客
08-25 2339
小迪安全学习笔记
python 实现convolution neural network卷积神经网络算法
luthane的博客
08-26 6284
卷积神经网络（Convolutional Neural Networks, CNN）是一种包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks, FNN），是深度学习的代表算法之一。基本原理CNN的核心思想是通过模拟人类视觉系统的工作方式，自动提取图像中的特征，并将其用于分类、检测、分割等任务。它主要受到了生物学上感知机制的启发，模拟了人类视觉系统中的感知细胞和复杂细胞的工作方式。
透明性和解释性AI：概念与应用
weixin_49007164的博客
08-25 1896
透明性AI指的是AI系统的操作过程、决策机制、数据流动和模型行为是可理解和可追踪的。换句话说，透明性AI使得人们可以清楚地看到AI系统是如何做出决策的，这一过程包括输入数据的处理方式、模型的内部计算过程、以及最终决策的产生机制。解释性AI是指AI系统不仅能够给出决策结果，还能够提供关于该决策如何产生的解释。解释性AI的目标是帮助用户理解AI的行为，尤其是当AI的决策与预期不符时，提供合理的解释来消除用户的疑虑。
【python计算机视觉编程——1.基本的图像操作和处理】
m0_53694086的博客
08-26 5635
参数sigma为标准差（σ），是高斯滤波器的一个重要参数，它控制滤波器的平滑程度。标准差越大，高斯函数的曲线越宽，滤波器的影响范围就越大。标准差较大: 高斯滤波器会在更大范围内进行平滑，使得图像变得更加模糊，细节和边缘特征会被更强地平滑掉。标准差较小: 高斯滤波器会产生较小范围的平滑效果，图像的细节保留更多。还可以给定转换矩阵，将RGB图像转换为CIE XYZ色彩空间。图像像素值被分成128个区间，用于计算每个区间的像素值频率。可以返回目录中所有jpg图像的列表。
【自由能文章系列（简单难度）】【开篇论文】自由能原理在多个领域的统一视角
神经美学_茂森的博客
08-27 863
自由能原理作为一个统一的理论框架，成功地将多个看似不相关的领域（如神经科学、物理学、经济学、信息论、控制论、认知科学和生物学进化）联系在一起。通过自由能原理，我们可以更深刻地理解不同系统如何在给定条件下实现最优行为或状态。#自由能原理 #跨领域统一框架 #优化逻辑 #参数调节 #贝叶斯大脑 #预测编码 #最优控制 #注意力机制 #自然选择 #机器学习。：自由能原理、跨领域统一框架、优化逻辑、参数调节、贝叶斯大脑、预测编码、最优控制、注意力机制、自然选择、机器学习。
论大模型在金融行业的应用场景
m0_53773302的博客
08-25 1083
需要指出的是，虽然上面这些场景都是大家能够最先想到的，但真正要做的很好，也不是那么容易，必须结合优质的技术架构与工具设计，模型优化，数据准备与处理，以及反复的尝试与试错，同时也不可避免的需要对所在行业与场景知识的专业性通过实操深入理解。但如果想到达到90%以上的准确率，那就必须结合专业细致的行业数据、话术抽象、切分，上下文学习/RAG使用，知识图谱的构造，人类反馈的常态化，模型的选择，模型微调中参数调优、数据质量与混合比例的调优、减少遗忘的策略设计，甚至模型结构的创新改造设计等手段综合起来，才可以达到。
python实现循环神经网络
weixin_45570158的博客
08-25 174
为了提供一个基础的循环神经网络（RNN）示例，我们可以使用TensorFlow和Keras，这是构建和训练神经网络常用的两个库。以下是一个简单的RNN实现，用于处理序列数据（如时间序列数据或文本数据）。在这个例子中，我们将使用一个简化的任务：模拟字符级别的文本生成。
均值漂移算法原理及Python实践
u013571432的博客
08-25 1158
均值漂移算法（Mean Shift Algorithm）是一种基于密度的非参数聚类算法，其原理主要基于核密度估计和梯度上升方法。
MobileStyleGAN:一种用于高保真图像合成的轻量级卷积神经网络
qq_50465499的博客
08-28 496
MobileStyleGAN:一种用于高保真图像合成的轻量级卷积神经网络
杭州城市开发者社区活动：《聚力AI，共创共荣》第二期线下AI论坛活动等你来！
最新发布
鄙人kunzhi96，感恩遇见！
08-28 713
由中也AI共荣社主办，COC杭州城市开发者社区等多家协办的《聚力AI，共创共荣》AI论坛活动来袭！ 活动围绕AI技术的创新应用，以及在实际应用落地的场景为主题展开，聚力AI，共同探讨。有机会与行业大咖进行面对面交流分享和学习交流，有料有趣的探索之旅，你值得拥有。
李宏毅机器学习HW5-Transformer数据
08-11
李宏毅的机器学习课程中提到的HW5（作业5），可能涉及到Transformer模型在自然语言处理任务中的应用。Transformer是一种基于自注意力机制的深度学习模型，最初由Google在2017年提出的BERT（Bidirectional Encoder Representations from Transformers）就是其变种之一。 在HW5的数据部分，学生可能会接触到如何加载和预处理Transformer需要的文本数据，比如常见的英文文本数据集如IMDB电影评论、Twitter情感分析数据，或者是更专业的如WMT机器翻译任务的数据集。他们需要对数据进行分词（Tokenization）、编码（如使用WordPiece或SentencePiece）、填充零（Padding）、切分成训练、验证和测试集等步骤。 此外，可能还会涉及如何配置Transformer模型的结构参数（如头的数量、隐藏层的大小等）、调整优化器和学习率策略，并通过训练过程监控指标如 perplexity 或 BLEU分数来评估模型性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值