- 博客(19)
- 收藏
- 关注
RSS订阅原创 Transformer--认识架构
在接下来的架构分析中, 我们将假设使用Transformer模型架构处理从一种语言文本到另一种语言文本的翻译工作, 因此很多命名方式遵循NLP中的规则. 比如: Embeddding层将称作文本嵌入层, Embedding层产生的张量称为词嵌入张量, 它的最后一维将称作词向量等。而在BERT中发挥重要作用的结构就是Transformer, 之后又相继出现XLNET，roBERT等模型击败了BERT，但是他们的核心没有变，仍然是：Transformer。
2024-07-25 17:51:29
504
7
原创 易编橙·终身成长社群--你不是一个人！
同时，我也期待更多对技术、职业发展及IT、互联网行业感兴趣的朋友加入我们，一起在这个充满机遇与挑战的时代中，探索技术的无限可能，成就更好的自己。超越竞争者，抢占先机）该专栏精选了40个经典的实战案例，覆盖 PC、移动端，涉及 电商、教育等多领域，手敲每行代码，带大家吃透前端基础技术，奠定前端领域的职业发展基石。，不过你并不是一个人，如果你对编程或者说计算机类的技术感兴趣，那么这里可以帮你更好的认清自己，找到属于自己的。，排名不分先后，但遵循着一定的策略，从低到高、从易而难，从初级到进阶，从基础到实战，
2024-07-24 11:14:00
843
2
原创 GRU模型
更新门重置门Bi-GRU与Bi-LSTM的逻辑相同, 都是不改变其内部结构, 而是将模型应用两次且方向不同, 再将两次得到的LSTM结果进行拼接作为最终输出. 具体参见上小节中的Bi-LSTM.
2024-07-21 09:47:56
707
14
原创 LSTM模型
🏷️在介绍LSTM模型之前，我们再次见一下CNN是什么？many-to-one: MNIST（glimpse输入）字符分类many-to-many: 机器翻译🏷️接下来我们先简单介绍传统的RNN模型，了解其优缺点根据反向传播算法和链式法则, 梯度的计算可以简化为以下公式。
2024-07-20 10:22:02
807
9
原创 认识RNN模型
RNN(Recurrent Neural Network), 中文称作循环神经网络, 它一般以序列数据为输入, 通过网络内部的结构设计有效捕捉序列之间的关系特征, 一般也是以序列形式进行输出.RNN单层网络结构:以时间步对RNN进行展开后的单层网络结构:RNN的循环机制使模型隐层上一时间步产生的结果, 能够作为当下时间步输入的一部分(当下时间步的输入除了正常的输入外还包括上一步的隐层输出)对当下时间步的输出产生影响.
2024-07-18 21:04:07
945
16
原创 XGboost
XGBoost（Extreme Gradient Boosting）是对梯度提升树的改进，并且在损失函数中加入了正则化项。目标函数的第一项表示整个强学习器的损失，第二部分表示强学习器中 K 个弱学习器的复杂度。γT 中的 T 表示一棵树的叶子结点数量，γ 是对该项的调节系数λ||w||2 中的 w 表示叶子结点输出值组成的向量，λ 是对该项的调节系数。
2024-07-17 19:54:02
1127
6
原创 C4.5决策树及CART决策树
Cart模型是一种决策树模型，它即可以用于分类，也可以用于回归，其学习算法分为下面两步：（1）决策树生成：用训练数据生成决策树，生成树尽可能大（2）决策树剪枝：基于损失函数最小化的剪枝，用验证数据对生成的数据进行剪枝。分类和回归树模型采用不同的最优化策略。Cart回归树使用平方误差最小化策略，Cart分类生成树采用的基尼指数最小化策略。Scikit-learn中有两类决策树，他们均采用优化的Cart决策树算法。
2024-04-23 14:55:08
855
16
原创 ID决策树的构造原理
有的同学可能在大学学习过一门课程叫《数据结构》，里面有一个重要的结构就是“树”，和现实生活中的树一样，树的主要由四部分树根树干树枝树叶组成，今天的决策树也是一种树结构，大家学习的时候可以想象现实生活中的树来来理解。决策树算法是一种监督学习算法，英文是Decision tree。决策树思想的来源非常朴素，试想每个人的大脑都有类似于if-else这样的逻辑判断，这其中的if表示的是条件，if之后的then就是一种选择或决策。
2024-04-22 19:56:43
1012
6
原创 分类的评估指标及不平衡数据的处理
'''y_true：真实目标值y_pred：估计器预测目标值labels:指定类别对应的数字target_names：目标类别名称return：每个类别精确率与召回率'''
2024-04-19 09:42:31
1200
10
原创 逻辑回归介绍
逻辑回归可以用于解决常见的分类问题，也是解决分类中常用的一种算法。在本章我们主要学习逻辑回归的应用场景了解逻辑回归的原理，掌握逻辑回归的损失函数和优化方案，最后，在介绍完分类评估指标后，我们应用逻辑回归模型实现案例。
2024-04-17 14:59:00
678
8
原创 梯度下降法及回归问题评估
首先，我们有一个可微分的函数。这个函数就代表着一座山。我们的目标就是找到这个函数的最小值，也就是山底。最快的下山的方式就是找到当前位置最陡峭的方向，然后沿着此方向向下走，对应到函数中，就是找到给定点的梯度，然后朝着梯度相反的方向，就能让函数值下降的最快！因为梯度的方向就是函数值变化最快的方向。所以，我们重复利用这个方法，反复求取梯度，最后就能到达局部的最小值，这就类似于我们下山的过程✏️这里介绍四种梯度下降算法，不做其他要求，了解即可。
2024-04-15 15:12:00
915
3
原创 WEB前端期末实训大作业---我的家乡
该网页从宣传自己的家乡出发，设计到家乡的旅游观光，生态环保，现代农业，人文精神，总共设计了五个页面，主要使用的布局房市flex布局，运用最基本的HTML内容。
2024-01-04 12:13:46
670
6
原创 数据结构算法--1 冒泡排序，选择排序，插入排序
思想就是将相邻元素两两比较，当一个元素大于右侧相邻元素时，交换他们的位置，小于右侧元素时，位置不变，最终序列中的最大元素，像气泡一样，到了最右侧。这时第一轮结束，数列最右侧元素9的位置可认为是一个有序区，有序区目前有一个元素.第二轮排序结束后，数列右侧的有序区有了两个元素.由于该每一轮都要遍历所有元素，平均时间复杂度为O(n*n)
2023-12-27 19:34:36
515
7
原创 Linux用户和权限
普通用户使用sudo 的前提: 需要在root用户下 修改sudoers 文件, 将普通用户添加到这个文件中,普通用户才可以使用sudo。DNS服务器的作用就是做域名解析, 会把url → ip, 使用这个ip做后续的访问, 如果域名没有对应IP就会返回网址不存在。访问网络的服务(浏览器, 其它程序) 会先使用这个URL 查询本机的hosts 文件。两个不同的程序如果都默认使用了相同的端口, 后启动的程序在启动的时候可能会报错。chown 用户: 用户组 文件名 同时修改这个文件/文件夹的 用户和用户组。
2023-12-25 14:30:23
968
8
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人