- 博客(121)
- 收藏
- 关注
RSS订阅原创 【机器学习】激活函数：神经网络的灵魂
在神经网络中,每个神经元会对输入信号进行加权求和,得到一个线性组合。然而,仅仅使用线性组合是无法拟合复杂的非线性函数的。为了赋予神经网络非线性特性,我们需要在线性组合之后引入一个非线性激活函数。激活函数是一种数学函数,它将神经元的输入信号映射到输出信号。通过引入非线性激活函数,神经网络就能够学习复杂的非线性映射关系,从而拟合各种类型的数据。yfxy = f(x)yfx其中,x是神经元的输入信号,f是激活函数,y是神经元的输出信号。
2024-07-25 17:32:19
1099
43
原创 【机器学习】深入理解损失函数(Loss Functions)
在监督学习任务中,我们通常会构建一个模型来预测输入数据的目标值。模型的输出值通常会与真实的目标值存在一定差距,这种差距就是我们所说的"损失"(Loss)。损失函数的作用就是对这种差距进行量化,将其转化为一个可计算的数值。具体来说,损失函数是一个函数,它接受模型的预测值和真实值作为输入,输出一个非负实数,表示预测值与真实值之间的差距程度。我们的目标是找到一个模型,使得其在训练数据和测试数据上的损失函数值最小。LyyiL(y,y_i)Lyyi其中,y表示真实值,y_i表示模型的预测值,
2024-07-24 20:39:13
1335
145
原创 【机器学习】模型验证曲线(Validation Curves)解析
模型验证曲线是一种用于评估模型超参数对模型性能影响的可视化工具。它通过绘制不同超参数值对应的训练分数和验证分数曲线,帮助我们选择最佳超参数值。选择一个待调整的超参数,以及一个超参数值范围。使用网格搜索(Grid Search)或其他方法,在给定的超参数值范围内生成一系列候选值。对于每个候选超参数值,进行如下操作:使用该超参数值训练模型,获得训练集上的分数(如准确率或其他指标)。在同一个模型上,计算验证集上的分数。将所有候选超参数值对应的训练分数和验证分数分别绘制在两条曲线上。
2024-07-23 11:42:36
1309
141
原创 【机器学习】超参数选择：解锁机器学习模型潜力的关键
超参数是指在训练模型之前就需要手动设定的参数，它们控制着学习算法的行为。与模型参数不同，模型参数是在训练过程中由算法自动学习得到的，而超参数则是由数据科学家或机器学习工程师预先指定的。学习率（）：控制模型在每次迭代中更新权重的速度。正则化项（）：用于惩罚模型复杂度，防止过拟合。迭代次数（）：模型训练的循环次数。神经网络中的隐藏层数量和每层神经元数量。决策树的最大深度。k近邻算法中的k值。
2024-07-22 10:14:49
1209
128
原创 【机器学习】Cross Validation: 强化模型泛化能力的利器
Cross Validation是一种统计学方法，用于评估机器学习模型的性能，尤其是在数据量有限的情况下。它的核心思想是在模型训练过程中，将数据集分为几个互斥的子集，轮流将其中一个子集作为测试集，其余子集作为训练集，以此来多次训练和评估模型，从而获得模型性能的稳定估计。Cross Validation是机器学习中不可或缺的一部分，它不仅提供了模型性能的稳健估计，还帮助我们在有限的数据资源下做出更明智的决策。
2024-07-19 14:37:03
1611
163
原创 【机器学习】Grid Search: 一种系统性的超参数优化方法
Grid Search是一种用于自动搜索给定超参数空间中最佳模型参数组合的方法。它通过创建一个包含所有待评估超参数值的网格，然后遍历这个网格中的每一个点来完成搜索过程。对于每个网格点，即超参数的一个特定组合，Grid Search会训练模型并评估其性能，最后选择性能最优的那个组合作为最佳超参数设置。首先，需要为每个超参数定义一个候选值的列表或区间。决策树深度：[3, 5, 7, 9]最小样本分割数：[2, 5, 10]Grid Search是一种有效的超参数优化方法，尤其适用于超参数空间较小的情况。
2024-07-18 18:16:06
1490
119
原创 【机器学习】Scoring Model Scores: 理解、设计与优化评分模型
评分模型是一种统计模型，其核心目标是为每个案例分配一个数值，该数值代表案例在特定维度上的得分。这个得分可以反映风险水平、客户价值、事件发生的可能性等。风险评估：例如，金融机构使用评分模型来评估信贷申请人的违约风险。个性化推荐：电商网站利用评分模型预测用户对产品的兴趣程度，提供个性化的商品推荐。资源优化：评分模型帮助公司识别高价值客户，优化市场营销预算的分配。ROC曲线是一种图表，用于可视化和比较分类器在不同阈值下的性能。
2024-07-17 10:54:41
1920
135
原创 【机器学习】Metrics: 衡量算法性能的关键指标
在算法开发和机器学习项目中，选择正确的评估指标（metrics）至关重要。它们不仅帮助我们理解模型的性能，还指导我们如何优化模型以达到预期的目标。本文将探讨几种常用的评估指标，并解释它们在不同场景下的应用。
2024-07-16 08:00:32
1208
42
原创 【OrangePi AIpro】: 探索AI加成的开源硬件魅力
什么是Orange Pi？Orange Pi是深圳市橙子科技有限公司开发的一系列开源单板计算机（SBC）。它以提供高性价比的硬件解决方案而闻名，旨在为开发者提供一个功能强大且成本低廉的开发平台。历史与背景Orange Pi项目始于2014年，起初是为了与Raspberry Pi竞争，但很快发展出自己的特色。Orange Pi不断推出新的版本，从最初的H2+到后来的Zero Plus2、Orange Pi 4等，每一款都针对不同的需求进行了优化。特性描述处理器4核64位处理器 + AI处理器AI算力。
2024-07-15 01:04:34
2019
154
原创 【机器学习】线性判别分析（LDA）：从理论到实践
线性判别分析（Linear Discriminant Analysis, LDA）是一种广泛应用于模式识别和机器学习领域的经典统计技术，主要用于特征提取和分类。与主成分分析（PCA）等降维方法不同，LDA侧重于最大化类间差异，同时最小化类内差异，使其在监督学习场景下尤为有效。本文将深入探讨LDA的理论基础、算法流程、以及在现实世界中的应用案例。
2024-07-12 19:58:54
2121
149
原创 【机器学习】独立成分分析（ICA）：解锁信号的隐秘面纱
在当今数据驱动的世界中，信号处理和数据分析面临着前所未有的挑战。特别是在处理混合信号时，如何从复杂的混合体中分离出纯净的源信号，成为了研究的热点。独立成分分析（Independent Component Analysis，ICA）作为一种先进的信号处理技术，以其独特的理论基础和广泛的适用性，逐渐成为了信号分离和盲源分离领域的一颗璀璨明珠。本文旨在深入探讨ICA的原理、算法、应用及其与主成分分析（PCA）的区别，为读者提供一个全面的ICA视角。
2024-07-11 09:39:50
1870
147
原创 【机器学习】主成分分析（PCA）：数据降维的艺术
在数据科学和机器学习领域，处理高维数据是一项挑战。随着维度的增加，数据的复杂性和计算成本也随之上升，这便是所谓的“维度灾难”。主成分分析（Principal Component Analysis，PCA）作为一种经典的数据降维技术，通过寻找数据中的主要变化方向，将高维数据投影到低维空间，从而在保留数据主要信息的同时，简化数据结构，提升算法效率。本文将深入探讨PCA的工作原理、步骤、应用场景以及优缺点，旨在为读者提供一份全面的PCA指南。
2024-07-10 09:13:03
1761
126
原创 【机器学习】特征选择：精炼数据，提升模型效能
在机器学习项目中，数据预处理阶段占据了相当大的工作量，其中特征选择是关键一环。特征选择指的是从原始数据集中挑选出最相关的特征子集，以用于后续的建模过程。这不仅有助于减少模型训练时间和存储空间的需求，还能提升模型的泛化能力和解释性。本文将深入探讨特征选择的重要性、常用方法及其实现策略，为读者提供一套系统性的指南。
2024-07-09 09:31:14
1325
40
原创 【机器学习】属性降维：揭示数据的简化之美
属性降维，或称特征降维，是指将原始高维数据转换到低维空间的过程，同时尽可能保留数据的主要特征和结构。其目标是在减少计算成本和存储需求的同时，提高数据的可解释性和算法的效率。降维技术广泛应用于数据可视化、模型训练加速、噪声去除等领域。
2024-07-08 10:24:18
1033
120
原创 【机器学习】基于密度的聚类算法：DBSCAN详解
在数据科学和机器学习领域中，聚类是一种常见的无监督学习技术，用于发现数据集中的自然分组或结构。传统的聚类算法，如K-means，依赖于预定义的簇数量和球形簇假设，这限制了它们在复杂数据集上的表现。相比之下，基于密度的聚类算法，尤其是DBSCAN（Density-Based Spatial Clustering of Applications with Noise），能够识别任意形状的簇，并能有效地处理噪声点。本文将深入探讨DBSCAN的工作原理、参数选择、优势与局限性，以及其在实际应用中的表现。
2024-07-06 14:32:50
2262
144
原创 【TS】TypeScript 联合类型详解：解锁更灵活的类型系统
联合类型通过管道符来表示，允许你定义一个变量可以是多种类型之一。这意味着myVar可以被赋值为字符串或数字类型的值。
2024-07-05 14:46:57
1483
124
原创 【TS】TypeScript 中的 any 与 unknown：理解与实践
any类型是TypeScript中最宽泛的类型，它可以代表任何值。当你给一个变量指定为any类型时，TypeScript编译器将不再进行类型检查，无论是赋值、调用方法还是访问属性。// 不会报错unknown类型同样是表示未知类型的值，但它采取了更为保守和安全的策略。当你声明一个变量为unknown时，除了赋值给同样为unknown的变量外，几乎无法直接对其进行操作，除非通过类型断言或类型守卫验证其具体类型。// 这是允许的// 错误，无法确定类型。
2024-07-04 11:15:56
1380
110
原创 【TS】TypeScript 原始数据类型深度解析
TypeScript的原始数据类型构成了其类型系统的基石。通过理解并熟练运用这些类型，开发者不仅能编写出更健壮、更易于维护的代码，还能充分利用现代IDE的智能提示和类型检查功能，显著提升开发效率。随着TypeScript社区的不断成熟和新特性的加入，掌握这些基础变得更加重要，它们是通往TypeScript高级特性和复杂应用开发的必经之路。希望本文能为你深入探索TypeScript的世界铺平道路。
2024-07-03 10:40:23
1577
107
原创 【TS】TypeScript 入门指南：强大的JavaScript超集
TypeScript是一种开源编程语言，它在JavaScript的基础上添加了静态类型定义，支持类、接口、模块等面向对象编程特性。TypeScript代码最终会被编译成纯JavaScript代码，这意味着任何能够运行JavaScript的环境都能运行TypeScript程序。因此，TypeScript不仅继承了JavaScript的所有优点，还解决了JavaScript的一些痛点问题，如类型安全、开发工具的智能提示等。
2024-07-02 11:45:53
2011
121
原创 【机器学习】基于层次的聚类方法：理论与实践
层次聚类算法通过逐步合并或分裂数据点（或簇）来构建一个层次结构。根据合并或分裂的方向，层次聚类可分为两种主要类型：凝聚型（Agglomerative）和分裂型（Divisive）。凝聚型聚类：从每个数据点自成一簇开始，逐步合并最相似的簇，直至所有数据点合并成一个簇或达到预设的终止条件。分裂型聚类：初始将所有数据作为一个簇，然后逐渐分裂成越来越小的簇，直到每个数据点成为一个独立的簇或满足终止条件。
2024-06-29 10:37:48
2272
161
原创 【机器学习】高斯混合模型（Gaussian Mixture Models, GMM）深度解析
高斯混合模型是一种概率模型，它假设数据是由K个不同的高斯分布（也称作组件）混合而成。每个高斯分布代表数据的一个潜在类别或簇，而数据点属于某个类别的概率决定了它由哪个高斯分布产生。由于GMM直接求解参数θ\thetaθ非常困难，通常采用期望最大化（Expectation-Maximization, EM）算法来迭代估计这些参数。E步骤（Expectation）：计算给定当前参数下，每个数据点属于每个高斯分量的后验概率（责任权重）。M步骤（Maximization）
2024-06-28 09:44:04
2119
108
原创 【机器学习】K-means++: 一种改进的聚类算法详解
从数据集中随机选择第一个质心。对于每个数据点x，计算其到已选择的所有质心的最短距离D(x)。选择一个新的数据点作为下一个质心，选择的概率与D(x)成正比，即概率P(x)D(x)/ ΣD(x)。重复步骤2和3，直到选择了K个质心。这种选择策略确保了质心之间的分散性，从而提高了聚类效果。K-means++算法通过一种更加智能的初始化策略，显著改善了经典K-means算法的性能，尤其在解决初始质心选择的随机性和局部最优问题上表现出色。
2024-06-27 08:27:04
2678
114
原创 【活动】GPT-5：1.5年后的技术飞跃与社会影响展望
GPT-5的发布不仅是技术的飞跃，更是对社会各层面深刻影响的前奏。它既带来了效率提升、创新机遇，也伴随着伦理道德、就业形态、社会结构等多方面的挑战。面对这些未知与挑战，我们需要跨学科合作，制定前瞻性的政策和规范，确保技术进步能够促进社会整体福祉，实现人机和谐共生的未来。GPT-5的登场，标志着人类正站在一个新时代的门槛上，我们应当满怀希望，同时也保持审慎，共同探索智能技术与人类文明的最佳结合点。
2024-06-26 16:18:43
1102
19
原创 【机器学习】K-Means算法详解：从原理到实践
K-Means算法以其简单高效的特点，在众多领域展现了强大的实用价值。然而，针对其存在的局限性，研究人员不断提出改进方法，如二分K-Means、谱聚类等，以适应更复杂的数据结构和应用场景。掌握K-Means不仅是数据科学基础的重要组成部分，也是进一步探索高级聚类技术的基石。希望本文能为读者理解并应用K-Means算法提供有益的指导。
2024-06-25 13:31:56
2299
148
原创 【区块链】区块链架构设计：从原理到实践
区块链是一种分布式账本技术，它通过加密算法将数据（交易）打包成“区块”，并以链式结构存储在网络的多个节点上。每个新区块都包含前一个区块的哈希值，形成了不可篡改的时间戳链，确保了数据的完整性和可追溯性。区块链技术正处于快速发展之中，其架构设计不仅关乎技术细节的精妙安排，更需洞察未来趋势，平衡效率、安全与成本的多重要求。通过不断的技术创新和合理的架构设计，区块链有望解锁更多领域的潜力，推动数字经济的深度变革。作为开发者和研究者，持续学习、实验并优化区块链架构将是推动这一进程的关键。
2024-06-23 17:41:58
1892
71
原创 【机器学习】Lasso回归：稀疏建模与特征选择的艺术
Lasso回归由Robert Tibshirani于1996年提出，是线性回归的一种正则化形式。它在标准线性回归损失函数的基础上，加入了L1范数惩罚项，旨在约束模型参数的绝对值大小，从而促使某些参数直接被“压缩”至零，实现特征的选择性稀疏化。
2024-06-21 13:14:34
1727
153
原创 【机器学习】线性回归：从基础到实践的深度解析
线性回归（Linear Regression）是一种预测分析模型，其基本思想是利用一个或多个自变量（输入特征）来预测或解释一个连续型因变量（目标变量）。简而言之，线性回归试图找到一个最佳拟合直线（或多维空间中的超平面），使得所有数据点到该直线的偏差平方和最小。线性回归以其简单直观、易于理解和实现的特点，在金融、医疗、社会科学等多个领域发挥着重要作用。然而，面对复杂的数据关系，非线性模型如支持向量机、神经网络等可能提供更好的解决方案。
2024-06-20 19:08:44
1333
106
原创 【区块链】以太坊白皮书深度解读：构建智能合约的分布式平台
以太坊白皮书不仅是一份技术文档，更是开启了一个区块链技术新篇章的宣言。它提出的智能合约理念和构建分布式应用平台的愿景，为全球范围内的开发者和创新者提供了无限想象空间。随着以太坊2.0的逐步实施，其在性能、可扩展性和可持续性方面的改进将进一步巩固其作为区块链基础设施的地位，推动Web3.0时代的到来。
2024-06-19 18:01:54
2228
145
原创 【区块链】POS（Proof of Stake）权益证明算法深度解析
权益证明（POS）是一种基于持有代币数量及时间来决定区块链网络中下一个区块生产者（验证者）的共识机制。与PoW通过计算能力竞争不同，POS依赖于验证者的“权益”——即他们在系统中持有的加密货币量，以此作为参与共识过程的资格和影响力大小的衡量标准。POS权益证明算法以其高效、节能的特点，被视为区块链技术未来发展的重要方向之一。随着技术的不断成熟和完善，解决现有挑战，POS及其变种有望推动区块链应用进入更加广泛和深入的领域，实现真正的去中心化、高效能和可持续发展。
2024-06-18 15:57:46
2180
146
原创 【机器学习】LightGBM: 优化机器学习的高效梯度提升决策树
在机器学习领域，梯度提升决策树(Gradient Boosting Decision Tree, GBDT)因其强大的预测能力和解释性而备受推崇。随着数据规模的日益增大，对模型训练速度和效率的需求也愈发迫切。在此背景下，Microsoft Research于2017年开源的LightGBM项目，凭借其高速度、高效率以及优秀的性能，在众多GBDT框架中脱颖而出，成为业界和学术界的新宠。本文将深入探讨LightGBM的核心优势、工作原理、关键特性和应用场景，旨在为读者提供一份全面而深入的理解指南。
2024-06-15 12:16:24
2032
186
原创 【区块链】记账的千年演化：从泥板到区块链
从古代的泥板到今天的区块链，记账科技的每一次飞跃都是人类智慧的结晶，反映了社会需求与技术创新的紧密互动。未来的记账技术将继续朝着更高效、安全、智能的方向发展，为构建一个更加透明、信任的社会经济环境贡献力量。
2024-06-13 10:45:13
1194
85
原创 【区块链】解码拜占庭将军问题：区块链共识机制的哲学基石
拜占庭将军问题描述了一个军事指挥困境：一组拜占庭将军分别各率领一支军队共同围困一座城市。为了简化问题，将各支军队的行动策略限定为进攻或撤离两种。因为部分军队进攻部分军队撤离可能会造成灾难性后果，因此各位将军必须通过投票来达成一致策略，即所有军队一起进攻或所有军队一起撤离。因为各位将军分处城市不同方向，他们只能通过信使互相联系。在投票过程中每位将军都将自己投票给进攻还是撤退的信息通过信使分别通知其他所有将军，这样一来每位将军根据自己的投票和其他所有将军送来的信息就可以知道共同的投票结果而决定行动策略。
2024-06-12 10:16:25
2721
169
原创 【区块链】深入解析Proof of Work (PoW): 区块链技术的核心驱动力
PoW是一种共识机制，旨在解决分布式系统中的“拜占庭将军问题”，确保网络中的所有参与者就数据的有效性达成一致。它要求节点通过执行计算密集型任务来“证明”自己对网络的贡献，以此获得创建新区块和获取奖励的权利。
2024-06-11 10:32:01
2307
119
原创 【机器学习】XGBoost: 强化学习与梯度提升的杰作
XGBoost是一种基于梯度提升框架的优化工具，它通过迭代地添加决策树以逐步降低预测误差。相较于传统的梯度提升机（GBM），XGBoost在计算效率、并行处理能力和模型灵活性上进行了显著的优化，从而在分类和回归任务中展现出更强大的性能。XGBoost凭借其高效、灵活和强大的预测能力，在机器学习领域占据了一席之地。随着算法的不断优化和应用场景的拓展，掌握XGBoost的原理与应用，无疑将为数据科学家和工程师们提供更强大的工具箱。
2024-06-07 23:27:28
1789
80
原创 【活动】程序员的核心职业素养：技术与人文并重的探索之旅
程序员的职业生涯是一场技术和人文交织的旅程。在这个过程中，持续学习、团队协作、创新思维以及责任感与伦理意识，构成了程序员核心的职业素养。这些素养不仅是技术进步的催化剂，也是个人成长的基石。作为程序员，我们应该不断提升自己，不仅做技术的探索者，更要成为负责任的社会公民，共同推动科技向善，创造更加美好的数字世界。
2024-06-06 01:17:22
1420
52
原创 【机器学习】GBDT (Gradient Boosting Decision Tree) 深入解析
梯度提升是一种迭代的机器学习算法，其核心思想是利用前一个模型的残差（即真实值与预测值之差）作为当前模型的学习目标，通过不断添加弱学习器（通常是决策树），逐步降低训练数据的损失函数值，直至达到预设的停止条件。GBDT以其卓越的性能和广泛的适用性，在机器学习领域占据了一席之地。通过深入理解其基本原理、熟练掌握调参技巧，并结合现代优化技术，开发者可以更高效地利用GBDT解决各类复杂问题。随着算法研究的不断深入，GBDT及其衍生技术将持续在人工智能领域发挥重要作用。
2024-06-05 11:05:37
3553
179
原创 【机器学习】朴素贝叶斯算法及其应用探索
朴素贝叶斯分类器基于贝叶斯定理，通过学习训练数据集中的特征与类别之间的概率关系来进行预测。其“朴素”之处在于假设特征之间相互独立，这一简化虽然在现实中很难严格成立，但却大大简化了计算复杂度，使得模型在很多情况下依然能够获得较好的性能。尽管朴素贝叶斯算法基于一系列简化的假设，但其在处理大量实际问题时所展现出的高效性和准确性证明了其价值。随着大数据时代的到来，朴素贝叶斯算法因其独特的优势，在众多领域内持续发挥着重要作用。未来，随着更多复杂技术和模型的融合，朴素贝叶斯算法的应用将会更加广泛和深入。
2024-06-04 07:56:52
1551
136
原创 【机器学习】逻辑回归：原理、应用与实践
逻辑回归（Logistic Regression）是一种广泛应用于分类问题的统计学方法，尽管其名称中含有“回归”二字，但它实际上是一种用于解决二分类或多分类问题的线性模型。逻辑回归通过使用逻辑函数（通常为sigmoid函数）将线性模型的输出映射到概率空间，从而预测某个事件发生的概率。本文将深入探讨逻辑回归的理论基础、模型构建、损失函数、优化算法以及实际应用案例，并简要介绍其在机器学习领域的地位和局限性。
2024-06-03 12:45:53
1921
122
原创 【活动】GPT-4O：AI语言生成技术的新里程碑
随着人工智能领域的飞速发展，自然语言处理技术不断突破人们的想象边界。近期，OpenAI公司推出的GPT-40模型，再次震撼了整个科技界。作为GPT系列的最新力作，GPT-40不仅在技术层面上实现了质的飞跃，更是在应用领域展现了前所未有的广泛性和实用性。本文将深入探讨GPT-40的核心技术创新，通过与前代版本的对比分析，评估其技术能力，并分享个人对于这一技术突破的整体感受。
2024-06-01 12:23:07
2389
145
原创 【机器学习】随机森林：深度解析与应用实践
随机森林是一种基于决策树的集成学习方法，通过构建多个决策树并综合它们的预测结果来提高预测准确性和模型的稳定性。每个决策树都是在训练数据的一个随机子集（bootstrap sample）上，以及特征的一个随机子集上构建的，这种方法减少了模型间的相关性，从而增强了整体模型的泛化能力。随机森林以其强大的预测能力、良好的鲁棒性和易于实现的特点，在众多领域展现了其价值。理解其核心原理、掌握关键参数调优技巧，并结合具体应用场景灵活运用，是发挥其最大效能的关键。
2024-05-31 16:16:41
2275
104
前端+情人节+爱心代码
2024-02-15
前端+HTML+情人节爱心
2024-02-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人