![](https://img-blog.csdnimg.cn/direct/ffdb92991a2240ceb234de2d812f9a17.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
机器学习
文章平均质量分 89
机器学习
二进制人工智能
图像,点云,机器学习, Python, C++
展开
-
深度学习推理框架汇总
它支持跨平台部署,包括 CPU、GPU、移动设备等,并提供了 C++、Python 和 Java 等多种语言的 API。它提供了高性能、可扩展、灵活的模型部署和推理服务。TensorRTX:TensorRTX 是英伟达推出的一款基于 TensorRT 的深度学习推理框架,提供了更多的优化和扩展功能,适用于高性能和低延迟的推理需求。OpenVINO 是英特尔推出的深度学习推理工具包,支持针对英特尔 CPU、GPU、VPU(Vision Processing Unit)等硬件进行优化的推理。原创 2024-04-24 20:57:29 · 686 阅读 · 0 评论 -
【ICCV 2019】ACNet: 使用非对称卷积块增强CNN的卷积核骨架
这篇文章提出了ACNet,使用了一种可以替代原始CNN模型中普通方形$d\times d$卷积核的非对称卷积块( Asymmetric Convolution Block,ACB)。非对称卷积块由卷积核为方形($d×d$)、水平($1×d$)和垂直($d×1$)的三个平行层组成,水平和垂直卷积核与方形卷积核相加可以对方形卷积核的骨架进行增强。利用得到的卷积核参数对原始模型进行部署还可以在不需要额外的计算成本的前提下提升原始模型的准确率:.....................原创 2022-07-20 11:51:25 · 2037 阅读 · 0 评论 -
残差网络为什么有效
残差网络(Residual Network,ResNet)由许多残差单元堆叠而成。残差单元通过为非线性的网络层添加跳跃连接(shortcut/skip connection)的方式来提高信息的传播效率。它将期望的映射函数H(x)\mathcal{H}(\mathbf{x})H(x)分解为残差函数F(x):=H(x)−x\mathcal{F}(x):=\mathcal{H}(\mathbf{x}) -\mathbf{x}F(x):=H(x)−x和恒等(identity)函数x:=x\mathbf{x}:=原创 2022-07-13 17:09:19 · 984 阅读 · 0 评论 -
膨胀(扩张、空洞)卷积(Dilated Convolution)
膨胀(扩张、空洞)卷积原创 2022-07-12 11:30:00 · 674 阅读 · 0 评论 -
BERT和ViT简介
BERT(Bidirectional Encoder Representations from Transformers);VIT(Vision Transformer)原创 2022-06-27 14:00:15 · 1971 阅读 · 0 评论 -
【ICCV 2015】深度强化学习目标定位
Active Object Localization with Deep Reinforcement Learning原创 2022-05-28 18:25:38 · 671 阅读 · 1 评论 -
【CVPR2017】PointNet: 深度学习之3D点集分类与分割
点云是不规则的,大多数研究人员将这些数据转换为规则的三维体素网格或图像集合。然而,这会使数据冗余。该论文设计了一种新型的直接处理点云的神经网络——PointNet,它很好考虑到了点云的置换不变性。PointNet为点云分类、部件分割和语义分割等应用提供了一个统一的体系结构。虽然简单,但PointNet是高效的。从实验上看,它的表现相当出色,甚至达到当时的SOTA。该论文还提供理论分析,证明PointNet具有对任意连续集函数的逼近能力,以及网络对于输入含噪和缺失方是鲁棒的。......原创 2022-06-13 11:15:00 · 995 阅读 · 1 评论 -
注意力足矣(Attention Is All You Need)
本文将介绍一个不使用卷积和循环网络层,而是完全基于注意力机制的模型——Transformer。原创 2022-06-15 12:16:25 · 13293 阅读 · 1 评论 -
自注意力(self-attention)和多头注意力(multi-head attention)
自注意力(self-attention)和多头注意力(multi-head attention)原创 2022-06-10 12:54:57 · 5628 阅读 · 3 评论 -
一般注意力模型
深度学习中的一般注意力模型原创 2022-06-04 11:53:36 · 1429 阅读 · 1 评论 -
炼丹神trick,nb的BN算法总结
BN算法的效果只是一个偶然?原创 2022-02-18 10:30:00 · 1198 阅读 · 0 评论 -
【机器学习】最小最大值归一化,标准化,PCA白化,ZCA白化
最小最大值归一化(Min-Max Normalization)标准化(Standardization)白化(Whitening)PCA白化ZCA白化原创 2022-02-12 13:29:19 · 4753 阅读 · 0 评论 -
AdaGrad, RMSprop, AdaDelta; 动量法, Nesterov加速梯度; Adam
梯度下降法可以分为:批量梯度下降、随机梯度下降以及小批量梯度下降三种形式。目前,在训练深层神经网络时,训练数据的规模比较大。如果在梯度下降时,每次迭代都要计算整个训练数据上的梯度需要比较多的计算资源。此外,大规模训练集中的数据通常也会非常冗余,也没有必要在整个训练集上计算梯度。因此,在训练深层神经网络时,经常使用小批量梯度下降算法。令f(x,y)f(\boldsymbol{x},y)f(x,y)表示一个深层神经网络,θ\thetaθ为网络模型,在使用小批量梯度下降进行优化时,每次选取KKK 个训练样本原创 2021-06-01 17:16:32 · 1135 阅读 · 0 评论 -
MATHEMATICS FOR MACHINE LEARNING部分翻译
机器学习的数学基础【机器学习的数学基础】(一)线性代数(Linear Algebra)(上)【机器学习的数学基础】(二)线性代数(Linear Algebra)(中) 【机器学习的数学基础】(三)线性代数(Linear Algebra)(下)【机器学习的数学基础】(四)解析几何(Analytic Geometry)(上)【机器学习的数学基础】(五)解析几何(Analytic Geometry)(下)【机器学习的数学基础】(六)矩阵分解(Matrix Decompositions)(上)【机器学原创 2021-05-08 09:21:49 · 1505 阅读 · 0 评论 -
【python机器学习】普通最小二乘法多元线性回归
普通最小二乘线性回归一般情况下,线性回归模型假设函数为:hw,b(x)=∑i=1nwixi+b=wTx+bh_{w, b}(x)=\sum_{i=1}^{n} w_{i} x_{i}+b=w^{\mathrm{T}} x+bhw,b(x)=i=1∑nwixi+b=wTx+b其中,w∈Rnw\in \mathbb{R}^nw∈Rn与b∈Rb\in \mathbb{R}b∈R为模型参数。为了方便,通常将bbb纳入权向量www,作为w0w_0w0,同时为输入向量xxx添加一个常数1,作为x0原创 2021-05-23 22:51:32 · 1893 阅读 · 0 评论 -
【python机器学习】梯度下降线性回归
https://blog.csdn.net/weixin_43462348/article/details/102640104原创 2021-06-18 21:22:18 · 475 阅读 · 0 评论 -
【演化(进化)算法】粒子群算法及其Python实现
文章目录粒子群算法1 粒子群算法概述2 相关变量3 固定的参数4 粒子群算法求解优化问题5 实例6 python实现7 特点粒子群算法1 粒子群算法概述粒子群算法,也称粒子群优化(Particle SwarmOptimization,PSO)算法,源于对鸟群捕食的行为研究。设想这样一个场景:一群鸟在随机搜索食物。在这个区域里只有一块食物,所有的鸟都不知道食物在哪里,但是它们知道当前的位置离食物还有多远。那么,找到食物的最优策略就是搜寻目前离食物最近的鸟的周围区域。粒子群算法算法从这种模型中得到启示并.原创 2021-07-10 09:36:59 · 2906 阅读 · 2 评论 -
【演化(进化)算法】遗传算法原理及python实现
遗传算法1 达尔文的自然选择学说2 遗传算法概述3 遗传算法相关概念4 遗传算法与求解优化问题5 例子6 python实现7 遗传算法特点原创 2021-06-23 12:26:53 · 3233 阅读 · 3 评论 -
【机器学习百科全书目录】PRML ESL MLAPP 西瓜书 花书 RLAI 统计学习方法 蒲公英书
文章目录机器学习百科全书目录Pattern Recognition and Machine LearningThe Elements of Statistical Learning (Second edition)Machine Learning A Probabilistic Perspective西瓜书花书Reinforcement Learning:An Introduction (Second edition)统计学习方法(第2版)蒲公英书机器学习百科全书目录题目中的八本书合起来,姑且称为机.原创 2021-04-23 09:13:56 · 1850 阅读 · 2 评论 -
【机器学习百科全书思维导图】PRML ESL MLAPP 西瓜书 花书 RLAI 统计学习方法 蒲公英书
文章目录机器学习百科全书目录Pattern Recognition and Machine LearningThe Elements of Statistical Learning (Second edition)Machine Learning A Probabilistic Perspective西瓜书花书Reinforcement Learning:An Introduction (Second edition)统计学习方法(第2版)蒲公英书机器学习百科全书目录思维导图如果展开图片会特别大,这个平原创 2021-04-24 22:37:12 · 858 阅读 · 0 评论 -
【西瓜书plus】性能度量
文章目录性能度量1 错误率与精度2 查准率、查全率与F13 ROC与AUC4 代价敏感错误率与代价曲线[4]性能度量1 错误率与精度错误率是分类错误的样本数占样本总数的比例。精度则是分类正确的样本数占样本总数的比例。精度+错误率=1精度+错误率=1精度+错误率=1错误率与精度都不难理解,我们重点来看下文的性能度量。2 查准率、查全率与F1首先,为什么要用查准率、查全率?西瓜书中有两个例子:(1)挑选西瓜时我们关心“挑出的西瓜中有多少比例是好瓜”,(查准)“所有好瓜中有多少比例被挑了出原创 2021-01-29 12:13:13 · 679 阅读 · 0 评论 -
【西瓜书plus】决策树
文章目录决策树1 什么是决策树2 伪代码决策树1 什么是决策树决策树(dicision tree)是一种基本的分类与回归方法,此处主要讨论分类的决策树。。以一个二分类任务(去或不去)为例:有人给我们介绍新的对象的时候,我们就要一个个特点去判断去或不去。于是这种判断的过程就可以画成一棵树:我们将上面树结构广义化:这就是决策树的结构了,棵决策树包含一个根结点、若干个内部结点和若干个叶结点;叶节点:叶结点对应于决策结果,其他每个结点(根节点和内部节点)则对应于一个属性测试;根节点:对数据集原创 2020-12-23 11:35:48 · 808 阅读 · 0 评论 -
【神经网络分类器】(三)深度学习发展史——从深度信念网络到AlexNet
【神经网络分类器】(三)深度学习文章目录【神经网络分类器】(三)深度学习1 深度信念网络的结构深度学习的特点建议阅读读本文之前阅读以下文章:【神经网络分类器】(一)人工神经元网络的基本概念【神经网络分类器】(二)浅层神经网络【线性分类器】(四)万字长文解释拉格朗日乘子与支持向量机自 1986 年 Rumelhart 和 Hinton 等人提出 BP 网络以来,多层的人工神经网络终于有了有效的训练方法,也带来了人工神经网络研究的又一次繁荣。但是好景不长,由于 BP 网络本身具有的一些缺陷,包括收原创 2021-01-03 11:18:08 · 1804 阅读 · 0 评论 -
【神经网络分类器】(二)比西瓜书详细的BP网络误差反向传播推导
【神经网络分类器】(二)浅层神经网络【神经网络分类器】(一)人工神经元网络的基本概念文章目录【神经网络分类器】(二)浅层神经网络1 感知器网络2 BP网络1 感知器网络根据罗森布拉特的感知器算法,如果把输入看作是样本的特征向量,输出看作是分类结果,那么感知器就能实现一个二类的线性分类。如果我们想实现多类分类,怎么处理呢?我们可以使用多个感知器。如果我们为每一类都设计一个感知器,并且将他们并联起来,即让所有的输入都同时进入每一个感知器,则可以解决多类的分类问题,这样就构成了一个具有多类分类能力原创 2020-12-19 11:38:29 · 1381 阅读 · 1 评论 -
【神经网络分类器】(一)你知道神经网络怎么用无监督算法训练吗?
人工神经元网络的基本概念首先我们从人脑发挥功能的最基本的单元,即神经元的模型出发,来了解神经网络分类器究竟是如何发挥作用的。人工神经元是生物神经元的模拟模型。生物神经元包括四个主要部分:细胞体、树突、轴突和突触。树突的作用是用于接受周围其他神经元传入的神经冲动。轴突的功能是通过轴突末梢向其他神经元传出神经冲动。每个神经细胞所产生和传递的基本信息是兴奋或抑制。在两个神经细胞之间的相互接触点称为突触。一个神经细胞的树突,在突触处从其他神经细胞接受信号。这些信号可能是兴奋性的,也可能是抑制性的。所原创 2020-12-18 18:11:19 · 5214 阅读 · 1 评论 -
【线性分类器】(四)万字长文解释拉格朗日乘子与支持向量机
【线性分类器】(一)线性判别【线性判别器】(二)“深度学习”的鼻祖——感知器【线性分类器】(三)线性分类器的松弛求解: LEMS 算法,H-K 算法【线性分类器】(四)拉格朗日乘子与支持向量机文章目录【线性分类器】(四)拉格朗日乘子与支持向量机1 高数里的拉格朗日乘子1.1 多元函数的极值1.1.1 二元函数极值的概念1.1.2 条件极值与拉格朗日乘数法2 矩阵分析里的拉格朗日乘子2.1 含有等式约束拉格朗日乘子法2.1.1 只含一个等式约束的最优化2.1.2 包含多个等式约束的最优化2.2 拉格朗原创 2020-12-24 22:33:57 · 15176 阅读 · 12 评论 -
【线性分类器】(三)线性分类器的松弛求解: LEMS 算法,H-K 算法
【线性分类器】(一)线性判别【线性分类器】(二)“深度学习”的鼻祖——感知器线性分类器的松弛求解: LEMS 算法,H-K 算法文章目录线性分类器的松弛求解: LEMS 算法,H-K 算法1 LEMS 算法2 H-K 算法1 LEMS 算法我们前面介绍了感知器算法,它以错分样本为依据来逐步调整权向量 www,最终使所有样本都能够被正确分类。但是我们看到,感知器算法中采用批量梯度下降和随机梯度下降,得到的解使不同的,甚至随机梯度下降法中,由于初始权向量设置不同、学习速率的不同和样本处理的顺序不同,都原创 2020-12-03 20:31:23 · 2130 阅读 · 0 评论 -
【线性分类器】(二)“深度学习”的鼻祖——感知器
文章目录“深度学习”的鼻祖——感知器1 线性分类器训练的一般思路2 感知器算法的原理3 感知器算法的学习速率4 感知器算法的深入分析“深度学习”的鼻祖——感知器我们前面介绍了最简单的一种分类器形式——线性分类器【线性分类器】(一)线性判别,它是由线性判别函数及相应的分类决策规则构成的。那这个线性判别函数是如何得到的呢?如果有一个模式识别问题,我们怎么才能设计出一个合适的线性分类器,使它能对问题中的样本正确地分类呢?这就是牵涉到线性分类器训练的问题。1 线性分类器训练的一般思路在介绍感知器训练算法原创 2020-12-03 18:07:11 · 4561 阅读 · 1 评论 -
【线性分类器】(一)线性判别
线性判别文章目录线性判别1 线性判别与非线性判别2 样本集的线性可分性3 非线性判别问题转化成线性判别问题4 多分类线性判别4.1 绝对可分方式4.2 两两可分方式4.3 最大值可分方式3 线性判别函数的几何意义1 线性判别与非线性判别我们知道,要实现模式识别,就是要在对一类事物特征的认知基础上,找到一个有效的分类决策规则,能够对新的样本正确地分类。例如已知的样本集分为两类,那么,如果能在特征空间中找到这么一条类别之间的界限,就可以通过判断待识别的样本位于界限的哪一侧,来确定样本属于哪一类。这条界限原创 2020-12-02 16:35:07 · 3246 阅读 · 0 评论 -
【机器学习】训练集,测试集,为啥还要验证集?
机器学习为什么要有验证集原创 2020-11-21 09:59:08 · 4651 阅读 · 0 评论 -
【Hands-On Machine Learning】机器学习的主要挑战
机器学习的主要挑战典型的机器学习:You studied the data.You selected a model.You trained it on the training data (i.e., the learning algorithm searched for the model parameter values that minimize a cost function).Finally, you applied the model to make predictions on原创 2020-11-20 14:07:31 · 672 阅读 · 0 评论 -
【Hands-On Machine Learning】机器学习的类型
机器学习的类型There are so many different types of Machine Learning systems that it is useful toclassify them in broad categories based on:• Whether or not they are trained with human supervision (supervised, unsuper‐vised, semisupervised, and Reinforcement Lea原创 2020-11-19 19:39:51 · 1108 阅读 · 1 评论 -
【强化学习】Actor-Critic
文章目录1 Actor-Critic1.1 前言1.2 Actor-Critic1.3 Advantage Actor-Critic1.4 Asynchronous Advantage Actor-Critic(A3C)1.5 Pathwise Derivative Policy Gradient(PDPG)1 Actor-CriticAdvantage Actor-Critic:A2CAsynchronous Advantage Actor-Critic:A3C1.1 前言由于Actor与En原创 2020-09-24 17:01:27 · 1100 阅读 · 0 评论 -
【强化学习】强化学习概述
文章目录1 前言1 强化学习1.1 强化学习定义1.2 马尔可夫决策过程1.3 强化学习的目标函数1.3.1 总回报1.3.1 目标函数1.4 值函数1.4.1 状态值函数1.4.2 状态-动作值函数14.3 值函数的作用1.5 强化学习的分类1.5.1 按任务分类1.5.2按算法分类1 前言监督学习可用于回归,分类等任务,这一般都需要一定数量的带标签的数据。然而,在很多的应用场景中,通过人工标注的方式来给数据打标签的方式往往行不通。比如我们通过监督学习来训练一个模型可以来自动下围棋,就需要将当前原创 2020-09-17 21:17:13 · 4134 阅读 · 1 评论 -
【强化学习】Proximal Policy Optimization(PPO)
文章目录1 Proximal Policy Optimization(PPO)1,1Policy Gradient(PG)1.2 TIP to PG1.2.1 Tip1 Add a baseline1.2.2 Tip2 Assign Suitable Credit1 Proximal Policy Optimization(PPO)将Policy Gradient(PG)从On-policy变为Off-policy,再加一些constraint(限制)就得到Proximal Policy Optimiz原创 2020-09-24 12:53:12 · 763 阅读 · 0 评论 -
生成对抗网络
文章目录1 生成对抗网络初识2 生成对抗网络算法2.1 判别网络2.2 生成网路2.3 训练欢迎关注微信公众号:`二进制人工智能`1 生成对抗网络初识让我们先用一个小例子来认识一下生成对抗网络。首先我们来认识一下生成对抗网络的双方一一生成器与判别器,在训练过程中两者的配合非常重要。我们可以把生成器想象成一个名画赝品制作者,他的成长过程是从一个零基础 的“小白” 慢慢成长为一个“仿制品制作专家” 。而判别器则担任的是一个古董鉴别侦探的角色,一开始他仅仅是一个普通等级的鉴别师,在与赝品制作者的博弈中逐渐成原创 2020-08-18 19:05:16 · 1202 阅读 · 0 评论 -
深度学习入坑必看的四个视频
深度学习入坑必看的四个视频原创 2020-09-08 10:11:15 · 897 阅读 · 0 评论 -
pattern的数学含义
*A pattern constitutes a set of numbers or objects, in which all the members are related with each other by a specific rule. Pattern is also known as sequence. *——easycalculation.comPattern 有一系列数字或对象组成,并且它的成员之间都有具体的规律,有时也认为是序列。...原创 2020-11-18 22:28:42 · 2538 阅读 · 0 评论 -
外文翻译,模式识别与机器学习的关系
模式识别与机器学习https://blog.csdn.net/qq_33414271/article/details/78682239https://www.csdn.net/article/2015-03-24/2824301#q=machine+learning,+pattern+recognition,+deep+learning&cmpt=q&tz&tzhttps://www.zhihu.com/question/38106452/answer/211218782.原创 2020-11-23 17:19:53 · 910 阅读 · 0 评论 -
张钹院士:迈向第三代人工智能 思维导图
微信公众号二进制人工智能回复Ai3获取思维导图pdf原创 2020-12-20 12:46:44 · 551 阅读 · 0 评论