人工智能
AI 相关
coco_1998_2
所有出自我手底下的东西,我自己收益最丰--侯俊杰
展开
-
目标检测之 IoU
IoU 作为目标检测算法性能 mAP 计算的一个非常重要的函数。但纵观 IoU 计算的介绍知识,都是直接给出代码,给出计算方法,没有人彻底地分析过其中的逻辑,故本人书写该篇博客来介绍下其中的逻辑。1. IoU的简介及原理解析IoU 的全称为交并比(Intersection over Union),通过这个名称我们大概可以猜到 IoU 的计算方法。IoU 计算的是 “预测的边框” 和 “真实的边框” 的交集和并集的比值。开始计算之前,我们首先进行分析下交集和并集到底应该怎么计算:我们首先需要计算转载 2020-09-06 20:23:48 · 444 阅读 · 0 评论 -
深度学习与神经网络关系
Deep Learning的基本思想 假设我们有一个系统S,它有n层(S1,…Sn),它的输入是I,输出是O,形象地表示为: I =>S1=>S2=>…..=>Sn => O,如果输出O等于输入I,即输入I经过这个系统变化之后没有任何的信息损失(呵呵,大牛说,这是不可能的。信息论中有个“信息逐层丢失”的说法(信息处理不等式),设处理a信息得到b,再对b...转载 2019-03-21 15:34:16 · 660 阅读 · 0 评论 -
Normalization 批标准化(batch normalization)理解
数学是达成目的的工具, 理解才是达成目的桥梁, 所以这篇文章用浅显易懂的动画阐述了复杂的机器学习概念.强烈推荐通过动画的形式了解.所以首先放视频链接:Youtube或者优酷.代码实现请来这里看:Python 实现一 引子对房屋售价进行预测时,我们的特征仅有房屋面积一项,但是,在实际生活中,卧室数目也一定程度上影响了房屋售价。下面,我们有这样一组训练样本:房...转载 2019-01-11 16:31:33 · 406 阅读 · 0 评论 -
深度学习优化方法 - AdaGrad
梯度下降算法、随机梯度下降算法(SGD)、小批量梯度下降算法(mini-batch SGD)、动量法(momentum)、Nesterov动量法有一个共同的特点是:对于每一个参数都用相同的学习率进行更新。 但是在实际应用中,各个参数的重要性肯定是不一样的,所以我们对于不同的参数要动态的采取不同的学习率,让目标函数更快的收敛。 AdaGrad算法就是将每一个...转载 2019-01-18 12:02:28 · 688 阅读 · 0 评论 -
如何区分局部最优点和鞍点? 训练神经网络时如何确定batch的大小?
局部最低点与鞍点,相类似的一点是:在这个点的(一阶)导数为0。(图片来自《deep learning》)最优点和鞍点的区别在于:是否在各个维度都是最低点。 只要某个一阶导数为0的点在某个维度上是最高点而不是最低点,那它就是鞍点。而区分最高点和最低点可使用二阶导数(斜率从负变正的过程当然就是“下凸”,即斜率的导数大于0,即二阶导数大于0。反之则为“上凹”,二阶导数小于0)。也就是说,...转载 2019-01-11 13:12:23 · 2738 阅读 · 0 评论 -
GPU, CUDA, cuDNN
CPU 和 GPUGPU(图像处理器,Graphics Processing Unit)和CPU(中央处理器,Central Processing Unit)在设计上的主要差异在于GPU有更多的运算单元(如图中绿色的ALU),而Control和Cache单元不如CPU多,这是因为GPU在进行并行计算的时候每个运算单元都是执行相同的程序,而不需要太多的控制。Cache单元是用来做数据缓存的,CPU可以通过Cache来减少存取主内存的次数,也就是减少内存延迟(memory latency)。GPU中Cach转载 2020-09-19 15:17:25 · 216 阅读 · 1 评论 -
介绍一个相对小众的深度学习框架Darknet,其YOLO神经网络算法对目标检测效果显著
Darknet——一个源码为C的神经网络框架今天路同学介绍一个相对小众的深度学习框架——Darknet。与流行的Tensorflow以及Caffe框架相比,Darknet框架在某些方面有着自己独特的优势。关于Darknet深度学习框架Darknet深度学习框架是由Joseph Redmon提出的一个用C和CUDA编写的开源神经网络框架。它安装速度快,易于安装,并支持CPU...转载 2019-05-25 18:08:27 · 1913 阅读 · 0 评论 -
【译】Electron 的本质
本文翻译自http://jlord.us/essential-ele...本文将简明扼要地讲解 Electron。Background Development Development Con't What is Electron Prereqs Stay in touch Why is this important Two Processes Put it all Together How,even? Main Process Packa.翻译 2020-12-11 13:56:13 · 431 阅读 · 0 评论 -
一文搞懂HMM(隐马尔可夫模型)-转载
写在文前:原博文地址:https://www.cnblogs.com/skyme/p/4651331.html什么是熵(Entropy) 简单来说,熵是表示物质系统状态的一种度量,用它老表征系统的无序程度。熵越大,系统越无序,意味着系统结构和运动的不确定和无规则;反之,,熵越小,系统越有序,意味着具有确定和有规则的运动状态。熵的中文意思是热量被温度除的商。负熵是物质系统有序化,组织化,复杂化状态的一种...转载 2020-09-04 18:57:19 · 455 阅读 · 0 评论 -
唯一《可解释机器学习》中文书来了!复旦研究生翻译
新冠疫情的出现,让许多AI医疗技术浮出水面。但是AI一直黑箱问题存在,如果AI对过程都不能做到可解释,又怎么能放心让它来诊断病患呢。而关于机器学习可解释问题的书籍少之又少。最近,一位来自复旦大学的研究生朱明超,将一本少有的书《Interpretable Machine Learning》(可解释机器学习)翻译成了中文。这本书最初是由德国慕尼黑大学博士Christoph Molnar耗时两年完成的,长达250页,是仅有的一本系统介绍可解释性机器学习的书籍。朱明超近期完成了这本书的翻译和校对转载 2020-08-20 13:34:13 · 336 阅读 · 0 评论 -
ALS(Alternating Least Squares)
ALS(Alternating Least Squares)算法是基于矩阵分解的协同过滤算法中的一种,它已经集成到 Spark 的 Mllib 库中,使用起来比较方便。1.矩阵分解这里的矩阵分解可以理解为,将一个 m×n 的矩阵A分解为一个m×k的矩阵U和n×k的矩阵V的转置的乘积的近似值,即 将这个公式放到推荐系统中,则表示用户对产品的偏好评分...转载 2019-12-11 16:31:39 · 392 阅读 · 0 评论 -
最小二乘法(Least Squares Method)
1、最小二乘 最小二乘,广义上来说其实是机器学习中的平方损失函数: 对应于模型 f 的线性和非线性之分,最小二乘也相应地分为线性最小二乘和非线性最小二乘。 我们通常所讲的“最小二乘法”,其实是狭义上的“最小二乘”,指的是在线性回归下采用平方损失函数,进行线性拟合参数求解的、矩阵形式的公式方法。 线性最小二乘有闭式解,可用最小二乘法求...转载 2019-12-11 14:12:03 · 2399 阅读 · 0 评论 -
为什么要做 word embedding?
该篇主要是讨论为什么要做word embedding:gitbook阅读:Word Embedding介绍至于word embedding的详细训练方法在下一节描述。目录单词表达 One hot representation Distributed representation Word embedding 目的 数据量角度 神经网络分析 训...转载 2019-09-15 19:19:22 · 143 阅读 · 0 评论 -
机器学习:数据预处理之独热编码(One-Hot)
前言在机器学习算法中,我们经常会遇到分类特征,例如:人的性别有男女,祖国有中国,美国,法国等。这些特征值并不是连续的,而是离散的,无序的。通常我们需要对其进行特征数字化。那什么是特征数字化呢?例子如下: 性别特征:["男","女"] 祖国特征:["中国","美国,"法国"] 运动特征:["足球","篮球","羽毛球","乒乓球"] 假如某个样本(某个人),他...转载 2019-09-15 16:07:48 · 204 阅读 · 0 评论 -
机器学习之特征归一化(normalization)
一 引子对房屋售价进行预测时,我们的特征仅有房屋面积一项,但是,在实际生活中,卧室数目也一定程度上影响了房屋售价。下面,我们有这样一组训练样本:房屋面积(英尺) 卧室数量(间) 售价(美元)2104 3 3999001600 3 3299002400 3 3690001416 2 2320003000 4 5...转载 2018-11-01 17:17:43 · 1367 阅读 · 0 评论 -
机器学习算法在什么情况下需要归一化?
转载:http://www.cnblogs.com/LBSer/p/4440590.html机器学习模型被互联网行业广泛应用,一般做机器学习应用的时候大部分时间是花费在特征处理上,其中很关键的一步就是对特征数据进行归一化,为什么要归一化呢?维基百科给出的解释:1)归一化后加快了梯度下降求最优解的速度;2)归一化有可能提高精度。下面我简单扩展解释下这两点。1 归一化为什么能提高梯度下降法求解...转载 2018-11-01 17:31:22 · 1980 阅读 · 0 评论 -
方差、标准差、均方差、均方误差区别总结
http://blog.csdn.net/Leyvi_Hsing/article/details/54022612一、百度百科上方差是这样定义的:(variance)是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度。统计中的方差(样本方差)是各个数据分别与其平均数之差的平方的和的平均数。在许多实际问题中,研究方差即...转载 2018-11-17 17:26:45 · 2599 阅读 · 0 评论 -
朴素贝叶斯分类器(Naive Bayesian Classifier)
基于对周志华教授所著的《机器学习》的“第7章 贝叶斯分类器”部分内容的学习笔记.先验概率与后验概率先验概率(摘自维基百科):在贝叶斯统计推断论中,一个未确定数目的先验概率分布(一般简称为先验)是一种表达了某人对于该数目的信仰的一种概率分布,这种信仰是没有考虑到一些(当前的)证据的。解释:通俗来说,对于某一个概率事件,我们都会有基于自己已有的知识,对于这个概率事件会分别以什么概率出现各种...转载 2019-01-14 12:59:16 · 953 阅读 · 0 评论 -
范数(norm) 几种范数的简单介绍
什么是范数?我们知道距离的定义是一个宽泛的概念,只要满足非负、自反、三角不等式就可以称之为距离。范数是一种强化了的距离概念,它在定义上比距离多了一条数乘的运算法则。有时候为了便于理解,我们可以把范数当作距离来理解。在数学上,范数包括向量范数和矩阵范数,向量范数表征向量空间中向量的大小,矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是,对应向量范数,向量空间中的向量都是有大小的,这个大小...转载 2019-01-16 16:43:16 · 3755 阅读 · 0 评论 -
强化学习概览
强化学习和传统的supervised learning有啥区别,为什么需要强化学习传统supervised learning的场景,是人可以知道明确答案的,比如图片分类等,这样才能训练集去supervise机器但是有些问题,人也无法决定如何做事正确答案,比如玩游戏,这是就需要强化学习,通过经验去试错 强化学习,可以这样分类:首先是Model-based和model-free,mo...转载 2019-02-19 13:13:35 · 97 阅读 · 0 评论 -
机器学习极好的入门学习视频推荐
首先说明本人最早看的机器学习视频是吴恩达的机器学习后来发现并不适合我。如果你以前了解过一些算法,不妨看看我以下推荐的视频,对于一点都不了解机器学习的小白,那就更要看我推荐的视频了,当然吴恩达的机器学习也很好,但是相信我,看下面我推荐的视频是你学习机器学习更好的选择。1.CalTech: Learning from Data台大的林轩田老师是Yaser Abu-Mostafa的学生,他的机器...转载 2019-03-17 19:45:16 · 273 阅读 · 0 评论 -
吴恩达 Coursera 机器学习课程:课件(视频课程中文翻译)+ 课后作业答案
自己做的练习答案(36M,含所有需要的工程文件,资源文件等),Matlab下全部运行通过。https://download.csdn.net/download/coco_1998_2/10820132原创 2019-04-04 09:47:49 · 847 阅读 · 0 评论 -
Gram矩阵
1、Gram矩阵的定义2、意义格拉姆矩阵可以看做feature之间的偏心协方差矩阵(即没有减去均值的协方差矩阵),在feature map中,每个数字都来自于一个特定滤波器在特定位置的卷积,因此每个数字代表一个特征的强度,而Gram计算的实际上是两两特征之间的相关性,哪两个特征是同时出现的,哪两个是此消彼长的等等,同时,Gram的对角线元素,还体现了每个特征在图像中出现的...原创 2019-05-04 18:57:53 · 254 阅读 · 0 评论 -
吴恩达 Machine Learning 第二周 Quiz 正确答案 - Octave/Matlab Tutorial
正确答案:原创 2019-07-11 17:33:21 · 1100 阅读 · 0 评论 -
AI Camera by Altek 开机初用记录
Github Community for Vision-AI-DevKit:https://azure.github.io/Vision-AI-DevKit-Pagesstep1. 驱动包下载:https://store.altek.com.tw/qualcomm/downloads/Azure-IoT-Starter-Kit#tab-3,下载后的压缩包里有 pdf 的说明...原创 2019-09-11 18:45:07 · 794 阅读 · 0 评论 -
机器学习中常见问题_几种梯度下降法
https://blog.csdn.net/u010402786/article/details/51188876一、梯度下降法 在机器学习算法中,对于很多监督学习模型,需要对原始的模型构建损失函数,接下来便是通过优化算法对损失函数进行优化,以便寻找到最优的参数。在求解机器学习参数的优化算法中,使用较多的是基于梯度下降的优化算法(Gradient Descent, GD)。 梯度下...转载 2018-07-21 20:05:30 · 216 阅读 · 0 评论