课程笔记
文章平均质量分 88
微信公众号[机器学习炼丹术]
每天都要进步
展开
-
自监督图像论文复现 | BYOL(pytorch)| 2020
文章原创自微信公众号「机器学习炼丹术」作者:炼丹兄联系方式:微信cyx645016617继续上一篇的内容,上一篇讲解了Bootstrap Your Onw Latent自监督模型的论文和结构:https://juejin.cn/post/6922347006144970760现在我们看看如何用pytorch来实现这个结构,并且在学习的过程中加深对论文的理解。github:https://github.com/lucidrains/byol-pytorch【前沿】:这个代码我没有实际跑过..原创 2021-01-30 18:33:01 · 1821 阅读 · 1 评论 -
自监督SOTA框架 | BYOL(优雅而简洁) | 2020
文章原创自微信公众号「机器学习炼丹术」作者:炼丹兄联系方式:微信cyx645016617本篇文章主要讲解两个无监督2020年比较新比较火的论文:论文名称:“Bootstrap Your Own Latent: A New Approach to Self-Supervised Learning”论文链接:https://arxiv.org/pdf/2006.07733.pdf0 综述BYOL是Boostrap Your Own Latent,这个无监督框架非常的优雅和简单,而且wo..原创 2021-01-29 17:48:14 · 1162 阅读 · 0 评论 -
笔记 | 吴恩达新书《Machine Learning Yearning》
这本书共112页,内容不多,偏向于工程向,有很多不错的细节,在此记录一下。0 书籍获取关注微信公众号“机器学习炼丹术”,回复【MLY】获取pdf1 测试集与训练集的比例2 误差分析误差分析我感觉是一个成熟的AIer必备的能力。俗话说数据决定准确率的上线,模型只是在逼近这个值。模型效果的提升首先是需要去看数据样本的,把分类错误的样本一个一个看一看,然后心中自己会给出判断:是否有可能减少这种分类错误的样本?如何减少?【也许心中没有这样的判断,但是看一看错误的样本是很重要的。一般看100例分原创 2021-01-27 23:01:10 · 251 阅读 · 0 评论 -
图像分割论文 | DRN膨胀残差网络 | CVPR2017
文章转自:同作者个人微信公众号【机器学习炼丹术】。欢迎交流沟通,共同进步,作者微信:cyx645016617论文名称:‘Dilated Residual Networks’论文链接:https://arxiv.org/pdf/1705.09914.pdf0 综述这篇文章的最大特色自然是提出了DRN,Dilated Residual Networks,在残差网络的基础上加入了膨胀卷积。膨胀卷积,又叫做空洞卷积,是在卷积核参数不变的基础上,增加视野域的一种手段。通过使用膨胀卷积,可以放大最深层特原创 2021-01-21 15:12:35 · 952 阅读 · 0 评论 -
图片质量评估论文 | 无监督SER-FIQ | CVPR2020
文章转自:同作者微信公主号【机器学习炼丹术】。欢迎交流,共同进步,微信号cyx645016617论文名称:SER-FIQ: Unsupervised Estimation of Face Image Quality Based on Stochastic Embedding Robustness论文链接:https://arxiv.org/abs/2003.093730 综述这可能是我看CVPR论文中,唯一一个5分钟就看完原理的论文了,简单有趣。这一篇文章是CVPR2020的与图像质量评估相关原创 2021-01-14 23:11:37 · 492 阅读 · 2 评论 -
图像质量评估论文 | Deep-IQA | IEEETIP2018
主题列表:juejin, github, smartblue, cyanosis, channing-cyan, fancy, hydrogen, condensed-night-purple, greenwillow, v-green, vue-pro, healer-readable, mk-cute, jzman, geek-black, awesome-green, qklhk-chocolate贡献主题:https://github.com/xitu/juejin-markdown-theme.原创 2021-01-13 22:18:19 · 486 阅读 · 1 评论 -
注意力论文解读(1) | Non-local Neural Network | CVPR2018 | 已复现
文章转自微信公众号:【机器学习炼丹术】参考目录:文章目录0 概述1 主要内容1.1 Non local的优势1.2 pytorch复现1.3 代码解读1.4 论文解读2 总结论文名称:“Non-local Neural Networks”论文地址:https://arxiv.org/abs/1711.079710 概述首先,这个论文中的模块,叫做non-local block,然后这个思想是基于NLP中的self-attention自注意力机制的。所以在提到CV中的self-attentio原创 2021-01-07 17:52:03 · 947 阅读 · 0 评论 -
卷积网络可解释性复现 | Grad-CAM | ICCV | 2017
觉得本文不错的可以点个赞。有问题联系作者微信cyx645016617,之后主要转战公众号,不在博客园和CSDN更新。论文名称:“Grad-CAM:Visual Explanations from Deep Networks via Gradient-based Localization”论文地址:https://openaccess.thecvf.com/content_ICCV_2017/papers/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017原创 2020-12-29 15:37:08 · 1683 阅读 · 1 评论 -
卷积涨点论文 | Asymmetric Conv ACNet | ICCV | 2019
文章原创来自作者的微信公众号:【机器学习炼丹术】。交流群氛围超好,我希望可以建议一个:当一个人遇到问题的时候,有这样一个平台可以快速讨论并解答,目前已经1群已经满员啦,2群欢迎你的到来哦。加入群唯一的要求就是,你对AI有兴趣。加我的微信我邀请进群cyx645016617。论文名称:“ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks”论文链接:https://arxiv原创 2020-12-22 18:56:37 · 1025 阅读 · 2 评论 -
图像处理论文详解 | Deformable Convolutional Networks | CVPR | 2017
文章转自同一作者的微信公众号:【机器学习炼丹术】论文名称:“Deformable Convolutional Networks”论文链接:https://arxiv.org/abs/1703.062110 前言首先理解:deformable Convolution可变卷积针对的对象是卷积本身,因此膨胀卷积,3D卷积都可以用可变卷积的形式本篇文章讲解理论和论文,我还没有用上这个可变卷积测试效果,因为PyTorch好像还没有封装这个卷积方式,有点麻烦。所以我计划下一篇文章结合github上已经原创 2020-12-19 00:30:49 · 755 阅读 · 2 评论 -
学习笔记2.1
Step1:库函数导入## 基础函数库import numpy as np ## 导入画图库import matplotlib.pyplot as pltimport seaborn as sns## 导入逻辑回归模型函数from sklearn.linear_model import LogisticRegressionStep2:模型训练##Demo演示LogisticRegression分类## 构造数据集x_fearures = np.array([[-1, -2],原创 2020-12-16 22:55:11 · 127 阅读 · 0 评论 -
近期文章更新一览
好久没有在知乎写过文章了,一个是因为近期期末考试,临近毕业;一个是因为近期建立了自己的小网站,感觉非常新奇。这里列举写一下近期的文章内容和链接:简单通俗的讲讲无参数模型的入门模型——局部加权线性回归。入门 局部加权线性回归 - 你好,世界简单说说什么是核密度估计,很短,可以就当是扩展知识了:入门 核密度估计Kernel Density Estimation近期大数据竞赛中有一个非常厉害的大佬用到了这个,刚好趁机学一学。【详解】隐式马尔科夫模型+代码 - 你好,世界金融和市场的一原创 2020-05-31 02:53:47 · 300 阅读 · 0 评论 -
Kd Tree算法详解
kd树(k-dimensional树的简称),是一种分割k维数据空间的数据结构,主要应用于多维空间关键数据的近邻查找(Nearest Neighbor)和近似最近邻查找(Approximate Nearest Neighbor)。一、Kd-tree其实KDTree就是二叉查找树(Binary Search Tree,BST)的变种。二叉查找树的性质如下:1)若它的左子树不为空,则左子树上所有结点的值均小于它的根结点的值;2)若它的右子树不为空,则右子树上所有结点的值均大于它的根结点的值;3)它的左转载 2020-05-24 21:51:29 · 8692 阅读 · 1 评论 -
【面试考】【入门】决策树算法ID3,C4.5和CART
关于决策树的purity的计算方法可以参考:决策树purity/基尼系数/信息增益 Decision Trees如果有不懂得可以私信我,我给你讲。ID3用下面的例子来理解这个算法:下图为我们的训练集。总共有14个训练样本,每个样本中有4个关于天气的属性,这些属性都是标称值。输出结果只有2个类别,玩(yes)或者不玩(no):首先先计算整个数据集的熵Entropy:因为整个数据集只有两个类别,他们的分布概率分别是914\frac{9}{14}149和514\frac{5}{14}145原创 2020-05-24 00:16:58 · 451 阅读 · 2 评论 -
决策树purity/基尼系数/信息增益 Decision Trees
决策树简单描述决策树的样子大概是这个样子的:选择一个特征作为根节点,把这个特征划分成两个孩子节点,每个孩子节点就是原始数据集的子集,然后再找一个特征作为划分……划分的好坏,如图所示:用纯度Purity来衡量划分的效果,如果划分的好,那么每一个子集都是某一类占据大多数,如果每一个子集都是跟父节点一样的状态,那么就是Low purity。一个好的划分要满足下面两个特点:划分是High purity划分产生的两个子节点的样本数量相近,避免产生非常小的子集。决策树的终止条件:树的深度到原创 2020-05-22 22:08:00 · 525 阅读 · 0 评论 -
概率与分布密度 贝叶斯理论入门 数据挖掘基础入门
概率Probability,先验概率Prior,后验概率Posterior概率是一个衡量不确定性的工具。一个例子:我们来估测某一个人的生日是十月份的概率,在没有任何数据样本的情况下,我们可以估计这个概率是Pr(October)=112≈8.3Pr(October) = \frac{1}{12}\approx8.3%Pr(October)=121≈8.3.现在假设我们有了几万个样本,通过统计这几万个样本的生日月份,绘制出数据分布图:然后通过计算,根据这个数据样本,发现总共有7%的人的生日是十原创 2020-05-21 23:00:10 · 331 阅读 · 0 评论 -
差分进化算法 练习题 (二)
差分进化算法 Difference Evolution和一般的遗传算法的区别在于是先突变(mutation)之后再交叉(Crossover)mutationcrossover简单的说就是,DE算法中的重组,是有一个trial vector尝试向量的这个概念,这个trial vector就是突变产生的。然后看J这个数组中的数字就是用trial vector中的索引。然后在新产生的x和...原创 2020-04-22 07:00:02 · 4056 阅读 · 0 评论 -
遗传算法 练习题 整理与巩固(一)
概念题:遗传算法的5个部分encoding,natural selection,selection,crossover,mutation第一题:binary genetic algorithmab简单的做一个单点交叉就好了。c这个题就是很简单的突变,第二题:binary genetic algorithma用rank weighting selection和cost...原创 2020-04-21 04:00:16 · 7383 阅读 · 1 评论 -
SACO\AS\ACS蚁群算法+个人理解理解 (概念讲解无Python编程)
文章目录Simple Ant Colony Optimisation (SACO)Ant System(AS)AS的转移概率计算(2种)AS的信息素更新(4种)pheromone evaporation(信息素蒸发)pheromone update(信息素更新)Simple Ant Colony Optimisation (SACO)简单蚁群优化蚁群优化问题就是可以当成求解两个点之间最短距...原创 2020-04-20 00:59:44 · 12363 阅读 · 0 评论 -
通俗讲:自然语言处理(NLP)入门之信息抽取(Information Extraction)
1.什么是信息抽取(IE)信息抽取的英文就是Information Extraction,是把文本信息转换成结构化信息。整体步骤有三步:从文本中了解到特定的信息;然后从特定信息中获取到特定类别的对象;然后获取对象之间的关系。比方说,找到了一个人名A,找到了一个公司B,知道了A是B的员工。2.信息抽取的方法2.1 正则表达式(RE)正则表达式就是regular expressio...原创 2020-04-10 08:34:48 · 6892 阅读 · 1 评论 -
通俗讲:自然语言处理(NLP)入门之N-gram语言模型。(朴素贝叶斯分类器的推导)
N-gram语言模型N-gram是一种语言模型(Language model,这个后面讲),是一种概率模型。这个模型输入的是一个句子,输出的是一个概率(看完就懂这个是什么概率了)。I love deep learning中如果给出l love ( ) learning.那么空中填入deep的概率就比填入apple的概率大。假设有这样一个句子,I love deep learning,用w1...原创 2020-04-09 22:46:08 · 51916 阅读 · 0 评论 -
norm emergency 第四课 norm game在拓扑结构中《Norm Establishment via Metanorms in Network Topologies》
剖析《Norm Establishment via Metanorms in Network Topologies》出国在外读人工智能的研究生,毕业设计本来指望是个computer vision或者NLP的相关内容,指望可以享受实验室GPU疯狂运行的乐趣的时候,学校给我分配的毕业设计的题目:《norm emergency》原创 2020-01-22 02:47:25 · 481 阅读 · 0 评论 -
《classification and regression》分类与回归+神经网络基本介绍+统计独立 data mining课程笔记 第一课
文章目录概述supervised Learning回归与分类错误率error rate整体流程N-fold Cross-validation小结线性/非线性模型概述过拟合overfittingmean of squared errors(MSE)如何计算wGradient 梯度下降neural networkshyperplane 超平面神经元Feed-forward networkDistrib...原创 2020-01-20 20:52:35 · 1055 阅读 · 0 评论 -
从零学习加密货币 1 概述 《Distributed Ledgers & Cryptocurrencies》
Electronic crypto-currencies such as bitcoin, and more generally the concept of a blockchain or distributed ledger, have the potential to revolutionise financial transactions and the role of financial...原创 2020-01-19 00:36:39 · 814 阅读 · 0 评论 -
第三课 什么是元规范metanom?《An Evolutionary Approach to Norms》
文章目录通过阅读论文《An Evolutionary Approach to Norms》学习之前已经学习了:第一部分,什么是norm第二部分,什么是norm game现在来讲讲最后一部分,什么是metanorm。In other words, be vengeful, not only against the violators of the norm, but also agai...原创 2020-01-18 23:17:50 · 633 阅读 · 0 评论 -
第二课 什么是norm game?(An Evolutionary Approach to Norms)
文章目录An Evolutionary Approach to NormsSimulation of the Norms Gamefirst stepsecond stepthird stepfourth stepfifth step结果分析An Evolutionary Approach to NormsSimulation of the Norms Game前文所说,norms game...原创 2020-01-18 08:06:34 · 415 阅读 · 0 评论 -
第一课 什么是norm?(An Evolutionary Approach to Norms)
详细讲解《An Evolutionary Approach to Norms》作者:Robert Axelrod原创 2020-01-18 01:09:22 · 787 阅读 · 0 评论 -
Artificial Intelligence Planing (AIP) PDDL 人工智能规划 备考
文章目录classical planningDomain-Independence Automated Planning=GPSplan validation什么是planplan的最优解和次优解planner的更新换代transition systemsSTRIPSSAS+PDDLPDDL2.1 Hierachy(5 levels)PDDL2.2PDDL3PDDL+the big three p...原创 2020-01-08 07:29:32 · 3355 阅读 · 4 评论 -
computer vision 机器视觉 知识点整理
文章目录名词解释hyper-columninpaintingdetectordescriptor其他计算卷积 1colour opent cellsGestalt lawsglobal and local名词解释hyper-columna region of primary visual cortex (V1) that contains neurons covering the full ...原创 2020-01-01 21:51:31 · 2693 阅读 · 0 评论 -
阿西洛马人工智能23原则(Asimolar principle) 人工智能伦理哲学 中英对照
文章目录中文英文中文科研问题1)研究目标:人工智能研究的目标不是为了创造不受指挥的智能,而是有益的智能。2)研究经费:对人工智能进行投资的同时,要保证有经费用于研究如何有益地使用人工智能,研究包括计算机科学、经济学、法律、伦理以及社会研究中的棘手问题,比如:如何使未来的人工智能系统变得高度稳健,即系统会执行我们所想的而不会发生故障或被入侵?如何通过自动化提升我们的繁荣程度,同时保持人们...原创 2019-12-31 00:13:06 · 1789 阅读 · 0 评论 -
Artificial Intelligence Planing (AIP)考试知识点复习
1 Classical PlaningPlanning Domain Definition Language(PDDL)classical planningpath finding in very large deterministic transition systems<S,s0,S∗,A,cost,T><S,s_0,S_*,A,cost,T><S,s...原创 2019-12-28 00:04:48 · 1627 阅读 · 0 评论 -
Philosophy and Ethics of Artificial Intelligence考试重要知识点整理
对于”人工智能哲学伦理“这门课程的知识点整理。鬼知道这门课有什么用处,权当扩展知识范围了。原创 2019-12-27 22:26:45 · 1259 阅读 · 0 评论 -
Agents and Multi-agent System考试重要知识点整理
Embedded Agent2A2^A2A is the power set of A–> 2A2^A2A is the set of all subsets of A.Cartesian product of set A and B A×B={(x,y)∣x∈Aandy∈B}A \times B = \{(x,y)|x \in A and y \in B\}A×B={(x,y)∣x∈...原创 2019-12-26 00:02:26 · 1722 阅读 · 5 评论 -
Netlogo基础知识和入门讲解
netlogo是一个仿真软件,大量可移动主体在二维空间中的交互作用,随着时间推进,微观个体的属性不断发生变化,系统的宏观特性也因此发生变化主体netlogo有三类主体:turtles 海龟;patches 瓦片;observer 观察者。turtles:在世界中可以移动的主体。patches:世界是二维的,划分为由patches组成的网格,每个patch占据一个矩形小块。ob...原创 2019-12-25 22:07:45 · 7139 阅读 · 0 评论