读后笔记
TifaBest
这个作者很懒,什么都没留下…
展开
-
读后笔记之《天才训练指南》
作者认为2006年中所读的文章中,Freakonomics书的两个作者Dubner和Levitt发表在纽约时报杂志上的专栏文章《A Star Is Made:Where Does Talent Really Come From》。该专栏文章介绍了一心理学家的研究成果。心理学家Anders Ericsson的研究在技术层面上解决了培养天才的问题。其结论是:天才还真是练出来的,但关键在于怎么练。原创 2014-12-12 23:49:36 · 547 阅读 · 0 评论 -
《深度学习》 第1章 引言
AI深度学习:让计算机从经验中学习,并根据层次化的概念体系来理解世界,每个概念则通过于某些更简单的概念之间的关系来定义。知识库:将世界的知识用形式化的语言进行硬编码机器学习:系统自己获取知识,即从原始数据中提取模式的能力简单机器学习的性能很大程度依赖于给定数据的表示表示学习:使用机器学习发掘表示本身设计特征或设计相应算法时,通常以分离能解释观察数据的变差因素为目标深度学习通过其...原创 2018-10-24 17:01:10 · 431 阅读 · 0 评论 -
《深度学习》 第2章 线性代数
标量、向量、矩阵和张量矩阵和向量相乘单位矩阵和逆矩阵线性相关和生成子空间范数衡量向量的大小用范数,LPL^PLP范数定义如下:∣∣x∣∣p=(∑i∣xi∣p)1p||x||_p = \left(\sum_i|x_i|^p\right)^{\frac{1}{p}}∣∣x∣∣p=(i∑∣xi∣p)p1其中p∈R,p≥1p\in \mathbb{R},p \ge 1p∈R,p≥1...原创 2018-10-24 19:19:54 · 804 阅读 · 1 评论 -
《深度学习》 第6章 深度前馈网络
《深度学习》 第六章 深度前馈网络文章目录《深度学习》 第六章 深度前馈网络实例:学习XOR基于梯度的学习代价函数使用最大似然学习条件分布学习条件统计量用于高斯输出分布的线性单元用于Bernoulli输出分布的sigmoid单元用于Multinoulli输出分布的softmax单元其他的输出类型隐藏单元整流线性单元及其扩展logistic sigmoid与双曲正切函数其他隐藏单元架构设计万能近似...原创 2018-11-04 21:10:05 · 1227 阅读 · 0 评论 -
《深度学习》 第7章 深度学习中的正则化
《深度学习》 第7章 深度学习中的正则化开发更有效的正则化策略已成为本领域的主要研究工作之一。可将正则化定义为“对学习算法的修改——旨在减少泛化误差而不是训练误差”设计为编码特定类型的先验知识对简单模型的偏好集成方法,结合多个假说来解释训练模型估计的正则化以偏差的增加换取方差的减少。讨论泛化时,主要侧重模型族的3个情形:不包括真实的数据生成过程——对应于欠拟合和含有偏差的情况...原创 2018-12-24 19:49:33 · 1300 阅读 · 0 评论 -
《深度学习》 第8章 深度模型中的优化
《深度学习》 第8章 深度模型中的优化学习和纯优化有什么不同纯优化最小化目标JJJ本身。训练深度模型的优化算法通常也会包括对机器学习目标函数的特定结构进行的特化经验风险最小化通常不知道真实分布pdata(x,y)p_{\text{data}}(x,y)pdata(x,y),只知道训练集上的经验分布p^data(x,y)\hat p_{\text{data}}(x,y)p^data(x...原创 2018-12-24 19:50:13 · 2254 阅读 · 0 评论 -
《深度学习》 第9章 卷积网络
《深度学习》 第9章 卷积网络卷积网络是指那些至少在网络的一层中使用卷积运算来替代一般的矩阵乘法运算的神经网络。卷积网络连续形式的卷积运算:s(t)=∫x(a)w(t−1)da=(x∗w)(t)s(t) = \int x(a)w(t-1)da = (x * w)(t)s(t)=∫x(a)w(t−1)da=(x∗w)(t)xxx通常称为输入,www通常称为核函数,输出通常称为特征映射。离...原创 2018-12-24 19:50:49 · 1252 阅读 · 0 评论 -
《深度学习》 第11章 实践方法论
《深度学习》 第11章 实践方法论要成功地使用深度学习技术,仅仅知道存在哪些算法和解释他们为何有效的原理是不够的。一个优秀的机器学习实践者还需要知道如何针对具体应用挑选一个合适的算法以及如何监控,并根据实验反馈改进机器学习系统。在机器学习系统的日常开发中,实践者需要决定是否收集更多的数据、增加或减少模型容量、添加或删除正则化项、改进模型的优化、改进模型的近似推断或调试模型的软件实现。尝试这些操...原创 2018-12-24 19:51:22 · 536 阅读 · 0 评论 -
Rich feature hierarchies for accurate object detection and semantic segmentation
Rich feature hierarchies for accurate object detection and semantic segmentationIntroductionThis paper is the first to show that a CNN can lead to dramatically higher object detection performance on...原创 2019-03-02 21:07:43 · 515 阅读 · 0 评论 -
Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition
Spatial Pyramid Pooling in Deep Convolutional Networks for Visual RecognitionIn this work, we equip the networks with another pooling strategy, “spatial pyramid pooling”. The new network structure, c...原创 2019-03-02 21:09:14 · 535 阅读 · 0 评论 -
Fast R-CNN
Fast R-CNNIntroductionComplexity arises because detection requires the accurate localization of objects, creating two primary challenges:First, numerous candidate object locations (often called “p...原创 2019-03-02 21:11:44 · 257 阅读 · 0 评论 -
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networkswe introduce a Region Proposal Network (RPN) that shares full-image convolutional features with the detection network, th...原创 2019-03-02 21:15:42 · 649 阅读 · 0 评论 -
《深度学习》 第4章 数值计算
《深度学习》 第四章 数值计算数值计算通过迭代过程更新解的估计值来解决数学问题,而不是通过解析过程推导出公式来提供正确解。常见的操作有优化和线性方程组的求解上溢和下溢必须对上溢和下溢进行数值稳定的一个例子是softmax函数。可通过计算softmax(z=x−maxixiz=x-\max_ix_iz=x−maxixi)同时解决softmax函数分母的上溢和下溢问题。使用单独的logs...原创 2018-10-26 19:39:46 · 540 阅读 · 0 评论 -
《深度学习》 第5章 机器学习基础
《深度学习》 第五章 机器学习基础深度学习是机器学习的一个特定分支。机器学习本质上属于应用统计学,更多地关注于如何用计算机统计地估计复杂函数,不太关注为这些函数提供置信区间。学习算法对于某类任务TTT和性能度量PPP,一个计算机程序被认为可以从经验EEE中学习是指,通过经验EEE改进后,它在任务TTT上有性能度量PPP衡量的性能有所提升任务TTT任务定义为机器学习系统如何处理样本。...原创 2018-10-29 11:13:26 · 475 阅读 · 0 评论 -
读后笔记之《怎么练习一万小时》
大量调查研究证明:顶级高手是练出来的。人们可能首次找到训练成天才的统一理论。【训练成顶尖高手吧】好消息是除某些体育项目对先天因素有特殊要求之外,神秘的天生素质并不存在,智商亦如此。波尔加三姐妹证明方法得当,便可成这领域的大师。坏消息是成为大师需长时间的苦练,但最关键的并不是练习时间,而是训细的方法。寓教于乐的玩进名校,顿悟等个人经验和励志故事并不科学。不应相信励志故事,应相信调查研究。翻译 2014-12-12 23:51:54 · 550 阅读 · 0 评论 -
读后笔记之《矛和盾的游戏 小谈病毒免杀和安软原理》
一、病毒与反病毒的战争战争从一开始安软对病毒绝对优势,到病毒对安软的反攻(甚至出现了专门感染安软的病毒),到现在病毒开发的傻瓜式和安软的多体系防护。二、病毒的免杀技术加壳:用压缩软件之类的处理应对:脱壳(大蜘蛛)、杀壳(小红伞)加花:加入无用代码应对:广谱特征码/基因码(avast、MSE)、启发式扫描(nod32、小红伞)修改特征码:修改文件、原创 2015-02-12 17:24:59 · 329 阅读 · 0 评论 -
读后笔记之《为什么年事已高的我还在编程?》
管理模型:垂直协作。其有利于长期的和可预测的工作。资金充足时,会表现的异常优异。顶层的管理者提出想法,负责“大方向的东西”,中层指导初层完成想法。Jorge Cham称此为Profzi scheme。横向协作。有助于偶尔情况和“狂野”的想法。做所有事情,从点子到实现。尽可能的自动避免繁杂的工作。可以得到一个不同的角度和专业互补点。不受资金限制,但不能适应参与者过多:横向协作原创 2015-02-12 17:26:42 · 335 阅读 · 0 评论 -
读后笔记之《用强力研读书》
强力研读,适合读思想类的”闲书“,不去追求读书的广度,而追求深部。特点是:第一,不好玩,追求融会贯通,学以致用第二,用的时间少,高强度第三,不追求读的快要点:1.强力研读,一本书应该被读两遍,而且只读两遍。好书读一遍不可能掌握精要,反过来说如果一遍就够了,这本书也不值得强力研读。思想类书籍,不是什么学术名著,所有再好也没必要读三遍。两遍正好。原创 2015-02-12 17:27:47 · 882 阅读 · 0 评论 -
读后笔记之《[科普文] 什么是网络流量劫持?揭秘详解黑客劫持的攻击手段与防御方法》
最近在整理个人的文件,把曾经写的的文章上传在这,权当做是云备份了。电脑上显示这篇文章的最后修改时间是2014年11月11日,有种莫名的注孤生的节奏呀。---------------------------------------------------------我是分割线-----------------------------------------------------------...原创 2018-09-24 11:39:20 · 320 阅读 · 0 评论 -
读后笔记之《天才训啦指南》《怎样练习一万小时》
最近在整理个人的文件,把曾经写的的文章上传在这,权当做是云备份了。电脑上显示这篇文章的最后修改时间是2014年11月11日,有种莫名的注孤生的节奏呀。---------------------------------------------------------我是分割线-----------------------------------------------------------...原创 2018-09-24 11:45:28 · 238 阅读 · 0 评论 -
笔记之《Python学习手册》第4版
Learning Python (4th Edition) Python学习手册第4版 Mark Lutz著李军 刘红伟等译 O’REILLY Media, Inc机械工业出版社其实,我原先是不准备做这个笔记的,感觉编程这是技术性问题,多练即可,无奈大脑记性不佳,且技术之间的关系又没有搞清楚,故特作此笔记,以图理清脉络,加强记忆。这篇笔记不会像以前...原创 2018-09-24 11:48:28 · 473 阅读 · 0 评论 -
平衡树
前言标准BST算法的最坏情况容易发生,需要解决方案。周期性再平衡性能差,使得我们难以利用全局重新平衡来保障动态BST的快速性能。随机化向算法本身引入随机决策分期化每次都做额外的工作,以求避免稍后更多的的工作最优化为每个操作提供性能保障随机化BST...原创 2018-10-15 09:17:50 · 717 阅读 · 0 评论 -
《深度学习》 第3章 概率与信息论
概率不仅提供量化不确定性的方法,也提供了用于导出新的不确定性声明的公理为什么要使用概率不确定性有三种来源:被建模系统内在的随机性不完全观测不完全建模频率派概率:概率直接与事件发生的频率相联系贝叶斯概率:概率涉及到确定性水平随机变量概率分布离散型变量和概率质量函数∑iP(x=xi)=∑i1k=1\sum_iP(\mathrm x = x_i) = \sum_i\frac1k...原创 2018-10-25 17:41:06 · 433 阅读 · 0 评论 -
MaskRCNN源码阅读
MaskRCNN源码阅读==前言这两天读了下MaskRCNN的源码,在github上找的Mask R-CNN for object detection and instance segmentation on Keras and TensorFlow。之前看过FasterRCNN的源码,不过当时没有做记录。总的来说,MaskRCNN算是集大成者。其在FasterRCNN的框架上修改而成,...原创 2019-04-16 12:36:35 · 1284 阅读 · 1 评论