Victor的草原-CSDN博客

原创 Introduction to Probabilistic Graphical Models

PGM 概率图模型入门

2018-03-10 20:39:16 1189

原创 DeepLab系列

DeepLab V1: AFully Connected CRFsDilated Conv & Receptive FieldCRFs for accurate localizationDeeplab V2: astrous spatial pyramid poolingDeepLab是Google团队一系列semantic image segmentation的...

2018-03-09 16:38:46 9662

原创 CS231N-14-Reinforcement Learning

What is Reinforcement LearningMarkov Decision Process MDPValue Function Q-value FunctionBellman EquationQ-learningPolicy Gradient最后一节。So far, we have mainly talked about supervised learning like

2017-10-27 00:13:48 616

原创 CS231N-13-Generative Models

Generative modelsPixelRNNCNNVAE Variational AutoencodersAutoencodersVAE 变分自动解码器GAN 生成对抗网络2017.12.3 更新 VAE loss function ———————————————————————————————— 深度学习给机器学习带来的变革，不仅是supervised learning监督学习

2017-10-17 21:57:01 1125

原创 CS231N-12-Visualizing & Understanding CNN

Visualising CNNFilters First IntermediateFeature Map Last IntermediateGradient with respect to pixelsGradient Ascent Argmax InputNeural Style TransferCNN中间层究竟是什么？现在我们只知道是个黑盒。需要可视化每层的输出，这样才能更好地理解

2017-10-16 21:26:49 1300

原创 CS231N-11-Other Computer Vision Tasks

semantic segmentation 语义分割UpsamplingUnpoolingTranspose Convolution Deconvolution 对卷积的再理解Localisation 定位Object Detection 物体检测Ross Girshick rbgR-CNNFast R-CNNFaster-RCNNYOLO SSDInstance Segme

2017-10-15 23:16:50 547

原创 CS231N-10-Recurrent Neural Network

IntroductionRNN structureBPTTLSTMIntroductionRecurrent a. 反复发生的，周期性的，循环的。 RNN，循环神经网络，用在时间序列模型上，如：样本出现的时间顺序对于自然语言处理、语音识别、手写体识别等应用非常重要。RNN强调时序时序时序。Sequential Sequential Sequential. 想想很有道理，图像这种空间的东西是不

2017-10-13 20:20:21 1070

原创 CS231N-8&9-Deep Learning Hard/Software & CNN Case Study

HardwareFrameworkTensorflowPyTorchStatic vs Dynamic GraphsConclusionCNN Case StudyAlexNet 2012 MontrealVGGNet 2014 OxfordGoogleNet 2015 GoogleResNet 2016 MSRAOthers今日议程：deep learning的软硬件。关

2017-10-11 14:31:13 627

原创 CS231N-6&7-Training Neural Networks

Activation functionsData PreprocessingWeight InitializationBatch NormalizationLearning rateOptimizationcondition numbersaddle pointSGD with momentumAdaGradRMSPropAdamLearning rate decaySeco

2017-09-28 18:29:18 716

原创 CS231N-5-Convolutional Neural Networks

PrefaceThe title of the class. 上节课是神经网络的基本框架，一层层layer的堆积，每层都是简单的linear+RELU，这显然是不够的。在图像处理上，convolutional layer比较管用。现在我们先介绍CNN的历史。忽略远古时期，直接看两篇标志性的论文。 1998年LeCun发表了bp算法在zipcode recognization上的应用。由于硬件资源

2017-09-19 22:48:34 471

原创 CS231N-4-Neural Networks

时隔4个多月，暑假去了Stanford同一个教室NVIDIA Auditorium上课，再次回到CS231N的课程，如今已是大三。没有退路。 2017年老师换了，内容也更新了，所以就不听去年的了。本讲我预计是课程的核心内容，神经网络的介绍。注意Neural Networks包括CNN,RNN,DNN等，所以是个很基础的概念，用到的数学知识就是反向传播的链式法则。Recap Our objec

2017-09-17 20:33:26 381

原创矩阵快速幂

今天是ACM校内赛。虽然我没学过OI，没有退役的感觉，但很有可能之后就不打ACM了。这里很感谢队友的帮助，过了2道题，有希望拿奖。自己做的是F题，求(7+43√)n(7+4\sqrt 3 )^n的整数部分。一下子想到初中数学竞赛，an=(7+43√)n+(7−43√)na_n=(7+4\sqrt 3 )^n+(7-4\sqrt 3 )^n是整数。怎么证的？求出递推方程an+1=4an−a

2017-05-21 14:43:07 466

原创 CNN & Tensorflow 入门——以Cifar-10为例

其实这是算分Project的内容，受到CS231n启发，我和晶晶打算做图像分类的机器学习项目。很多人向我推荐tensorflow训练数据，因为有模板，不用手推python公式。首先参考tensorflow官方文档中文版。下载tensorflow (Mac OS) 很简单，安装了anaconda大礼包后，直接输入$ pip install https://storage.googleapis.co

2017-05-14 14:22:46 1582

原创 CS231n-3-Loss Function & Optimization

注意：本课程是应用型课程，对理论证明与思想要求不高，感觉是讲深度学习主要技术，里面的细节都需要自己深入学习。学完本课程，还需要对理论和代码加强。Official Lecture Notes 知乎翻译：上中下recall:Linear Classifierf(x,W)=Wx W 权值矩阵：参数 (x,y) （图像，标签）Loss functionmeasure unhappiness: 结

2017-05-05 20:01:17 819

原创 Pronunciation

value valley: a /ae/ not /a:/ ! mutual u /ju:/ multi u /^/

2017-03-19 14:33:34 383

吴军说Oracle的创始人Ellison，是硅谷老兵。 Oracle生来就是做数据库系统的。Oracle 是Ellison的一个数据库项目的名字（预言家）。后来公司改名为Oracle。中文名为甲骨文（占卜预言）。埃里森和乔布斯很像，极具个性，争强好胜。他抓住IBM的空子，反垄断进入软件市场，并选择其中利润最多的系统软件（数据库管理）市场。赶上数据库革命潮流——关系型数据库。甲骨文开创纯软件公司的先

2017-03-15 20:46:24 569

原创 CS231n-2-Intro to Image Classifier

Image classification is the base of computer vision.The main problem we meet is the semantic gap between pictures and pixels. Moreover, there are so many variables such as brightness, deformation and

2017-03-11 17:36:01 467

原创 Microsoft - Gates & his OS

26岁的乔布斯和盖茨关于设计苹果电脑应用软件，展开了一次双雄会。乔布斯得意地给盖茨看麦金托什，GUI的光芒深深刺激到了Gates丑陋的DOS，Gates发誓要速成GUI——Windows。这一次，乔布斯输给了自己的轻敌与忘形。微软，从来不软。

2017-03-10 18:29:14 434

原创 Intel 奔腾的芯

Intel是PC微处理器（CPU）的王者。总部在硅谷的圣克克拉，也是众多IT企业的总部。摩尔定律的摩尔是Intel创始人，CPU性能随着该定律惊人地增长，虽然如今到了瓶颈。 Intel原本只是众多处理器制作商不起眼的一个，IBM等大公司都有自己的大型处理器，然而IBM PC为了尽快研发，随手使用了Intel CPU，之后IBM PC兼容机的出现，为了兼容，也使用Intel。不过之后，Int

2017-03-01 21:21:50 526

原创 CS231n-1-introduction

Computer Vision的入门课程。评价非常好，是Stanford Vision Lab 2016年的课程。我是用百度云看的，没有字幕也能应付，如需字幕可以在网易云课堂观看。第一讲是Computer Vision的导论，由Fei-Fei Li主讲，她之后就生孩子去了。个人评价，同样是第一节导论课，P大很多课程相形见绌了。

2017-03-01 19:07:50 468

原创 Words from Study

First paper - Knuth’s Mathematical Analysis of Algorithms首先，通常paper分为Abstract, Introduction, Main body, Data, Summary 等几个部分，以前两个部分最为重要。这篇文章是Knuth的经典之作，算法的数学分析。算分小班研读的第一篇论文。2017.2.25auxiliary a. 辅助的（

2017-02-25 21:36:24 449

原创 IT产业的生态链

本来我是不想就第四章写读书笔记的，因为介绍的摩尔定律（硬件性能每18个月提升一倍）早在信概课上就已提及。但之后我觉得吴军先生的idea挺棒的，就write down了。摩尔定律是intel创始人在1965年提出的，是个经验/商业规律，并不是科学规律。我之前没有细想，经过吴军博士的点拨，摩尔定律对于硬件行业的冲击是巨大的、甚至是不利的。硬件必须日新月异，不然就被淘汰。其中的主要成本倒不是原材料，而是制

2017-02-25 19:38:41 1347

原创 Once Apple, Forever Apple

Steve Jobs 成长在贫穷的养父母家庭，大学读了半年因为学费和志向辍学。如今他给后世的遗产——苹果产品，飞入寻常百姓家。他是我至今最迷恋的人，也是最想成为的人，没有之一。科技与艺术，在他身上完美地结合。看过他的传记，也写过读书笔记，但每次读关于他的文章，总有新的心跳在震动。他和小伙伴在车库制造出的第一台PC——APPLE I，像是个玩具，但已经创造了历史。很快被后发制人的IBM PC巨

2017-02-22 21:58:37 325

原创 IBM 常青树

International Business Machines IBM是世界上少数成功逃过历次经济危机，并在历次科技革命中成功转型的大公司。秘诀是保守。用计组老师话说，IBM总是在奇怪的时刻放弃（出售）它的重要业务，保留最核心的，或者转向最适合的。专注于最重要的事。二战是机械革命与电子革命的分水岭。IBM初创期，经营售卖办公器械（如制表机）的业务，服务对象是企业和政府，甚至二战时为军方制

2017-02-20 19:54:43 437

原创 AT&T 帝国的余晖

这是吴军所著《浪潮之巅》的第一章《帝国的余晖——AT&T》读书笔记。AT&T旗下的贝尔实验室 Bell Labs （Alexander Bell 电话之父为创始人）：历史上最成功的私有实验室。美国贝尔实验室是晶体管、激光器、太阳能电池、发光二极管、数字交换机、通信卫星、电子数字计算机、蜂窝移动通信设备、长途电视传送、仿真语言、有声电影、立体声录音，以及通信网等许多重大发明的诞生地。自1925年以

2017-02-19 22:58:14 798

原创 Words of Life

这些日子实习过程中翻译了几篇科技类评估文章，将其中有意思的生词记录下来。 gauge v. 估计，测量 factor A into B 把A考虑入B 注意factor作动词 =take sth. into accounthype v.&n. 炒作pitfall n. 陷阱，隐患 historically adv. 历史上 span n. 范围，duration v. 涵盖 cover su

2017-02-12 23:37:46 550

原创 GRE-D

dabble v. 浅尝辄止 dabble in sth. 涉猎daft [BrE,informal] a. 笨傻的 dais n. 主席台 Members of the Dais 模联中的主席团 dally [old-fashioned] v. 虚度时光，蹉跎岁月damper [idiom] put a damper on sth. 泼冷水，使扫兴dank a. 阴湿的 a dank cel

2017-02-05 20:14:24 478

原创 GRE-C

CSDN是用来记录IT的博客，但鉴于这样的私密而又公众的空间难得，（所谓私密：无人知晓；所谓公众：众人皆可知），这能督促我记诵GRE3000词汇。cosmopolitan a.国际性的，（人）具有国际视野的。<反>insular, provincialcosset v. 宠爱 treat as a petcountenance n.&v. [ten= to hold] tolerate容忍，a

2017-01-22 22:20:21 427

原创算法设计与分析——分治

分治：分而治之。先将问题分解divide为k个相似的子问题，递归地分解到很小的情形，然后容易地解决conquer之，最后递归地合并combine。分治在之前就接触过，如二分查找，二分归并排序，都是O(logn)O(\log n)，比暴力的O(n)O(n)要好太多。上讲提到了主定理，主定理对于求解分治的递推方程很有用。下面用几个经典实例来呈现分治的魅力。Fibonacci 数列Fn=Fn−1+Fn−2

2017-01-19 22:42:41 855

原创算法设计与分析——基础知识

算分第1章

2017-01-18 22:48:21 1333

原创 POJ 多项式加法

总时间限制: 1000ms 内存限制: 5000kB描述我们经常遇到两多项式相加的情况，在这里，我们就需要用程序来模拟实现把两个多项式相加到一起。首先，我们会有两个多项式，每个多项式是独立的一行，每个多项式由系数、幂数这样的多个整数对来表示。如多项式2x20- x17+ 5x9- 7x7+ 16x5+ 10x4 + 22x2- 15对应的表达式为：2 2

2016-07-12 22:47:59 2351 1

Victor的草原