- 博客(129)
- 资源 (2)
- 收藏
- 关注
原创 斯坦福 算法2 第六周作业
斯坦福 Algorithms: Design and Analysis 2 第六周作业1. Problem Set 62. Programming Assignment 6来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem Set 62. Programming A...
2019-05-21 22:37:04 706
原创 斯坦福 算法2 第六周笔记
斯坦福 Algorithms: Design and Analysis 2 第六周笔记来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。...
2019-05-21 22:30:16 843
原创 斯坦福 算法2 第五周作业
斯坦福 Algorithms: Design and Analysis 2 第五周作业1. Problem Set 52. Programming Assignment 5来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem Set 52. Programming As...
2019-05-15 16:32:48 610
原创 斯坦福 算法2 第五周笔记
斯坦福 Algorithms: Design and Analysis 2 第五周笔记1. NPC 问题1.1 P问题1.2 Reductions and Completeness1.3 NPC定义与解释1.4 NPC问题解法2. Exact Algorithms for NP-Complete Problems2.1 The Vertex Cover Problem2.2 The Traveli...
2019-05-05 10:09:44 428
原创 斯坦福 算法2 第四周作业
斯坦福 Algorithms: Design and Analysis 2 第四周作业1. Problem Set 42. Programming Assignment 4来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem Set 4刚看完题目感觉有点懵。但是仔细想了一下发...
2019-05-04 17:00:34 484
原创 斯坦福 算法2 第四周笔记
斯坦福 Algorithms: Design and Analysis 2 第四周笔记1. Bellman-Ford Algorithm1.1 算法1.2 负权重环问题1.3 空间压缩2. All-Pairs Shortest Paths2.1 Floyd-Wayshall algorithm2.2 Johnson’s algorithm来自斯坦福网站的Algorithms: Design an...
2019-05-04 15:27:01 463
原创 斯坦福 算法2 第三周作业
斯坦福 Algorithms: Design and Analysis 2 第三周作业1. Problem Set 32. Programming Assignment 3来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem Set 3真正的解法应该是个三维数组表示的dp,分...
2019-05-02 22:15:46 379
原创 斯坦福 算法2 第三周笔记
斯坦福 Algorithms: Design and Analysis 2 第三周笔记1. Introduction to Dynamic Programming2. The Knapsack Problem3. Sequence Alignment Optimal Substructure4. Optimal Binary Search Trees来自斯坦福网站的Algorithms: De...
2019-05-02 20:19:38 508
原创 斯坦福 算法2 第二周作业
斯坦福 Algorithms: Design and Analysis 2 第二周作业1. Problem Set 22. Programming Assignment 2来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem Set 2可以有反例。但我貌似没咋想出来。错误的原因...
2019-05-01 12:49:38 953
原创 斯坦福 算法2 第二周笔记
斯坦福 Algorithms: Design and Analysis 2 第二周笔记1. KRUSKAL'S MINIMUM SPANNING TREE ALGORITHM1.1 算法1.2 正确性证明1.3 实现1.4 在Clustering中的应用2 Union Find2.1 Lazy Union2.2 Union by Rank2.3 Path Compression3. Huffman...
2019-04-29 22:51:08 336
原创 斯坦福 算法2 第一周作业
斯坦福 Algorithms: Design and Analysis 2 第一周作业1. Problem Set 12. Optional Theory Problems3. Programming Assignment 13.1 3.2 课程中的scheduling 问题3.3 Prim 算法来自斯坦福网站的Algorithms: Design and Analysis,与目前courser...
2019-04-14 20:14:40 639
原创 斯坦福 算法2 第一周笔记
斯坦福 Algorithms: Design and Analysis 2 第一周笔记1. Introduction1.1 Internet routing1.2 sequence alignment2. Greedy Algorithms2.1 Introduction2.1.1 Optional Caching2.2 A SCHEDULING APPLICATION3. Minimum Spa...
2019-04-14 09:24:38 682
原创 斯坦福 算法1 第六周作业
斯坦福 Algorithms: Design and Analysis 1 第六周作业1. Problem Set 62. Optional Theory Problems3. Programming Assignment 6来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem S...
2019-04-07 10:06:03 443
原创 斯坦福 算法1 第六周笔记
斯坦福 Algorithms: Design and Analysis 1 第六周笔记1. HASHING: THE BASICS2. Universal Hash Functions2.1 动机与定义2.2 性能分析2.2.1 链式实现2.2.2 open addressing 实现3. Bloom Filters3.1 Basics3.2 Heuristic Analysis来自斯坦福网站的...
2019-03-29 15:09:44 1130 2
原创 斯坦福 算法1 第五周作业
斯坦福 Algorithms: Design and Analysis 1 第五周作业1. Problem Set 52. Optional Theory Problems3. Programming Assignment 5来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem S...
2019-03-24 22:00:45 580 1
原创 斯坦福 算法1 第五周笔记
斯坦福 Algorithms: Design and Analysis 1 第五周笔记1. DIJKSTRA'S SHORTEST-PATH ALGORITHM1.1 Basics1.2 算法正确性1.3 算法的实现与复杂度2. 堆2.1 堆的操作与应用2.2 堆的实现3. BALANCED BINARY SEARCH TREES3.1 BST操作3.2 Basics3.3 红黑树3.4 旋转3....
2019-03-21 22:19:55 489
原创 pytorch技巧1: 数组排序后复原
pytorch用法1: 数组排序后复原主要是利用torch.sort函数里返回的第二个参数index,这个index表示的是排序后的数字在原来数组中的位置。比如:l = torch.randint(10,(10,))a, idx1 = torch.sort(l)结果为:l: tensor([3., 3., 8., 7., 9., 9., 7., 4., 5., 1.])a: ten...
2019-03-18 21:52:58 5395 1
原创 斯坦福 算法1 第四周作业
斯坦福 Algorithms: Design and Analysis 1 第四周作业1. Problem Set 42. Optional Theory Problems3. Programming Assignment 4来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem S...
2019-03-15 10:55:10 789 2
原创 斯坦福 算法1 第四周笔记
斯坦福 Algorithms: Design and Analysis 1 第四周笔记1. GRAPH SEARCH AND CONNECTIVITY1.1 Graph Search1.2 BFS(广度优先搜索)1.3 DFS(深度优先搜索)1.4 拓扑排序1.4 Strongly Connected Components1.4.1 算法1.4.2 算法分析来自斯坦福网站的Algorithms:...
2019-03-14 17:08:37 618
原创 斯坦福 算法1 第三周作业
斯坦福 Algorithms: Design and Analysis 1 第三周作业1 Problem Set 32 Optional Theory Problems3 Programming Assignment 34 彩蛋:Linear Selection 实现来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时...
2019-03-10 22:11:07 1084
原创 斯坦福 算法1 第三周笔记
斯坦福 Algorithms: Design and Analysis 1 第三周笔记1 LINEAR-TIME SELECTION1.1 randomized selection1.1.1 算法1.1.2 正确性1.1.3 复杂度分析1.2 Deterministic Selection1.2.1 算法流程1.3 基于comparison的排序算法复杂度下限2 最小割的压缩算法2.1 问题描述2...
2019-03-05 23:15:07 1566
原创 斯坦福 算法1 第二周作业
斯坦福 Algorithms: Design and Analysis 1 第二周作业1 Problem Set2 Optional Theory Problems3 Programming Assignment 2来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1 Problem Set下面...
2019-03-03 20:41:41 874 1
原创 斯坦福 算法1 第二周笔记
斯坦福 Algorithms: Design and Analysis 1 第二周笔记1 The Master Method1.1 介绍1.2 举例1.3 证明2 QuickSort-Algorithm2.1 partition操作2.2 正确性证明2.3 pivot选取3 QuickSort-Analysis3.1 A Decomposition Principle3.2 The Key Ins...
2019-02-27 15:55:16 965
原创 斯坦福 算法1 第一周作业
斯坦福 Algorithms: Design and Analysis 1 第一周作业1. Problem Set 12 Optional Theory Problems3 Programming Question 1来自斯坦福网站的Algorithms: Design and Analysis,与目前coursera上的版本内容没有变化,不过时间安排略有不同。1. Problem Set 1...
2019-02-25 09:51:30 1470
原创 斯坦福 算法1 第一周笔记
斯坦福 算法专项 第一周笔记1.1整数乘法1.2 Merge Sort1.3 算法分析的三个准则2 分析术语2.1 大O表示法2.2 大$\Omega$表示法2.3 $\Theta$表示法1.1整数乘法两个整数相乘的计算,即c=xy。假设a和b的位数是n,而以每个一位数的加法或乘法为基本操作,可得xy的计算中使用最原始的按位相乘然后相加的算法时需要的基本操作数量是n2n^{2}n2级别。举例如...
2019-02-19 10:06:22 1347 2
原创 机器学习技法 作业四
机器学习技法 作业四1 计算一次前向加一次后向的总计算次数。网络结构641,前向63+41次,后向4(w2的梯度)+3(隐藏层的delta)+3*6(w1的梯度),一共47次。2 36个隐藏层,每个有一个单元的时候系数最少。46个。要说为啥这样最少也说不上来为啥,大致就是每一层的系数需要相乘,每一个要乘的项越小最后结果越小吧。或者可以编程遍历所有情况计算。3 与上一题相反,让相乘的式子里...
2019-01-26 20:02:03 1866 1
原创 机器学习技法 Lecture16:Finale
机器学习技法 Lecture16:FinaleFeature Exploitation TechniquesError Optimization TechniquesOverfitting Elimination TechniquesMachine Learning in PracticeFeature Exploitation Techniques用核方法来利用数据的特征,以及对应的算法:...
2019-01-25 09:44:06 302
原创 Classifying Relations by Ranking with Convolutional Neural Networks实现(pytorch)
Classifying Relations by Ranking with Convolutional Neural Networks实现(pytorch)1. 问题描述2. 网络结构效果:3. 数据预处理4. 模型实现5. 踩过的坑5.1 自定义Loss5.2 F值计算5.3 Loss 值溢出6. 实验结果分析1. 问题描述这是关系抽取的一篇经典文章Classifying Relations...
2019-01-22 21:25:58 2411 2
原创 机器学习技法 Lecture15: Matrix Factorization
Linear Network Hypothesis推荐系统问题有个经典的给电影评分的预测。还有2006年Netflix的一个比赛:这个问题就是如何从已有的评分数据中推断用户对未知电影的喜好程度。但是首先就有个问题,这个问题中无论用户id还是电影id,都是一个序数的特征,没有实际的数值意义。而我们以前学的模型除了决策树之外都是建立在数值特征上面的:可以通过one-hot编码解决这个问题...
2019-01-21 21:57:34 318
原创 机器学习技法 Lecture14: Radial Basis Function Network
RBF Network Hypothesis回顾使用高斯核函数的SVM算法:高斯核函数也叫作径向基函数。径向是指其只依赖于与某个中心点的距离。基函数是指它是用来作为组合的基础。因此使用高斯核的SVM算法可以看成是挑选出的径向基函数的线性组合:径向基函数的线性组合也叫作RBF网络,因为它与神经网络有一定的相似之处,只要把神经元对应的函数换掉即可:所以历史上RBF网络也是神经网络的一种。...
2019-01-21 19:51:15 1278
原创 机器学习技法 Lecture13: Deep Learning
机器学习技法 Lecture13: Deep LearningDeep Neural NetworkAutoencoderDenosing AutoencoderPrincipal Component AnalysisDeep Neural Network再来看一下神经网络的结构。每一层网络都相当于是从数据中提取某种模式特征。至于需要多少层网络多少个神经元,可以从两方面看。主观上看只要按照自己...
2019-01-21 09:35:50 248
原创 机器学习技法 作业三
机器学习技法 作业三1 gini系数的计算。两者相加为1,换元代入求极值。结果是0.52 继续换元代入,发现第一项跟原来的gini系数形状一样。3 limN→∞(1−1/N)pN=e−plim_{N\rightarrow \infty}(1-1/N)^{pN}=e^{-p}limN→∞(1−1/N)pN=e−p4 最好的情况就是三个g之间错误的例子不重叠,那么Eout(G)E_{o...
2019-01-12 22:32:55 1010
原创 机器学习技法 Lecture12: Neural Network
机器学习技法 Lecture12: Neural NetworkMotivationNeural Network HypothesisNeural Network LearningOptimization and RegularizationMotivation首先用图示看一下对多个感知机模型进行aggregation之后得到的模型的样子:每个g都对应了一个感知机函数,然后再通过加权求和再...
2019-01-11 22:17:22 255
原创 机器学习技法 Lecture11: Gradient Boosted Decision Tree
Adaptive Boosted Decision Tree回忆一下随机森林算法,它是将bagging与decision tree进行结合得到的。那么如果将boosting与decision tree进行结合也能够得到一个新的算法。但是adaboost算法需要每次对样本权重进行更新,这就要求每个基函数也就是单个的决策树能够支持添加样本权重作为参数。对于样本有加权系数的情况,一般是将目标函数中...
2019-01-06 23:02:12 511
原创 机器学习技法 Lecture10: Random Forest
机器学习技法 Lecture10: Random ForestRandom Forest AlgorithmOut-Of-Bag EstimateFeature SelectionRandom Forest in ActionRandom Forest Algorithm回忆一下之前讲的两个算法,bagging与decision tree。它们都有一些aggregation的成分,但是各自...
2018-12-28 17:17:47 340
原创 机器学习技法 Lecture9: Decision Tree
机器学习技法 Lecture9: Decision TreeDecision Tree HypothesisDecision Tree AlgorithmDecision Tree Heuristic in C&RTDecision Tree in ActionDecision Tree Hypothesis目前讲了几种aggregation类型的算法,一大类是有已知的基分类器直接进行...
2018-12-25 23:14:14 338
原创 机器学习技法 作业二
机器学习技法 作业二1 分别对A和B求导即可,记得其中f(x)=sigmoid(x)f(x)=sigmoid(x)f(x)=sigmoid(x)的倒数是f(x)∗(1−f(x))f(x)*(1-f(x))f(x)∗(1−f(x))。选第一个:2 在第一题的基础上继续求导,选第四个:3 在鞍回归里被求逆的矩阵为:所以是NxN。4 将平方形式的loss对应回max形式的,大致画一下就...
2018-12-22 16:47:58 1351
原创 pytorch实现textCNN
pytorch实现textCNN1. 原理2. 数据预处理2.1 转换为csv格式2.2 观察数据分布2.3 由文本得到训练用的mini-batch数据3. 模型4. 训练脚本5. main函数6.引用1. 原理2014年的一篇文章,开创cnn用到文本分类的先河。Convolutional Neural Networks for Sentence Classification原理说简单也简单...
2018-12-17 23:19:32 30921 31
原创 机器学习技法 Lecture8: Adaptive Boosting
机器学习技法 Lecture8: Adaptive BoostingMotivation of BoostingDiversity by Re-weightingAdaptive Boosting AlgorithmAdaptive Boosting in ActionMotivation of Boosting举了个分辨图片是否是苹果的例子,来描述boosting的思想。主要是使用很多个小的...
2018-12-14 17:13:03 354
原创 机器学习技法 Lecture7: Blending and Bagging
机器学习技法 Lecture7: Blending and BaggingMotivation of AggregationUniform BlendingLinear and Any BlendingBagging(Bootstrap Aggregation)Motivation of Aggregation假设有一堆朋友在预测股市,你需要选择如何听取他们的意见,那么有几种方式:一、选以前说...
2018-12-11 16:09:49 549
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人