![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
笔记
苍雪Blog
这个作者很懒,什么都没留下…
展开
-
李宏毅机器学习笔记---Optimization
没有一个Optimization是万能的!!!Background KnowledgeWhat is Optimization about?On-line vs Off-lineSGDSGD with Momentum(SGDM)普通SGD可能恰好算出到一个局部最优,然后卡住就不动了;但是加入movement后,前面movement会对后面产生影响,可以跳出局部最优。Adagrad分母会永无止境的变大,可能走几步因为前几步的gradien.原创 2020-07-29 20:20:11 · 360 阅读 · 0 评论 -
李宏毅机器学习笔记---Gradient Descent
Gradient DescentIn step3,we have to solve the following optimization:找到使得Loss Function最小的parameterTuning your learning rates学习率 太大太小均不可以Adaptive learning RatesAdagrad给每一个参数一个不同的learning rate 过去所有计算过的微分值的均方根(即所有微分值的平方再平均再开根号)..原创 2020-07-29 10:28:43 · 529 阅读 · 0 评论 -
李宏毅机器学习笔记--Regression
Regression可以做什么?Stock Market ForecastSelf-driving Car (输出方向盘角度)Recommendation (购买商品的可能性,根据可能性的大小决定是否给用户推荐。。。步骤Step1 : Model就是建立一个函数: y = b + W * X (W and b are prameters which can be anyvalue)like a Linear model : y=b+∑Wi∗Xiy = b + \su原创 2020-07-27 10:43:14 · 225 阅读 · 0 评论 -
李宏毅机器学习笔记--Basic Concept
ErrorEstimator(估算器)From training data we find f* , f* is an estimator ofBias and Variance of EstimatorN比较大时,比较集中;N比较小时,比较分散。VarienceSimple model is less influenced by the sampled dataBias简单的model有比较大的Bias...原创 2020-07-27 10:40:54 · 184 阅读 · 0 评论 -
李宏毅机器学习笔记--机器学习基础概述
机器学习基础概述机器学习就是自动找一个函数。 (输入一系列数据,输出你想要的结果)例如分类:二分类Yes OR No;或者多分类:class1、class2、class3…机器学习基本可以分为: Regession 和 Classification怎么告诉机器你想要什么样的函数呢?Supervised Learning 并且需要给机器Labeled Data 机器会给一个函数 Loss 来评估当前函数的好坏 机器会找出Loss最低的函数。Reinforcement Learni原创 2020-07-22 16:07:47 · 157 阅读 · 0 评论