Machine Learning
文章平均质量分 74
TYUT_SZH
一个有着AI梦的计算机科学与技术学生。时常想象用自己的双手创造一个美好的世界。
展开
-
梯度下降的一个简单应用实例:三次函数拟合散点
1.基本原理:使用梯度下降法使用三次函数模型去拟合散点,基本过程是:根据三次函数模型给出损失函数求偏导得到所有迭代式编程实现初始化自变量设定学习速率 α设置精度运行程序得到结果首先设定用来拟合的三元函数模型为:y=h(x)=k3x3+k2x2+k1x+k0y=h(x)=k_{3}x^{3}+k_{2}x^{2}+k_{1}x+k_{0}y=h(x)=k3x3+k...原创 2020-02-26 21:35:18 · 1271 阅读 · 0 评论 -
初识:梯度下降算法 (Gradient Descent) ----直线拟合散点
梯度下降算法解决散点拟合问题: 在直角坐标系中给出若干个点作为训练集(Training Set),使用梯度下降算法给出最合适的拟合直线。1.大体思路(我个人的理解): 对于许多散步在直角坐标系中的点,首先给出一个初始的拟合直线( 例如y=0*x+0)。然后在算出这条直线与训练集中的个点的距离差值的和的平方(误差函数 J(x1,x2) )。这里设拟合直线方程为y=x1 * x + x...原创 2018-08-30 21:17:54 · 4316 阅读 · 1 评论 -
梯度下降推广:多元线性回归(学习速率掌控) ----预测房价
1.假设 一个房屋的出售价格y(千元/平方米)由: (1)房屋距市中心的距离(km) x1 (2)房屋的大小(平方米)x2 (3)房屋所拥有的房间数x3 (4)房屋的已使用时间x4这四个因素决定,那么根据训练集确定五个变量θ1 θ2 θ3 θ4 θ0,使得任一房屋的价格可由 y= θ0 + θ1*x1 + θ2*x2 + θ3*x3 + θ4*x4 预测。...原创 2018-08-31 23:01:09 · 1086 阅读 · 0 评论 -
梯度下降优化&线性回归的正规方程解法(Normal Equation)
1.梯度下降算法的几点优化: 梯度下降算法在实际应用时,可以关注某些特征来确保它正常工作,使它更快速地收敛。(1)特征缩放(Feature Scaling): 假设现有两个特征值 x1 x2 , 在训练集中,x1的范围为(-1000,1000),而x2的范围为(-1,1) ,那么可以预想到误差函数J(θ) 的轮廓一定是非常细长的图形,而收敛的步伐也会增加很多。总之,这样的数据会导致J(θ)...原创 2018-09-01 22:49:57 · 955 阅读 · 0 评论