机器学习week1
介绍
深度学习分为监督性学习和非监督性学习。监督性学习分为回归问题(给了一堆不同平米房子的房价,然后预测一个新房子的房价)和分类问题(给了一堆良性肿瘤和恶性肿瘤的信息,再给一个肿瘤的信息,判断恶性还是良性);非监督性学习基本是给了一堆数据然后实现一个聚类,实现一个分离。
线性回归模型
线性回归问题最好的cost function是平方差代价函数
使得平方差代价函数降到最小的算法是梯度下降算法。类似于站在山上,旋转360度,并问自己,想要下山,从哪个方向走呢?然后你按照自己的判断又迈出一步 往那个方向走了一步 然后重复上面的步骤 从这个新的点 你环顾四周 并决定从什么方向将会最快下山 然后又迈进了一小步 又是一小步 并依此类推 直到你接近这里 直到局部最低点的位置
这个是梯度下降的迭代函数
这个是在不同点时,斜率分为正负情况会进行增加或减少
当学习率a取偏大或偏小的情况
但是学习率不用取很小,接近最佳值的时候偏导数会自然变小