深度学习
长野飘荡
花开花落,人走茶凉
展开
-
PyTorch-线性回归-拟合多项式
先自己定义一个多项式公式,比如:y=2.70∗x3+3.00∗x2+5.00∗x+0.90y = 2.70 * x^3 + 3.00 * x^2 + 5.00 * x + 0.90y=2.70∗x3+3.00∗x2+5.00∗x+0.90然后计算出在 xxx 处于区间 [-3, 3] 时,其对应的 yyy 的值:# 定义多项式参数w = np.array([2.7, 3, 5])b = np.array([0.9])# 生成样本数据x_sample = np.arange(-3, 3, 0.原创 2020-08-22 23:38:32 · 1198 阅读 · 5 评论 -
深度学习-激活函数
主要作用: 加入非线性因素,弥补线性模型表达不足的缺陷Sigmoid函数σ(x)=11+e−x\sigma(x) = \frac{1}{1 + e^{-x}}σ(x)=1+e−x1随着 xxx 的趋近正/负无穷,yyy 对应的值越来越接近 +1/-1,趋近饱和因此当 xxx = 100 和 xxx = 1000 的差别不大,这个特性丢掉了 xxx = 1000 的信息Tanh函数...原创 2019-01-10 17:34:13 · 155 阅读 · 0 评论 -
深度学习-损失函数
线性回归基于均方误差最小化来进行模型求解的方法称为“最小二乘法”(least square method)。在线性回归中,最小二乘法就是试图找到一条直线,使所有样本到直线上的欧氏距离之和最小损失函数:loss=1n∑i=1n(y^i−yi)2loss = \frac{1}{n} \sum_{i=1}^n(\hat{y}_i - y_i)^2loss=n1i=1∑n(y^i−yi...原创 2019-01-09 16:21:26 · 293 阅读 · 0 评论 -
深度学习-链式求导
链式法则是微积分中的求导法则,用于求一个复合函数的导数假设 a,b,c,d,ea,b,c,d,ea,b,c,d,e 存在下面的关系存在等式:a+b=cb+1=dc×d=c a+b=c \\b+1=d \\c\times d=ca+b=cb+1=dc×d=c假设a=2,b=1a=2,b=1a=2,b=1那么c=a+b=3d=b+1=2c=a+b=3\\d=b+1=2c=a+b...原创 2019-07-02 14:44:39 · 5019 阅读 · 0 评论 -
深度学习-矩阵相乘
假设某公司有4个工厂,每个工厂都有3种产品,销量数据如下:工厂P1P2P3甲524乙382丙604丁016每种产品的成本利润如下:产品利润成本P124P213P332则这个公司各个工厂的总成本和总利润为:甲:成本=5x2+2x1+4x3=24 利润=5x4+2x3+4x...原创 2019-06-28 16:00:04 · 1408 阅读 · 0 评论