2021-07-28 第三次训练

第三天

第一次作业

1. 将向量下标为偶数的分量$({\text{x}}_2,\dots ,{\text{x}}_4)$累加, 写出相应表达式.

   $$\sum _{i\mathrm{m}\mathrm{o}\mathrm{d}2=0}{x}_i$$

2. 各出一道累加、累乘、积分表达式的习题, 并给出标准答案.
   ①：
   $$\sum _{i=1}^{10}{x}_i^2+x_i+1$$
   答案为：

   double sum = 0;
   		for(double i = 1;i <= 10; i++) {
   			sum += (i * i + i + 1);
   		}
   

   

   ②：
   $$\prod _{i=1}^2{x}_i^2$$ 答案为：

   double sum = 1;
   		for(double i = 1;i <= 2; i++) {
   			sum = sum * i * i;
   		}
   

   

   ③：
   $${\int }_0^{10}{x}^2+\sqrt{x}\mathrm{d}x$$ 答案为：

   		double x = 0;
      		double deltax = 1e-2;
      		double sum = 0;
       
       	for (x = 0; x <= 10; x += deltax)
       	{
           	sum += ( x * x + Math.sqrt(x) )* deltax;
       	}
      	 System.out.println(sum);
   

   

3. 你使用过三重累加吗? 描述一下其应用.
   三重累加等同于数学的三重积分，可以求立体的体积，和空间物体的重量。

4. 给一个常用的定积分, 将手算结果与程序结果对比.
   $${\int }_0^{1}x+1\mathrm{d}x$$
   计算机的结果为：1.4950000000000006
   人算的结果为1.5

第二次作业

1. 公式的推导：
   $\underset{\mathbf{w}}{\mathrm{argmin}}\Vert \mathbf{X}\mathbf{w}-\mathbf{Y}{\Vert }_2^2$

   $\Vert \mathbf{X}\mathbf{x}-\mathbf{Y}{\Vert }_2^2={\left(\mathbf{X}\mathbf{w}-\mathbf{Y}\right)}^{\mathrm{T}}\left(\mathbf{X}\mathbf{w}-\mathbf{Y}\right)$
   $=\left({\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathrm{T}}-{\mathbf{Y}}^{\mathrm{T}}\right)\left(\mathbf{X}\mathbf{w}-\mathbf{Y}\right)$
   $={\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-{\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}-{\mathbf{Y}}^{\mathrm{T}}\mathbf{X}\mathbf{w}+{\mathbf{Y}}^{\mathrm{T}}\mathbf{Y}$

2. 对优化目标求导：
   $\partial (\Vert \mathbf{X}\mathbf{w}-\mathbf{Y}{\Vert }_2^2)=2{\mathbf{X}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}-{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$
   $=2{\mathbf{X}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-2{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$

   令其为0，可以得到：
   $\mathbf{w}=({\mathbf{X}}^{\mathrm{T}}\mathbf{X}{)}^{-1}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$

3. 最小二乘法
   $\mathbf{X}=\left[\begin{array}{c}1\\ 2\\ 3\end{array}\right]$

   $\mathbf{Y}=\left[\begin{array}{c}3\\ 6\\ 9\end{array}\right]$

   $\mathbf{w}=({\mathbf{X}}^{\mathrm{T}}\mathbf{X}{)}^{-1}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$
   $={\left(\left[\begin{array}{ccc}1& 2& 3\end{array}\right]\left[\begin{array}{c}1\\ 2\\ 3\end{array}\right]\right)}^{-1}\left[\begin{array}{ccc}1& 2& 3\end{array}\right]\left[\begin{array}{c}3\\ 6\\ 9\end{array}\right]$

   $=\frac{1}{14}\times 42$

   $\approx 1.93$

第三次作业

问题：自己推导一遍, 并描述这个方法的特点 (不少于 5 条).
1.适用于二分类问题
2.使用sigmoid函数，将点到超平面的距离转换为概率。使得计算损失时可导。
3.优化目标表达式为一般性，直接涵盖两种分类的结果。利于建立统一的优化目标。
4.用log函数将乘积运算转为加法运算，方便了计算。
5.对所有对象进行优化。
6.采用梯度下降求参。