暑魔训作业

1.6、作业

1. 数学符号太多，不熟悉，读起来比较缓慢
2. 不知道如何用数学表达式去描述

2.6、作业

1. 2 A = { ∅ , { 1 } , { 3 } , { 1 , 3 } } 2^\mathbf A = \{\emptyset,\{1\},\{3\},\{1,3\}\} 2A={∅,{1},{3},{1,3}}
2. 2 ∅ = { ∅ } 2^\emptyset = \{\emptyset\} 2∅={∅}
3. A = { 5 , 6 , 7 , 8 , 9 } = [ 5..9 ] = { x ∈ N ∣ x > 4 , x < 10 } \mathbf A = \{5, 6, 7, 8, 9\} = [5 .. 9] = \{x \in \mathbb N | x > 4, x < 10 \} A={5,6,7,8,9}=[5..9]={x∈N∣x>4,x<10}

3.3、作业

4.6

1. A = { 1 , 2 , 3 , 4 , 5 , 6 , 7 , 8 , 9 } ， 则 R = { ( x , y ) ∈ A 2 ∣ x m o d    2 = y m o d    2 } \mathbf A =\{1,2,3,4,5,6,7,8,9\}，则\mathbf R=\{(x,y)∈\mathbf A^2∣x \mod 2 = y \mod 2\} A={1,2,3,4,5,6,7,8,9}，则R={(x,y)∈A2∣xmod2=ymod2}
   相应的划分： P = { { 1 , 5 , 9 } , { 2 , 8 } } P=\{\{1,5,9\},\{2,8\}\} P={{1,5,9},{2,8}}
2. A = { 1 , 2 , 3 , 4 , 5 , 6 , 7 , 8 , 9 } \mathbf A = \{1,2,3,4,5,6,7,8,9\} A={1,2,3,4,5,6,7,8,9}， R 1 = { ( x , y ) ∈ A 2 ∣ x + k ∗ 2 = y } \mathbf R_1 =\{(x,y)∈\mathbf A^2∣x + k*2 = y \} R1​={(x,y)∈A2∣x+k∗2=y}其中k为任意整数。再定义 R 2 = { ( x , y ) ∈ R 2 ∣ x = y − 1 } \mathbf R_2 =\{(x,y) \in \R^2 \vert x = y - 1\} R2​={(x,y)∈R2∣x=y−1}则 R 1 ∘ R 2 = { ( 2 , 9 ) } \mathbf R_1 \circ \mathbf R_2 = \{(2, 9)\} R1​∘R2​={(2,9)}
   R 1 2 = { ( 1 , 9 ) } ， R 1 3 = ∅ ， R 1 4 = ∅ ， R 1 5 = ∅ \mathbf R_1^2 = \{(1, 9)\}，\mathbf R_1^3 =\emptyset，\mathbf R_1^4=\emptyset，\mathbf R_1^5=\emptyset R12​={(1,9)}，R13​=∅，R14​=∅，R15​=∅
   R 1 + = ∪ i + 1 ∣ A ∣ R 1 i = { ( 1 , 9 ) , ( 2 , 9 ) } \mathbf R_1^+=\cup_{i+1}^{|A|}\mathbf R^i_1 = \{(1, 9),(2, 9)\} R1+​=∪i+1∣A∣​R1i​={(1,9),(2,9)}
   R 1 ∗ = { ( 1 , 9 ) , ( 2 , 9 ) , ( 1 , 1 ) , ( 2 , 2 ) , ( 5 , 5 ) , ( 8 , 8 ) , ( 9 , 9 ) } \mathbf R_1^* =\{(1, 9),(2, 9),(1,1),(2,2),(5,5),(8,8),(9,9)\} R1∗​={(1,9),(2,9),(1,1),(2,2),(5,5),(8,8),(9,9)}

5.5

问题：举例说明你对函数的认识
函数有三个重要的特征，自变量、因变量、函数值。有定义域与值域, 且对于定义域的每个值, 在值域中有且仅有一个值与其对应。函数就像一个盒子，将输入的x转换为y，就在x和y之间建立了对应关系，我们把这种关系称为映射。

6.5

问题：自己给定一个矩阵并计算其各种范数.
设矩阵为：
$$\left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]$$
$l_0$范数：$$\Vert A{\Vert }_0=4$$
$l_1$范数：$$\Vert A{\Vert }_1=10$$
$l_2$范数：$$\Vert A{\Vert }_2=\sqrt{30}$$
$l_{\infty }$范数：$$\Vert A{\Vert }_{\infty }=4$$

7.3

解释 推荐系统: 问题、算法与研究思路 2.1 中的优化目标的各符号及含义

上述表达式本质是用方差求最小误差，在机器学习的线性回归中也有使用。求经过模型计算的值与评分表中对应的非零元素的方差，目标就是让方差最小，求得最符合期望的值。
符号解释：
$x_i$：用户i的信息
$t_j$: 商品 j 的信息
$f$：假设函数
$r_{i,j}$：用户i对j的评分
$\Omega$：用户 i 与商品 j 下标的组合，$0<i<n，0<j<m$

8.4

1. 问题：将向量下标为偶数的分量 (x2, x4, …) 累加, 写出相应表达式.
   $$\sum _{i\mathrm{m}\mathrm{o}\mathrm{d}2=0}{x}_i$$

2. 各出一道累加、累乘、积分表达式的习题, 并给出标准答案.

   定义向量$x=[1,2,\dots ,9]$

   累加：将向量分量大于1的累加起来
   $$\sum _{x_i>1}{x}_i=44$$
   累乘：将向量分量小于5的累乘起来
   $$\prod _{x_i>1}^{10}{x}_i=24$$
   积分表达式：
   $${\int }_0^{\infty }{e}^{-x}dx=1$$

3. 你使用过三重累加吗? 描述一下其应用.

   物理运用：计算体积。

4. 给一个常用的定积分, 将手算结果与程序结果对比.
   $${\int }_0^1\sqrt{1-x^2}dx=\frac{\pi }{4}$$

   import math
   
   step = 0.001
   sum = 0
   for i in range(0, int(1 / step)):
       sum += math.sqrt(1 - pow(i * step, 2)) * step
   
   print(sum)
   

   计算结果：0.7858888667277573

   ​

9.3

问题：自己写一个小例子 ( n = 3 , m = 1 )来验证最小二乘法.
数据：

x	y
1	2
2	4
3	6

根据线性回归，可建立假设函数：
$$h(x)=x_1{w}_1+x_2{w}_2$$
向量化：
$$h(x)={\mathbf{W}}^{\mathrm{T}}\mathbf{X}$$
回归目标：
$$\arg mi{n}_{\mathbf{w}}||\mathbf{X}\mathbf{w}-\mathbf{Y}|{|}_2^2$$
利用偏导数为0取得极值得如下公式：
$$\mathbf{w}=({\mathbf{X}}^{\mathrm{T}}\mathbf{X}{)}^{-1}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$$
计算${\mathbf{X}}^{\mathrm{T}}\mathbf{X}$
$${\mathbf{X}}^{\mathrm{T}}\mathbf{X}=\left[\begin{array}{ccc}1& 2& 3\\ 1& 1& 1\end{array}\right]\times \left[\begin{array}{cc}1& 1\\ 2& 1\\ 3& 1\end{array}\right]=\left[\begin{array}{ccc}14& 66& 3\end{array}\right]$$

计算${\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$
$${\mathbf{X}}^{\mathrm{T}}\mathbf{Y}=\left[\begin{array}{ccc}1& 2& 3\\ 1& 1& 1\end{array}\right]\times \left[\begin{array}{c}2\\ 4\\ 6\end{array}\right]=\left[\begin{array}{c}28\\ 12\end{array}\right]$$
最终计算得到
$$\mathbf{w}=[2,0]$$

10.6

问题：自己推导一遍, 并描述这个方法的特点 (不少于 5 条).

1. 适合二分类问题，不需要缩放输入特征
2. 可以解决多分类问题
3. 可直接使用最大似然函数对所有参数进行优化
4. 选择sigmoid函数做为限定函数(当然也有其他可选)
5. 可选用梯度上升或梯度下降求解

11.5

A undirected net is a tuple $G=(\mathbf{V},w)$, where $\mathbf{V}$ is the set of nodes, and $w:\mathbf{V}\times \mathbf{V}\to \mathbb{R}$ is the weight function where $w(v_i,v_j)$ is the weight of the edge $(v_i,v_j)$ and $w(v_i,v_j)=w(v_j,v_i)$

12.4

1.自己画一棵树, 将其元组各部分写出来 (特别是函数 p).
在这里插入图片描述

triple $T=(\mathbf{V},r,p)$
V = { v 1 , v 2 , v 3 , v 4 , v 5 , v 6 , v 7 , v 8 } \mathbf{V} = \{v_1,v_2,v_3,v_4,v_5,v_6,v_7,v_8\} V={v1​,v2​,v3​,v4​,v5​,v6​,v7​,v8​}
$r=v_1$
p : V → V ∪ { ϕ } p: \mathbf{V} \to \mathbf{V} \cup \{\phi\} p:V→V∪{ϕ} is the parent mapping satisfying
$p(v_1)=\varphi ，p(v_2)=v_1，p(p(v_2))=\varphi ，p(v_5)=\varphi ，\dots$

2.针对该树, 将代码中的变量值写出来 (特别是 parent 数组).
$n=8，root=0，parent=[-1,0,0,1,1,0,4,0,6]$

13.4

1.画一棵三叉树, 并写出它的 child 数组.

$$child=\left[\begin{array}{cccccccc}-1& 1& -1& -1& 4& -1& -1& -1\\ -1& -1& 2& 3& -1& -1& -1& -1\\ -1& -1& -1& -1& -1& -1& -1& -1\\ -1& -1& -1& -1& -1& -1& -1& -1\\ -1& -1& -1& -1& -1& 5& -1& -1\\ -1& -1& -1& -1& -1& -1& -1& -1\\ -1& -1& -1& -1& -1& -1& 7& -1\\ -1& -1& -1& -1& -1& -1& -1& -1\end{array}\right]$$
2.按照本贴风格, 重新定义树. 提示: 还是应该定义 parent 函数, 字母表里面只有一个元素.
Let $\varphi$ be the empty node, a tree is a quadruple $T=(\mathbf{V},r,\Sigma ,p)$ where

• $V\ne \varnothing$ is the set of nodes;
• $r\in \mathbf{V}$ is the root node;
• $\Sigma$ is the alphabet
• $p:(V\cup \varphi )\times {\Sigma }^{\ast }\to \mathbf{V}\cup \varphi$ satisfying
  $\forall v\in V,\exists 1s\in {\Sigma }^{\ast }，p(v,s)=r$

3.根据图、树、m-叉树的学习, 谈谈你对元组的理解.
元组可以用来对复杂事物进行抽象，元组内部的每一个基本元素都是一个集合，该集合是对事物的特征抽象进行抽象得到的集合，每一个基本元素既代表了事物的一个基本特征。元组可以将各不相同类型的成员变量组合起来用于表示另外一个事物，图能用集合与二元关系的二元组去定义，树能用集合与函数的二元组去定义。

作业14

问题：定义一个标签分布系统, 即各标签的值不是 0/1, 而是[0, 1]区间的实数, 且同一对象的标签和为 1.
A Label Distribution System is a tuple $S=(\mathbf{X},\mathbf{Y})$, where
$X=[x_{ij}{]}_{n\times m}\in \mathbb{R}$ is the data matrix, and ${\mathbf{x}}_i=[x_{i1},\dots ,x_{im}]$ is an vector;
n is the number of instances;
m is the number of features;
$\mathbf{Y}=[y_i{]}_{n\times l}\in [0,1{]}^{n\times l}$ is the lable matrix, and $y_i$ is the label vector of ${\mathbf{x}}_i$，satisfying $\forall y_i\subset \mathbf{Y},{\sum }_{t=1}^l{y}_{it}=1$
l is the number of labels.