机器学习数学语言（7.27作业）

1.二元关系

1.令 A = { 1 , 2 , 5 , 8 , 9 } \mathbf{A} = \{1, 2, 5, 8, 9\} A={1,2,5,8,9}, 写出 $\mathbf{A}$ 上的 “模 2 同余” 关系及相应的划分.
P = { { 1 , 5 , 9 } , { 2 , 8 } } \mathcal{P}=\{\{1, 5, 9\}, \{2, 8\}\} P={{1,5,9},{2,8}}
2. A = { 1 , 2 , 5 , 8 , 9 } \mathbf{A} = \{1, 2, 5, 8, 9\} A={1,2,5,8,9}, 自己给定两个关系${\mathbf{R}}_1$和${\mathbf{R}}_2$, 并计算${\mathbf{R}}_1\circ {\mathbf{R}}_2$,${\mathbf{R}}_1^{+}$,${\mathbf{R}}_1^{\ast }$.
给定两个关系：
R 1 = { ( 1 , 2 ) , ( 2 , 8 ) } , R 2 = { ( 5 , 8 ) , ( 8 , 9 ) } \mathbf{R}_1=\{(1,2), (2,8)\}, \mathbf{R}_2=\{(5,8), (8,9)\} R1​={(1,2),(2,8)},R2​={(5,8),(8,9)}
R 1 ∘ R 2 = { ( 2 , 9 ) } \mathbf{R}_1\circ\mathbf{R}_2=\{(2, 9)\} R1​∘R2​={(2,9)}
正闭包:${\mathbf{R}}^{+}={\bigcup }_{i=1}^{|\mathbf{A}|}{\mathbf{R}}^i$
R 1 + = { ( 1 , 2 ) , ( 2 , 8 ) , ( 1 , 8 ) } \mathbf{R}_1^+=\{(1,2),(2,8),(1,8)\} R1+​={(1,2),(2,8),(1,8)}
克林闭包: ${\mathbf{R}}^{\ast }={\mathbf{R}}^{+}\cup {\mathbf{R}}^0$ , 其中 R 0 = { ( x , x ) ∣ x ∈ A } \mathbf{R}^0 = \{(x, x) \vert x \in A\} R0={(x,x)∣x∈A}
R 1 ∗ = { ( 1 , 2 ) , ( 2 , 8 ) , ( 1 , 8 ) , ( 1 , 1 ) , ( 2 , 2 ) , ( 5 , 5 ) , ( 8 , 8 ) , ( 9 , 9 ) } \mathbf{R}_1^*=\{(1,2),(2,8),(1,8),(1,1),(2,2),(5,5),(8,8),(9,9)\} R1∗​={(1,2),(2,8),(1,8),(1,1),(2,2),(5,5),(8,8),(9,9)}
3.查阅粗糙集上下近似的定义并大致描述.
上近似和下近似：上近似是指包含 给定集合 X 元素的 最小可定义集。下近似则是包含于X的最大可定义集。

2.函数

举例说明你对函数的认识.
1.一元函数
$f:\mathbb{R}\to \mathbb{R}$
$f(x)=x^2+1$
$x\mapsto x^2+1$
2.多元函数
$f:{\mathbb{R}}^2\to \mathbb{R}$
$f(x,y)=x^2+y^2$
机器学习的回归, 就是学习函数
$f:{\mathbb{R}}^m\to \mathbb{R}$, 其中 $m$ 为条件属性数.
在多标签学习中, 就是学习
f : R m → { − 1 , + 1 } L f: \mathbb{R}^m \to \{-1,+1\}^L f:Rm→{−1,+1}L
在多标签分布学习中, 就是学习
$f:{\mathbb{R}}^m\to [0,1{]}^L$, 其中 $m$ 为条件属性数, $L$ 为标签数.

3.向量/矩阵的范数

自己给定一个矩阵并计算其各种范数.
对于矩阵：$\left[\begin{array}{cc}2.2& -1.8\\ 0& 5.6\end{array}\right]$

1. $l_0$范数：$\Vert \mathbf{X}{\Vert }_0=3$. 语义: 非零项个数.
2. $l_1$范数：$\Vert \mathbf{X}{\Vert }_1=2.2+1.8+0+5.6=9.6$. 语义: 绝对值之和,常用于计算绝对误差.
3. $l_2$范数：$\Vert \mathbf{X}{\Vert }_2=\sqrt{2.2^2+(-1.8{)}^2+0+5.6^2}=6.654$. 语义: 平方和,常用于计算平方误差.
4. $\Vert \mathbf{X}{\Vert }_{\infty }$范数：$\Vert \mathbf{X}{\Vert }_{\infty }={\max }_{i,j}|x_{ij}|=5.6$. 语义: 平方和.

4.min与argmin

解释 推荐系统: 问题、算法与研究思路 2.1 中的优化目标
$$\min \sum _{(i,j)\in \Omega }(f({\mathbf{x}}_i,{\mathbf{t}}_j)-r_{ij}{)}^2$$

各符号及含义.

${\mathbf{x}}_i$表示用户$i$的信息，${\mathbf{t}}_j$表示商品$j$的信息，$r_{ij}$表示用户$i$对商品$j$的浏览情况，$r_{ij}=0$表示浏览过，$r_{ij}=1$表示未浏览过，$n$个用户对$m$个商品的浏览情况组成评分表$\mathbf{R}=(r_{ij}{)}_{n\times m}$，$\Omega$代表评分表$\mathbf{R}$中非零元素对应的位置集合，函数$f:R^{d_u}\times R^{d_t}\to R$为要学习的目标。

优化目标为最小化训练集上的 MSE，使得$f({\mathbf{x}}_i,{\mathbf{t}}_j)$与$r_{ij}$平均差距尽可能小，学习到能够根据用户和商品信息来预测浏览情况的函数，为用户推荐喜欢的商品。