机器学习基石 作业三
- 代入计算
- 线性回归得到的映射函数 H H H的性质问题。显然映射多次与映射一次效果一样。其它的可以根据 H H H的性质,秩为d+1,显然不可逆。特征值的部分不是非常清楚,大概是根据 I − H I-H I−H的迹等于 N − ( d + 1 ) N-(d+1) N−(d+1)得到的。
3. PLA的error的上限。计算一下就知道结果。
4. 可微,显然。
5. 使用SGD法能够得到PLA的error。SGD法更新公式 w t + 1 = w t − e r r o r 的 梯 度 w_{t+1} = w_{t}-error的梯度 w