- 博客(3)
- 收藏
- 关注
原创 激活函数的类型及使用
可以通过改变随机初始化,避免过多特征为0;可以减小学习率,避免训练过程中数据分布的巨大变化,产生许多特征为0的情况被送入Relu函数中。
2024-04-12 21:47:43
103
原创 近端梯度下降法
对凸优化问题,目标函数存在不可微部分时才使用(绝对值项,l1范数,迹范数),求解想法为对可微部分泰勒展开,求得下降方向作为初步更新方向,然后利用近端映射找到一个可以使不可微部分函数值最小且尽可能接近初步更新方向的新方向,作为迭代更新的方向。fxgxhx,其中gx为凸函数且可微,hx是不可微的凸函数X∈Rm×ny∈RmyXww∈Rn表示系数向量,则优化问题目标函数∣∣y−Xw∣∣22λ∣∣w∣∣1。
2023-11-20 16:45:59
127
原创 搭建tensorflow(gpu)虚拟环境
步骤同上,所以只写了完整的代码,以安装tensorflow-gpu-1.14.0+cuda7.4+cudnn10.0为例。若找不到对应版本的cudatoolkit和cudnn,则可以使用如下代码,查看具体的版本号。会出现如下版本,在其中找到自己需要的版本,再次进行安装,安装命令如下。
2023-09-14 19:37:23
354
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人