![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
学习笔记
文章平均质量分 58
香槟酒气满天飞
这个作者很懒,什么都没留下…
展开
-
神经网络压缩类论文阅读笔记
1、AutoPrune: Automatic Network Pruning by Regularizing Auxiliary Parameters自动剪枝:通过正则化辅助参数自动进行网络剪枝作者提出AutoPrune,通过优化一组辅助参数来实现剪枝,不过是基于权重剪枝,或能推广到神经元剪枝。其实是用这组超参数把网络稀疏问题表述为一个优化问题,一组超参数与权重的乘积表示为修剪后的权值矩阵。在我看来有个很明显的缺点,不管结果如何,用测试集得到一种先验就很蠢,他是根据测试集L1正则化得到的M和训练集L原创 2021-05-04 13:29:08 · 1465 阅读 · 0 评论 -
MySQL使用
0. 前言。。。1. 安装MySQLUbuntu上直接通过apt-get安装sudo apt-get install mysql-server启动服务sudo service mysql start停止服务sudo service mysql stop初始化配置sudo mysql_secure_installation配置选择(base) kangxiatao@AnoI:~$ sudo mysql_secure_installationSecuring the MySQL原创 2021-02-26 22:09:19 · 162 阅读 · 0 评论 -
NLP 自然语言处理(Natural Language Processing)
0. 前言跟着师兄做知识图谱相关课题,果然知识图谱还是????和NLP结合,那就来把,先过一遍NLP。1. 理解词语词向量把词映射到空间中,根据夹角、距离和长短等判断词的相似性。Continuous Bag of Words (CBOW)前后的词预测中间的词Skip-Gram中间的词预测前后的词损失函数损失函数通过正采样和负采样设定,tf.nn.nce_loss抽样选取来传递loss...原创 2021-02-26 20:48:46 · 668 阅读 · 0 评论 -
神经网络压缩(Neural Network Compression)
0. 前言剪枝(Pruning)是为了开发更小、更高效的神经网络。 就我面前的理解来说,主要是去掉权重张量中多余的值从而优化模型。 压缩后的神经网络运行速度更快,减少了训练网络的计算成本。1. 剪枝算法Regularization(正则化)0范数,向量中非零元素的个数。1范数,为绝对值之和。2范数,就是通常意义上的模。L0范数和L1范数对非零参数进行惩罚,使更多非零参数等于零,实现稀疏。L2范数是指向量各元素的平方和然后求平方根,让L2范数的正则项||W||2最小,可以使得W的每个元素都很原创 2021-02-20 21:09:03 · 1269 阅读 · 0 评论 -
Web服务器搭建
1,安装 Node 和 npmNode 是服务器端运行 Js 代码的引擎;npm 则是依赖包管理工具,可以轻松安装工具和代码类库。Node 中文网 http://nodejs.cn/download/查看版本检测是否安装成功npm -v修改npm的资源镜像链接npm config set registry http://registry.npm.taobao.org安装servenpm i -g serve在文件夹目录中启动serve即可搭建一个 web 服务器,以支原创 2021-01-29 23:20:25 · 80 阅读 · 0 评论 -
tensorflow1.使用笔记
Amazon-bookLast-FMYelp2018douban250User-Item Interaction#Users70,67923,56645,9194,422#Items24,91548,12345,538250#Interactions847,7333,034,7961,185,06855000Knowledge Graph#Entities88,57258,26690,961None#Relatio...原创 2021-01-16 17:19:08 · 69 阅读 · 0 评论 -
Google Colaboratory的配置和使用
0. 前言很遗憾我到最近才知道有这么个平台存在,Google完全免费的Colaboratory,自带免费的Tesla T4 GPU,用了一段时间之后,只能说Google一次又一次让我感到震惊,友好的UI和全局中文,添加了很多方便的可视化操作,从使用体验上来说就已经无敌了,这就是资本的力量吗。当然Colab有使用限制,每次运行最多12个小时,运行时不能离线。1. 创建笔记本新建Google Colaboratory如果Colaboratory不存在,转到页面https://colab.rese原创 2021-01-07 00:35:54 · 890 阅读 · 0 评论 -
Jupyter Notebook的配置和使用
1. Jupyter Notebook文件路径查看和修改查看默认路径输入以下脚本,运行出的结果即是当前jupyter文件保存路径import osprint(os.path.abspath('.'))修改Jupyter Notebook文件默认存储路径第一步:找到配置文件菜单中打开Anaconda Prompt输入命令 jupyter notebook --generate-config根据上面运行出的路径打开 C:\Users\xiaomi.jupyter\jupyt原创 2020-07-10 19:27:20 · 834 阅读 · 0 评论 -
tensorflow2.使用笔记
tensorflow2.1使用笔记安装tensorflow在windows10环境下,直接在环境里安装cpu和gpu版本两个版本即可,注意最好是相同的版本号。cpu和gpu的切换tensorflow优先使用gpu版本,如果仅仅用tf做简单的处理(如最小二乘法拟合函数),cpu明显少调用些许文件,执行比gpu版本快,可用如下办法切换至cpu:import os# 下面这行注释掉就是使用gpu,不注释就是使用cpuos.environ["CUDA_VISIBLE_DEVICES"] = "-1"原创 2020-07-10 12:10:22 · 215 阅读 · 0 评论