- 博客(20)
- 收藏
- 关注
原创 神经崩塌Neural Collapse
关于神经网络可以叫上名字的现象不多,Neural Collapse可以算得上一个,Double/Triple descent等现象也算得上,这里基于文献1讨论一下这个现象及其可能的影响因素,毕竟提出来才两年,可能理论上并不是很清楚。...
2022-06-17 09:51:19
4107
原创 文献阅读Leveraging Word-Formation Knowledge for Chinese Word Sense Disambiguation
1.导论这篇文章的创新点在于引入了 Word-Formation 信息来进行多义词消歧任务,可以翻译为词型,举例“征文”一词来说可以看到征文一词在不同的上下文context下会有不同的Formation(构型),在像汉语这样的并列语言中,词义是使用特定的词形构成的,这有助于消除词义的歧义。具体的构型可以看文章的附录部分表格,一共有16种Formation,第二列是解释,第三列是具体的词语例子,第四列是这一类Formation在维基语料库wikicorpus中出现的次数(人工标注)2.相关工作WS
2022-04-28 23:04:51
508
原创 wiki语料库处理
训练英文词向量的时候希望用wiki语料库,但是官方给的文件只有.xml格式,解压后无法直接另存为txt文件(会告诉你文件过大,无法用记事本打开),搜索资料发现大家用的都是gensim自带的WikiCorpus来处理,源代码如下:from gensim.corpora import WikiCorpus if __name__ == '__main__': inp="enwiki-latest-pages-articles.xml.bz2"##注意这里必须数.bz2,不能是自己手动解压后的文
2022-03-27 15:05:17
721
原创 NLP入门思路整理(从Word2Vec到注意力机制再到Bert)(未完结)
一、深度学习中最最重要的注意力机制,参考该博客努力去除一切公式的来粗浅理解:建议直接看标题链接的原博客,这里只是做了一个梳理1.1 Encoder-Decoder机制:给定句子对<source, target>,Encoder编码器(在NLP中一般为RNN模型)层输入source输出相应的编码(可以是Embedding (词嵌入的向量)),Decoder层将该编码作为输入,输出另一段文字,这段文字的输出期望是target,于是我们有了带标签的训练数据集。这样的机制可以用于机器翻译,sou
2022-01-12 14:47:51
370
1
原创 pytorch踩坑记录
在看了skip-gram乞丐版实战后按照自己的理解希望复现这个乞丐版,其中遇到了一些细节问题,记录下来避免以后再次踩坑1.关于数据类型不正确Runtime error: expected scalar type Double but found Float出现这个报错的代码是:pred = model(batch_x.to(device))解决方法参考该博客,将代码改为pred = model(batch_x.to(device).to(torch.float32))成功2.关于网络结构
2022-01-10 16:36:43
536
1
原创 Continual Learning of Context-dependent Processing in Neural Networks阅读笔记
矩阵求逆的高斯消元法A-1 A=I
2021-10-24 15:46:51
217
原创 jupyter notebook写了一个excel无法打开怎么办
问题描述:在jupyter notebook中用pandas库的pd.to_excel后发现写出来的excel无法打开测试代码如下:df = pd.DataFrame({'id':[1,2,3],'name':['a','b','c']})df.to_excel('output.xlsx',encoding='utf-8')print('ok')提示如下解决方法:下载到本地即可正常打开如果有更好的方法,可以在notebook中直接预览excel文件的,欢迎评论区分享...
2021-06-21 15:38:38
2122
4
原创 windows 系统下ssh不是内部或外部命令
如果在本地cmd输入ssh指令提示就上github去下载opensshhttps://github.com/PowerShell/Win32-OpenSSH/releaseshttps://sourceforge.net/projects/sshwindows/files/这两个下载下来我不知道怎么用第一个下载下来后没有安装包但是有ssh.exe,直接添加环境变量还是不行第二个下载下来是这样,nsi文件不知道怎么搞最后还是在这里找到了一个对我可行的办法:百度网盘链接:https://
2021-06-15 15:40:25
1570
原创 如何让jupyter notebook可以使用anaconda的虚拟环境
在任意环境下运行以下语句,然后就能看到啦!conda install nb_conda
2021-06-09 16:07:28
76
原创 jupyter notebook设置虚拟环境
1.问题描述在创建的conda env上运行jupyter notebook,但发现在notebook中的python其实并没有运行在那个env上。尝试了一下解决方法conda install nb_conda_kernels好了,现在连jupyter notebook都打不开了(原本在torch虚拟环境中可以打开的),只能在base环境中打开jupyter notebookexcuse me?我直接好家伙,这是把所有包都剪切到base环境里面了?连conda命令都没了。...
2021-05-30 10:23:51
210
2
原创 python创建虚拟环境遇到HTTP报错
运行命令conda create -n web python == 3.7报错查看镜像我以为是镜像的问题,于是删除了清华镜像可以看到删除镜像之后就可以创建虚拟环境了。如果朋友们遇到同样的问题可以先删除镜像创建环境之后再补上清华镜像但是比较奇怪的是这篇博文遇到了同样的问题Anaconda建立新的环境,出现CondaHTTPError: HTTP 000 CONNECTION FAILED for url … 解决过程.但是在这篇博文中删除清华镜像依然报错,可以参考一下...
2021-05-19 17:27:20
256
3
原创 21-5-19实习python解决需求记录(web,打包exe)
1.需求:1.1可查看性希望将EXCEL表格数据展示给所有人看,由于EXCEL版本兼容问题,直接将EXCEL表格发给大家可能会出现打不开或者乱码的情况,所以希望能用网页或者其他可行的形式1.2 简洁性对使用者的要求仅仅是会使用电脑即可查看数据,查看表格的过程不要太复杂1.3 实时更新性此数据会自动随着数据库的更新而更新2.解决思路:2.1.网页设计,前端开发这里暂时只需要做出网页可以供内部查看测试即可,后续会引进服务器,但我不太会这个。。要分配域名,空间等,好像有免费空间,等会可以试试2
2021-05-19 10:08:42
102
原创 Zotero使用教程
zotero软件下载后可以在word,网页中有强大的应用,可以快速导入和引用文献,绝对是文献管理的好帮手,在做文献调研时能极大的增加效率。这里记录一下昨天老师教我的zotero使用方法,和网络上的教程基本一致Zotero下载Zotero插件在edge浏览器的下载和使用Zotero插件在word的下载和使用最后讨论一点相关的,文献调研ppt的制作...
2021-05-18 18:27:51
26139
4
原创 (已解决)机器学习笔记程序篇--远程服务器jupyter notebook应用出现的问题
每次在远程服务器输入jupyter notebook都会提示我端口被占用8888我同学用的方法是先输入ssh -o StrictHostKeyChecking=no -o TCPKeepAlive=yes -o ServerAliveInterval=30 -L 8888:localhost:8889 xxxx(xxxx是你的服务器主机地址)然后直接jupyter notebook就可以了,但是我不行,jupyter notebook之后弹出来如下的图片参考如下方式改端口https://blog.c
2021-05-08 00:24:22
627
原创 在本地下载pytorch的操作记录
第一次用网络上的方法https://cloud.tencent.com/developer/article/1476954尝试官网给的命令应该是对的,但是我出了内存错误memory error 该换电脑了第二次尝试书《基于pytorch的深度学习》中的命令(因为我已经成功搞定了tensorflow的安装,cuda已经下好了,对于cuda版本选择的问题可以看一下知乎https://zhuanlan.zhihu.com/p/108953566)conda install pytorch torchvi
2021-05-06 14:15:21
111
原创 如何查看tensorflow版本,下载tensorflow1.x的GPU版本操作记录
检查tensorflow是GPU还是CPU版本,命令行终端输入import osfrom tensorflow.python.client import device_libos.environ["TF_CPP_MIN_LOG_LEVEL"] = "99"device_lib.list_local_devices()cuda放在哪个位置?第一步wget http://developer.download.nvidia.com/compute/ .
2021-04-11 21:20:25
487
2
原创 Latex引用引理出现??的解决方法
撰写论文时需要引用文章前面所写的引理/定理这里我遇到了一个问题\newtheorem{Lemma}{引理}[section]\begin{Lemma}\label{doc}(1)。。。(2)。。。(3)。。。\end{Lemma}引用的时候要用\ref ,\cite是不行的,且第一次使用引用定理\ref{doc}的时候会输出 引用定理 ?? 的结果,多编译一次就好了,每次修改label括号中的名字后都需要多编译两次才能去掉问号。注:注意使用头文件\usepackage{h
2021-04-11 16:43:50
6041
原创 LaTeX 引用公式出现??的解决方法
#LaTeX 引用公式出现??的解决方法我用的Xelatex编译,网上各种解决方法都试过了,网络上找到的例子\begin{equation}a^2 +b^2 = c^2 \label{eq:1}\end {equation}\eqref{eq:1} 引用的时候出现俩问号??修改为\begin{eqnarray}a^2 + b^2 = c^2 \label{eq:1}\end {eqnarray}\eqref{eq:1} 即可正常引用原因未知,还望大佬在评论区指出...
2021-04-07 14:16:00
4153
1
原创 pytorch下载问题
这是我在使用conda 下载pytorch的时候遇到的困难(别人钻研的都是砍柴,我磨刀都得费半天劲)Conda - Downloaded bytes did not match Content-Length 问题解决方案https://blog.csdn.net/feifei3211/article/details/80361227
2021-03-05 15:56:03
152
原创 机器学习笔记程序篇:scikit-learn机器学习中随机数种子的应用与重现
scikit-learn机器学习中随机数种子的应用与重现一、随机数种子基础应用在python中简单运用随机数种子二、随机数种子在scikit-learn中的应用(以鸢尾花为例)随机数种子是为了能重现某一次实验生成的随机数而设立的,相同的随机数种子下,生成的随机数序列一样一、随机数种子基础应用在python中简单运用随机数种子import randomrandom.seed(1)a = random.sample(range(0,100),10)random.seed(2)b = random
2021-03-04 21:41:45
3904
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人