- 博客(25)
- 收藏
- 关注
RSS订阅原创 Boosting for Transfer Learning阅读
转载自己的笔记：https://zhuanlan.zhihu.com/p/143592898
2020-05-28 09:19:32
528
原创 记录问题，到时问老师
1.现在的学习是研究一个东西？然后采用不同的模型去尝试观察结果？还是说更加细化某一个东西，比如说对数据采用破损处理？应该采用什么样的学习方法才是对自己有利的。...
2020-05-06 14:31:59
218
原创 Torchtext常见错误汇总
1.最近在colab上把代码迁移到本地，在加载模型参数的时候出错torch.load('../pkl/create_songs(lstm).pkl', map_location=device)报错：Can’t get attribute ‘_default_unk_index’ on <module 'torchtext.vocab’百度搜不到结果，上谷歌查了一下有人提出版本问题，...
2020-04-30 21:01:00
953
原创 损失函数之交叉熵
记录一下自己的笔记。1.信息熵首先是信息量的定义，根据信息论原理得出。。这里一开始就给出了负号，保证 I(x)>=0.信息熵就是信息量的数学期望。2.KL散度（相对熵）中间还有一个条件熵，略过了。。这里对应就是我们机器学习中的P(X)真实分布，Q(X)预测分布。从式中得知，KL越少就是表示两个分布越接近。在机器学习中，我们的目的就是将Q(x)无限接近P(x).其中...
2020-03-02 23:16:01
212
原创 Word2Vec and Glove
1. Word2Vec1.Skip-Gram 跳字模型：假设背景词由中心词生成，即建模P(Wo|Wc) ，其中Wc为中心词， Wo为任一背景词2.CBOW:假设中心词由背景词生成，即建模P(Wc|Wo)，其中 为背景词的集合。补充：这里注意一下nn.Embedding 的输出[seq_len,batch_size,embedding_size]，不要把embedding和词向量搞混了。...
2020-02-25 16:28:14
223
原创 对进阶优化算法的理解
1.基本/常见的进阶算法有？AdaGrad，RMSProp，AdaDelta，Adam2.相比普通的BP算法比较？加入了动量的概念；通俗理解就是：以往的算法lr是静态的，一直不改变，导致模型无法有效的进行收敛；按一个batch来算梯度是不准确；于是加入了动量的概念。认为梯度下降的过程中可以加入惯性。超级简单理解：就是当前梯度下降方向主要是此前累积的下降方向（保留了以往的信息），并略...
2020-02-23 17:10:00
159
原创 VGG,NIN and GoogLeNet
第一次使用kaggle的notebook，可以免费使用gpu还是挺爽的，不过就是不了解读取数据集的路径到底是怎么用的？感觉 /root/Datasets/里面的数据集不是主页面的Datasets加强记忆:计算卷积，池化的H,Wconv:W/H_new = (W/H_old + 2*padding - kernel_size) / stride +1 (padding是上下左右对称加的)p...
2020-02-19 18:35:29
355
1
原创 seq2seq到加上attention机制，再整合成transformer
时间问题，，开个好头。1.机器翻译有一个大问题，就是输入输出的序列长度不一定相等。于是设计出Encoder-Decoder模型。*于是就有了Sequence to Sequenceseq模型简答来说就是在输出的时候：先输入bos，然后以eos为结束标记。总结：Sequence to Sequence encoder、decoder的网络可以是任意RNN网络：LSTM，双向RNN...
2020-02-18 12:19:52
412
原创 LSTM与梯度消失，爆炸
1.LSTM其实很好理解，在理解了RNN的基础上，继续理解GRU(多了两个门)，LSTM也差不多；在构建LSTM的时候，我们只需要关心两个参数:(input_size,超参数hidden_size)第一次初始化后就再加上隐藏状态H[batch_size,hidden_size]多少个batch，就是一次处理多少个样本，所以就有batch_size个H构建LSTM：1.每一个门都是 [i...
2020-02-16 11:15:06
398
原创 Task01：线性回归；Softmax与分类模型、多层感知机
记录一下要点1.训练集上的准确率是在一个epoch的过程中计算得到的，测试集上的准确率是在一个epoch结束后计算得到的，后者的模型参数更优2.pytorch的计算精度没有numpy的高，所以exp(100)是inf无穷大，一开始还以为要讲数据先处理一下，归一化还是sigmoid？？？ 这错误犯得也太弱智了。。怎么可以这么做 softmax学了这么多了，其实softmax也相当于一个激...
2020-02-14 11:23:45
136
2
原创 maskrcnn
import osimport sysimport randomimport mathimport reimport timeimport numpy as npimport cv2import matplotlibimport matplotlib.pyplot as pltfrom config import Configimport utilsimport model...
2020-01-07 15:11:38
152
原创 各种链接
https://github.com/matterport/Mask_RCNN/releaseshttps://github.com/EdjeElectronics/TensorFlow-Object-Detection-API-Tutorial-Train-Multiple-Objects-Windows-10#1-install-tensorflow-gpu-15-skip-this-ste...
2020-01-06 22:09:43
184
原创 Ubuntu16配置object detection API
一. 安装anaconda直接安装就行，安装记得加上环境变量例如我的export PATH="/home/cht/anaconda3/bin:$PATH" 1.1 新建虚拟环境变量好像py3.7也兼容了，但是不确定，这里还是用3.6，例如我打conda create -n tf python=3.6# 激活conda activate tf# 退出conda deactiv...
2019-12-29 15:55:12
281
8
原创 运行object detection 出错
/home/cht/anaconda3/envs/tf/lib/python3.6/importlib/_bootstrap.py:219: RuntimeWarning: compiletime version 3.5 of module 'tensorflow.python.framework.fast_tensor_util' does not match runtime version ...
2019-12-29 10:27:11
203
原创 配置运行运行Mask-RCNN
运行Mask-RCNN一定要主要版本！！tensorflow 1.4keras 2.1.5gpu版本更要和cuda 和cudnn 版本相对应！！还有如何在虚拟环境上运行jupyter notebook?conda install nb_condaobject detection还没学会运用。。版本太坑 官方自己给的2.0例子，里面的代码却不支...
2019-12-28 21:54:09
280
原创 爬取豆瓣《上海堡垒》，制作词云看看大家的关注点在哪呢？
前言：原来数据分析需要很好的基础啊！！1.使用selenium进行获取页面信息；用这个原因好像是方便？还是因为简单，，忘记了。from selenium.webdriver import Chromefrom selenium.webdriver.support.ui import WebDriverWaitfrom selenium.webdriver.support import...
2019-09-03 17:42:59
189
原创 图像处理入门:简单图形验证码模板匹配
前言：之前入门深度学习，直接上来就用tensorflow进行mnist手写字体识别，其实中间很多东西过程等都不是很清楚，现在重新来一个简单的，自己印象也可以深刻一点。1.获取验证码图片获取验证码图片，参考了知乎一个大神具体X-Forwarded-For这里对识别影响不大，其实我也不会哈哈 就略过了。import osimport timeimport numpy as npimpor...
2019-07-11 18:29:20
677
1
原创 numpy类型转换错误
实在弄不懂为什么np.random.peermutation生成的数据回报浮点数问题？？导致出现IndexError: only integers, slices (:), ellipsis (...), numpy.newaxis (None) and integer or boolean arrays are valid indices解决方法： b.astype(int)有大神知道为...
2019-05-30 16:03:16
865
原创 scrapy示例爬取数据并存入mongodb
目的：爬取最新的美剧里面的基本信息总共5条信息 url：https://www.meijutt.com/new100.html环境：win10废话不说，开始~1.创建工程scrapy startproject meiju100scrapy gensipider meiju(爬虫名称) url(上面给的url)2.填写item.py 定义你需要爬取的信息名字可随意填写3.定义 ...
2019-04-08 20:36:18
956
原创 Ubuntu18.04 配置hadoop3.2（伪分布式安装）并运行wordcount步骤
Ubuntu18.04 配置hadoop3.2（伪分布式安装）并运行wordcount步骤下载hadoop 直接选3.2版本（目前最新） 64位linux走起记得配置好jdk 准备工作要做好然后解压hadoop 路径自己选择教学用的是伪分布式，所以我也是按照伪分布式的步骤进行安装，在修改配置文件的时候注意修改路径！！ 就是你hadoop安装在哪里\如图所示 同理hdfs-sit...
2019-03-05 20:44:34
1343
2
原创 SSO算法(Simplified Swarm Optimization)
优点：简单，高效，灵活。描述SSO的详细步骤仅基于cg，cp和cw给出后的以下简单数学建模 (cr暂时不用考虑)STEP 0. Generate X0,i=Pi randomly, calculate F(X0,i), find gBest, and let t=1, where i=1,2,…, Nsol.STEP 1. Let i=1.STEP 2. Update Xt-1,i to...
2018-12-18 15:16:53
1792
1
原创 np.sum(==)判断的用法
今天看到了一种新用法，记录一下代码如下：a = []text = np.random.randint(1,5,[4,5])for i in range(text.shape[0]):a.append(np.sum(1 == text[i]))这里的会输出什么呢？text:[[4 2 3 2 1][2 4 3 2 2][4 3 2 4 2][2 2 1 1 2]]a:[1,...
2018-12-07 15:55:25
2290
2
原创 AI基础之概率论
把自己做的笔记记录一下。。。随机事件:随机变量的取值与概率值的映射一一对应。即： 概率分布-&amp;amp;amp;amp;gt;随机变量的值然后是期望与方差离散：E(x) = Σp(x)x D(x) = Σp(x)x^2 - E(x)连续: E(x) = ∫P(x)xdx D(x) = ∫P(x)x^2dx - (E(x))2(次方) = E(x平方)-E(x)平方联合概率P(X,Y)全概率：P(...
2018-10-11 15:48:15
388
3
原创 linuxcentos7不能上网的原因
centos7默认没有开网卡 要把no改成yes！（1）桥接模式的虚拟机，就像一个在路由器"民政局"那里"上过户口"的成年人，有自己单独的居住地址，虽然和主机住在同一个大院里，但好歹是有户口的人，可以大摇大摆地直接和外面通信。（2）NAT模式的虚拟机，纯粹就是一个没上过户口的黑户，路由器"民政局"根本不知道有这么个人，自然也不会主动和它通信。即使虚拟机偶尔要向外面发送点的信件，都得交给主机以主..
2018-10-10 21:05:39
957
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人