- 博客(28)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 解决‘Failed to import pydot. You must `pip install pydot` and install graphviz‘
运行绘图代码：tf.keras.utils.plot_model(resnet50)报错：('Failed to import pydot. You must pip install pydot and install graphviz (https://graphviz.gitlab.io/download/), ', ‘for pydotprint to work.’)尝试：pip install pydotpip install graphviz安装graphviz-install-2
2021-12-23 16:47:11
4020
原创 Tensorflow使用save保存模型后，使用evaluate时accuracy数据与原来差距太大
参考链接：https://blog.csdn.net/lly1122334/article/details/118901557学习模型保存时，使用保存完整模型的save方法后，再使用evaluate函数评估模型，得到的loss结果与原来一致，但是accuracy结果却相去甚远，寻求半天解决办法后得知，当损失函数使用 sparse_categorical_crossentropy，但是正确率的度量指标为metrics=['acc]就会出现这样的错误。因此！！！当训练时损失函数使用 sparse_categ
2021-12-11 22:16:08
1879
原创 Could not find ‘tensorboard‘.Please ensure that your PATH contains an executable ‘tensorboard‘...
困扰了我一下午的问题终于解决了！！上午，我调用tensorboard时突然来了一个惊天大错打乱了我学习的脚步！如下：然后废了九牛二虎之力各种百度，第一个方案就说是因为tensorboard版本和tensorflow版本对不上，我更换了两次版本依旧不行，于是，在我的百般试探下终于发现了解决方案： 原因：tensorboard.exe文件的目录没有添加到环境变量！于是我通过高级系统设置–环境变量–用户变量–path在path中添加了tensorboard.exe文件所在的位置（要先去找到这个文件的
2021-12-06 16:02:41
2263
1
原创 机器学习之New Optimizers for Deep Learning 2（没听懂的读书笔记）
Graph Neural Networks十一、Graph Neural Networks Graph是什么样？ Graph有结点和边。GNN用途 （1）Classification 假设现在有一大堆不同的分子，训练出一个Classifier可以判断分子会不会突变，dataset就是很多label好的data然后输入一个分类器没有看过的分子，让它判断这个分子会不会导致突变： （2）Generation （3）通过GNN推理剧中凶手 现有一部剧，如果只通过人物特性推定.
2021-10-22 15:30:24
95
原创 机器学习之New Optimizers for Deep Learning 1（没听懂的读书笔记）
New Optimizers for Deep Learning五个Optimizer：SGDSGD with momentum（SGDM）三个Adaptive learning rate的方法：AdagradRMSPropAdamSome Notations(符号)θt\theta_{t}θt：model parameters at time step t▽L(θt)\triangledown L(\theta_{t})▽L(θt) or gtg_{t}gt：gradi
2021-10-22 15:30:06
139
原创 机器学习之二十一（读书笔记）
三十四、Feature Extraction（用GAN做） 1、InfoGAN 我们本来希望改变input的某一维度就能让结果发生变化。例如，我们希望input的每一维度对应如下，但是实际上并不是那么简单： InfoGAN就是想要解决这个问题，概念如下：会在原来的GAN的基础上把它的input vector分成两部分 ccc和z’$$。在InfoGAN里面会train一个classifier，这个classifier的工作是看generator的output去预测现在generator的in
2021-10-21 11:21:44
240
原创 机器学习之二十（读书笔记）
fGAN三十二、fGAN：General Framework of GAN（General Framework：总体框架） 我们定某种objective function就是在量JS Divergence，fGAN就是在说怎么量其它的divergence。 1、f-divergence 假设有两个distribution，PPP、QQQ，p(x)p(x)p(x) and q(x)q(x)q(x) are the probability of sampling x。 PPP和QQQ的.
2021-10-17 16:49:42
233
原创 机器学习之十九（读书笔记）
Unsupervised Conditional Generation三十、Unsupervised Conditional Generation 举例：假设你有一个domain XXX 的image，它们是real photo，还有一个domain YYY 的image，它们是画作，你可以用一个generator来输入real photo，输出画作。你在training的时候你并不需要labelled data，这是风格转化的实现过程，只有两堆data，machine自己学到怎么从其中一堆转到.
2021-10-14 21:24:32
149
原创 机器学习之十六（读书笔记）
二十五、ELMO,BERT,GPT 怎么让机器去读人类的文字。 在BERT之前的方法： 同一个词汇是可能有不同的意思的，举例： 过去在做embedding时每一个word type有一个embedding，不同的token属于同一个type，它所对应的vector就是一模一样的。事实上并不是如此，不同的token就算它们是同样的type，也有可能有不同的语义。过去的做法就是给它们不同的embedding。这样做是不够的。
2021-09-29 16:56:50
157
原创 机器学习之十五（读书笔记）
二十四、Unsupervised Learning：Deep Auto-encoder 1、Auto-encoder 比如做数字辨识，首先找一个encoder，可以input一张digit，接下来可能就是一个neural network，它的output就是一个code（大小比input小，会有压缩的效果），这个code代表原来input这张image的某种精简有效的representation。 问题是现在做的unsupervised learning，不知道output长什么样子。所以我们
2021-09-28 16:34:16
214
原创 机器学习之十四（读书笔记）
Unsupervised Learning–Linear MethodsK-meansdimension reductionPrinciple component analysis（主成分分析）（PCA）二十二、Unsupervised Learning–Linear MethodsDimension Reduction（降维）分为两种： Generation（无中生有）； Reduction（化繁为简）：Clustering & Dimension 1、Cluste.
2021-09-26 21:01:50
249
原创 机器学习之十三（读书笔记）
Transformer二十一、Transformer（变压器） Transformer的知名应用–BERT。 Transformer是一个Seq2seq model with “Self-attention”。 1、Self-attention 一般要处理一个Sequence，最常想到的架构就是RNN，假设是single directional的RNN，下图，在输入b4b^4b4时，已经把a1a^1a1到a4a^4a4都看过了；如果是双向的，当你输出每一个b1b^1b1到b4b^4b.
2021-09-24 11:09:06
89
原创 机器学习之十二（读书笔记）
pointer networkRecursive Structure十九、Pointer Network（指针网络） 解一系列演算法： 给十个data point，用自动的方法找出一些点，连接起来可以把其余的点包进去。 一个neural network，它的input就是十个data point，每一个data point就用xy坐标表示，所以input就是10个二维的vector，丢到network里去，期待它的output为（4 2 7 6 5 3）： 那这个poin.
2021-09-22 17:10:33
71
原创 机器学习之十一（读书笔记）
十八、Conditional Generation by RNN & AttentionGenerationAttentionTips for GenerationPointer Network （一）Generation 产生有structure的object，假设可以拆成很多component，使用RNN把这个component一个一个产生出来。 举例来说，怎么让machine产生句子，一个句子由word或者character组成，使用RNN把character或wor
2021-09-21 10:51:20
130
原创 机器学习之十（读书笔记）
Network Compression十七、Network Compression（网络压缩） 原因：移动设备存储有限，不能存太深或太大的network，我们希望可以把我们的network缩小让它可以fit这些设备上有的运算资源。 可以让network变小的方式：Network Pruning（网络剪枝）Knowledge Distillation（知识提炼）Parameter Quantization（参数量化）Architecture Design（建筑设计）Dynamic C.
2021-09-14 20:08:29
81
原创 机器学习之九（读书笔记）
Attack ML Models十五、Attack and DefenseAttack1、什么是攻击 想做什么样的攻击？ 举例：现有一个影响侦测的模型，原本它的功能是输入一张图片，它就能告诉你这张图片里面是什么样的东西： 我们现在做这样的事情：把图片上加上一些杂讯，这些杂讯不是随机生成的杂讯，加上这些杂讯就能得到稍微有点不一样的图片，把这个稍微有点不一样的图片丢到network里面，network就能得到非常不一样的结果： 2、Loss Function for Attack.
2021-09-13 20:38:39
333
原创 机器学习之八（读书笔记）
Explainable Machine LearningLocal Explanation十四、Explainable Machine Learning（可解释机器学习） 机器不仅要告诉我们它知道，而且要告诉我们它为什么知道。1、介绍 explanation分为两大类： （1）Local Explanation 今天已经给机器一张图片，它要告诉我们为什么它觉得这张图片里面有一只猫。 （2）Global Explanation 不是针对某一张图片来进行解释，而是要它告诉我.
2021-09-07 11:17:05
224
原创 机器学习之七（读书笔记）
Semi-supervised LearningUnsupervised Learning :Word Embedding十二、Semi-supervised Learning（半监督学习）1、介绍 Supervised learning :{(xr,y^r)}r=1R\begin{Bmatrix}(x^r,\hat{y}^r)\end{Bmatrix}^R_{r = 1}{(xr,y^r)}r=1R，其中xrx^rxr :image,y^r\hat{y}^ry^r:class l.
2021-09-04 15:23:07
152
原创 机器学习之六（读书笔记）
十一、Recurrent Neural Network（RNN）（循环神经网络） 智慧客服，订票系统，需要Slot Filling（槽位填充）这项技术，假设现在有人说“我要买11月2日去上海的票”，比如在订票系统的Slot分为Destination和time of arrival，系统需要自动辨别每一个词汇属于哪个Slot。 如何解决slot filling呢？ 可以使用Feedforward network：input是一个词汇，变成一个vector，丢到这个network中去，output应
2021-09-02 15:31:27
207
原创 机器学习之五（读书笔记）
十、Convolutional Neural Network 为什么CNN会被用于图像？ (1)CNN简化neuron network 架构，过滤掉不需要的参数。 (2)大部分pattern比整张image还要小，一个neuron只需要链接到一小块区域，不需要连接到整张图片；假设现有一张图片，需要侦测是否有“鸟嘴”： (3)同样的pattern出现在不同的区域，可以用同样的neuron侦测出来；假设现有两张图片，一个的鸟嘴在左上角，一个在中间，要求这两个neuron共享同一组参数，...
2021-08-26 15:24:05
118
原创 机器学习之四（读书笔记）
Deep LearningBackpropagationTips for Deep Learning八、Deep Learning历史：1958：Perceptron(linear model)(感知器)1969：Perceptron has limitation1980：Multi-layer perceptron(多层感知器)(与今天的DNN没有显著差异)1986：Backpropagation(反向传播)(通常超过3个隐藏层就train不出好的结果)1989：1 hidden .
2021-08-20 16:45:29
192
原创 机器学习之三（读书笔记）
五、Classification:Probabilistic Generative Model在分类中找一个function，它的input是一个object x，它的output是这个object属于哪一个class。task：在金融上，通过某个人的信息决定要不要借钱给他；医疗诊断；手写字辨识；人脸辨识；以下以宝可梦为例：1.将宝可梦数值化放到function中，即特性数值化：Total（多强）、HP（生命值）、Attack（攻击）、Defense（防御）、SP Atk（特殊攻击时的攻击力）、
2021-08-05 19:53:38
376
原创 机器学习之二（读书笔记）
四、Gradient Descent（梯度下降）梯度下降步骤：1.选取两个参数{θ1,θ2\theta_{1},\theta _{2}θ1,θ2}2.随意选取一个初始位置θ0=[θ10θ20]\theta^{0} = \begin{bmatrix}\theta _{1}^{0}\\ \theta _{2}^{0}\end{bmatrix}θ0=[θ10θ20]3.通过梯度下降得到新的位置θ1\theta^{1}θ1，即[θ11θ21]=[θ10θ20]−η[∂L(θ10)/∂θ1∂
2021-05-19 18:27:04
244
原创 机器学习之一（读书笔记）
一、绪论机器学习就是找函式。寻找函式的方法----Gradient Descent15个知识点。Regression：输出一个数值Binary Classification：输出值只有Y或N3. Multi-class Classification：输出值在很多个中选一个4. Generation：生成5.Supervised Learning：给机器有label的资料5. Unsupervised Learning：给机器无label的资料6. Reinforcement
2021-05-17 16:27:15
138
原创 python -m pip install --upgrade pip更新pip报错的解决方法（附textrank4zh安装失败的解决方法）
因为安装textrank4zh一直报错，如下建议我升级pip但是输入的口令一直失败：第一次，有人说删掉D:\anaconda3\Lib\site-packages里的pip-20.1.1.dist.info，删除之后还是失败之后有人说是read time out 加载超时，应该用镜像：成功了！然后安装textrank4zh依然失败，所以我又用了镜像：哈哈，又成功了！镜像真香！...
2020-11-22 01:04:09
633
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人