自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(7)
  • 收藏
  • 关注

原创 Graph Self-Supervised Learning 之 Contrastive Learning(个人笔记,仅作个人备忘录)

Graph Self-Supervised Learning 之 Contrastive LearningDGI, GMI, GCA, GraphCL, AD-GCL, InfoGraph

2022-03-04 16:36:46 660

原创 训练时,训练误差、精度,和验证误差、精度,都保持不变,是个固定值(难受),这是为啥呢?

使用 TensorFlow with Keras,按照《Python 深度学习》(《Deep Learning with Python》)文本和序列处理那章,使用一维卷积Conv1D进行IMBD电影评论情感分类,下面是书里的代码:结果,运行的时候,出现了训练误差和精度、验证误差和精度都保持不变的情况:从 model 定义(架构)、optimizer的学习率、fit 时传入的超参数设置等进行考虑,逐步地(循环地(皮))排查,最后发现 model 的输出不太对...

2021-07-17 00:35:31 5825 1

原创 为什么使用 LSTM 训练速度远大于 SimpleRNN?

今天试验 TensorFlow 2.x ,Keras 的 SimpleRNN 和 LSTM,发现同样的输入、同样的超参数设置、同样的参数规模,LSTM 的训练时长竟然远少于 SimpleRNN。 模型定义: 训练参数都这样传入: 我们知道,LSTM 是修正了的 SimpleRNN(我随意想出来的词,“修正”),或者说,是在 SimpleRNN 基础之上又添加了别的措施使模型能考虑到超长序列的标记之间的依赖。缓解...

2021-07-15 12:55:11 1135 2

原创 VisibleDeprecationWarning , Creating an ndarray from ragged nested sequences... 警告怎么办?

我不是完美主义,但是至少,我在做实验的时候不能容忍有 warning 的出现。 今天使用 tensorflow.keras.datasets中的 imdb 数据集,使用 imdb.load_data() 方法导入数据的时候,报出一个警告,VisibleDeprecationWarning: Creating an ndarray from ragged nested sequences (which is a list-or-tuple of lists-or-tupl...

2021-07-14 11:10:15 7291 4

原创 安装PyTorch后,又安装TensorFlow,CUDA相关问题思考

下面的话是我的观察和思考,请多多批评。TensorFlow 要用 CUDA、CUDA toolkit、CUDNN,看好版本的对应关系再安装,磨刀不误砍柴工。1)NVIDIA Panel 里显示的NVCUDA.DLL不是安装的CUDA版本,而是目前显卡驱动所能支持的最高 CUDA 版本,可以理解成是CUDA 的 Driver,现在若是更新驱动它是可能发生变化的,因为驱动升级了,算整体驱动升级,CUDA驱动也会升级2)NVIDIA GPU ...

2021-07-05 23:35:15 2120 1

原创 CSP 202009-3 点亮数字人生

// simulate 数字电路,核心思想: 递归调用的分治策略// Specifically,某个器件 i 的输出是 func_i(func_j, func_q, ..., func_r),// 也就是说 func_j, func_q, ..., func_r 的输入会送到 func_i 的输出,as 直接性的信息// 本程序使用 calculate() 函数来充当 func_i,其余信息都以参数的形式进行传递#include <iostream>#include <stri

2021-03-03 01:07:12 213

原创 CSP 202012-3: 带配额的文件系统。100 分AC, 虽然是事后(皮)

CSP 202012-3: 带配额的文件系统。100 分 AC,虽然是事后(皮)#include<iostream>#include<string>#include<vector>#include<map> using namespace std;// 不进行提前记录,只能通过 70% 的测试用例,剩下的会超时(因为数据规模很大)typedef struct treeNode { bool isFile; // true then file

2021-03-01 18:12:15 697

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除