holasyb-CSDN博客

原创 PyTorch 实现 tf.keras.losses.categorical_crossentropy

使用 PyTorch 实现 tf 中的 tf.keras.losses.categorical_crossentropy，或者 K.categorical_crossentropyimport tensorflow as tfy_true = [[[0.,0.9]]]y_pred = [[[0.4,0.6]]]loss = tf.keras.losses.categorical_crossentropy(y_true, y_pred)loss.numpy()print('tf.keras

2022-02-09 10:07:28 3208

原创陈丹琦关系抽取 2020 sota ner

关于数据部分在这里：陈丹琦关系抽取数据部分https://blog.csdn.net/holasyb/article/details/121549733?spm=1001.2014.3001.5501这篇聊一聊实体抽取部分的网络模型。 def run_batch(self, samples_list, try_cuda=True, training=True): # convert samples to input tensors tokens_tenso

2021-11-27 22:34:42 694 1

原创陈丹琦关系抽取 2020 sota

普林斯顿的陈丹琦团队在2020年搞了个 pipeline 的关系抽取模型，令人意外的是杀穿了所有的 joint 模型，我之前所做过的关系抽取也都是基于 joint 方式的，时隔一年来具体看看丹琦的旧论文吧。代码已开源，先放资源：论文https://arxiv.org/pdf/2010.12812.pdf代码https://github.com/princeton-nlp/PURE#Pre-trained-models-for-SciERCSciERC 数据http://nlp.cs.washingt

2021-11-26 17:15:22 955

原创 PyTorch summary 和冻结网络层

prompt tuning本文是最近研究Prompt Tuning的时候，想使用 torchsummary 来打印一下模型及可训练参数。于是有了下面的这个例子。

2021-11-26 14:42:40 2221

原创 Pytorch 可视化 tensorwatch 的使用

1、相关依赖argcomplete 1.12.3argon2-cffi 21.1.0attrs 21.2.0backcall 0.2.0backports.functools-lru-cache 1.6.4bleach 4.1.0certifi

2021-11-05 14:10:12 610

原创 python 字符串去除多个空格

使用正则 reimport reinput = 'asd , 'print(re.sub(' +', " ", input))同样的道理，把两个空格换成其他的字符，就可以把多个连续字符减少到一个了

2021-08-27 09:48:15 920

原创 LSTM理解（附Keras代码实例）

背景：最近在用CRNN做COR，CRNN的R就是LSTM，从开始深度学习的多年来一直在回避的东西这次躲不过去了，就试着去完整理解一下。1、我之前的误解。当输入LSTM的Tensor shape为[None, c, n]时，我之前认为会有c个cell，每一个cell处理一n，这是错的。纠正：“时间步”的概念是虚构的，看着图1，仿佛第一个cell，第二个cell，第三个cell都等价并存的，事实上，这是同一个在不同时间的表现。可以这么理解，一个cell是一扇门，过去这扇门的人是数据，门就...

2021-06-29 11:30:31 2010

原创更改anaconda默认激活的虚拟环境 Ubuntu Linux

安装 anaconda 后，电脑的默认环境是 anaconda 自带的 base 环境，但有的时候常用环境不是这个 base 环境，因此可能需要更改一下默认激活的环境。Ubuntu下，打开控制台，输入vim ~/.bashrc或者gedit ~/.bashrc在倒数第二行加入conda activate 你的常用环境名即可。...

2021-06-22 15:22:37 2239 3

原创 Windows 下，torch.cuda.is_available()和tf.test.is_gpu_available()返回false

最近在给新的电脑配置深度学习环境，找了个不是特别新CUDA（担心未适配）版本来安排，安装CUDA和CUDNN都正常，测试nvcc -V 和执行C:\Users\ps\Downloads\cudnn-11.2-windows-x64-v8.1.0.77\cuda文件下的两个exe，bandwidthTest.exe和deviceQuery.exe时，都是test pass。但是，安装torch 1.7 和tensorflow2后，测试是否能调用GPU失败了，经过将近一天的各种尝试，解决了这个问题。问题表现

2021-01-28 22:55:13 1678 5

原创 Faster rcnn 训练错误 InvalidArgumentError (see above for traceback): assertion failed: [] [Condition x =

在尝试跑通tf-Faster-RCNN的时候，遇到了这个问题。Traceback (most recent call last): File "/usr/local/lib/python3.5/dist-packages/tensorflow/python/client/session.py", line 1334, in _do_call return fn(*args)...

2019-12-26 23:31:25 2530

原创 Win10 安装Ubuntu16.04 & 更新NVIDIA驱动 &安装cuda10 & cudnn & tensorflow1.13.1

硬件配置：CPU：AMD 2700GPU：1070ti主板：微星b450内存：16g安装ubuntu1、下载ubuntu16.04(18同理，我自己使用16更顺手），rufus。链接：Ubuntu链接，rufus链接/2、2、制作系统盘。打开Rufus，选择U盘，选择镜像，设置为GPT，后面会变成UEFI，点开始等制作完成。3、安装系统...

2019-09-22 17:13:14 449

holasyb的博客