自然语言处理
文章平均质量分 63
自然语言处理学习笔记和分享
俱往矣`
上市公司算法团队负责人,主要工作方向:LLM、AI agent。
展开
-
AutoTokenizer自动加载BERT预训练模型
自动加载BERT预训练模型代码如下:from transformers import (AutoModelForMaskedLM, AutoTokenizer, LineByLineTextDataset, DataCollatorForLanguageModeling, Trainer, TrainingArguments)# 自动加载中文预训练原创 2022-03-23 14:50:14 · 2977 阅读 · 0 评论 -
解决学习率的常见问题
学习率常见问题1、什么是学习率?它的用途是什么?2、学习率是否为负值?3、梯度学习率选择错误的问题是什么?4、错误的权重学习率有什么问题?5、如何调整学习率6、如何快速确定合适学习率意义:如果学习率太低,网络需要终其一生来学习了。但是如果太高,每一步将完美跳过最低点,永远也得不到一个较好的loss。更严重的是会出现loss不断增加直到nan。1、什么是学习率?它的用途是什么?神经网络计算其输入的加权和,并通过一个激活函数得到输出。为了获得准确的预测,一种称为梯度下降的学习算法会在从输出向输入后退的同原创 2022-01-04 20:13:45 · 1612 阅读 · 0 评论 -
Docker常用命令
Docker常用命令1、查看镜像2、把镜像实例化为容器查看容器状态启动容器停止容器删除容器3、进docker 容器4、docker 配置环境5、docker配置远程ssh连接①启动ssh服务6、文件传输①从容器拷贝到主机②从主机拷贝到容器③删除文件夹7、查看主机情况①查看GPU使用情况②查看主机储存使用情况8、查看自己相关的容器、命令9、运行程序后保存日志10、镜像文件(默认保存到当前路径)11、更名12、加载项目工程很多都需要在容器里运行,故需要配置一个自己的容器。1、查看镜像docker imag原创 2021-09-15 18:25:40 · 523 阅读 · 0 评论