全新conda环境安装transformers全流程记录

前言

由于需要安装huggingface的transformers库,但是在我windows的一个已经安装好pytorch和tensorflow的环境中安装,总是出现各种问题。因此在实验室服务器中重新安装。

transformers安装指导,我将按此进行安装尝试。

创建虚拟环境

首先,先创建一个新的虚拟环境,我的名字为pydnlp,选了3.8.10的python。

conda create -n pydnlp python=3.8.10

安装pytorch

指导上提示需要安装tensorflow和pytorch其中之一,当然也可以两个都安装。我先安装pytorch(但是我记得之前运行,需要两个都安装)。

pytorch安装指导

为了使安装的pytorch支持gpu,我们可以使用命令:

nvcc -V

查看我们的cuda版本,我的版本是1.14,但是pytorch安装指导中并没有1.14,后来我使用1.13的也成功了。

查到了cuda版本号、操作系统类型,并且选择使用conda或者pip安装后,按照安装指导生成的命令安装即可。

此过程可能时间较长,也可以使用国内镜像安装(应该),我没用。

这里安装完以后可以用以下语句删除一些没用的安装包。具体参数可以查。

conda clean -参数

安装transformers

直接使用

pip install transformers

测试

from transformers import pipeline
print(pipeline('sentiment-analysis')('we love you'))

但是很可能报错 connection error,这应该能通过保存模型到本地解决。

总结

本来觉得安装会比较麻烦,因为我之前在一个复杂的已经安装好pytorch和tensorflow的环境上安装运行总是会报一些错。所以特意想记录一下,现在看没有记录的必要。

但是最主要的是怎么用transformers,这几天再探究一下再记录,这次就水个博客。

### 解决PyCharm无法加载Conda虚拟环境的方法 #### 配置设置 为了使 PyCharm 能够成功识别并使用 Conda 创建的虚拟环境,需确保 Anaconda 的路径已正确添加至系统的环境变量中[^1]。这一步骤至关重要,因为只有当 Python 解释器及其关联工具被加入 PATH 后,IDE 才能顺利找到它们。 对于 Windows 用户而言,在安装 Anaconda 时,默认情况下会询问是否将它添加到系统路径里;如果当时选择了否,则现在应该手动完成此操作。具体做法是在“高级系统设置”的“环境变量”选项内编辑 `Path` 变量,追加 Anaconda 安装目录下的 Scripts 文件夹位置。 另外,建议每次新建项目前都通过命令行先激活目标 conda env: ```bash conda activate myenvname ``` 接着再启动 IDE 进入工作区,这样有助于减少兼容性方面的问题发生概率。 #### 常见错误及修复方法 ##### 错误一:未发现任何解释器 症状表现为打开 PyCharm 新建工程向导页面找不到由 Conda 构建出来的 interpreter 列表项。此时应前往 Preferences/Settings -> Project:...->Python Interpreter 下方点击齿轮图标选择 Add...按钮来指定自定义的位置。按照提示浏览定位到对应版本 python.exe 的绝对地址即可解决问题。 ##### 错误二:权限不足导致 DLL 加载失败 有时即使指定了正确的解释器路径,仍可能遇到由于缺乏适当的操作系统级许可而引发的功能缺失现象。特别是涉及到调用某些特定类型的动态链接库 (Dynamic Link Library, .dll) 时尤为明显。因此拥有管理员身份执行相关动作显得尤为重要——无论是从终端还是图形界面触发创建新 venv 流程均如此处理能够有效规避此类隐患。 ##### 错误三:网络连接异常引起依赖下载超时 部分开发者反馈过因网速慢或者其他因素造成 pip install 操作中途断开进而影响整个项目的初始化进度条卡住的情况。对此可尝试调整镜像源加速获取速度或是离线模式预先准备好所需资源包后再继续后续步骤。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值