【Mac m1】在pytorch环境下安装transformer

一、问题背景

  项目中需要用到huggingface中的transformers中的预训练模型，由于我的电脑是2020款mac m1芯片，conda下的pytorch环境已用miniforge安装完成，我第一次直接使用pip install transformers ，然后就报错了🙃：
  从上述的问题可以发现是tokenizers安装失败，那么究竟为啥会失败呢，经过查阅相关资料后，如果要安装transformers, transformers主要依赖tokenizers，安装tokenizers依赖rust，所以需要先安装rust。
  那么就照着这个思路，就有了以下的解决方案。

二、解决方案

1）直接依次执行以下命令：

curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
conda install -c conda-forge tokenizers 
conda install -c conda-forge transformers==4.4.2 
#如果需要还可以安装huggeface的datasets，安装方法如下
conda install -c conda-forge pyarrow
conda install -c conda-forge datasets

2）然后我们对该库进行测试：

python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('you are so handsome!'))"
# 之后会进行下图中的安装过程，最终的输出结果如下：
# res：[{'label': 'POSITIVE', 'score': 0.9998617768287659}]

部分内容源于：https://zhuanlan.zhihu.com/p/359227663