主要的不同处在于:有些方式是不一样的,你得自己去看下载的项目里面的android.srt文件,看整个过程是啥样的 。基本上没有太多的变化。
先去GITHUB上拉取项目代码,git clone https://github.com/mlc-ai/mlc-llm.git --recursive吧子项目也拉去下来,接着就是安装。下载mlc-ai-nightly、mlc-llm-nightly的whell文件,安装的时候加上清华园比较好安装。舍弃使用命令:python3 -m mlc_llm.build 。。。。。。
查看命令mlc_llm --help是不是出现以下:
>>> mlc_llm --help
usage: MLC LLM Command Line Interface. [-h]
{
compile,convert_weight,gen_config,chat,serve,bench}