MLC-LLM框架的安卓应用部署实战

借鉴的文章
另外借鉴的文章

主要的不同处在于:有些方式是不一样的,你得自己去看下载的项目里面的android.srt文件,看整个过程是啥样的 。基本上没有太多的变化。

先去GITHUB上拉取项目代码,git clone https://github.com/mlc-ai/mlc-llm.git --recursive吧子项目也拉去下来,接着就是安装。下载mlc-ai-nightly、mlc-llm-nightly的whell文件,安装的时候加上清华园比较好安装。舍弃使用命令:python3 -m mlc_llm.build 。。。。。。

查看命令mlc_llm --help是不是出现以下:

>>> mlc_llm --help
usage: MLC LLM Command Line Interface. [-h]
                                       {
   compile,convert_weight,gen_config,chat,serve,bench}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值