MLC-LLM框架的安卓应用实战
MLC Android 中文文档
开始使用
参考自MLC使用文档
MLC介绍
这里稍微讲解了一些MLC的基本概念,以帮助我们使用和了解 MLC LLM。
MLC-LLM 由三个不同的子模块组成:模型定义、模型编译和模型运行。
MLC LLM 的三个独立子模块
➀ Python 中的模型定义。MLC 提供各种预定义架构,例如 Llama(例如 Llama2、Vicuna、OpenLlama、Wizard)、GPT-NeoX(例如 RedPajama、Dolly)、RNN(例如 RWKV)和 GPT-J(例如MOSS)。开发人员可以仅使用纯 Python 定义模型,而无需接触编