qq_30173125的博客

转载 使用llama factory对语言模型微调，重塑自我认知，并部署于ollama上

本文记录了从环境部署到模型、效果测试并部署的全过程。一 环境如果使用autodl租赁服务器则不需要如下步骤，但是请注意llama_factory需要python、cuda等版本满足：首先请确报你已经安装好了conda工具，在命令行中键入如下指令创建虚拟环境创建后激活新环境安装cuda pytorch等核心工具如安装其他版本，请注意对应关系安装git-lfs然后验证是否安装成功，下载模型安装llama factory安装依赖启动webui通过该地址进入，autodl下载autodl ssh隧道工具。