llama
文章平均质量分 93
猪神-PIGGOD
如果有什么问题欢迎私信我,我看到都会回复。这些都是我自己研究总结的,写博客没有任何收入,只是希望提高自己的同时帮到想努力的朋友,谢谢大家。
展开
-
LLaMA-Factory微调llama3之模型的合并,并采用llama.cpp量化成ollama支持的gguf格式模型,生成api使用
上期我们已经成功的训练了模型,让llama3中文聊天版知道了自己的名字这次我们从合并模型开始,然后使用llama.cpp量化成gguf格式,并且调用api。原创 2024-08-08 09:00:00 · 2793 阅读 · 3 评论 -
基于LLaMA-Factory微调llama3成为一个角色扮演大模型,保姆级教学零基础,导出GGUF格式前篇
在AutoDL云计算中微调自己的角色扮演大模型,使用llama-factory框架微调,其中包括镜像云计算机的配置,huggingface下载需要微调的模型,配置训练文件,llamafactory-cli可视化界面的配置原创 2024-08-05 17:12:57 · 1665 阅读 · 5 评论 -
Llama 3增强中文理解能力,并生成内网穿透API后Spring Boot请求
大家都知道Llama3是用英文训练的,所以它的中文理解力不理想前面已经教大家如何本地部署llama 3.1(原理差不多)这期主要是将原版的模型换成中文的模型(换成其他的也都一样)原创 2024-08-01 12:57:25 · 1300 阅读 · 0 评论 -
本地部署llama 3.1生成API并且内网穿透后Spring Boot调用
下载llama客户端后下载llama3.1模型启动服务,使用花生壳内网穿透获得新的API地址,然后SpringBoot中采用OKHttpClient调用原创 2024-07-31 15:47:06 · 2171 阅读 · 1 评论
分享