测试：ollama加载羊驼版本llama-3中文大模型

最新推荐文章于 2025-03-05 11:47:39 发布
最新推荐文章于 2025-03-05 11:47:39 发布
阅读量1.5k 收藏 12
点赞数 4
分类专栏： 大模型 文章标签： llama 羊驼版本llama-3
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/robinfoxnan/article/details/139339003
版权

找了一个晚上各种模型，像极了当初找各种操作系统的镜像，雨林木风，深蓝、老毛桃……

主要是官方的默认7B版本回答好多英文，而且回复的很慢，所以我是在ollama上搜索"chinese"找到了这个羊驼版本的，

ollama run lgkt/llama3-chinese-alpaca

等大概10分钟左右；

反应的速度还挺快的。

但是测试下来不尽人意啊：

资源地址：

https://ollama.com/lgkt/llama3-chinese-alpacaGet up and running with large language models.

最低0.47元/天 解锁文章
win10环境配置ollama-ui运行llama3模型
liangma的专栏
06-22 3424
ollama的安装及llama3中文模型的安装，以及ollama-ui和sddle项目的作用
基于Llama 3搭建中文版（Llama3-Chinese-Chat）大模型对话聊天机器人
老牛啊
05-21 8618
前面两篇博文，我们在笔记本部署了Llama 3 8B大模型，使用Ollama搭建了基于Web 可视化对话机器人。在使用过程中，大模型经常出现中文问题英文回答的问题。本博文就用Llama3-Chinese-Chat微调模型来解决这个问题……
Llama3中文微调模型-Llama3-Chinese-8B-Instruct概述
ASS-ASH的博客
04-24 7072
Llama3的最大模型参数规模达到了惊人的400B。），8B模型和70B模型全系列都采用了GQA，GQA通过将查询分成不同的部分并给予它们不同的重点来理解查询的层次结构，这有助于系统更好地理解复杂问题并找到更相关的信息。通过LoRA微调，我们不仅保留了Llama3模型在预训练阶段获得的知识，还通过针对性的架构调整和参数优化，进一步提升了模型对中文语境的适应性和任务执行的准确性。这一过程中，我们特别注重了超参数的精细调整，并通过反复的模型评估与迭代，确保了微调后的模型能够在实际应用中稳定地提供高质量的输出。
教你解决 Ollama 本地拉取模型速度过慢，甚至失败问题
热门推荐
star_nwe的博客
02-11 1万+
有的时候，我们在ollama pull 拉取模型时，很长时间都拉取不下来，这是由于ollama拉取模型的网址并不在国内，网速就比较慢。这个时候，可以考虑自己先本地把模型下载下来，再进行加载。另外网速问题，还可以开启VPN 挂 Tun 模式，这种我们就不细说了。本方法适合有一定基础的朋友进行实践。如果你能成功拉取模型，则不需要关注。ollama 提供了可以在本地加载模型的方案，就是使用一个配置文件的方法。
windows环境Ollama部署Llama3中文并调优
u012864987的专栏
05-20 6198
地址：https://ollama.com/downloadgithub地址： https://github.com/ollama/ollama直接运行exe程序安装。安装完成后，可以在右下角看到ollama图标环境变量控制：OLLAMA_MODELS 配置模型下载部署的目录, 示例： D:\modelsOLLAMA_HOST 服务地址端口， 示例： 0.0.0.0:11434ollama运行命令见 ollama --help 查看帮助。
Ollama部署中文版llama3模型
python123456_的博客
05-30 2343
从Llama3发布到现在，Github 以及 HuggingFace 平台上，可以看到已经陆陆续续地看到很多将其进行微调了一些这样的项目。目前效果最好的中文微调版是 HuggingFace 社区的 zhouzr/Llama3-8B-Chinese-Chat-GGUF 模型，该模型采用 firefly-train-1.1M、moss-003-sft-data、school_math_0.25M、弱智吧数据集。更多关于Llama中文项目的信息，可以看下这个Llama中文社区。
Llama3模型+Windows本地运行软件（下载地址）
05-20
Meta放出Llama3模型了，也应该是这段时间里的一个科技大新闻了。 Llama一直都是开源大语言模型的领头羊驼。 而Llama3又是所有羊驼中最新的领头羊。 可以简单地来看一下官方的对比数据。 下面是Llama3和谷歌...
区分LLaMA、llama.cpp和Ollama
Dove_1234的博客
08-03 1848
简单来讲，llama 是一个Meta公司开源的预训练大型语言模型，llama.cpp用于加载和运行 LLaMA 语言模型。ollama是大模型运行框架，它利用了 llama.cpp 提供的底层功能。
Ollama本地部署自定义大模型
摇光65535的博客
10-07 3373
Ollama是一个专为本地机器设计的开源框架，旨在简化大型语言模型（LLM）的部署和运行过程。本文将使用Ollama来实现llama-3.1大模型的本地化部署。
使用ollama，MacOS也能轻松玩转大语言模型
u010291330的博客
07-13 1391
双击压缩包，就会自动解压。创建一个名为Modelfile的文件，使用FROM指令，附上你想要导入的模型的本地文件路径。软件启动之后，并不会出现界面，右上方的状态栏（Status Bar）上会出现一个小图标。支持的模型有Llama2,Code Llama 和其他模型，可以自定义创建自己的模型。输入之后，软件会自动下载Gemma模型，如果已经下载，就会自动从本地加载。从对话过程来看，14B模型输出稍微慢了点，但是也完全在可以接受的范围内。输入命令之后，就开始加载模型了（下载），加载完成之后就可以开始聊天了。
Ollama如何构建自己的Llama3中文模型
wjianwei666的专栏
05-21 1283
风轻轻地舞， 树叶低语。curl -X POST http://localhost:11434/api/generate -d '{ "model": "llama3:8b", "prompt": "中文回答。下载地址：https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat-GGUF-8bit/tree/main。这个命令会读取Modelfile中的配置，并创建一个名为tinywan-Llama3-8B-Chinese的新模型。
三、Ollama导入大模型（.Net8+SemanticKernel+Ollama）本地运行自己的大模型
Coder
05-28 3884
导入自定义gguf（Safetensors大模型为测试成功，待后续测试）大模型，需要使用Modelfile方式导入。例如需要导入llava大模型：1、在huggingface国内镜像上搜索到大模型然后在模型文件后面的下载图标上，点击右键，点击“复制链接地址”。然后将大模型文件下载到ollama服务器上。下载命令" "" # 设定温度参数为1 [更高的更具有创新性，更低的更富有连贯性] PARAMETER temperature 1 . 0你是可以与梵高相比的绘画大师" ""
使用ollama搭建自己的本地中文大语言模型
aolan123的博客
07-16 5748
说到ai,大家应该不陌生了，它应该是目前最火的研究方向之一了，下面是目前比较流行的一些ai(人工智能大模型):openai的chatgptgoogle的GemmaAnthropic的Claude月之暗面的kimi阿里的通义千问百度的文心一言字节跳动的豆包但今天聊的是ollama这个开源框架加上开源模型来实现自己本地的ai。
Ollama运行大模型报错，Error：llama runner process no longer running：3221225785
weixin_42382827的博客
04-24 7436
在华为matebook 14上下载Ollama运行llama3:8b，命令行语句为ollama run llama3:8b，llama3:8b下载后，运行报错Error：llama runner process no longer running：3221225785。以为是内存不够或模型下载不正确，又运行了其他模型都报同样的错。用ollama -v检查版本为最新的0.1.32，重新下载ollama旧版本0.1.31安装后运行模型正常。
使用ollama运行llama3.1遇到问题+手工升级ollama
alalaal的博客
07-31 4244
位置：https://objects.githubusercontent.com/github-production-release-asset-2e65be/658928958/fccefa83-c1e7-4c85-a149-b52baf86bb45?ollama-linux-amd64 100%[================================================>] 558.47M 600KB/s 用时 13m 55s。
【中文Llama-3】Chinese-LLaMA-Alpaca-3开源大模型项目正式发布
寒冰屋的专栏
05-09 861
Chinese-LLaMA-Alpaca-3开源大模型项目正式发布，开源Llama-3-Chinese-8B（基座模型）和Llama-3-Chinese-8B-Instruct（指令/chat模型）。这些模型在原版Llama-3-8B的基础上使用了大规模中文数据进行增量预训练，并且利用高质量指令数据进行精调，进一步提升了中文基础语义和指令理解能力，相比一代和二代相关模型获得了显著性能提升。
Ollama下载模型慢解决方法
最新发布
shaqilaixi2的博客
03-05 2164
操作系统：windows10软件：Ollama。
使用api测试ollama、one Api、fastgpt的连通性
枫蓝驿的博客
07-16 1642
使用api测试ollama、one Api、fastgpt的连通性
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值