测试：ollama加载羊驼版本llama-3中文大模型

最新推荐文章于 2024-06-22 11:52:17 发布
最新推荐文章于 2024-06-22 11:52:17 发布
阅读量760 收藏 11
点赞数 4
分类专栏： 大模型 文章标签： llama 羊驼版本llama-3
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/robinfoxnan/article/details/139339003
版权

找了一个晚上各种模型，像极了当初找各种操作系统的镜像，雨林木风，深蓝、老毛桃……

主要是官方的默认7B版本回答好多英文，而且回复的很慢，所以我是在ollama上搜索"chinese"找到了这个羊驼版本的，

ollama run lgkt/llama3-chinese-alpaca

等大概10分钟左右；

反应的速度还挺快的。

但是测试下来不尽人意啊：

资源地址：

https://ollama.com/lgkt/llama3-chinese-alpacaGet up and running with large language models.icon-default.png?t=N7T8https://ollama.com/lgkt/llama3-chinese-alpacaGitHub - ymcui/Chinese-LLaMA-Alpaca-3: 中文羊驼大模型三期项目 (Chinese Llama-3 LLMs) developed from Meta Llama 3中文羊驼大模型三期项目 (Chinese Llama-3 LLMs) developed from Meta Llama 3 - ymcui/Chinese-LLaMA-Alpaca-3icon-default.png?t=N7T8https://github.com/ymcui/Chinese-LLaMA-Alpaca-3/tree/main

飞鸟真人
关注
  • 4
    点赞
  • 踩
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
羊驼家族Ollama，window版本，本地大模型
05-15
大语言模型（LLM）平民化，羊驼家族， Ollama——一个简明易用的本地大模型运行框架。用户也可以方便地在自己电脑上玩转大模型。 Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型。通过简单的安装指令，用户可以执行一条命令就在本地运行开源大型语言模型，如Llama 2。Ollama极大地简化了在Docker容器内/本地部署和管理LLM的过程，使得用户能够快速地在本地运行大型语言模型。
windows环境Ollama部署Llama3中文并调优
u012864987的专栏
05-20 3256
地址：https://ollama.com/downloadgithub地址： https://github.com/ollama/ollama直接运行exe程序安装。安装完成后，可以在右下角看到ollama图标环境变量控制：OLLAMA_MODELS 配置模型下载部署的目录, 示例： D:\modelsOLLAMA_HOST 服务地址端口， 示例： 0.0.0.0:11434ollama运行命令见 ollama --help 查看帮助。
win10环境配置ollama-ui运行llama3模型
liangma的专栏
06-22 1586
ollama的安装及llama3中文模型的安装，以及ollama-ui和sddle项目的作用
AnythingLLM+Ollama实践
m0_57057282的博客
05-28 147
创造未来知识管理新篇章：Ollama与AnythingLLM联手打造个人与企业的安全知识库！
Ollama高效、功能齐全的LLM大模型服务工具——只需一条命令即可在本地跑语言大模型
HI
03-01 8102
Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型。本文旨在简易教会读者如何下载安装配环境以及使用Ollama，本地体验到大模型的快速便捷。
Ollama总是出现time out怎么办
m0_56378800的博客
04-24 1691
一般情况下，获取小体量的模型如gemma2b这种不会出现time out现象，但是如果稍微大一点的模型如llama2:13b,或者70b的就容易出现timeout的报错，这里我们只需要添加一个requset_time的参数即可。我这里是修改成60后基本可以不出现timeout现象，大家可以根据自己需求来修改。
“揭秘：为什么羊驼Ollama成为计算机运行大型语言模型的最佳拍档？“
python12222_的博客
05-28 1794
最近，AIM 评测了在计算机上本地运行大语言模型（LLM）的最佳工具，Ollama 脱颖而出，成为最高效的解决方案，提供了无与伦比的灵活性。Ollama 是 Jeffrey Morgan 开发的一款开源工具，它正在彻底改变爱好者在本地终端上运行大语言模型的方式。Ollama 具有友好的用户界面，并与 LLaMA 2 和 Mistral 等流行模型兼容，希望安全、经济、高效地进行大语言模型实验的用户可以轻松考虑使用 Ollama。它能让用户利用先进人工智能模型的力量，而无需依赖云服务或昂贵的硬件。
國内linux服务器解决Ollama安装超时
AI炼丹师的专栏
03-12 7742
按 Esc 退出输入模式， :wq 保存完后，再ping 一下。输入密码后，按 i 增加以下配置。修改hosts文件，直接将。
Llama中文大模型-模型预训练
TH_NUM的博客
02-24 1089
原子大模型Atom在Llama2的基础上，采用大规模的中文数据进行持续预训练，包含百科、书籍、博客、新闻、公告、小说、金融数据、法律数据、医疗数据、代码数据、专业论文数据、中文自然语言处理竞赛数据集等，详见📝 数据来源。互联网上公开的网络数据，挑选出去重后的高质量中文数据，涉及到百科、书籍、博客、新闻、公告、小说等高质量长文本数据。同时对庞大的数据进行了过滤、打分、去重，筛选出超过1T token的高质量中文数据，持续不断加入训练迭代中。Clue开放的中文预训练数据，进行清洗后的高质量中文长文本数据。
零基础入门AI：一键本地运行各种开源大语言模型 - Ollama
m0_63171455的博客
05-20 1928
Ollama 是一个可以在本地部署和管理开源大语言模型的框架，由于它极大的简化了开源大语言模型的安装和配置细节，一经推出就广受好评，目前已在github上获得了46k star。不管是著名的羊驼系列，还是最新的AI新贵Mistral，等等各种开源大语言模型，都可以用Ollama实现一键安装并运行，支持的更多模型的列表可以查看Ollama官网。本文就让我们一起入门Ollama。
【LLM】ollama 用法简介
步子哥的博客
03-10 1146
安装Ollama：您可以在Ollama官网上下载适用于您的操作系统的安装包，然后打开运行安装程序。如果您使用的是Windows系统，官方推荐在WSL 2中以Linux方式使用命令进行安装。命令从在线模型库下载您想要使用的模型。请注意，运行大模型可能需要较大的内存和计算资源。确保您的计算机满足模型运行的要求。下载模型：使用Ollama的。
Llama3模型+Windows本地运行软件（下载地址）
05-20
Meta放出Llama3模型了，也应该是这段时间里的一个科技大新闻了。 Llama一直都是开源大语言模型的领头羊驼。 而Llama3又是所有羊驼中最新的领头羊。 可以简单地来看一下官方的对比数据。 下面是Llama3和谷歌...
羊驼家族Ollama，Linux版本，本地大模型
05-16
大语言模型（LLM）平民化，羊驼家族， Ollama——一个简明易用的本地大模型运行框架。用户也可以方便地在自己电脑上玩转大模型。 Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型。通过...
Coding Alpacas:编码羊驼版本控制！-开源
06-08
这是我们的网站。 我会定期发布更新。
《AI大模型应用》-中文羊驼大模型三期项目.zip
最新发布
07-10
个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所...
Ollama如何构建自己的Llama3中文模型
wjianwei666的专栏
05-21 1021
风轻轻地舞， 树叶低语。curl -X POST http://localhost:11434/api/generate -d '{ "model": "llama3:8b", "prompt": "中文回答。下载地址：https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat-GGUF-8bit/tree/main。这个命令会读取Modelfile中的配置，并创建一个名为tinywan-Llama3-8B-Chinese的新模型。
【快捷部署】016_Ollama（CPU only版）
luckcxy的专栏
04-10 2478
一键快速私有化部署gemma大模型（低门槛，CPU only）
Llama-Factory + Ollama 打造属于自己的中文版 Llama3
hyang1974的博客
05-05 5682
Meta Llama3发布已经有一小段时间了。和以往的原始 Llama 模型一样，Llama 3 对中文的支持效果欠佳。本文则探讨如何使用 Llama-Factory 对 Llama3 进行中文微调的具体过程，并通过 Ollama 本地部署中文微调的 Llama3 模型，打造属于自己的个性化的 Llama3 LLM 。
CPU上安装ollama和部署开源Llama2-chinese模型
ishanshui的博客
03-01 3977
即使没有GPU显卡，在CPU上借用ollama服务工具，也可以一键体验对话式语言模型。
centos7安装版本大于2.0的docker-compose
03-29
要在CentOS 7上安装版本大于2.0的Docker Compose，请按照以下步骤操作： 1.卸载旧版本的Docker Compose（如果已安装）： sudo yum remove docker-compose 2.安装Python pip： sudo yum install epel-release sudo yum install python-pip 3.安装最新版本的Docker Compose： sudo pip install docker-compose 4.验证Docker Compose是否已成功安装： docker-compose version 您应该看到安装的版本信息，如果是大于2.0的版本，则说明安装成功。 请注意，安装Docker Compose时需要具有sudo权限的用户。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值