chatgpt 谷歌开源免费语言模型、本地部署、离线使用

最新推荐文章于 2024-10-15 11:54:23 发布
最新推荐文章于 2024-10-15 11:54:23 发布
阅读量1k 收藏 15
点赞数 15
分类专栏： gpt 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42576443/article/details/136735125
版权

第一步：下载安装模型

下载地址: https://ollama.com/download

第二步：安装完成 打开cmd命令行 

根据自己电脑配置选择对应的安装命令 （我这张图是安装好的）


有独立显卡并且显存大于等于8G的模型可以选择 7b模型安装命令: ollamarun gemma:7b
没有独立显卡，或者显存小于6G的 模型选择 2B模型安装命令: ollama run gemma:2b

输入命令自动安装 

第三步：使用

安装完成以后再次打开就用安装命令就行

这个模型完全离线的，断网也是可以使用的，所以问题大胆随心的问吧

白o小o白
关注
专栏目录
熬夜整理模型下载、量化、代码调用可免费使用离线部署的上千个国内外开源大模型梳理，整理开源的大语言模型，以规模较小、可私有化部署、训练成本较低的模型为主，包括底座模型，垂直领域微调及应用，数据集与教程等
代码讲故事
01-31 1846
熬夜整理模型下载、量化、代码调用，可免费使用离线部署的上千个国内外开源大模型梳理，整理开源的大语言模型，以规模较小、可私有化部署、训练成本较低的模型为主，包括底座模型，垂直领域微调及应用，数据集与教程等。 * Large Language Model (LLM) 即大规模语言模型，是一种基于深度学习的自然语言处理模型，它能够学习到自然语言的语法和语义，从而可以生成人类可读的文本。
Vicuna- 一个类 ChatGPT开源 模型
小金的CSDN博客
04-22 3211
Meta 开源 LLaMA（大羊驼）系列模型为起点，研究人员逐渐研发出基于LLaMA的Alpaca（羊驼）、Alpaca-Lora、Luotuo（骆驼）等轻量级类 ChatGPT 模型并开源。google提出了一个新的模型：Vicuna（小羊驼）。该模型基于LLaMA，参数量13B。Vicuna-13B 通过微调 LLaMA 实现了高性能的对话生成。
搭建localhost本地 ChatGPT 模型与总结
最新发布
qq_33665793的博客
10-15 726
从 [Python 官网](https://www.python.org/downloads/) 下载并安装 Python。通过上述步骤，您可以在本地成功搭建并运行 ChatGPT 模型，进一步探索和开发基于自然语言处理的应用。- 使用 Hugging Face 的 Transformers 库可以方便地下载和使用预训练模型。- 在使用大模型时，确保 GPU 可用，以提高推理速度，同时注意内存管理。- 编写推理代码和可选的 Web 接口可以帮助实现模型的实际应用。- pip（Python 包管理工具）
简单两步实现离线部署ChatGPT，ChatGPT平替版，无需GPU离线搭建ChatGPT
DoNot996的博客
10-06 4488
ChatGPT平替版：GPT4ALL是一个多平台通用的本地聊天机器人软件，其支持下载预训练模型到本地来实现离线对话，也支持导入ChatGPT-3.5或ChatGPT-4的API Key到工具实现ChatGPT应用的桌面化。本次主要介绍如何离线部署模型。
Pandora-ChatGPT（离线安装教程）（附安装包）
m0_48096446的博客
06-06 3904
这将会安装Pandora-ChatGPT的相应依赖和文件。请确保您的系统已经安装了Python 3.7.0或更高版本。
推荐一款本地开源的ChatGPT离线版：Jan
xzji001的博客
02-12 2924
是一款允许用户在自己的电脑上完全离线运行大型语言模型的本地 AI 软件。这款软件适用于 Windows、macOS 和 Linux 操作系统，通过利用用户自己的硬件资源(如 CPU 和显卡)来提供算力。Jan 作为一个免费的开源替代品，旨在为用户提供一个无需互联网连接、不产生额外费用的大语言模型使用环境。
笔记本电脑部署本地离线版类似ChatGPT3.5的AI模型（CPU+内存运行）
tantu666的博客
04-24 1万+
Vicuna号称"小羊驼"，Vicuna是基于ShareGPT的7万条对话数据对LLaMA微调的模型，13b模型的效果据说可达到ChatGPT3.5 92%的效果，部分问答的评分甚至超过了ChatGPT3.5。里面vicuna-13B-1.1-GPTQ-4bit-32g.GGML.bin和vicuna-13B-1.1-GPTQ-4bit-128g.GGML.bin。下载哪个都可以，我用的是vicuna-13B-1.1-GPTQ-4bit-128g.GGML.bin。
人工智能大模型之开源大语言模型汇总（国内外开源项目模型汇总）
丨汀、的博客
06-19 3503
人工智能大模型之开源大语言模型汇总（国内外开源项目模型汇总）
AI大语言模型工程师学习路线
program哲学
03-27 1298
详细介绍要从事LLM大语言模型工程师要学习的技术路线
【ChatGPT】Web LLM：你的本地的ChatGPT —— 完全在您的浏览器中运行 vicuna-7b 大型语言模型，它非常令人印象深刻
热门推荐
AI天才研究院
04-18 1万+
让你的 LLM 助手总结错误的网页，攻击者可能会诱骗它泄露你所有的私人数据，或者删除你所有的电子邮件，或者更糟。ShareGPT 是一个人们分享他们的 ChatGPT 记录的网站，这意味着微调是使用未经许可用于此类目的的数据进行的（OpenAI 条款和条件不允许使用这些数据来训练竞争对手的语言模型。但是，与之前的 LLaMA 和 Alpaca 一样，这个项目令人兴奋的地方在于它所展示的内容：我们现在可以完全在浏览器中运行功能极其强大的 LLM——尽管是测试版浏览器版本，而且是在功能非常强大的笔记本电脑上。
基于开源大模型快速构建本地知识库应用
fzq0625的博客
06-16 225
作为新一代人工智能产业的核心动力，AI大模型广泛应用于各行各业，打开了迈向通用人工智能的大门。本文通过大模型相关技术背景、构建需求、实现原理、模型选型及工程实践等方面介绍了如何基于开源大模型快速构建本地知识库应用。通过分析大模型应用的存在的问题，提出并详细描述了知识库构建思路及RAG技术路线应用的解决方法，最后，基于LangChain-Chatchat工程实现，为快速构建本地知识库应用提供了一种有效的解决方案。
13 个开源 CHATGPT 模型：完整指南
weixin_40777649的博客
11-27 264
添加链接描述
【ChatGLM】在电脑部署属于自己的人工智能/ChatGPT平替/可离线/可发布
Dec1steee的博客
03-30 1万+
ChatGLM-6B 是一个由清华大学的团队开源的、支持中英双语问答的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。本文旨在介绍如何在电脑部署属于自己的人工智能/可离线/可发布。这是一个有趣而有意义的项目，可以让你体验到人工智能的魅力，也可以让你拥有一个自己定制的智能助手。GPT 模型目前只有 GPT-2 的小规模版本（1.5 亿参数）是开源的，其它版本都是闭源的，只能通过 OpenAI 的 API 来访问。
ChatGPT中文LLM相关的开源大模型资源汇总
weixin_40280870的博客
07-17 2547
自ChatGPT为代表的大语言模型（Large Language Model, LLM）出现以后，由于其惊人的类通用人工智能（AGI）的能力，掀起了新一轮自然语言处理领域的研究和应用的浪潮。尤其是以ChatGLM、LLaMA等平民玩家都能跑起来的较小规模的LLM开源之后，业界涌现了非常多基于LLM的二次微调或应用的案例。本文旨在收集和梳理中文LLM相关的开源模型、应用、数据集及教程等资料分享给大家！
对标ChatGPT的开源中文方案
03-26 1万+
下面我会介绍一些对标ChatGPT的中文开源方案，代码地址也列在每个项目的介绍最上面，希望这些方案能够对大家有所帮助！
一文汇总开源大语言模型，人人都可以拥有自己的ChatGPT
perfume
04-16 3379
OpenAI发布的ChatGPT火爆全球以来，全球互联网大厂陆续跟进，纷纷宣布了自家的Chat产品，如Google的Bard，百度的文心一言，阿里的通义千问等等。这些Chat产品背后都是依赖的大语言模型(Large Language Model)。直接使用商业化产品，前提是商业化产品支持对模型做fine-tune(微调)。比如OpenAI就支持对它的基础模型做fine-tune来实现个性化的模型。使用开源的大语言模型，对开源模型做fine-tune来实现垂直领域的Chat产品。
消费级显卡上就能部署的Chat模型已经开源，每台电脑都可以装一个“ChatGPT”了
马沛专栏
03-15 5091
经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 虽然规模不及千亿模型，但大大降低了推理成本，提升了效率，并且已经能生成相当符合人类偏好的回答。：FP16 半精度下，ChatGLM-6B 需要至少 13 GB 的显存进行推理，结合模型量化技术，这一需求可以进一步降低到 10GB（INT8）和 6GB（INT4），使得 ChatGLM-6B 可以部署在消费级显卡上。：也是基于人工智能大模型驱动的，快速编写代码的代码生成工具。
国产开源ChatGPT模型对比
大漠帝国的博客
02-09 8209
# 国产开源ChatGPT模型对比(大雾) ## 概述 为什么要做国产开源ChatGPT模型对比呢(大雾)，答案显而易见嘛。最近尤其是这阵子ChatGPT爆火, 2月3日在ChatGPT推出仅两个月后，它在2023年1月末的月活用户已经突破了1亿，成为史上用户增长速度最快的消费级应用程序。 而要达到这个用户量，TikTok用了9个月，Instagram则花了2年半的时间。作为一款聊天机器人，凭借大规模预训练模型GPT3.5(~100B参数)、指令微调尤其是人类反馈强化学习微调(RLHF,OpenAI在强化
决定了，将ChatGPTer开源！主打一个大模型人人可用。
毛毛虫博客
05-26 405
一个快速上手且极易部署的类ChatGPT开源应用，可接入或通义千问API
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

白o小o白

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值