猫猫姐
这个作者很懒,什么都没留下…
展开
-
ollama 运行第三方模型
本质上是通过GGUF 来创建ollama可执行的模型文件。原创 2024-05-06 19:22:12 · 52 阅读 · 0 评论 -
WizardLM-2 重磅来袭 快速尝鲜
微软最近推出了 WizardLM 2,这是一个突破性的大型语言模型系列,突破了人工智能的界限。这些模型展示了复杂聊天、多语言理解、推理和代理功能方面的显着改进,超越了其前身 WizardLM 和其他领先的开源模型。原创 2024-05-03 09:16:50 · 31 阅读 · 0 评论 -
ChatGPT使用案例之微信机器人
到这里我们的微信ChatGPT机器人就做完了,主要是用的是chatgpt_wechat_robot这个开源项目,有两个问题需要注意一下注意使用的模型,我们可以使用gpt-3.5-turbo,更划算注意我们的prompt 会一直变大,其实我们之前写代码的时候介绍过处理方案的,例如我们可以只要过去三条对话。原创 2024-05-03 09:14:21 · 112 阅读 · 0 评论 -
ChatGPT使用案例之简单机器人
到这里我们的ChatGPT使用案例之简单机器人就介绍完了,不过里面遗留了了一些问题就是tocken 的问题,可能会导致我们的会话失败就是目前机器人还是代码形式,不能分享,不能让很多人来使用。原创 2024-05-03 09:13:22 · 22 阅读 · 0 评论 -
ChatGPT使用案例之操作Excel
我们操作Excel 的本质依然是生成代码,同理我们可以去操作PPT 或者是Word ,当然如果能使用Microsoft 365 Copilot那就更加方便了,当然目前我们已经可以使用ChatGPT 来帮我们解决这一类的工作。原创 2024-05-03 09:12:29 · 1 阅读 · 0 评论 -
ChatGPT使用案例之图像生成
到这里我们关于ChatGPT生成图像就已经介绍完了,可以看到的是只是有这个功能,还不够强大,目前只支持下面三种形式基于文本提示从头开始创建图像基于新的文本提示创建对现有图像的编辑创建现有图像的变体如果不满足需求,可以让ChatGPT 生成prompt,然后通过midjourney根据prompt生成。原创 2024-05-03 09:11:45 · 18 阅读 · 0 评论 -
ChatGPT使用案例之自然语言处理
这一节我们主要使用ChatGPT尝试了一些自然语言处理相关的内容,当然例子都很简单,而且关于自然语言处理还是有很多其他场景的,我们也没有一一演示。当我们的基础使用案例演示完了,我们就可以尝试使用ChatGPT做一些高阶使用了。原创 2024-05-03 09:10:40 · 11 阅读 · 0 评论 -
ChatGPT使用案例之画思维导图
今天我们介绍的关于ChatGPT 生成思维导图就到这里了,下一节我们介绍ChatGPT做活动策划和做PPT我们使用ChatGPT生成思维导图主要是让ChatGPT生成思维导图的内容,让使用markmap 来生成最后的图!原创 2024-05-03 09:09:49 · 15 阅读 · 0 评论 -
ChatGPT使用案例之生成PPT
我们介绍了两种PPT 生成的方式,这两种方式的内容都是通过ChatGPT 生成的使用PPT 软件提供的大纲功能来生成使用mindshow来生成个人觉得mindshow使用起来更方便,毕竟少了一个步骤,而且生成的效果更好ChatGPT归根结底只能作为一种工具来使用,为我们提供创意源泉,我们不能完全依赖它来为我们提供全部内容,而是借助它来提高我们的工作效率。原创 2024-05-03 09:08:55 · 17 阅读 · 0 评论 -
ChatGP使用案例之写文章
作为一个基于大型语言处理模型的文字聊天工具,ChatGPT能够帮助用户围绕特定的主题生成各种创意性文字内容,为用户提供创意来源。但是我们不能完全依赖ChatGPT的生成内容,我们也要对生成的文字进行检查,目前ChatGPT只能当作一个素材的来源。原创 2024-05-03 09:08:15 · 18 阅读 · 0 评论 -
ChatGPT使用案例之写代码
这一节我们主要尝试使用ChatGPT去给我们写代码,可以看到常见的代码它得确能帮我们写出来,但是很多时候可能或多或少是有点问题的,这个时候我们可以尝试改变我们的prompt 引导ChatGPT 产生一个正确的结果。后面我们继续尝试ChatGPT 的其他场景,以达到解放我们的生产力的目的,虽然有时候写出的代码可能存在bug,但是只要我们稍加调整即可,而且对于ChatGPT而言它不像我们,它擅长各种编程语言。原创 2024-05-03 09:07:11 · 14 阅读 · 0 评论 -
Llama3-8B-Chinese-Chat 第一个使用ORPO微调的中文Llama3模型
我们最新提供了GGUF版本的Llama3-8B-Chinese-Chat模型,共有FP16和8bit量化两个版本可选,模型下载链接如下:FP16版本:8bit量化版本:如题目所示,我们开源了Llama3-8B-Chinese-Chat模型(基于Llama3-8B-Instruct[微调,模型下载请详见下面的huggingface链接),这是。原创 2024-05-02 21:30:14 · 411 阅读 · 0 评论 -
ChatGPT扩展系列之Voice Control for ChatGP 可以跟ChatGPT聊天的工具
安装Voice Control for ChatGPT插件后,您将在输入框下方看到一个麦克风按钮。这让与智能对话伙伴的互动变得轻松便捷,让您充分发掘先进AI的潜能。无论您是对人工智能感到好奇,还是在寻找一种新颖的技术互动方式,这款插件都是一个极佳的选择。[Voice Control for ChatGPT](Voice Control for ChatGPT)是一款创新的Chrome插件,允许用户通过语音与ChatGPT进行交流,并可朗读回复。‣ 该插件使用浏览器内置的语音识别功能,并不会收集您的数据。原创 2024-04-28 09:28:48 · 46 阅读 · 0 评论 -
ChatGPT扩展系列之edge浏览器
其实从上面的表现上来看,其实很一般,基本就是一个辅助工具,这主要是因为目前浏览器里面集成的是ChatGPT3.5 的模型,所以表现一般般。原创 2024-04-28 09:27:52 · 34 阅读 · 0 评论 -
ChatGPT扩展系列之ChatExcel
自从ChatGPT很空出世之后,很多基于ChatGPT的应用便如雨后春笋般应用而生,这些应用的底层本质就是利用了ChatGPT对自然语言的理解能力对自身能力的加强。,说白了就是利用ChatGPT的能力对Excel的能力进行加强,从而可以更加高效的使用Excel的原生能力,降低使用门槛。我们看到省份这一列已经发生变化,这个在之前我们必须要对Excel 进行手动操作才可以。我们可以对数据进行四舍五入操作,保留两位小数,这也是一个非常常见的操作,我们可以输入。例如我们在下面的输入框中输入。这里我们要输入我们的。原创 2024-04-28 09:26:02 · 5 阅读 · 0 评论 -
ChatGPT扩展系列之跨平台桌面客户端ChatBox
一个跨平台的桌面端ChatGPT,可以作为ChatGPT Plus 的平替。原创 2024-04-28 09:22:22 · 21 阅读 · 0 评论 -
ChatGPT初学者的5个提示语技巧
任务定义列出了提示语的目标;为了实现这一点,应该指定重要的细节,例如,目标是什么、起点和终点、涉及的人物或任何相关背景信息。例如,如果 ChatGPT 生成了一个偏离主题的响应,您可以在提示语中添加更具体的说明或其他上下文。概括起来,提示语工程需要仔细、详细地考虑上面列出的每个提示,以便编写有效且与结果一致的提示语。如果没有足够的上下文,ChatGPT 可能会生成偏离主题、不相关或与提示语目标不一致的响应。例如,如果您的大型语言模型仅限于生成代码,那么,给它一个写论文的任务是毫无意义的。原创 2024-04-27 09:23:28 · 29 阅读 · 0 评论 -
ChatGPT基础知识系列之Embeddings模型
这一节主要介绍了ChatGPT的Embeddings模型,主要包括Embeddings 的发展历程和使用方式Embeddings 的使用场景Embedding可以作为其他机器学习模型的输入。原创 2024-04-27 09:22:25 · 22 阅读 · 0 评论 -
ChatGPT之Transformer模型详解
Transformer 与 RNN 不同,可以比较好地并行训练。Transformer 本身是不能利用单词的顺序信息的,因此需要在输入中添加位置 Embedding,否则 Transformer 就是一个词袋模型了。Transformer 的重点是 Self-Attention 结构,其中用到的Q, K, V矩阵通过输出进行线性变换得到。原创 2024-04-27 09:21:35 · 45 阅读 · 0 评论 -
ChatGPT模型介绍
前面我们已经介绍很多ChatGPT的使用案例了,更多案例可以参考我们下面的文章ChatGPT使用案例之写代码ChatGPT使用案例之画思维导图ChatGPT使用案例之自然语言处理ChatGPT使用案例之操作ExcelChatGPT使用案例之图像生成ChatGPT使用案例之生成PPTChatGP使用案例之写文章ChatGPT使用案例之简单机器人。原创 2024-04-27 09:20:28 · 20 阅读 · 0 评论 -
ChatGPT基础知识系列之Prompt
先在大规模语料上进行预训练,然后再在某个下游任务上进行微调,如BERT、T5;:先选择某个通用的大规模预训练模型,然后为具体的任务生成一个prompt模板以适应大模型进行微调,如GPT-3;:仍然在预训练语言模型的基础上,先在多个已知任务上进行微调(通过自然语言的形式),然后再推理某个新任务上进行zero-shot。指示学习的优点是它经过多任务的微调后,能够在其他任务上做zero-shot,而提示学习都是针对一个任务,泛化能力不如指示学习,InstructGPT和ChatGPT用到的都是指令微调了。原创 2024-04-27 09:19:27 · 12 阅读 · 0 评论 -
ChatGPT基础知识系列之一文说透ChatGPT
ChatGPT是什么?既然ChatGPT是语言模型,语言模型是什么?通过强化学习训练,强化学习又是什么?ChatGPT一个问题是只能回答2021年前的问题。模型无法获取近期的知识,将ChatGPT+webGPT结合是一个可以想到的方案。DeepMind提出的Sparrow就是一个参考,Sparrow model针对对话内容模型生成结果并判断是否搜索互联网,以提供更多的正确参考答案,用强化学习算法去优化Sparrow的输出结果。原创 2024-04-27 09:18:43 · 28 阅读 · 0 评论 -
ChatGPT基础知识系列之零样本学习( Zero-Short learning)
Zero-Short利用训练集数据训练模型,使得模型能够对测试集的对象进行分类,但是训练集类别和测试集类别之间没有交集;期间需要借助类别的描述,来建立训练集和测试集之间的联系,从而使得模型有效。原创 2024-04-27 09:17:53 · 26 阅读 · 0 评论 -
ChatGPT基础知识系列之大型语言模型(LLM)初识
通过海量数据训练得到的超大参数模型蕴含了海量知识,以GPT3(175B)开端,再到LaMDA(137B)、Gopher(280B)、FLAN-T5(540B)等,业界对于LLM的探索和应用,以及如何挖掘其学到的知识,引导它们适配不同子任务达到最先进结果(state-of-the-art result,sota),一直是近两年一项极具价值及热门的工作。但LLMaaS的盈利模式并不成熟,尚待检验,合理的模式应该需要涉及用户分层,而非全量用户的铺展,这些均增添了较多不确定性,此为应用层面的挑战。原创 2024-04-27 09:17:03 · 35 阅读 · 0 评论 -
大模型实战—大模型web服务部署
我们可以点击对话框的内容,选择文件上传,然后就可以让大模型基于上传文件的内容,做一些对话,这里我们主要让大模型总结一下这本书的主要内容,这其实也就是为什么我们要本地部署,不然我们也不能上传公司的文件,因为涉及泄密。这个项目提供了多种部署方式,这里我们使用docker 进行部署,如果你的web 服务和你的模型服务在同一个节点上,可以使用下面的命令。当上面的命令执行完成后,我们可以查看一下容器有没有起来,可以看到我们的容器已经成功起启动了。当然我们可以进入设置页面的模型菜单,可以选择下载模型或者删除模型。原创 2024-04-25 15:11:08 · 109 阅读 · 0 评论 -
大模型实战—用户反馈概要提取
我们看一下最后整体的一个效果。原创 2024-04-25 15:07:08 · 52 阅读 · 0 评论 -
大模型实战—Ollama 本地部署大模型
根据 ChatGPT 的使用经验,多数人都已知晓系统提示词的重要性。好的系统提示词能有效地将大模型定制成自己需要的状态。在 Ollama 中,有多种方法可以自定义系统提示词。首先,不少 Ollama 前端已提供系统提示词的配置入口,推荐直接利用其功能。此外,这些前端在底层往往是通过APIcurl -d '{"content": "以海盗的口吻简单作答。},"content": "天空为什么是蓝色的?],}'其中role为system的消息即为系统提示词。原创 2024-04-25 15:02:31 · 350 阅读 · 0 评论 -
大模型实战—通义千问大模型微调
在之前的文章中,我分享了一些使用大语言模型开发应用的方法,也介绍了几个开源大语言模型的部署方式,有同学给我留言说想知道怎么训练自己的大语言模型,让它更贴合自己的业务场景。完整的大语言模型训练成本比较高昂,不是我们业余玩家能搞的,如果我们只是想在某个业务场景或者垂直的方面加强大模型的能力,可以进行微调训练。本文就来介绍一种大语言模型微调的方法,使用的工具是我最近在用的 Text Generation WebUI,它提供了一个训练LoRA的功能。原创 2024-04-25 15:00:41 · 259 阅读 · 0 评论 -
Llama3-8B+ LLaMA-Factory 中文微调
Llama3是目前开源大模型中最优秀的模型之一,但是原生的Llama3模型训练的中文语料占比非常低,因此在中文的表现方便略微欠佳!本教程就以Llama3-8B-Instruct开源模型为模型基座,通过开源程序LLaMA-Factory来进行中文的微调,提高Llama3的中文能力!原创 2024-04-23 14:00:52 · 2007 阅读 · 1 评论