无论是否使用LLM，执行模型生成的SQL查询时仍应格外小心。一些降低风险的方法包括描述你的数据库模式、数据；限制输出的大小；在执行之前验证和审查生成的SQL查询。

Khoj AI本地部署，了解如何在您自己的机器上自行托管Khoj

这里我们只需要设置api key 即可，通过https://app.khoj.dev/config#clients 即可在生成api key。查看官方Obsidian插件文档以获取有关安装Obsidian插件的更多详细信息。然后点击生成结果旁边的粘贴到文件，你会发现这个生成结果直接被自动粘贴到笔记中去了。要查看与当前笔记相似的其他笔记，请从命令面板运行。点击上图中的聊天按钮，即可出现聊天框。然后进入搜索页面，输入搜索功能即可。图标 💬 或从命令面板运行。并以自然、会话的风格提问。设置khoj的相关属性。

搜索，你将找到。但有了AI驱动的搜索，你将找到、学习并发现。🔍 你使用AI驱动的搜索吗？

Khoj是一个开源的、个人化的AI助手，旨在充当你的第二大脑。它能够帮助你回答任何问题，不论这些问题是在线上的还是在你自己的笔记中。Khoi 支持使用在线AI模型(例如 GPT-4)或私有、本地的语言模型(例如 Llama3)。你可以选择自托管 Khoj，也可以使用官方提供的云实例。

比以往任何时候都多的公司推出了他们自己的AI工具，从简单的聊天机器人到自动化，或项目管理工具。正如麦肯锡所说，“提示工程很可能在未来几年成为一个更大的招聘类别”。获得期望的结果并不那么复杂，但需要实践才能向计算机提供具体、清晰的指令。

当然，没有一种网页抓取工具是适合所有人的。你更喜欢老派的传统网页抓取工具还是LLM赋能的？

这个参数仅针对 llama 类型的模型结构，默认勾选的是 q_proj 和 v_proj，具体的名词不容易理解，我就不多说了，可以简单的认为是对模型的理解能力进行优化，一般这两个就够了。当这个值较高时，适应新任务的能力会增强，但是对基础模型的影响会比较大，有过拟合的风险，尤其是在数据量有限的情况下。为了方便测试，我在云环境也创建了一个镜像，相关的环境都配置好了，可以直接使用几个国内开源的大语言模型，比如清华智谱的ChatGLM3-6B、零一万物的Yi-34B，还有最近阿里云开源的Qwen1.5-32B。

本质上是通过GGUF 来创建ollama可执行的模型文件。

Llama3是目前开源大模型中最优秀的模型之一，但是原生的Llama3模型训练的中文语料占比非常低，因此在中文的表现方便略微欠佳！本教程就以Llama3-8B-Instruct开源模型为模型基座，通过开源程序LLaMA-Factory来进行中文的微调，提高Llama3的中文能力！

大模型实战—用户反馈概要提取

微软最近推出了 WizardLM 2，这是一个突破性的大型语言模型系列，突破了人工智能的界限。这些模型展示了复杂聊天、多语言理解、推理和代理功能方面的显着改进，超越了其前身 WizardLM 和其他领先的开源模型。

我们可以点击对话框的内容，选择文件上传，然后就可以让大模型基于上传文件的内容，做一些对话，这里我们主要让大模型总结一下这本书的主要内容，这其实也就是为什么我们要本地部署，不然我们也不能上传公司的文件，因为涉及泄密。这个项目提供了多种部署方式，这里我们使用docker 进行部署，如果你的web 服务和你的模型服务在同一个节点上，可以使用下面的命令。当上面的命令执行完成后，我们可以查看一下容器有没有起来，可以看到我们的容器已经成功起启动了。当然我们可以进入设置页面的模型菜单，可以选择下载模型或者删除模型。

根据 ChatGPT 的使用经验，多数人都已知晓系统提示词的重要性。好的系统提示词能有效地将大模型定制成自己需要的状态。在 Ollama 中，有多种方法可以自定义系统提示词。首先，不少 Ollama 前端已提供系统提示词的配置入口，推荐直接利用其功能。此外，这些前端在底层往往是通过API"content": "以海盗的口吻简单作答。},"content": "天空为什么是蓝色的？],}'其中role为system的消息即为系统提示词。

文本已成为最常见的表达形式之一。我们每天都要发送电子邮件、短信、推文、更新状态。因此，非结构化文本数据变得非常普遍，分析大量文本数据现在是了解人们的想法的关键方法。微博上的推文帮助我们找到热门新闻主题。淘宝的评论帮助用户购买评价最高的产品。这些例子都是自然语言处理（NLP）任务的体现。NLP属于计算机科学领域，主要做人机互动。NLP技术用于分析文本，为计算机提供了一种理解人类语言的方法。NLP应用程序的一些例子包括自动文本摘要、主题分隔和情感分析。

这一节的主要内容如下：1. ChatGPT 的各个模型的对比和使用场景介绍2. ChatGPT的模型参数的介绍3. ChatGPT模型API 的使用介绍和兼容性介绍

到这里我们的ChatGPT使用案例之简单机器人就介绍完了，不过里面遗留了了一些问题就是tocken 的问题，可能会导致我们的会话失败就是目前机器人还是代码形式，不能分享，不能让很多人来使用。

作为一个基于大型语言处理模型的文字聊天工具，ChatGPT能够帮助用户围绕特定的主题生成各种创意性文字内容，为用户提供创意来源。但是我们不能完全依赖ChatGPT的生成内容，我们也要对生成的文字进行检查，目前ChatGPT只能当作一个素材的来源。

我们介绍了两种PPT 生成的方式，这两种方式的内容都是通过ChatGPT 生成的使用PPT 软件提供的大纲功能来生成使用mindshow来生成个人觉得mindshow使用起来更方便，毕竟少了一个步骤，而且生成的效果更好ChatGPT归根结底只能作为一种工具来使用，为我们提供创意源泉，我们不能完全依赖它来为我们提供全部内容，而是借助它来提高我们的工作效率。

到这里我们关于ChatGPT生成图像就已经介绍完了，可以看到的是只是有这个功能，还不够强大，目前只支持下面三种形式基于文本提示从头开始创建图像基于新的文本提示创建对现有图像的编辑创建现有图像的变体如果不满足需求，可以让ChatGPT 生成prompt,然后通过midjourney根据prompt生成。

我们操作Excel 的本质依然是生成代码，同理我们可以去操作PPT 或者是Word ，当然如果能使用Microsoft 365 Copilot那就更加方便了，当然目前我们已经可以使用ChatGPT 来帮我们解决这一类的工作。

这一节我们主要使用ChatGPT尝试了一些自然语言处理相关的内容，当然例子都很简单，而且关于自然语言处理还是有很多其他场景的，我们也没有一一演示。当我们的基础使用案例演示完了，我们就可以尝试使用ChatGPT做一些高阶使用了。

今天我们介绍的关于ChatGPT 生成思维导图就到这里了，下一节我们介绍ChatGPT做活动策划和做PPT我们使用ChatGPT生成思维导图主要是让ChatGPT生成思维导图的内容，让使用markmap 来生成最后的图！

这一节我们主要尝试使用ChatGPT去给我们写代码，可以看到常见的代码它得确能帮我们写出来，但是很多时候可能或多或少是有点问题的，这个时候我们可以尝试改变我们的prompt 引导ChatGPT 产生一个正确的结果。后面我们继续尝试ChatGPT 的其他场景，以达到解放我们的生产力的目的，虽然有时候写出的代码可能存在bug,但是只要我们稍加调整即可，而且对于ChatGPT而言它不像我们，它擅长各种编程语言。

这一节我们主要介绍如何通过Python 使用ChatGPT，以及一个简单的代码示例，后面我们会详细介绍相关的参数，以及各个模型之间的区别。

Chat GPT源于OpenAI公司创造的一个大型语言预处理程序，名为GPT-2，GPT(Generative Pre-trained Transformer)是一个基于transformer架构的预训练语言模型，它是通过使用海量文本数据训练而成的可以自动产生文本序列的语言模型，能够生成高质量的自然语言文本。总结来说Chat GPT的技术细节主要包括基于GPT模型的神经网络架构、来自公共聊天文本数据的数据集基础和使用预训练模型进行迁移学习的模型训练方法。Chat GPT模型基于深度学习神经网络的架构。