Ledber-CSDN博客

原创 [书生实战营] 基础岛4: Llamaindex RAG实践

当我们直接提问RAG是什么?时，模型不能给出正确的回答参考之前的流程，在data文件夹下创建RAG.mdRAG（Retrieval-Augmented Generation，检索增强生成）是一种为大模型提供外部知识源的概念，旨在帮助这些模型生成更准确且符合上下文的答案，同时减少模型幻觉。它的核心思想是将生成模型与检索器模块相结合，利用外部知识源提供附加信息，这些信息可以方便地进行更新维护。具体来说，RAG的工作流程包括以下几个步骤：检索（Retrieve）：根据用户请求，从外部知识源检索相关上下文。

2024-08-09 19:34:05 439

原创 [书生实战营] 基础岛3: 浦语提示词工程实践

设计框架使用CO-STAR，参考：https://aiadvisoryboards.wordpress.com/2024/01/30/co-star-framework/LangGPT官方提供了生成prompt的prompt。将之前的生成的prompt填入系统提示，比较下。使用LMDeploy进行部署，输入如下命令。的数字大小，可以看到大模型可以正确回答。中会自动开启端口转发，打开后界面如下。脚本进行测试，脚本内容如下。获得的结构化提示词模板如下。获取项目并运行图形化界面。使用上述提示词，定义一个。

2024-08-04 23:53:13 473

原创 [书生实战营] 基础岛2: 8G 显存玩转书生大模型 Demo

后续在vscode中运行项目时，需要选择下python环境。选择后编辑代码会有对应包的。在网页中上传图片后可以基于图片内容进行相应的问答。（如果存在端口冲突，可以重新设置端口转发或者在终端中使用。模型的部署，并生成 300 字小故事，记录复现过程并截图。的部署，并完成一次图文理解对话，记录复现过程并截图。的部署，并完成一次图文理解对话，记录复现过程并截图。中会自动开启端口转发，之后在浏览器中输入。，运行python程序时会切换对应的。问题二：写一个300字的小故事。创建项目目录文件夹，并创建。

2024-07-29 23:48:15 561

原创 [书生实战营] 入门岛2: Python基础

按照官方的提示，需要实现分几步实现：单词小写转换，去除标点符号，分割字符，创建字典。在进行测试中，需要在程序中打断点，监测程序运行过程中的输出。在vscode中可以在行号前打断点，会有。在程序运行时，可以使用vscode自带的debug工具，对应简单的项目可以直接选择。仅针对这个案例，对于缩写使用替换的方式，进行补全。函数，统计英文字符串中每个单词出现的次数。点击调试后，程序会在该断点处暂停，此时可以查看变量的值。在主函数中，将text修改为新的测试案例。在处理第二个案例时候会遇到。为对应单词出现的次数。

2024-07-27 15:33:43 459

原创 [书生实战营] 入门岛1: Linux基础

之后可以进入本地的vscode界面，之后可以使用本地的vscode进行代码开发。运行上述vscode中会自动启动端口转发。在本地终端中，使用RSA算法生成。完成后就可以不输入密码直接登录了。完成SSH连接与端口映射并运行。进入InternStudio的。能够进入该界面后，说明配置成功。回到InternStudio的。安装remote ssh插件。选择SSH连接后，可以获得。在运行代码之前，需要先使用。选择进入开发机并进行配置。安装完成后使用之前的。

2024-07-27 01:31:54 480

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人