- 博客(5)
- 收藏
- 关注
原创 [书生实战营] 基础岛4: Llamaindex RAG实践
当我们直接提问RAG是什么?时,模型不能给出正确的回答参考之前的流程,在data文件夹下创建RAG.mdRAG(Retrieval-Augmented Generation,检索增强生成)是一种为大模型提供外部知识源的概念,旨在帮助这些模型生成更准确且符合上下文的答案,同时减少模型幻觉。它的核心思想是将生成模型与检索器模块相结合,利用外部知识源提供附加信息,这些信息可以方便地进行更新维护。具体来说,RAG的工作流程包括以下几个步骤:检索(Retrieve):根据用户请求,从外部知识源检索相关上下文。
2024-08-09 19:34:05
439
原创 [书生实战营] 基础岛3: 浦语提示词工程实践
设计框架使用CO-STAR,参考:https://aiadvisoryboards.wordpress.com/2024/01/30/co-star-framework/LangGPT官方提供了生成prompt的prompt。将之前的生成的prompt填入系统提示,比较下。使用LMDeploy进行部署,输入如下命令。的数字大小,可以看到大模型可以正确回答。中会自动开启端口转发,打开后界面如下。脚本进行测试,脚本内容如下。获得的结构化提示词模板如下。获取项目并运行图形化界面。使用上述提示词,定义一个。
2024-08-04 23:53:13
473
原创 [书生实战营] 基础岛2: 8G 显存玩转书生大模型 Demo
后续在vscode中运行项目时,需要选择下python环境。选择后编辑代码会有对应包的。在网页中上传图片后可以基于图片内容进行相应的问答。(如果存在端口冲突,可以重新设置端口转发或者在终端中使用。模型的部署,并生成 300 字小故事,记录复现过程并截图。的部署,并完成一次图文理解对话,记录复现过程并截图。的部署,并完成一次图文理解对话,记录复现过程并截图。中会自动开启端口转发,之后在浏览器中输入。,运行python程序时会切换对应的。问题二:写一个300字的小故事。创建项目目录文件夹,并创建。
2024-07-29 23:48:15
561
原创 [书生实战营] 入门岛2: Python基础
按照官方的提示,需要实现分几步实现:单词小写转换,去除标点符号,分割字符,创建字典。在进行测试中,需要在程序中打断点,监测程序运行过程中的输出。在vscode中可以在行号前打断点,会有。在程序运行时,可以使用vscode自带的debug工具,对应简单的项目可以直接选择。仅针对这个案例,对于缩写使用替换的方式,进行补全。函数,统计英文字符串中每个单词出现的次数。点击调试后,程序会在该断点处暂停,此时可以查看变量的值。在主函数中,将text修改为新的测试案例。在处理第二个案例时候会遇到。为对应单词出现的次数。
2024-07-27 15:33:43
459
原创 [书生实战营] 入门岛1: Linux基础
之后可以进入本地的vscode界面,之后可以使用本地的vscode进行代码开发。运行上述vscode中会自动启动端口转发。在本地终端中,使用RSA算法生成。完成后就可以不输入密码直接登录了。完成SSH连接与端口映射并运行。进入InternStudio的。能够进入该界面后,说明配置成功。回到InternStudio的。安装remote ssh插件。选择SSH连接后,可以获得。在运行代码之前,需要先使用。选择进入开发机并进行配置。安装完成后使用之前的。
2024-07-27 01:31:54
480
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人