Ace_bb-CSDN博客

原创书生大模型实战营闯关记录----第十一关：LMDeploy 量化部署进阶实践 KV cache量化部署,W4A16 模型量化和部署

关于Function call，即函数调用功能，它允许开发者在调用模型时，详细说明函数的作用，并使模型能够智能地根据用户的提问来输入参数并执行函数。在终端中，让我们输入以下指令，来创建一个名为lmdeploy的conda环境，python版本为3.10，创建成功后激活环境并安装0.5.3版本的lmdeploy及相关包。让我们回到LMDeploy，在最新的版本中，LMDeploy使用的是AWQ算法，能够实现模型的4bit权重量化。而在实际应用中，我们有时会将大模型封装为API接口服务，供客户端访问。

2024-09-01 01:09:25 545

原创美团2024秋招编程题：小美的red子序列数量之和

在一行上输出一个整数，代表所有子串中 red 子序列的数量之和。小美有一个字符串，小美想知道这个字符串的所有连续子串中，red 子序列的数量之和。第一行输入一个长度不超过10^5、且仅由小写字母构成的字符串s，代表小美的字符串。定义 red 子序列为从原字符串中从左到右依次取出r、e和d组成的新字符串。子串是指从原字符串中，连续的选择一段字符组成的新字符串。这样就成功计算了所有连续子串中的。在 red 子串中，有1个red 子序列;个字符结尾的子串钟，

2024-08-31 21:29:16 148

原创书生大模型实战营闯关记录----第十关：使用Lagent 自定义 Agent 智能体

Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。Lagent 包含三个主要模块：agents，llms 和 actions。agents 实现了多种智能体，如 ReAct，AutoGPT。llms 支持多种大语言模型，包括在 HuggingFace 上托管的开源模型（Llama-2, InterLM）及 GPT3.5/4 等闭源模型。actions 包含一系列工具，并提供工具执行器来统一管理。

2024-08-31 19:40:14 538

原创书生大模型实战营闯关记录----第九关：InternVL 多模态模型部署微调实践

我们选定的任务是让InternVL-2B生成文生图提示词，这个任务需要VLM对图片有格式化的描述并输出。让我们来一起完成一个用VLM模型进行冷笑话生成，让你的模型说出很逗的冷笑话吧。在这里，我们微调InterenVL使用xtuner。部署InternVL使用lmdeploy。

2024-08-25 22:25:19 700

原创 InternVL多模态模型训练教程，流程图识别检测LLM-v1版本。检测流程图，输出基础图形bounding box

本篇文章主要是讲如何训练InternVL2模型，详细信息可以看我的，欢迎star，会持续更新，目前为v1版本，使用InternVL2官方介绍的方法进行训练。目前为V1版本，已经能够准确检测出流程图中的基础图形（矩形、圆形、菱形等），接下来会训练模型输出dotjsonmermaid格式。实现流程图的精准解析。除此之外，还会实现模型对表格和PDF的解析。

2024-08-25 22:07:49 1132

原创书生大模型实战营闯关记录----第八关：书生大模型全链路开源开放体系

书生大模型，即InternLM系列模型，是由上海人工智能实验室书生团队开发的一系列大语言模型。这些模型以其强大的功能而著称，涵盖了从基础的语言理解到复杂的数学解题和图文创作等多个领域。

2024-08-11 00:49:19 912

原创书生大模型实战营闯关记录----第七关：模型评估，使用OpenCompass评估大模型，OpenCompass入门

OpenCompass，也称为“司南”，是由上海人工智能实验室发布的一个开源的大模型评测体系，已经成为目前权威的大型模型评估平台，本篇介绍如何使用OpenCompass进行大模型测评，以及其中涉及的相关知识。官方看这里。OpenCompass概述介绍OpenCompass下载安装OpenCompass快速开始ppl、gen两种测评方式区别简述OpenCompass的Prompt构建数据集、测评指标、模型推理的配置测评结果可视化。

2024-08-10 22:30:03 591

原创书生大模型实战营闯关记录----第六关：大语言模型微调实战，LoRA和QLoRA微调，理论+Xtuner微调实操

微调（fine-tuning）是一种基于预训练模型，通过少量的调整（fine-tune）来适应新的任务或数据的方法。微调是在预训练模型的基础上，将模型中一些层的权重参数进行微调，以适应新的数据集或任务。预训练模型部分已经在大规模数据上得到了训练，它们通常是较为通用且高性能的模型，因此可以很好地作为新任务的起点。微调可以加快模型的收敛速度，降低模型过拟合的风险，并在不消耗过多计算资源的情况下获取较好的模型性能。

2024-08-10 00:49:57 727

原创书生大模型实战营闯关记录----第五关：LlamaIndex+Internlm2 RAG实践Demo：效果对比，文档加载，向量库构建，检索器，模型推理

RAG正是这种方式。对于LLM来说，这几乎总是意味着创建向量嵌入，即你的数据含义的数值表示，以及许多其他元数据策略，使其易于准确找到上下文相关的数据。给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考。完整的RAG代码如下，包含了模型加载，文档加载，向量索引库构建，检索器构建和模型输出。

2024-08-04 14:05:18 1078

转载书生大模型实战营闯关记录----第四关：提示词工程实践，什么是Prompt，提示词设计框架CRISPE/CO-STAR，LangGPT结构化提示词

Prompt是一种用于指导以大语言模型为代表的生成式人工智能生成内容(文本、图像、视频等)的输入方式。它通常是一个简短的文本或问题，用于描述任务和要求。Prompt可以包含一些特定的关键词或短语，用于引导模型生成符合特定主题或风格的内容。例如，如果我们要生成一篇关于“人工智能”的文章，我们可以使用“人工智能”作为Prompt，让模型生成一篇关于人工智能的介绍、应用、发展等方面的文章。Prompt还可以包含一些特定的指令或要求，用于控制生成文本的语气、风格、长度等方面。

2024-08-03 16:57:23 70

原创书生大模型实战营闯关记录----第三关：8G 显存玩转书生大模型 Demo

首先需要创建一个可用的环境。创建虚拟环境直接conda create一个，不要在平台中copy共享的环境，速度太慢。python版本建议3.10，安装cuda版pytorch，然后还需要安装下面这些依赖。

2024-07-29 00:01:04 210

原创书生大模型实战营闯关记录----第二关：实现word_count统计文本中word频次

请实现一个wordcount函数，统计英文字符串中每个单词出现的次数。返回一个字典，key为单词，value为对应单词出现的次数。Eg:TIPS：记得先去掉标点符号,然后把每个单词转换成小写。不需要考虑特别多的标点符号，只需要考虑实例输入中存在的就可以。

2024-07-23 22:35:58 370

原创书生大模型实战营闯关记录----第一关：Linux基础知识，SSH连接远程服务器，Linux常用命令，创建Anaconda虚拟环境

连接开发及和基础Linux操作

2024-07-23 00:31:43 1087

原创 Django开发——web开发简介和Django的安装运行

Django的安装和使用

2022-06-09 11:59:13 504 1

原创 node.js的安装以及使用vue-cli脚手架创建vue项目

本文介绍了node.js，以及node.js的安装。并且如何使用node.js创建vue项目，使用npm安装vue-cli脚手架。

2022-06-09 00:21:42 1200

原创编译原理学习一什么是编译程序

一什么是编译程序从功能上看，编译程序就是一个语言翻译程序。语言翻译程序把一种语言书**（称作源语言）写的程序翻译成另一种语言（称作目标语言）**的等价程序。一个程序设计语言的典型处理过程：编译程序的结构编译过程编译过程可以划分为：词法分析、语法分析、语义分析、中间代码生成、代码优化和目标代码生成 6个阶段。词法分析从左到右一个字符一个字符的读入源程序，对构成要换程序的字符流进行扫描和分解，从而识别出一个个单词。语法分析在词法分析的基础上将单词序列分解成各类语法短语。语法短语也成为

2021-06-21 23:16:20 1464

原创 JavaWeb学习之Jedis，Java使用Redis

Java客户端 JedisJedis: 一款java操作redis数据库的工具.使用步骤：1. 下载jedis的jar包2. 使用 //1. 获取连接 Jedis jedis = new Jedis("localhost",6379); //2. 操作 jedis.set("username","zhangsan"); //3. 关闭连接 jedis.close();import org.junit.Test;import redis.clients.

2021-02-24 17:12:51 242

原创 JavaWeb学习之Redis

Redis (REmote DIctionary Server)1. 概念： redis是一款高性能的NOSQL系列的非关系型数据库1.1.什么是NOSQL NoSQL(NoSQL = Not Only SQL)，意即“不仅仅是SQL”，是一项全新的数据库理念，泛指非关系型的数据库。随着互联网web2.0网站的兴起，传统的关系数据库在应付web2.0网站，特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心，暴露了很多难以克服的问题，而非关系型的数据库则由于其本身的特点

2021-02-24 16:33:14 218 1

原创 jQuery——DOM操作

DOM操作1. 内容操作 1. html(): 获取/设置元素的标签体内容 <a>内容</a> --> 内容 2. text(): 获取/设置元素的标签体纯文本内容 <a>内容</a> --> 内容 3. val()：获取/设置元素的value属性值<!DOCTYP

2021-02-03 16:56:35 123

原创 JavaEE学习之Jquery基础

JQuery 基础：1. 概念：一个JavaScript框架。简化JS开发 jQuery是一个快速、简洁的JavaScript框架，是继Prototype之后又一个优秀的JavaScript代码库（或JavaScript框架）。jQuery设计的宗旨是“write Less，Do More”，即倡导写更少的代码，做更多的事情。它封装JavaScript常用的功能代码，提供一种简便的JavaScript设计模式，优化HTML文档操作、事件处理、动画设计和Ajax交互。 JavaSc

2021-02-03 16:13:40 322

原创 jQuery选择器分类——基本选择器、属性选择器、层级选择器、过滤选择器、表单过滤选择器

4. 选择器：筛选具有相似特征的元素(标签)基本操作学习： 1. 事件绑定 //1.获取b1按钮 $("#b1").click(function(){ alert("abc"); }); 2. 入口函数 $(function () { }); window.onload 和 $(function) 区别 * window.

2021-02-03 16:12:49 218

原创 JavaEE之Filter过滤器、登录状态验证、敏感词汇过滤

Filter：过滤器1. 概念：生活中的过滤器：净水器,空气净化器 web中的过滤器：当访问服务器的资源时，过滤器可以将请求拦截下来，完成一些特殊的功能。过滤器的作用：一般用于完成通用的操作。如：登录验证、统一编码处理、敏感字符过滤...2. 快速入门：1. 步骤： 1. 定义一个类，实现接口Filter 2. 复写方法 3. 配置拦截路径 1. web.xml 2. 注解2. 代码：@WebFilter("/*")//访问所有资源之前，都会执行该过滤器pu

2021-02-01 16:05:58 436

原创 JavaEE之JSP、EL、JSTL

JSP:1. 指令作用：用于配置JSP页面，导入资源文件格式： <%@ 指令名称属性名1=属性值1 属性名2=属性值2 ... %>分类：1. page ：配置JSP页面的 contentType：等同于response.setContentType() 1. 设置响应体的mime类型以及字符集 2. 设置当前jsp页面的编码（只能是高级的IDE才能生效，如果使用低级工具，则需要设置pageEncoding属性设置当前页面的字符集） impo

2021-01-31 22:36:35 389

原创 2021-01-29

Session：主菜1. 概念：服务器端会话技术，在一次会话的多次请求间共享数据，将数据保存在服务器端的对象中。HttpSession2. 快速入门： 1. 获取HttpSession对象： HttpSession session = request.getSession(); 2. 使用HttpSession对象： Object getAttribute(String name) void setAttribute(String name, Object value) void

2021-01-31 20:00:34 218

原创 JavaEE学习之JSP讲解及使用

JSP：入门学习1. 概念： * Java Server Pages： java服务器端页面 * 可以理解为：一个特殊的页面，其中既可以指定定义html标签，又可以定义java代码 * 用于简化书写！！！2. 原理 * JSP本质上就是一个Servlet3. JSP的脚本：JSP定义Java代码的方式 1. <% 代码 %>：定义的java代码，在service方法中。service方法中可以定义什么，该脚本中就可以定义什么。 2. <%! 代码 %>：

2021-01-29 23:40:56 345

原创 JavaEE学习之会话技术、cookie讲解及案例：记住上一次访问时间

会话技术会话：一次会话中包含多次请求和响应。* 一次会话：浏览器第一次给服务器资源发送请求，会话建立，直到有一方断开为止功能：在一次会话的范围内的多次请求间，共享数据方式：1. 客户端会话技术：Cookie2. 服务器端会话技术：SessionCookie：1. 概念：客户端会话技术，将数据保存到客户端客户端浏览器第一次向服务器发送请求时，服务器会携带一些数据响应给浏览器，浏览器接收到这些数据后，将这些数据保存到本地，下一次向服务器发送请求时，会携带着这些数据向服务器发送

2021-01-29 23:23:18 197

原创 JavaEE之ServletContext对象

ServletContext对象：1. 概念：代表整个web应用，可以和程序的容器(服务器)来通信2. 获取： 1. 通过request对象获取 request.getServletContext(); 2. 通过HttpServlet获取 this.getServletContext();3. 功能： 1. 获取MIME类型： * MIME类型:在互联网通信过程中定义的一种文件数据类型 * 格式：大类型/小类型 text/html image/jpeg * 获取

2021-01-29 22:27:57 180

原创 JavaEE之验证码的实现

验证码 1. 本质：图片 2. 目的：防止恶意表单注册@WebServlet("/checkCodeServlet")public class CheckCodeServlet extends HttpServlet { protected void doPost(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException { int w

2021-01-28 18:04:05 600

原创 JavaEE之Response对象、重定向、相对路径/绝对路径、服务器向客户端输出数据

Response对象当客户端发送http请求时，服务器端会对每一次请求，创建request对象和response对象。Web服务器收到客户端的Http请求时，会针对每一次请求，分别创建一个用于代表请求的request对象，和代表响应的response对象。request和response对象既然代表请求和响应，那我们对获取客户机提交过来的数据，只需要找request对象即可。要向客户机输出数据，只需要对response对象即可。功能：设置响应消息 1. 设置响应行 1. 格式：HTTP/1

2021-01-28 17:48:46 720

原创 JavaEE之Http协议

HTTP协议：请求消息：客户端发送给服务器端的数据数据格式：1. 请求行请求方式请求url 请求协议/版本 GET /login.html HTTP/1.1 请求方式： HTTP协议有7中请求方式，常用的有2种 GET： 1. 请求参数在请求行中，在url后。 2. 请求的url长度有限制的 3. 不太安全 POST： 1. 请求参数在请求体中 2. 请求的url长度没有限制的 3. 相对安全2

2021-01-28 16:43:28 204

原创 JavaEE之使用request实战，实现登录案例和BeanUtils工具类

案例：用户登录用户登录案例需求：1.编写login.html登录页面 username & password 两个输入框2.使用Druid数据库连接池技术,操作mysql，day14数据库中user表3.使用JdbcTemplate技术封装JDBC4.登录成功跳转到SuccessServlet展示：登录成功！用户名,欢迎您5.登录失败跳转到FailServlet展示：登录失败，用户名或密码错误分析开发步骤 1. 创建项目，导入html页面，配置文件，jar包 2. 创建数据库

2021-01-23 19:16:17 223

原创 JavaWeb之request和response

Request：request对象和response对象的原理 1. request和response对象是由服务器创建的。我们来使用它们 2. request对象是来获取请求消息，response对象是来设置响应消息request对象继承体系结构： ServletRequest -- 接口 | 继承 HttpServletRequest -- 接口 | 实现 org.apache.catalina.connector.RequestFacade 类(tomcat)3. re

2021-01-23 17:17:51 158

原创 JavaEE之servlet，HTTP，Request

Servlet：Servlet的体系结构 Servlet -- 接口 | GenericServlet -- 抽象类 | HttpServlet -- 抽象类 * GenericServlet：将Servlet接口中其他的方法做了默认空实现，只将service()方法作为抽象 * 将来定义Servlet类时，可以继承GenericServlet，实现service()方法即可 * HttpServlet：对http协议的一种封装，简化操作 1. 定义类继承HttpServl

2021-01-23 15:32:53 134

原创 JavaEE之Servlet介绍

Servlet： server applet概念：运行在服务器端的小程序Servlet就是一个接口，定义了Java类被浏览器访问到(tomcat识别)的规则。将来我们自定义一个类，实现Servlet接口，复写方法。快速入门： 1. 创建JavaEE项目 2. 定义一个类，实现Servlet接口 * public class ServletDemo1 implements Servlet 3. 实现接口中的抽象方法 4. 配置Servlet 在web.xml中配置： &l

2021-01-23 15:23:13 201

原创 web相关概念介绍及Tomcat的安装启动

客户端----服务器结构。C/S结构在技术上很成熟，它的主要特点是交互性强、具有安全的存取模式、网络通信量低、响应速度快、利于处理大量数据。因为客户端要负责绝大多数的业务逻辑和UI展示，又称为胖客户端。它充分利用两端硬件，将任务分配到Client 和Server两端，降低了系统的通讯开销。C/S结构的软件需要针对不同的操作系统系统开发不同版本的软件，加之产品的更新换代十分快，已经很难适应百台电脑以上局域网用户同时使用。

2021-01-23 15:15:32 122

原创 django应用之corsheaders[跨域设置]

Django跨域设置前端网页访问django后端时，如果报错Access to XMLHttpRequest at ‘http://localhost:8082/doLogin’ from origin ‘http://localhost:8080’ has been blocked by CORS policy: Response to preflight request doesn’t pass access control check: No ‘Access-Control-Allow-Orig

2020-12-13 20:22:18 289

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

模拟退火算法.rar

数值积分matlap复化梯形法，复化辛普森法，龙贝格法，三点高斯公式程序.rar

数学建模之层次分析法

空空如也