自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

一入IT深似海、从此亲朋是路人!

2009年,500元实习起步的小码农 ~ 2024年,努力奔小康的老码农

  • 博客(75)
  • 收藏
  • 关注

原创 开源模型应用落地-解锁大语言模型的无限潜能

1、您是否也在迫不及待地期待在AI时代中展示自己的能力?2、您是否一直在研究如何使用开源模型?3、您是否一直在寻找将AI与业务结合的方向?4、您是否一直在寻找模型推理加速的方法?5、您是否一直在努力整合来自互联网上零散的资料?

2024-01-11 14:23:55 1608 32

原创 开源模型应用落地-qwen-7b-chat与vllm实现推理加速的正确姿势(一)

qwen-7b-chat集成vllm,流式输出

2024-01-10 14:07:27 3035 10

原创 开源模型应用落地-LangChain高阶-集成vllm-QWen1.5-OpenAI-Compatible Server(三)

langchain集成vllm,构建与OpenAI-API兼容的API服务

2024-04-26 15:05:46 30

原创 开源模型应用落地-LangChain高阶-事件回调-合规校验

通过LangChain的事件回调机制,便捷完成用户输入和模型输出的合规性检测

2024-04-25 12:27:22 106 2

原创 开源模型应用落地-LangChain高阶-集成vllm-QWen1.5(二)

通过LangChain和Vllm的结合,可以更好地处理对话,提供更智能、更准确的响应,从而提高对话系统的性能和用户体验

2024-04-24 15:18:08 40

原创 开源模型应用落地-chatglm3-6b-集成langchain(十)

通过LangChain和chatglm3-6b模型的整合,可以更好地处理对话,提供更智能、更准确的响应,从而提高对话系统的性能和用户体验。

2024-04-23 17:40:46 1046

原创 开源模型应用落地-LangChain高阶-集成vllm-QWen1.5(一)

通过LangChain和Vllm的结合,可以更好地处理对话,提供更智能、更准确的响应,从而提高对话系统的性能和用户体验

2024-04-23 11:33:52 165 1

原创 开源模型应用落地-LangChain高阶-知识图谱助力记忆增强

通过使用 ConversationKGMemory 组件,让Langchain 可以更好地处理对话,提供更智能、更准确的响应,从而提高对话系统的性能和用户体验。

2024-04-22 16:26:51 89

原创 开源模型应用落地-chatglm3-6b-模型输出违禁词检测(九)

chatglm3模型输出内容检测是否命中敏感词

2024-04-18 08:30:00 860 3

原创 开源模型应用落地-chatglm3-6b-streamlit-入门篇(八)

使用streamlit搭建AI交互界面

2024-04-17 12:26:52 1185 7

原创 开源模型应用落地-LangChain高阶-QWen1.5-外部实时数据

通过LangChain调用外部心知天气API,并将结果返回给QWen1.5模型进行加工处理

2024-04-17 08:30:00 304 2

原创 开源模型应用落地-LangChain高阶-GPU调用QWen1.5(二)

基于LangChain框架,调用QWen1.5-7b-chat模型,全网唯一,填坑之作

2024-04-16 08:30:00 229 1

原创 开源模型应用落地-LangChain试炼-CPU调用QWen1.5(一)

基于LangChain框架,调用QWen1.5-7b-chat模型

2024-04-15 14:00:26 236 1

原创 开源模型应用落地-chatglm3-6b-gradio-入门篇(七)

使用gradio搭建AI交互界面

2024-04-15 13:47:14 857 2

原创 开源模型应用落地-LangChain试炼-Zero/One/Few Shot

基于LangChain框架,体验Zero/One/Few-Shot的使用

2024-04-13 08:30:00 175 4

原创 开源模型应用落地-chatglm3-6b-function call-入门篇(六)

学习如何使用在ChatGLM3模型下,实现Function Call的功能

2024-04-12 08:30:00 902 9

原创 开源模型应用落地-chatglm3-6b-zero/one/few-shot-入门篇(五)

在Zero-Shot/One-Shot/Few-Shot场景下,ChatGLM3-6B的推理表现

2024-04-11 08:30:00 1187 3

原创 开源模型应用落地-chatglm3-6b-批量推理-入门篇(四)

使用chatglm3进行批量推理,提升吞吐量,减少延迟

2024-04-10 08:30:00 1154 3

原创 开源模型应用落地-qwen1.5-7b-chat与sglang实现推理加速的正确姿势(二)

优化sglang参数,让它跑得更快更顺畅

2024-04-09 08:30:00 238 2

原创 开源模型应用落地-qwen1.5-7b-chat与sglang实现推理加速的正确姿势(一)

qwen1.5-7b-chat集成sglang,流式输出,全网唯一,绝无保留

2024-04-08 11:42:17 964 8

原创 开源模型应用落地-qwen1.5-7b-chat-LoRA微调代码拆解

深入学习qwen1.5-7b-chat模型官方微调脚本

2024-04-06 16:28:03 1203 5

原创 开源模型应用落地-chatglm3-6b模型小试-入门篇(三)

在linux环境下,使用transformer设置模型参数/System Prompt/历史对话

2024-04-05 08:30:00 1103 2

原创 开源模型应用落地-chatglm3-6b模型小试-入门篇(二)

在windows环境下,使用transformer设置模型参数/System Prompt/历史对话

2024-04-04 08:30:00 2679 5

原创 开源模型应用落地-chatglm3-6b模型小试-入门篇(一)

在windows环境下,使用transformer调用ChatGLM3-6b模型

2024-04-03 08:30:00 1698 5

原创 开源模型应用落地-qwen1.5-7b-chat-LoRA微调-Firefly(四)

使用开源的Firefly大模型训练项目微调qwen1.5-7b-chat模型

2024-04-02 08:30:00 681 2

原创 开源模型应用落地-qwen-7b-chat-LoRA微调-Firefly(三)

使用开源的Firefly大模型训练项目微调qwen-7b-chat模型

2024-04-01 08:30:00 503 3

原创 开源模型应用落地-baichuan2模型小试-入门篇(三)

在linux环境下,使用transformer设置模型参数/System Prompt/历史对话

2024-03-29 14:31:39 807 2

原创 开源模型应用落地-qwen1.5-7b-chat-LoRA微调(二)

使用QWen官方方式微调qwen1.5-7b-chat模型

2024-03-28 18:57:02 1609 5

原创 开源模型应用落地-qwen-7b-chat-LoRA微调(一)

使用QWen官方方式微调qwen-7b-chat模型

2024-03-27 15:42:03 969 8

原创 开源模型应用落地-qwen模型小试-Zero/One/Few Shot-进阶篇(九)

理解何为Zero-Shot/One-Shot/Few-Shot,以及如何正确使用

2024-03-20 12:21:59 881 6

原创 开源模型应用落地-安全合规篇-模型输出合规性检测(三)

使用腾讯云文本内容安全服务,对AI生成的输出进行合规性校验,确保内容的质量和可信度

2024-03-19 09:30:00 1433 5

原创 开源模型应用落地-baichuan2模型小试-入门篇(二)

在windows环境下,使用transformer设置模型参数/System Prompt/历史对话

2024-03-18 14:04:10 322 1

原创 开源模型应用落地-qwen模型小试-合并Lora模型-进阶篇(八)

qwen-7b-chat基座模型与微调后的lora模型进行合并

2024-03-15 14:26:44 551 8

原创 开源模型应用落地-qwen模型小试-调用Lora模型-进阶篇(七)

调用微调后的qwen-7b-chat模型

2024-03-14 14:45:47 547 5

原创 开源模型应用落地-baichuan模型小试-入门篇(一)

在windows环境下,使用transformer调用Baichun-7B模型

2024-03-14 12:15:43 462 4

原创 开源模型应用落地-安全合规篇-用户输入合规性检测(二)

通过对用户输入的内容进行合法性检测,确保项目安全合规。

2024-03-12 14:58:45 1196 4

原创 开源模型应用落地-业务优化篇(八)

每个知识点可能都理解,但是能整合一起并赋能在实际项目中,还是有很多困难。通过多种技术整合,为降本增效赋能,让公司对你眼前一亮。本篇学习Redis+Milvus+定时任务整成。

2024-03-11 14:40:21 640 6

原创 开源模型应用落地-工具使用篇-Spring AI-高阶用法(九)

Spring AI调用OpenAI,并实现历史上下文传递,模型参数优化等高级用法,良心之作,全网唯一,绝非搬运,希望能给您带来一些些帮助!

2024-03-08 12:01:57 2158 6

原创 开源模型应用落地-工具使用篇-Spring AI-Function Call(八)

Spring AI调用OpenAI,并实现function call的高级用法,良心之作,全网唯一,绝非搬运,希望能给您带来一些些帮助!

2024-03-07 11:28:16 2095 7

原创 开源模型应用落地-工具使用篇-Spring AI(七)

Spring AI调用OpenAI及Ollama系列模型,良心之作,全网唯一,绝非搬运,希望能给您带来一些些帮助!

2024-03-06 12:30:52 2959 13

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除