![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
LLM
文章平均质量分 89
爱睡觉的咋
机器学习、深度学习、计算机视觉、数据结构和算法
展开
-
Transformer面试真题详解——覆盖99%的Transformer面试问题(建议收藏)
Transformer面试真题详解——覆盖99%的Transformer面试问题(建议收藏)!原创 2024-09-01 22:28:39 · 920 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(十三)茴香豆:企业级知识库问答工具
修改完配置文件后,就可以进行知识库的搭建,本次教程选用的是茴香豆和 MMPose 的文档,利用茴香豆搭建一个茴香豆和 MMPose 的知识问答助手。原创 2024-08-27 21:13:46 · 427 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(十四)MindSearch 快速部署
将 /root/mindsearch/mindsearch_deploy`目录下的文件(使用 git)提交到 `HuggingFace Space` 即可完成部署了。将代码提交到huggingface space的流程如下原创 2024-08-27 15:19:03 · 790 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(十二)InternVL 多模态模型部署微调实践
InternVL 是一种用于多模态任务的深度学习模型,旨在处理和理解多种类型的数据输入,如图像和文本。它结合了视觉和语言模型,能够执行复杂的跨模态任务,比如图文匹配、图像描述生成等。通过整合视觉特征和语言信息,InternVL 可以在多模态领域取得更好的表现原创 2024-08-27 14:49:28 · 261 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(十一)LMDeploy 量化部署进阶实践
使用结合W4A16量化与kv cache量化的internlm2_5-1_8b-chat模型封装本地API并与大模型进行一次对话,使用Function call功能让大模型完成一次简单的"加"与"乘"函数调用。原创 2024-08-26 21:38:30 · 833 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(十)Lagent 自定义你的 Agent 智能体
继承 BaseAction 类实现简单工具的 run 方法;或者实现工具包内每个子工具的功能简单工具的 run 方法可选被 tool_api 装饰;原创 2024-08-26 12:09:34 · 421 阅读 · 0 评论 -
ollama轻松部署本地GraphRAG(避雷篇)
本篇文章主要介绍如何使用ollama本地部署微软的Graph RAG,,Graph RAG成为RAG一种新范式,对于全局总结性问题表现突出,由ollama一站式解决。但是中间也出现非常多的问题,比如Columns must be same length as key。跟着本篇文章使用ollama+mistral-nemo+mxbai-embed-larg`实现本地的GraphRAG的部署!原创 2024-08-18 21:25:48 · 2301 阅读 · 15 评论 -
书生.浦江大模型实战训练营——(七)InternLM + LlamaIndex RAG 实践
大模型RAG(Retrieval-Augmented Generation)是一个结合了信息检索和生成模型的技术框架。它旨在通过引入外部知识源来增强生成模型的能力。原创 2024-08-11 09:49:03 · 596 阅读 · 4 评论 -
书生.浦江大模型实战训练营——(九)OpenCompass 评测 InternLM-1.8B 实践
使用 OpenCompass 评测 internlm2-chat-1.8b 模型在 ceval 数据集上的性能原创 2024-08-10 20:45:38 · 315 阅读 · 1 评论 -
书生.浦江大模型实战训练营——(八)XTuner 微调个人小助手认知
微调(fine-tuning)是一种基于预训练模型,通过少量的调整(fine-tune)来适应新的任务或数据的方法。微调是在预训练模型的基础上,将模型中一些层的权重参数进行微调,以适应新的数据集或任务。原创 2024-08-10 18:43:15 · 613 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(六)浦语提示词工程实践(Prompt Engineering)
Prompt engineering(提示工程)是指设计和优化输入提示,以引导人工智能模型(如语言模型)生成更符合预期的输出的过程。通过精心构造的问题或句子,用户可以有效地影响模型的回答质量和相关性。原创 2024-08-10 09:43:15 · 1320 阅读 · 2 评论 -
书生.浦江大模型实战训练营——(五)8G 显存玩转书生大模型 Demo
一、Cli Demo 部署 InternLM2-Chat-1.8B 模型1.1环境搭建1.2 创建文件1.3 推理测试二、Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型三、LMDeploy 部署 InternLM-XComposer2-VL-1.8B 模型四、LMDeploy 部署 InternVL2-2B 模型原创 2024-08-09 15:01:44 · 1207 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(四)书生·浦语大模型全链路开源开放体系
视频时间不长,30分钟,详细介绍了书生.浦语大模型的全链路开发体系,以及一些关键的大模型技术,收获颇多,后面想继续KG和RAG以及LLM长文本,基于图神经网络的LLM方向的进一步学习,欢迎大家交流!下面将详细介绍视频的内容。原创 2024-08-09 09:31:04 · 1050 阅读 · 1 评论 -
书生.浦江大模型实战训练营——(三)Git基本操作与分支管理
书生.浦江大模型实战训练营——(二)Git基本操作与分支管理。Git 是一种开源的分布式版本控制系统,广泛应用于软件开发领域,尤其是在协同工作环境中。它为程序员提供了一套必备的工具,使得团队成员能够有效地管理和跟踪代码的历史变更。Git 由 Linus Torvalds 于2005年创建,Git 主要用于软件开发,但也适用于任何需要版本控制的文件管理。原创 2024-08-08 20:53:54 · 1183 阅读 · 1 评论 -
书生.浦江大模型实战训练营——(二)Wordcount实现+Vscode连接远程服务器Debug
书生.浦江大模型实战训练营——(二)Wordcount实现+Vscode连接远程服务器Debug。使用VSCode的debug功能来更容易地找到和修复你Python代码中的错误,也可以随时关注变量的变化,当然在每一步print也是一个不错的选择,不过遇到大型项目需要debug时,还是断点的效率更高。原创 2024-08-08 14:56:34 · 392 阅读 · 0 评论 -
书生.浦江大模型实战训练营——(一)InternStudio+Vscode SSH连接远程服务器+Linux基础指令
书生.浦江大模型实战训练营——(一)InternStudio+Vscode SSH连接远程服务器+Linux基础指令。最近在学习书生.浦江大模型实战训练营,所有课程都免费,以关卡的形式学习,也比较有意思,提供免费的算力实战,真的很不错原创 2024-08-08 10:56:41 · 961 阅读 · 3 评论 -
Transformer——逐步详解架构和完整代码搭建
Transformer是一个经典的编码解码结构,编码器decoder负责编码,解码器encoder负责解码。Transformer是基于seq2seq的架构,提出时被用在机器翻译任务上,后面变种Swin Transformer和Vision Transformer让其在CV领域也大放异彩。原创 2024-07-30 17:06:57 · 836 阅读 · 5 评论