- 博客(33)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 Win11+cuda11.7+spconv11.7搭建OpenPCdet
前面詳細的教程參考：https://blog.csdn.net/xuegreat1/article/details/141892867上文教程走完后運行demo.py，但是發現沒有裝mayavi庫，直接安裝報錯：failedthat.mayavi最高支持python3.7，但是我們已經裝了3.8，據説可以先安裝 vtk9.0.1 ，再安裝mayavi4.7.3，但是不行。我的解決辦法vtk 9.0 .1直接安裝configobj。
2024-09-24 11:37:13
417
原创 MindSearch CPU-only 版部署
MindSearch 是一个由上海人工智能实验室推出的开源 AI 搜索引擎框架，它结合了大规模信息搜集和整理能力，能够在几分钟内完成通常需要人类几个小时才能完成的信息搜集任务。它利用了 InternLM2.5 7B 对话模型，通过模拟人类思维的方式，先规划后搜索，提高了信息的准确性和完整性。MindSearch 的主要功能包括复杂查询处理、动态图构建、并行信息检索、分层检索策略、上下文管理、响应生成等，旨在提供准确、全面且深入的响应来回答问题。
2024-09-05 02:09:32
847
原创 茴香豆Web实践
知识库创建成功后会有一系列小测试，检验问题拒答和响应效果，如图所示，关于“mmpose 安装”的问题，测试结果可以很好的反馈相应答案和对应的参考文件，但关于“std：：vector 使用”的问题，因为属于 C++ 范畴，不再在知识库范围内，测试结果显示拒答，说明我们的知识助手工作正常。配置中可见，在运行过一次特征提取后，茴香豆的阈值从 -1.0 更新到了 0.33。多模态茴香豆：最新的茴香豆支持了多模态的图文检索，启用该功能后，茴香豆可以解析上传的图片内容，并根据图片内容和文字提示词进行检索回答。
2024-09-01 22:03:56
210
原创 InternVL 部署微调实践
Pixel Shuffle在超分任务中是一个常见的操作，PyTorch中有官方实现，即nn.PixelShuffle(upscale_factor) 该类的作用就是将一个tensor中的元素值进行重排列，假设tensor维度为[B, C, H, W], PixelShuffle操作不仅可以改变tensor的通道数，也会改变特征图的大小。InternVL独特的预处理模块：动态高分辨率，是为了让ViT模型能够尽可能获取到更细节的图像信息，提高视觉特征的表达能力。调成胡言乱语也是一种修改qwq。
2024-08-31 21:32:38
192
原创 LMDeploy 量化部署实践
一、环境配置见：https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/LMDeploy/readme.md验证LMDeploy启动InternLM2_5-7b-chat二、量化显存计算。
2024-08-30 15:54:08
919
原创 Lagent 自定义Agent 智能体
图片就手动打开了：https://oss.openmmlab.com/magicmaker/7e8/8/13/c46ee9705e3c11efafb300259d54ad6e.png。使用 Lagent 自定义一个智能体，并使用 Lagent Web Demo 成功部署与调用，记录复现过程并截图。顺序会乱，应该是webdemo的问题。基础任务（完成此任务即完成闯关）
2024-08-19 23:15:35
235
原创 OpenCompass 评测 InternLM-1.8B 实践
司南支持多种评测方法，包括客观和主观评测，致力于构建科学、公平的大模型评测体系。通过社区合作，司南的评测工具不断更新，已成为国内重要的评测平台，涵盖多种模型和应用场景。参考文档：https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/OpenCompass/readme.md#%E5%90%AF%E5%8A%A8%E8%AF%84%E6%B5%8B-10-a100-8gb-%E8%B5%84%E6%BA%90。
2024-08-17 01:48:40
309
原创 XTuner 微调大模型个人小助手认知
通过将训练后的模型转换为哈根face格式并进行合并，能够确保我们获得一个完整且有效的模型，以便进行后续的对话验证。使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知，如下图所示（图中的伍鲜同志需替换成自己的昵称），记录复现过程并截图。转换后的模型会保存在当前目录下的hf文件夹中，这是微调模型的基础。-闯关任务的目标是完成个人小助手的微调，使模型能识别自己是用户的助手。-首先，我们需要将文件中的名称改为自己的名字，并选择合适的昵称以便保存。
2024-08-16 01:00:27
408
原创 InternLM+LlamaIndex RAG 实践
本期实战训练营介绍了使用书生葡语的InternLM和LlamaIndex框架进行RAG项目的实践。内容分为三个部分：回顾InternLM的发展历程，介绍RAG的基本概念和应用，以及实践一个RAG项目。RAG技术结合了。最后，使用LlamaIndex搭建RAG系统，展示如何通过向量数据库实现实时信息检索和生成准确回答。本期课程主要介绍如何利用书生浦语和llama index框架实践R AG项目。RAG技术结合了检索与生成，旨在提升大模型的能力，通过利用外部知识库，实现更准确的回答与推理过程。
2024-08-15 16:11:40
1018
原创 浦语提示词工程实践
在本次讨论中，王明博士介绍了如何编写高质量的提示词，以引导生成式人工智能更好地执行任务。他从提示工程、long GPT框架和提示词应用三个方面进行讲解，强调了提示词设计的重要性。通过实例展示了不同提示词对模型输出的影响，提出了六大基本原则和多种技巧，以提高提示工程的效果。此外，介绍了long GPT结构化提示词的优势，帮助用户更有效地编写提示词，最终实现更优质的生成结果。在本次讨论中，王明博士介绍了如何编写高质量的提示词，以引导生成式人工智能更好地执行任务。他从。
2024-08-15 01:06:52
616
原创 8G显存玩转书生大模型
参考文档：https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/Demo/easy_readme.md。参考：https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/Demo/easy_readme.md。当进程发生错误或收到“信号”(signal) 而终止执行时，系统会将核心映像写入一个文件，以作为调试之用，这就是所谓的核心转储(core dump)。经过排查，换成再小的图片也不行。
2024-08-14 18:27:55
178
原创 书生浦语大模型全链路开源开放体系学习
书生浦语大模型的开源体系经过一年努力，已实现从数据收集到模型部署的全链路打通。课程介绍了书生浦语的最新进展，包括7B和20B模型的开源及其性能提升。新版本模型在推理能力和上下文处理上表现优异，支持超长上下文和复杂任务解决。开源工具涵盖数据处理、模型微调、评测和部署，助力用户在科研和应用领域的创新。课程还强调了社区的协作与反馈机制，推动了模型的不断优化与迭代。
2024-08-13 13:33:49
683
原创 Datawhale AI夏令营Deepfake-FFDV-图像赛题task02
Deepfake是一种利用深度学习技术生成逼真假视频的技术。可用于娱乐、教育等领域，但也存在被滥用的风险。可能被用于制造假新闻、误导公众等。
2024-07-17 17:43:28
1026
原创 书生大模型实战入门：python
任务：闯关任务 Python实现wordcount 15mins闯关任务 Vscode连接InternStudio debug笔记 15mins。
2024-07-16 01:20:58
157
原创 书生大模型实战入门--Linux
闯关任务需要在关键步骤中截图：任务描述 完成所需时间闯关任务 完成SSH连接与端口映射并运行hello_world.py 10min可选任务 1 将Linux基础命令在开发机上完成一遍 10min可选任务 2 使用 VSCODE 远程连接开发机并创建一个conda环境 10min可选任务 3 创建并运行test.sh文件 10min提交地址：https://aicarrier.feishu.cn/share/base/form/shrcnZ4bQ4YmhEtMtnKxZUcf1vd。
2024-07-16 01:08:12
401
原创 ARCGIS Pro踩坑及解决方案
GIthub下包安装明明成功了, 但是在已安装的包里找不到, 很奇怪, 对应路径下pkgs又有这个包.· 更新软件, 在 关于中找到软件更新的可用版本, 然后更新就行了, 别的官网上的办法一试一个报错.不用犹豫,直接复制环境,并且在 包管理器 -> 添加包 里面找到这个深度学习的包, 按照版本直接装.
2024-04-10 11:04:30
1153
1
原创 InternLLM2书生·浦语大模型全链路开源体系
视频地址：https://www.bilibili.com/video/BV1Vx421X72D/感谢陈凯老师的讲解, 以下为InterLLM2的相关笔记:
2024-03-31 20:00:38
410
1
原创 RTX4090上运行Cuda10.1报错:ValueError: Unknown CUDA arch (8.9) or GPU not supported
参考compute capability的官方表格:https://developer.nvidia.com/cuda-gpus。原因是cuda（我这里是cuda10.1，改为支持7.5）的版本不支持当前算力（8.9）
2024-03-14 10:44:03
2052
2
原创 Win10+wsl2+mmdetection3d(GPU)
2 确保各项虚拟化相关的设置都是正确的；另外docker下载镜像需要国内镜像源加速，配置方法：https://blog.csdn.net/elong490/article/details/114627211。安装地址：https://hub.docker.com/r/artzha/mmdetection3d。报错 Error code: Wsl/Service/WSL_E_DISTRO_NOT_FOUND。迁移系统可详细看：https://zhuanlan.zhihu.com/p/643184142。
2024-01-31 13:02:04
1169
原创 OpenCompass 大模型评测
学习：https://www.bilibili.com/video/BV1Gg4y1U7uc/?文档：https://github.com/InternLM/tutorial/blob/main/opencompass/opencompass_tutorial.md了解大模型评测，完成作业客观题基于rollbase。回答形式不一样，但是客观上都是对的。基于表达式的方法提取关键词，对了就是客观正确的。主管题就是要靠人工打分，用模型评价。用GPT4自动化工具去评价。
2024-01-25 00:35:16
554
原创 进阶：LMDeploy 大模型量化部署实践
如何优化 LLM 模型推理中的访存密集问题呢？我们可以使用 KV Cache 量化和 4bit Weight Only 量化（W4A16）。KV Cache 量化是指将逐 Token（Decoding）生成过程中的上下文 K 和 V 中间结果进行 INT8 量化（计算时再反量化），以降低生成过程中的显存占用。4bit Weight 量化，将 FP16 的模型权重量化为 INT4，Kernel 计算时，访存量直接降为 FP16 模型的 1/4，大幅降低了访存成本。
2024-01-24 21:52:38
1708
1
原创 XTuner 大模型单卡低成本微调实战
system在一个训练数据集里面是固定的增量预训练微调是陈述句，没有输入，放入assistant里面，计算损失。stable defusion就是通过不同的LoRA模型，作为旁路分支，替换不同风格。QLoRA在加载模型时量化为4-bit，不精确加载，相当于生锈的螺丝刀，减小显存开销。特色🤓 傻瓜化： 以 配置文件 的形式封装了大部分微调场景，0基础的非专业人员也能一键开始微调。🍃 轻量级： 对于 7B 参数量的LLM，微调所需的最小显存仅为 8GB ： 消费级显卡✅，colab✅。
2024-01-19 23:04:36
923
1
原创 LLM大模型入门-基于 InternLM 和 LangChain 搭建知识库
开源词向量模型 Sentence Transformer:是一种基于Transformer架构的开源词向量模型，专为生成句子级别的嵌入（embeddings）而设计。这个模型是在BERT、RoBERTa、DistilBERT等预训练的Transformer模型的基础上进一步发展而来的。Sentence Transformers在许多自然语言处理（NLP）任务中非常有效，尤其是在那些需要理解句子整体意义的应用中，如语义文本相似度评估、聚类、文本检索等。特点。
2024-01-09 22:21:37
1201
原创 浦语大模型趣味Demo
新建开发机-> bash(in terminate)->克隆环境-> 查看环境在internlm-dm这个conda环境完善依赖，下载模型：模型类型：internlm 表明这是语言模型中的一个特定架构或版本。架构：InternLMForCausalLM 表明这个模型是为因果语言模型设计的，通常用于生成文本序列，在这种模型中，每个令牌的预测都基于之前的令牌。
2024-01-08 20:26:43
863
原创 LLM入门--大语言模型的综述
学习Bilibili课程(https://www.bilibili.com/video/BV1Rc411b7ns/)并记录听课笔记和项目认识过程。
2024-01-05 16:58:53
1377
2
原创 VOC数据集图片截取处理
对于现有的VOC格式的数据集，因为图片太大不好训练所以需要把图片进行分割。但是分割图片后继续标注图片需要大量的工作量，所以需要把对应的标签进行提取转换，并保存为新分割图对应的标签。本代码还可以选择某一类标签进行迁移。
2023-05-07 17:09:57
664
原创 yolov4 darknet模型转OPENVINO的IR模型reshape出错
ERROR:cannot reshape array of size 181944 into shape(1,22743,4)出错的原理看这里：https://blog.csdn.net/Netceor/article/details/107330685但是我实际是转模型的，只能看到这里的报错，print的相关信息已在tu中代码里注释了：此时报错是第三步骤：#linux default OpenVINO path# 1. weights转换成pb模型python convert_weights
2021-08-13 15:34:09
494
2
原创 Darknet Yolov3编译没有生成libdarknet.so
Darknet Yolov3编译没有生成libdarknet.so正常下载编译报错正常下载编译我是在NVIDIA JETSON XAVIER NX下载编译的，基本过程参照https://github.com/doubleZ0108/IDEA-Lab-Summer-Camp/tree/master/doc/Daily-Notes也有很多命令操作看到是官方文档https://pjreddie.com/darknet/yolo/主要用的是NVIDIA JETSON XAVIER NX。Makefile
2021-03-18 16:27:50
1602
原创 matlab中wavread函数错误改用方法
matlab中wavread函数错误改用方法很多人在用matlab时因为新的matlab版本不能用wavread函数而不能使用语音处理，这里给出了改进方法，可以在之前的代码上做修改：代码之前.// An highlighted block[y, fs, nbits]=wavread(['trainning\' speakerData(i,1).name]);文件名由'trainning...
2018-10-20 21:35:36
22167
17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人