- 博客(22)
- 收藏
- 关注
RSS订阅原创 OpenCompass 大模型评测
OpenCompass提供设计一套全面、高效、可拓展的大模型评测方案，对模型能力、性能、安全性等进行全方位的评估。OpenCompass提供分布式自动化的评测系统，支持对(语言/多模态)大模型开展全面系统的能力评估。
2024-01-22 20:48:35
455
原创 第五次作业
第五次作业基础作业：基础作业：使用 LMDeploy 以本地对话、网页Gradio、API服务中的一种方式部署 InternLM-Chat-7B 模型，生成 300 字的小故事
2024-01-16 18:00:48
432
1
原创 LMDeploy 大模型量化部署实践
LMDeploy 是LLM在英伟达设备上部署的全流程解决方案。包括模型轻量化、推理和服务。项目地址传送门。
2024-01-16 15:48:13
987
1
原创 XTuner 大模型单卡低成本微调实战
LLM的下游应用任务中，增量预训练和指令跟随是经常会用到的两种微调模式适配多种生态多种微调算法：多种微调策略与算法，覆盖各类SFT场景适配多种开源生态：支持加载HuggingFace、ModelScope模型或数据集自动优化加速：开发者无需关注复杂的显存优化与计算加速细节适配多种硬件训练方案覆盖NVIDIA20系以上所有显卡最低只需8GB显存即可微调7B模型。
2024-01-12 17:24:22
875
1
原创 基于 InternLM 和 LangChain 搭建知识库
为便捷构建 LLM 应用，我们需要基于本地部署的 InternLM，继承 LangChain 的 LLM 类自定义一个 InternLM LLM 子类，从而实现将 InternLM 接入到 LangChain 框架中。完成 LangChain 的自定义 LLM 子类之后，可以以完全一致的方式调用 LangChain 的接口，而无需考虑底层模型调用的不一致。在 /root 路径下新建目录 data，在目录下新建 download.py 文件并在其中输入以下内容，粘贴代码后记得保存文件，如下图所示。
2024-01-10 19:34:54
930
原创 书生·浦语第二次作业
书生·浦语第二次作业基础作业使用 InternLM-Chat-7B 模型生成 300 字的小故事熟悉 hugging face 下载功能，使用 huggingface_hub python 包，下载 InternLM-20B 的 config.json 文件到本地进阶作业完成浦语·灵笔的图文理解及创作部署完成 Lagent 工具调用 Demo 创作部署基础作业使用 InternLM-Chat-7B 模型生成 300 字的小故事熟悉 hugging face 下载功能，使用 huggingface_
2024-01-07 17:42:15
372
1
原创 轻松玩转书生·浦语大模型demo
利用大量数据进行训练拥有数十亿甚至数千亿个参数模型在各种任务中展现出惊人的性能通过单一代码库，InternLM支持在拥有数千个GPU的大型集群上进行预训练，并在单个GPU上进行微调，同时实现了卓越的性能优化。在1024个GPU上训练时，InternLM可以实现90%的加速效率。利用数万亿高质量token进行训练，建立了一个强大的知识库支持8K token的上下文窗口长度，使得输入序列更长并增强了推理能力Lagent是一个轻量级、开源的基于大预言模型的智能体框架。
2024-01-07 00:03:04
910
1
原创 书生·浦语大模型全链路开源开放体系
LMDeploy 提供大模型在GPU上部署的全流程解决方案，包括模型轻量化、推理和服务。在大模型下游应用中，主要的两种微调方式是增量续训和有监督微调。包含6大评测维度 80＋评测集、40万＋评测题目。在静态推理和动态推理性能上都有很不错的提升。OpenCompass 开源评测平台架构。采用书生·万卷1.0，数据总量2TB。开源 LMDeploy 高效推理框架。提出OpenCompass评测体系。预训练工具具有以下优点。
2024-01-03 22:37:32
452
1
原创 AI实战训练营（Class 11）MMEditing 安装与使用
提示：以上代码运行时，若长时间运行卡着不动，可重启 kernel 后重新运行一遍。国内直接只用 pip 官方源速度比较慢，推荐使用清华源或者其他国内源。可以看到黑白图片已经被上色，而且效果很不错。进入 Python 环境。
2023-06-16 13:56:53
834
原创 AI实战训练营（Class 10）底层视觉与MMEditing
对抗生成网络是一种基于神经网络的无监督学习模型，可以建模数据分布，并通过采样生成新数据。
2023-06-15 17:51:40
261
1
原创 AI实战训练营（Class 9）语义分割与 MMSegmentation
提示：以上代码运行时，若长时间运行卡着不动，可重启 kernel 后重新运行一遍。从 github 上下载最新的 mmsegmentation 源代码。## 使用 OpenMMLab 提供的 MIM 安装 MMCV。删掉原有的 mmsegmentation 文件夹（如有）## 接下来安装其它工具包。进入 python 界面。都没有问题就是安装好了。
2023-06-14 11:25:43
136
原创 AI实战训练营（Class 8）语义分割与 MMSegmentation
语义分割将图像按照物体类别分割成不同的区域，对于每个像素进行分类。UNet通过卷积获得特征图，再融合多层的特征进行升采样，获得完整的逐像素分类图PSPNet考虑在上下文进行判断增大感受野，获得更多的上下文信息对特征图进行不同尺度的池化，得到不同尺度的上下文信息DeepLab使用空洞卷积解决网络中的下采样问题使用条件随机场，精细化边缘分割使用多尺度的空洞卷积捕捉上下文信息。SegFormer添加多个TransFormer块，结合多层的特征融合实现语义分割K-Net。
2023-06-12 20:55:43
159
1
原创 AI实战训练营（Class 7）MMDetection安装配置
plt . figure(figsize =(16 , 5)) # 只可视化前 8 张图片 for i in range(8) : item = dataset [ i ] img = item [ 'inputs' ] . permute(1 , 2 , 0) . numpy() data_sample = item [ 'data_samples' ] . numpy() gt_instances = data_sample . gt_instances。
2023-06-10 20:18:38
67
原创 AI实战训练营（Class 6）目标检测与MMDetection
通过固定大小的窗口对整个图像进行滑动遍历，并对窗口中的图像进行评估，以获得评价高的窗口。为了检测不同大小、不同形状的物体，可以使用不同大小，不同长宽比的窗口扫描图片。通过主干网络对对图像提取特征，再由检测头对特征图进行预测，从而减少计算量。在主干网络卷积的不同层的特征图进行检测头预测，可以有效地对小目标进行预测。之比，是矩形框重合度的h衡量指标。）定义了两个矩形框的。
2023-06-09 22:26:41
52
原创 AI实战训练营（Class 5）MMPretrain代码实战
在 /mmpretrain/config/resnet 文件夹下找到 resnet18_8xb32_in1k.py 文件，里面的内容如下。这个文件表示，此配置是将如下所示四个文件的配置集合到了一起。配置好猫狗分类的 config 后，通过以下命令进行训练。进入python环境，倒入mmpretrain。通过list_model查找具体的模型。通过get_model将模型赋给变量。测试准确率为：90.3564。以 resnet18 为例。接着用这个模型进行推理。
2023-06-07 21:29:00
284
1
原创 AI实战训练营（Class 4）MMPretrain
请添加图片描述](https://img-blog.csdnimg.cn/226cff877e9a405ba54c70b57ddeb653.png。
2023-06-05 20:57:25
122
1
原创 AI实战训练营（Class 3）MMPose 环境安装
在官网下载对应系统的 bash 文件，接着通过 bash 命令运行下载好的 bash 文件，安装 Miniconda。
2023-06-04 21:48:17
158
1
原创 AI实战训练营（Class 2）人体关键点检测与MMPose
输入：图像I输出：所有关键点的像素坐标x1y1x2y2xJyJx1y1x2y2xJyJJJJ位关键点总数，取决于具体的关键点模型人脸68关键点手势21关键点人体18关键点。
2023-06-02 15:37:28
462
原创 AI 实战训练营（Class 1）OpenMMLab 概述
OpenMMLab诞生于2018年，是一个由中国开发者主导，有国际影响力的人工智能·计算机视觉开源算法体系。OpenMMLab累计开源超过30个算法库、2400个预训练模型，涵盖图像识别分类、目 标检测、图像分割、姿态估计、视频理解、OCR、3D目标检测、3D人体姿态估计、模 型轻量化、自监督、少样本、光流、预训练、多模态、AIGC、推理部署等等计算机 视觉任务，在Github上累计获得十万颗star，超过了Pytorch。
2023-06-02 12:29:02
434
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人