- 博客(19)
- 收藏
- 关注
RSS订阅原创 MLU370-M8 Cogvlm部署手册
修改cogvlm-chat/visual.py 【因为xformers适配状态中，我们将attention计算方式使用pytorch实现】修改basic_demo/cli_demo_hf.py代码【将default改成自己的绝对路径】参考https://www.zhihu.com/question/602057035。将下载后的模型拷贝到存储卷中，方便后续改绝对路径使用。启动会有点慢但是不会影响到后面的使用。pip install 即可。下载社区github代码。下期见byebye!
2024-03-04 18:53:26
529
原创 【工具篇】MLU370-M8部署langchain-chatchat大模型+RAG!
在往后得部署手册中，即会讲到如何部署，也会讲到如何跑通,用370的可以跟着搞，不用370的也可以看下如何部署，在GPU也是通用的。
2024-03-04 11:25:23
496
1
原创 【数字人篇】MLU370-M8运行口播模型wav2lip 推理篇or训练篇【单卡及多卡】
目前MLU370-M8适配的算法方向百花齐放，大模型适配30+，多模态大模型适配10+，数字人算法【声音克隆，文本生语音，超分】适配10+，以及常规图像识别算法几乎都适配，在保证精度和适配度的同时，也保证了速度对标GPU.
2024-02-27 14:43:26
1064
原创 寒武纪芯片MLU370-M8完成GLM2-6B多轮对话Ptuning-v2
前几篇讲到了有关大模型在寒武纪卡上推理，是不是觉得越来越简单了，接下来上干活知识，基于寒武纪卡完成大模型微调，以及后面还会讲到基于寒武纪卡完成数字人训练+推理，敬请期待。废话不多说，我们现在开始目前Mlu能跑几乎很多算法，下一期来一期数字人推理+数字人训练吧。
2023-10-25 13:50:20
457
1
原创 MLU370-M8轻轻松松跑通Qwen-7B-chat
通义千问-7B（Qwen-7B） 是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen-7B是基于Transformer的大语言模型, 在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。同时，在Qwen-7B的基础上，我们使用对齐机制打造了基于大语言模型的AI助手Qwen-7B-Chat。Qwen-7B系列模型的特点包括：1 大规模高质量预训练数据：我们使用了超过2.2万亿token的自建大规模预训练数据集进行语言模型的预训练。
2023-10-10 11:52:43
389
原创 什么！国产芯片MLU370-M8跑Chatglm2-6B!!
更强大的性能：基于 ChatGLM 初代模型的开发经验，我们全面升级了 ChatGLM2-6B 的基座模型。ChatGLM2-6B 使用了 GLM 的混合目标函数，经过了 1.4T 中英标识符的预训练与人类偏好对齐训练，评测结果显示，相比于初代模型，ChatGLM2-6B 在 MMLU（+23%）、CEval（+33%）、GSM8K（+571%） 、BBH（+60%）等数据集上的性能取得了大幅度的提升，在同尺寸开源模型中具有较强的竞争力。更长的上下文。
2023-08-10 17:42:25
898
4
原创 MLU370用户指南 or MLU370-YOLOV5快速训练推理！！速度起飞
在本章我们将从获取算力卷创建自己的云平台账号开始，一步一步的带着大家从0到1完成，从创建云平台环境选择镜像，选择SDK版本，到SSH登录云平台环境，更改github原版yolov5 v5.0代码实现mlu370训练和推理，同时在最后总结出部分QA为各位开发者提供快速支持。
2023-06-01 11:20:40
886
7
原创 opencv-cuda编译以及使用包括问题处理
opencv-cuda编译 or 问题解决处理装前温馨提示一、常规安装流程1.ffmpeg安装1.常规依赖项安装2.下载ffmpeg3.安装nv-codec-headers4.编译5.配置环境变量6.ffmpeg说明2、opencv-cuda编译1.常规依赖项安装2.下载opencv所需相关文件及编译方式3.开始编译4.编译自查是否成功（看config）4.1查看ffmpeg是否编译成功4.2查看OPENGL是否安装成功4.3查看nvcuid是否安装成功5.开始安装6.设置环境变量7.测试gpu代码事例（官
2022-04-21 15:11:13
3645
原创 yolov5转onnx，c++调用完美复现
YOLOV5s 5.0 c++调用模型onnx（超精华）前展叙述概论新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入前展叙述概论本文章讲述了c++调用yolov5模型所遇到的问题，代码分享，新的改变我们对Markdo
2021-12-21 18:10:54
15850
14
原创 OpenPose：Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields论文解读
摘要实时多人二维姿态估计是使机器了解人的关键组成部分图像和视频。在这项工作中，我们提出了一种实时检测图像中多个人的二维姿态的方法，被提议的方法使用非参数表示，我们将其称为部分亲和域(paf)，以学习将身体部位与之关联图像中的个体。这种自下而上的系统无论人数多少都能实现高精度和实时性的形象，在之前的工作中，paf和身体部位位置估计是在训练阶段同时细化的。我们证明仅对PAF进行细化，而不是PAF和身体部位定位的细化，会导致两者都大幅增加运行时性能和准确性。我们还提出了第一个结合体和脚的关键点探测器，基于内部注
2021-08-12 21:41:51
2137
1
原创 MTCNN人脸检测论文+代码实现（python）（全）
MTCNN论文详解&代码测试1.MTCNN的简要概括2.Joint Face Detection and Alignment using3.摘要：4.介绍：5.训练步骤6.5相关步骤的代码实现（仅部分）生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入论文地址：https://kpzhang93.github.io/MT
2021-08-03 16:53:33
5216
8
原创 实现windows和linux或者windows与windows实现socket通信互相传送
1，windows和linux实现通信1，确保linux系统的qt可以完整使用测试方法如下：傻瓜式操作一直下一步就好知道创建成功项目创建成功后什么都不用测试只需要点击运行即可出现白窗口即为qt测试通过，可以开始下一步如果出现报错关于g++就说明你的linux系统c++问题如果出现cannot find -lGL 就说明找不到你qt的静态库，这时就要查看下你的动态库是否路径正确解决方法1：sudo apt-get install libgl1-mesa-dev 安.
2021-06-02 19:05:29
1256
1
原创 ubtu如何实现qt通信以及opencv的操作
opencv添加到ubtu的qt#systemINCLUDEPATH += /usr/local/include \ /usr/include \ /usr/lib/x86_64-linux-gnuLIBS += -L/usr/local/libLIBS += -L/usr/lib#opencv3.3INCLUDEPATH += /usr/local/include \ /usr/local...
2021-06-02 16:10:56
309
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人