程序员大妹子-CSDN博客

原创 MGTE系列模型，RAG实施中的重要模型

其中，中文监督数据包含Dureader，Simcluse，Multi-CPR等在内的6个数据集，共计200万标注数据，英文监督数据集使用了包括Msmarco，Nq，NLI等在内的7个数据集，共计140万数据。为了验证预训练底座模型的效果，mGTE-mlm在多语言评测榜单XTREAM[4]（共包含50种不同的语言）和英文GLUE[5]数据上对比了2K阶段与8K阶段训练模型与之前Encoder-only架构的同尺寸多语言模型的效果，可以看到在绝大多数任务上mGTE-mlm都相较于过去的模型有更好的效果。

2024-09-25 20:23:58 782

原创 GaussDB(DWS)性能调优：LEFT JOIN不能走索引扫描的性能优化

DWS的MPP分布式架构，数据重分布动作导致NestLoop+IndexScan的使用场景受限，特别是LEFT JOIN场景下。针对LEFT JOIN特定场景，本文提供一种改写方案实现业务SQL性能提升。

2024-09-25 20:05:52 844

原创 Ascend C算子性能优化实用技巧04——Tiling优化

Ascend C是CANN针对算子开发场景推出的编程语言，原生支持C和C++标准规范，兼具开发效率和运行性能。使用Ascend C，开发者可以基于昇腾AI硬件，高效的实现自定义的创新算法。目前已经有越来越多的开发者使用Ascend C，我们将通过几期“Ascend C算子性能优化”专题分享，围绕开发者最为关心的算子性能优化环节，介绍Ascend C算子常用的优化技巧，帮助开发者自主构建出更优性能的算子。

2024-09-25 20:03:56 889

原创如何在香橙派AIpro开发板升级CANN软件包

软件栈能力，快速构建AI应用和业务，实现图像、视频等多种数据分析与推理计算。目前开发板预置镜像使用的是CANN商发版本，如果开发者想体验最新软件特性，可以按照本文指导将CANN软件升级到最新的社区版。访问“昇腾社区-社区版资源下载中心”，建议下载最新版本的cann-toolkit软件包。4、删除镜像中安装CANN软件包释放磁盘空间，防止安装新的CANN软件包磁盘空间不足。香橙派AIpro开发板是香橙派联合昇腾精心打造的高性能AI开发板，开发者可以基于。3、切换到root用户。8、安装CANN软件包。

2024-09-24 16:46:42 363

原创《AI大模型开发之路》：一不小心掉进了AI的“大坑”

它让我认识到了自己的渺小，也让我看到了AI大模型的强大。最近，我就亲身体验了一把，阅读了这本《AI大模型开发之路》，感觉整个人都被“模型化”了。放心，掉进“大坑”后，你会发现，坑里有无数和你一样的小伙伴，一起摸爬滚打，也是别有一番乐趣。结果部署过程中，我的服务器开始“哼哧哼哧”地冒烟，仿佛在向我抗议：“兄弟，我只是个普通的服务器，你不要为难我啊！时，我才发现，原来书中那些“看起来很简单”的步骤，对我来说都是“九九八十一难”。结果发现，这个“链”实在是太长了，我的脑子容量严重不足，感觉需要升级内存条。

2024-09-24 16:40:29 858

原创基于 RAG 实现大模型商品智能检索

传统商品检索需要依赖人工解析和构建商品的描述字段，将商品信息存入 ElasticSearch 或数据库，然后通过分词查询结合多重条件（类别或其他属性）检索到匹配的商品。但是在传统检索中，因为分词本身的特点，经常会遇到误匹配的问题，例如：我们检索 "苹果耳机"的时候，往往会出现苹果和耳机的相关商品，导致客户体验效果不佳。为了让检索更人性化，我们可以借助 RAG 技术，在传统分词搜索的基础上融入向量检索的能力，从而获得更贴近人类需求的检索效果。

2024-09-16 13:38:06 851

原创云上部署文生图大模型Stable Diffusion 3

对大模型进行精调是优化大模型输出效果的关键步骤，可以有效利用基座大模型的性能，减少训练时间，降低训练难度。本课程将针对大模型精调难度较大，精调效果有限的问题，结合具体业务场景，从数据准备、模型选择、模型训练、参数调整等方面提供多个精调样板项目，分享和总结大模型精调过程中的细节方法，助力您更好地进行大模型精调，应用于实际业务场景中。任务的用户，可以免费领取多功能三角包、公仔等百度精美礼品（礼品为随机分配），完成任务后，点击“完成报名后，您可以免费观看25节课程，自定义任意选择自己感兴趣的课程内容。

2024-09-16 12:51:02 1132

songkdnuabwd的博客