自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(55)
  • 收藏
  • 关注

原创 无需业务改造,一套数据库满足 OLTP 和 OLAP,GaiaDB 发布并行查询能力

与传统 MySQL 单线程相比,在 32 线程并行执行下,GaiaDB 单表复杂查询性能最高提升 14 倍,平均提升 8+ 倍。

2024-07-17 18:52:14 757

原创 百度智能云将大模型引入网络故障定位的智能运维实践

用千帆大模型平台雇了一个文心大模型来给网络运维打工。这个打工人可以告诉你,他是如何从复杂的网络信息中进行逻辑推理,实现快速精准的故障定位。

2024-07-10 18:36:04 898 3

原创 千帆大模型平台升级十大能力,企业级 RAG 全面升级

在医疗领域,杭州全诊医学基于百度智能云千帆平台打造了 AI Agent 应用——AI 医生助理,在预诊、诊间、住院、手术等多个医疗场景中为医护人员提供病史采集、病历书写、诊疗辅助等支持,大幅提升医护人员工作效率、改善病患就医体验。此外,针对企业精调专用模型经常遇到的特定场景数据欠缺、大模型通用能力被遗忘等问题, ModelBuilder 全新推出混合文心大模型高质量数据功能,支持用户将文心大模型通用混合语料、文心大模型垂直领域语料与业务数据进行融合,精调出更稳定、效果更好的专用大模型。

2024-07-08 10:59:46 760

原创 彻底解决大模型训练集群的网络哈希冲突,百度百舸的高性能网络 HPN 落地实践

百度百舸的 95% 物理网络「带宽有效性」原来是这样做到的

2024-07-03 19:20:40 952

原创 轻松两步,借助向量数据库 VectorDB 与千帆 Appbuilder 构建个性化本地问答知识库

在我们日常的工作和生活中,经常会遇到需要快速获取和管理大量信息的情况。无论是解答客户的问题,还是整理公司内部的资料,一个高效的知识库系统都能帮我们省下大量时间和精力。为了帮助大家快速构建 RAG 应用,我们之前发布了一个的文章,意在 Step By Step 打通搭建的壁垒,但是广大的用户反馈还是比较复杂,至少需要 9 步才能搭建,这对于很多人来说确实是个不小的挑战。为了让更多人能够轻松构建自己的知识库,我们开发了一个全新的 RAGFlow SDK。

2024-06-24 17:58:44 776

原创 基于 Native 技术加速 Spark 计算引擎

本文整理自 2024 年 6 月 DataFunSummit 2024 OLAP 架构峰会 Lakehouse 湖仓一体化架构论坛的同名主题分享。今天分享的主题是基于 Native 技术加速 Spark 计算引擎,大家将会了解到如何基于 ClickHouse 来改造 Spark 引擎,最终获得较为可观的性能提升。分享主要分为如下四个部分:1)Spark 性能优化背景;2)ClickHouse 性能优势解析;3)Spark Native 加速方案设计和实现;4)加速效果分析。1Spark 性能

2024-06-24 14:08:45 1168

原创 百度智能云推出智能运维工具,云助手让云服务器运维更简单

为了提升云服务器执行命令的效率,百度智能云发布了 SmartTerm 远程连接终端。不止于此,为了更加极致地提升运维效率,我们又推出了「」这款轻量快捷的运维工具。​只有做过云服务器运维的人才知道管理上万台云服务器有多崩溃。在海量虚机中执行命令时,要逐台登录、粘贴执行、查看结果、查漏补缺,让人变成流水线中没有感情的机器臂,重复着拧螺丝的动作。

2024-06-18 13:44:20 724

原创 通过搭建 24 点小游戏应用实战,带你了解 AppBuilder 的技术原理

本质上来说,组件是函数或者 API 的抽象表达,那么对于思考模型来说,了解组件的功能以及组件的输入是比较重要的,需要「告诉」思考模型。在构建 AppBuilder 的过程中,思考模型需要遵循复杂的指令,例如格式遵循、用户指令、系统指令、对话历史、组件执行历史等,底座模型的指令遵循能力是最关键的能力,其效率、稳定性、成本是构建 Agent 的关键。定义思考模块的功能边界是创建一个效果不错的 Agent 最重要的步骤,包括角色指令、组件描述、组件入参设计、组件输出的设计、思考模型选择等。

2024-06-12 11:54:11 864

原创 低代码组件扩展方案在复杂业务场景下的设计与实践

组件是爱速搭的前端页面可视化模块的核心能力之一,它将前端研发人员从无休止的页面样式微调和分辨率兼容工作中解放了出来。目前,爱速搭通过内置的上百种功能组件(120+),基本可以覆盖大部分中后台页面的可视化设计场景。组件的相关的设计理念和实现细节我们可以在前文。

2024-06-12 10:57:49 1302

原创 Doris 实现原理之高效存取 varchar 字符串

字符串采用列存,切分为不同的 page,page 是存储和读取的最小单位。自适应识别高基数列和低基数列,低基数列采用字典编码,高基数列采用 plain 编码。当采用字典编码,会结合 bitshuffle 算法来提升 lz4 压缩效率。segment 内部维护了一个行号,OrdinalIndex 记录了行号与 page 位置的关系。segment 内部自动维护 2 个索引,前缀索引和 zonemap 索引。用户可以额外的创建 bloomfilter 索引和 bitmap 索引,来加速查询。

2024-05-20 16:06:06 897

原创 百度智能云参与信通院多项边缘计算标准编制,「大模型时代下云边端协同 AI 发展研讨会」成功召开

大模型开启了 AI 原生时代,云边端协同 AI 构建了「集中式大规模训练」、「边缘分布式协同推理」新范式,有效降低推理时延和成本,提升数据安全和隐私性,也逐渐成为云边端协同发展新方向。近期,中国信通院联合业界制定、发布了边缘 AI 等系列标准化成果:Q/KXYTEI-EAIP-2024《边缘 AI 计算平台能力要求》Q/KXYTEI-EAIH-2024《边缘 AI 智算一体机能力要求》Q/KXY TEI-EAIB-2024《边缘 AI 计算设备技术能力要求》

2024-05-17 11:44:07 1241

原创 都说视频智能分析落地难,但是这次有了大模型!

百度智能云边缘计算团队成功地将大模型、业务场景、边缘设备进行融合,使得上的算子具备了「场景自适应能力」,并实现了「采集 - 清洗 - 标注 - 训练 - 部署 - 迭代」全流程的自动化。在视频智能分析场景中,研发人员使用少量业务现场收集的数据,就可以在短时间内研发出满足业务需要的算子,实现项目的冷启动。已经部署在中的算子,能够随着时间推移实现自我进化,始终保持业务的最佳效果。在大模型的加持下,基于边缘服务器 ECS 建设的视频智能分析项目,落地时间从过去数周缩短为数天,乃至更短。

2024-05-15 13:56:30 69

原创 百度百舸 AIAK-LLM 的大模型训练和推理加速实践

具体的原理是先通过一个用相同数据集训练好的小模型来生成多个位置的 token,然后再经过原始的大模型并发的进行各 token 的计算,来选择每个位置正确的 token(不正确的会丢弃掉),decoder 阶段的 MFU 会有比较大的提升,这样在一次计算中即可产出多个位置的 token。当前大家做模型研发都离不开一个社区 Hugging Face,大家的模型是从 Hugging Face 来的,早期的代码也是 Hugging Face 的,我们这种专有的加速工具对于早期客户来说往往遇到切换成本高的问题。

2024-05-15 13:41:30 645

原创 智能助手上线,大模型提供云服务专属顾问

进入小助手的对话窗口后,您可以自由拖拽窗口浮层的位置(红色区域所示),随着您浏览的页面内容发生变化,「猜你想问」的问题列表也会即时更新,为您呈现与页面最相关或用户最热门的提问。2024 年 4 月,百度智能云正式推出了融合文心大模型能力的「智能助手」,借助智能问答系统能够精准捕捉并理解您的查询需求,迅速提供最相关和准确的产品信息及答案。通过这个机制,「智能助手」会根据您对答案的反馈进行持续的优化和更新,逐步扩大问题库的范围并提升回答的质量,从而构建一个不断进步的知识体系。页面提供增强「智能助手」入口。

2024-05-10 18:30:32 718

原创 百度智能云数据仓库 Palo 实战课程

通过本课程,您将学习如何使用 Palo 构建高性能、低延迟的分布式数仓服务,掌握数据建模、数据导入、查询优化和系统调优等技能,掌握如何管理和运维 Palo 集群,提高数据处理和分析的效率。同时,我们将进一步向您介绍 Palo 在用户画像等场景的最佳实践。

2024-05-10 14:39:36 309

原创 大模型驱动的新一代 BI 平台,Sugar BI 开启智慧决策新模式

本文整理自 2024 年 4 月 16 日的 2024 百度 Create 大会上的《大模型驱动的新一代 BI 平台如何开启智慧决策》分享。全文包括了可视化 BI 分析技术架构、智能图表推荐策略与规则设计、Sugar Bot 智能问数的技术实现流程,以及目前的场景应用等。

2024-05-08 15:00:14 1009

原创 一次性讲明白,百度百舸如何搞定一个可以支持多芯混合训练的 AI 集群

我们这里总结一下,为了建设一个能够高效训练大模型的集群,需要在卡间和机间建立高效的互联互通,将大模型训练任务按照合适的并行策略拆分到 GPU 卡中,最后通过各种优化方法,加速 GPU 对算子的计算效率,完成大模型训练。的大方针后,还需要解决的就是具体怎么分,分多少的问题,确定分布式并行策略的最优解。如果还要在 GPU 集群中再加上其他类型的 AI 芯片,他们各自讲着不同的语言,拥有完全不同的能力,让他们像同一种芯片组成的集群一样,实现多芯混合训练,加速单一大模型训练任务,那真是复杂到头了。

2024-04-24 20:27:22 784

原创 百度智能云千帆 ModelBuilder 技术实践系列:通过 SDK 快速构建并发布垂域模型

在平台的基础能力之上,我们围绕大模型工具链设计了一套 SDK (),充分结合千帆平台的数据、模型训练、评估、部署推理等全栈 AI 能力,让开发者优雅且便捷的访问千帆大模型平台,获得更原生的模型生产开发使用体验。同时我们也提供了大模型工具链的最佳实践,降低开发者使用和学习的门槛。相较于从千帆 Web 前端控制台构建和发布模型,使用 SDK 的方式可以使整体使用流程更贴近开发者传统的习惯。

2024-04-24 19:44:53 2051

原创 多元 CPU 性能调优的技术挑战、产品设计和业务实践

另外有些库即使可以多平台运行,但是其性能差别会比较大,比如 mkl 库同样的操作在 Intel 平台性能发挥的比较好,到 AMD 平台虽然也能运行,但是因为 mkl 库不会启用 AMD 芯片的很多加速特性,这就导致其性能就会差很多。假如容器在 node0 运行,磁盘链接在 node1,就会导致磁盘的 I/O 要从 node1 跨路 DMA 到 node0 的内存区域,这样在跨路延时大的机器上,I/O 性能就会下降很多。这里的主要问题有两个。其实,有时候是合理的,有时候是不合理的,这个跟程序行为有关。

2024-04-16 15:24:31 1074

原创 百度智能云向量数据库 VectorDB 性能测试报告

百度智能云向量数据库 VectorDB 是一款纯自研高性能、高性价比、生态丰富且即开即用的向量数据库服务,提供高效的向量索引和相似度查询服务。为了让用户更好地了解 VectorDB 的性能表现,VectorDB 性能白皮书详细描述了性能测试环境、测试方法和测试结果。本章节说明性能测试所需的环境与数据集。

2024-04-09 10:58:58 1088

原创 云原生数据库下一站:像 MySQL 一样流行,让更多人受益于新技术的发展

例如用户之前使用集中式的 MySQL 数据库,随着业务增长需要选择扩展性更好的数据库产品,当前用户一般有两种技术路线,一种是分布式数据库,例如 TiDB、DRDS 等,这类数据虽然解决了大容量、高吞吐的扩展性问题,但一般在兼容性、延迟等方面有天然的短板;回顾 MySQL 的发展和大流行, MySQL 之所以能成为广泛使用的数据库,主要原因在于其灵活的部署能力、稳定的性能、开源生态,以及被 Oracle 收购后,为其提供了丰富的企业级的能力,这使 MySQL 成为用户信赖的数据库。

2024-03-28 18:07:44 1017 1

原创 不再等待直接上答案,百度智能云推出数据库 Copilot

智能领航员基于百度文心大模型构建,内置了各类高质量的数据库知识,包括云数据库帮助文档、数据库权威官方文档、百度多年来内部积累的数据库运维知识库等,能够覆盖云上 GaiaDB、MySQL、Redis 等数据库产品的各类使用场景。即使得到了客服的全力帮助,我们还需要扛住业务催促的压力,沉下心来详细地阅读文档内容,或者收集更多的相关文档进行学习,最终才能找到真正的答案。大家可以进入数据库智能驾驶舱 DBSC 的产品页面,在右侧悬浮窗中点击智能领航员的图标,打开聊天对话框,提交问题收获答案。

2024-03-22 14:18:32 703

原创 百度智能云加速「低代码+大模型」融合,爱速搭位居 2023 年 IDC 低代码/无代码领导者象限

在传统的开发模式下,从业务侧提出需求到应用的落地,一般会耗费至少一周的开发时间,这使得业务在快速变化的市场种总是慢人一拍。爱速搭可以通过内置的向量数据库和大模型连接器,将历史积累的海量数据转变为企业专属知识库,为业务提供智能化的数据检索、知识问答等智能化服务,将沉睡的数据唤醒,变为企业的数字资产,充分发挥数据的业务价值。目前,爱速搭已经覆盖了金融、能源、汽车、政务等行业数百个使用场景,成为越来越多大型企业的新型应用开发平台,加快项目交付速度,让应用跟上业务的脚步。经过长年的经营,企业积累了大量的业务数据。

2024-03-15 17:08:06 883

原创 基于大模型和向量数据库的 RAG 示例

RAG是一种先进的自然语言处理方法,它结合了信息检索和文本生成技术,用于提高问答系统、聊天机器人等应用的性能。

2024-03-14 17:33:40 2072

原创 百度智能云音视频处理产品 MCP 推出数字水印技术,为数字内容资产保驾护航

数字水印(Digital Watermark)技术是指用信号处理的方法通过一定算法在数字化的多媒体数据中嵌入隐蔽的标志性信息。虽然通过专用的检测器或阅读器能够提取,但是信息很难被破坏,隐蔽的标志性信息用来识别文件、图像或音乐制品的来源、版本、原作者、用有人、发行人、合法使用人对数字产品的拥有权等,从而达到真伪鉴别、版权保护等目的。即其抵抗攻击的能力。一般的攻击主要有三大类型:未经授权的删除、嵌入和检测。前两者可以被看做是主动攻击,因为这些攻击修改了载体图像;未经授权的检测不修改载体,因此被视为被动攻击。

2024-03-08 14:35:35 1278 1

原创 百度智能云发布专用向量数据库 VDB 1.0,全新设计内核开启性能狂飙

向量数据库的性能,比如高 QPS、低延时等,使得业务能够更快的响应用户的查询请求,提供更流畅的使用体验。在 VDB 后续版本更新中,我们将提供更全面的数据库企业级能力,集成更多的 AI 生态,成为一款为向量数据而生的专业向量数据库。如果您正在进行以下几类应用或业务的开发,比如基于大模型的知识处理、基于特性的相似性检索、NoSQL 类数据库应用等,可以尝试使用百度智能云 VDB,体验不一样的速度,以及丰富的企业级能力。向量数据库大致可以分为 2 部分:向量数据的检索,以及向量数据的存储和管理。

2024-03-08 12:53:57 1085

原创 百度智能云专有云 ABC Stack 平台通过一云多芯认证,为用户构建全栈国产化云平台

这一趋势,也给云平台带来了异构资源的统一管理调度、统一运维等挑战。在硬件方面,ABC Stack可实现多种芯片的统一调度,支持Intel、海光、鲲鹏、飞腾等CPU,以及昆仑、海光、昇腾、寒武纪等主流 GPU,并可实现和云平台中的AI加速组件协同,提升 AI 业务效率;这些能力,可以支撑用户复杂的应用场景,帮助客户构建全栈国产化云平台,并支撑客户业务平滑迁移,真正使客户「建好云,上好云,用好云」。百度智能云专有云 ABC Stack 顺利通过信通院测评,成为首批获得一云多芯专有云认证的云厂商。

2024-03-07 17:39:52 790

原创 云原生数据库 GaiaDB 支持新的管理工具啦

GaiaDB 是百度智能云自研的新一代企业级关系型数据库,最大容量可扩展 500TB 以上,吞吐达到 150万+ QPS。作为一款100%兼容 MySQL 的云原生数据库产品,用户可以通过多种客户端工具连接 GaiaDB 实例,例如 MySQL Workbench、Navicat for MySQL。现在,用户可以通过 Ninedata 来访问和管理 GaiaDB 集群,为用户提供更加高效的生态工具。

2024-03-05 10:30:49 315

原创 专为大模型训练优化,百度集合通信库 BCCL 万卡集群快速定位故障

当上层应用程序在某一多 GPU 的集合通信操作中 hang 时,应用程序也只能感知到某个集合通信组(故障 comm)出现了问题,却无法精确地判断是哪个 GPU 导致了此次集合通信的异常。在百度集团内部排查此类问题时,首先停止线上的训练任务,然后进行长时间的压测,比如对于现有训练任务模型进行切分,对集群机器进行分批次压测,不断缩小故障范围,从而确认故障机。为了最大提升集合通信的性能,在基础设施层面,集群通常采用基于 RDMA 的高性能物理网络,在任务运行时使用集合通信库进行加速。

2024-03-01 13:26:12 1178

原创 百度智能云分布式数据库 GaiaDB-X 与龙芯平台完成兼容认证

近日,百度智能云的分布式关系型数据库软件V3.0 与龙芯中科技术股份有限公司的龙芯 3C5000L/3C5000 处理器平台完成兼容性测试,功能与稳定性良好,获得了龙架构兼容互认证证书。

2024-02-18 14:57:22 750

原创 GaiaDB-X 获选北京国家金融科技认证中心「数据领域首批专项示范与先行单位」

2023 年 12 月 21 日至 22 日,「2023北京国际金融安全论坛暨金融科技标准认证生态大会」在北京金融安全产业园举办。百度智能云产品荣登「数据领域首批专项示范与先行单位」名单,并获得了由北京国家金融科技认证中心颁发的「数据产品评估先行机构」奖项。

2024-02-18 14:54:55 1075

原创 大规模块存储 EC 系统构建

举个例子:我们如果采用 K 为 4,M 为 2 的编码,需要将分片切成 1K 大小,而一般情况下,文件系统对于 4K 倍数的 I/O 支持比较友好,1K 的 I/O size,相对来说,不是很合理的 I/O size。多副本方式容错,每个副本的数据相同,所以,一般采用分布式的一致性协议对数据进行同步,主流的协议为 Paxos 和 Raft。分离后,大写部分产生的 EC 数据为变长,采用 append 的引擎,为这种变长分片提供更好的空间分配机制,同时能够充分利用硬件追加写的性能优势。C 和 ⍺ 为常数。

2024-02-07 17:12:02 1317

原创 Sugar BI 增强分析能力全场景解析

Gartner 于 2022 年 3 月,举办了名为《从 BI 到 AI》的线上讲座,并进行了如下图所示的调研,从调研的结果中可以看到,业务人员在日常的工作中逐步参与数据分析,但 90% 左右的企业现状是业务方停留在查看数据阶段,AI 预测并没有得到广泛的应用。然而,虽然人人都可以进行数据分析,但是数据分析基础不同的人分析出来的结果以及对数据价值的展现也是不同的,数据分析经验难以沉淀,导致依赖于数据的业务决策很难被顺利的确定和进行下一步的推进,从这一角度来看,敏捷 BI 依然存在一定局限性。

2024-02-05 11:45:00 1387

原创 数据湖系列之三 | 打造高性能云原生数据湖,层级 namespace 对象存储加速大数据计算

在过去的十年,云原生数据湖发展势不可挡。目前基于对象存储底座的云原生数据湖,几乎已经成为了云上数据湖的共识。随着大量大数据分析、AI 训练等数据驱动的计算业务的不断铺开,我们注意到基于对象存储底座的云原生数据湖也存在一些问题。其中,导致上文第一点的主要原因是目前平坦 namespace 对象存储普遍采用以全路径作为 key 方式进行元数据的存储,因此不具备真正意义上的目录逻辑,所有的目录类操作都会被一一转化为多次对象类操作,需要相当复杂的额外代价去实现目的,从而极大地影响了该类操作的性能。

2024-02-04 11:45:00 613

原创 数据湖系列之二 | 打造无限扩展的云存储系统,元数据存储底座的设计和实践

如图所示,当使用 TSO 时,系统中所有的请求都需要挤在一起访问单点的时钟服务以获取时间戳,而单点是存在上限的,只能支撑百万 QPS 规模,并且一旦时钟服务异常就会影响集群全部的请求。但仅仅这些是不够的,当今超大规模元数据场景设计需要面向千万级别以上的 QPS,当系统读写流程存在单点时,当前的硬件条件无法支撑这个级别的规模。作为百度沧海·存储统一的元数据底座,TafDB 支撑了百度智能云对象存储 BOS 和文件存储 CFS 的元数据存储,提供了万亿级别元数据规模、千万级别 QPS 的元数据存储能力。

2024-02-03 11:45:00 934

原创 专有云 ABC Stack 联合银联商务打造金融级云平台,入选《2024 央国企上云用云典型案例》

在国家「1 朵央企云统领,N 朵行业云共载,M 朵私有云共生」的央国企上云建设大背景下,央国企上云用云已经涌现出了许多优秀成果。在申报的七十余份项目中,凭借方案的前瞻性、可扩展性、安全性,以及运行的可靠性和稳定性、数据完整性、业务一致性等优势,百度智能云携手银联商务的。2024 年 1 月,在中国信通院《2024 央国企上云用云典型案例》征集中,百度智能云携手银联商务提交的《银联商务金融级云平台》成功入选。方案,历经多轮评审,脱颖而出,成功入选「上云用云解决方案典型案例」。

2024-02-02 20:16:41 1101

原创 数据湖系列之一 | 你一定爱读的极简数据平台史,从数据仓库、数据湖到湖仓一体

随着企业数据量的爆炸式增长,以及越来越多的企业上云,数据平台面临的数据存储、数据处理的挑战越来越大,采用什么样的技术来构建和迭代这个平台一直是业界研究的热点,新技术和新思路不断涌现。数据湖提倡所有的数据,不管是数据库的结构化数据,还是视频、图片、日志这类非结构化的数据,都以它们原始的格式存储到一个统一的存储底座中。数据的格式信息 (例如一个数据库表文件的字段定义) 、数据的位置信息 (例如数据存储在哪个路径)、数据的血缘关系 (例如数据是从哪些上游数据处理得到的) 等等都需要依赖元数据来解释。

2024-02-02 11:45:53 1624

原创 如何实现一个百万亿规模的时序数据库,百度智能云 BTS 架构解析和实践分享

BTS 可用于丰富的场景,比如横向业务场景(分布式存储、结构化、聚合、高性能检索)、纵向行业场景(互联网、广告、feed、物联网、大数据、时序)以及一体化解决方案(大数据分析生态,监控)等,支撑业务创新。BTS 目前支持超万亿的日均访问量,场景上覆盖了宽表、时序、大数据的处理和分析场景,覆盖了物联网、AI、feed 流、广告、健康、搜索、web 应用、自动驾驶等诸多方向。BTS 具备了完善的高可用的能力,比如多层次的容错和调度设计、多层弹性多租户隔离机制、端到端数据校验和实时监控和完善的运维。

2024-02-01 12:08:00 1258 1

原创 数据库运维工作量直接减少 50%,基于大模型构建智能问答系统的技术分享

为了提供更加丰富和准确的答案,我们采用了一种搜索和推荐系统的方法,并结合了大型模型的推理和总结能力。为了确保准确性和效率,我们选择了第 2 种和第 3 种方式相结合的方案,通过向量数据库将知识外挂作为大模型记忆体,使用 LangChain 作为基础开发框架来构建知识库问答系统,最终依靠 Prompt 工程和大模型进行交互。传统的运维知识库系统主要采用固化的规则和策略来记录管理操作和维护的知识,这些系统的知识检索方式主要基于关键字搜索和预定义的标签或分类,用户需要具备一定的专业知识才能有效地利用这些系统。

2024-01-31 12:10:32 2076

原创 都说在边缘落地视频智能分析难,但是这次有了大模型!

除此之外,如果在同一需求场景中,各个业务现场的实际情况差别比较大,比如零售场景下的各个连锁门店的光照条件、摄像头角度、现场环境等因素,则之前进行统一训练的算子无法针对每一个业务现场做到性能最优。同时,中心云的大模型可以对算子效果进行自动化地监督和优化,实现边缘侧算子的自进化,确保算子效果能够适应场景变化,始终满足业务需要。不止于此,基于大模型的能力,边缘服务器 ECS 还提供了「超级经营助手」功能,可以自动归纳业务中的预警事件和经营数据,快速生成统计报表并进行智能化分析,为管理人员提供经营建议与决策辅助。

2024-01-30 10:58:52 729 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除