- 博客(140)
- 收藏
- 关注
原创 spring bean循环依赖问题分析
循环依赖最根本的解决之道仍是**重构设计**,避免双向依赖。如果无法重构,优先考虑Spring提供的`@Lazy`或字段/Setter注入(配合三级缓存)。其他手动方式应作为备选,因为它们增加了代码与容器的耦合。
2026-02-23 07:55:39
677
原创 nacos原理之服务注册浅析
Nacos 2.x 选择 gRPC 让临时实例的注册、心跳、服务发现变更推送都复用同一个长连接,大幅提升性能和实时性。
2026-02-18 19:27:35
846
原创 余弦相似度介绍
在人工智能知识库中用户输入的查询被转化为向量表示,通过相似度匹配从向量数据库中检索出最相关的文本块。本文讲解向量和余弦相似度知识。
2026-01-31 20:57:11
437
原创 AI技术应用场景分析
当前,AI技术正从单一工具演变为系统的**智能伙伴**,其核心价值在于**深度融合业务,解决复杂场景下的效率、合规与创新难题**。
2026-01-18 19:10:54
673
原创 在大模型开发中,是否需要先完整学习 TensorFlow,再学 PyTorch?
在大模型开发中,直接从 transformers 入手,已经足以让你达到 80 分的起点。
2026-01-02 15:33:18
337
原创 大模型框架Microsoft DeepSpeed入门篇
DeepSpeed 是一个开源深度学习优化库,旨在提高大模型训练和运行效率,以支持数千亿-万亿参数的超大语言模型
2025-12-28 22:31:11
8787
原创 大模型训练内存优化技术ZeRO介绍篇
ZeRO 是一项在2020年前后提出的、革命性的内存优化技术,旨在消除数据并行和模型并行中的 **内存冗余**。它保持**低通信开销**和**高计算粒度**,使得模型大小能够与设备数量成比例扩展,同时保持高效率。
2025-12-21 00:17:50
560
原创 LLaMA大模型家族发展介绍
LLaMA从强大的文本处理工具进化为能够理解并生成多模态内容的通用智能体,为未来人机交互和AI应用开辟了全新的疆域。
2025-11-30 11:20:41
875
原创 java线程变量ThreadLocal用法篇v1.1
`ThreadLocal` 是 Java 中用于实现 **线程封闭** 的类,其核心作用是为每个线程提供独立的变量副本,避免多线程间的共享竞争。但**它不保证存储对象的线程安全**,存储的**对象**使用不当仍会引发线程安全问题。线程安全的本质是 **“对象不被共享”** 或 **“对象不可变”**,而非依赖 `ThreadLocal`,在分布式线程环境(如线程池、异步任务)中,必须配合 `remove()` 清理数据或者使用阿里巴巴的TransmittableThreadLocal ,否则会引发数据污染和
2025-11-12 22:07:12
877
原创 大模型训练技术RLHF介绍篇
RLHF(基于人类反馈的强化学习)是一种通过人类偏好数据训练奖励模型,并利用强化学习微调语言模型,使其输出更符合人类价值观和偏好的技术。
2025-11-09 14:24:35
737
原创 PEFT库实战快速入门
PEFT库`AutoPeftModel` 的设计理念与 Transformers 库的 `AutoModel` 一脉相承,旨在少量代码就能自动高效微调任务
2025-09-22 22:00:06
772
原创 大模型微调技术介绍篇
大模型微调**核心都是通过训练来更新模型的参数**(权重),模型本身因为看到了新数据而发生了内在改变。**本质上就是更新Transformer模型的参数(权重)。**
2025-09-15 08:30:00
786
原创 使用(IA)³极简主义增量训练方法介绍篇
**(IA)³** 核心思想是**用最小的改动,实现最有效的控制**,(IA)³ 证明了一点:**与其增加复杂的结构,不如聪明地、精细地控制模型已有的激活值**,这是一种非常巧妙且高效的微调范式。
2025-09-14 08:43:59
442
原创 PEFT 统一框架UniPELT微调大模型介绍篇
UniPELT通过一个**门控机制**自动选择和组合最适合当前任务或数据的微调方法,无需人工干预。UniPELT 提供了一个**灵活、自适应**的微调框架,避免了对每个任务手动选择微调方法的麻烦,适合快速部署和实验多种 PEFT 策略。
2025-09-13 14:19:18
438
原创 使用AdaLoRA 自适应权重矩阵微调大模型介绍篇
AdaLoRA解决了LoRA低秩参数r的人工选择问题,并且实现动态调整模型所有关键部分(包括FFN),全面提升模型能力
2025-08-31 12:19:15
1430
原创 人工智能技术发展历史演变
此阶段用到了BERT、PaLM、LLaMA、GPT-4、GLM,基于全网万亿数据十亿用户反馈,利用预训练 + 微调 + 开源社区,AI的发展仍在高速进行,未来方向可能包括。,此阶段用到了HMM、CTF、SVM反向传播、卷积网络,基于对百万级的数据进行标注,利用统计机器学习算法+算法包(scikit-learn,XGBoost)。,此阶段的主要是基于人工设计的规则系统,基于专家的知识和数百规则集构成,本质还是基于规则,不够智能。 1990年-2012年,处于。 2013年-2018年,处于。
2025-08-09 23:14:18
790
原创 分布式事务Seata AT模式设计分析篇
Seata AT模式是分布式事务的轻量级解决方案。适合**快速接入**、**业务无侵入**,允许短暂数据不一致使用。
2025-08-03 22:51:41
1147
微信小程序开发从0基础到unit-app开发
2023-03-08
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅