- 博客(138)
- 收藏
- 关注
RSS订阅原创 大语言模型后训练技术全面综述：推理增强、监督微调、强化学习、测试时缩放、模型对齐
大语言模型（LLMs）彻底改变了自然语言处理领域，并催生了各种各样的应用。在海量网络规模数据上进行的预训练为这些模型奠定了基础，然而目前研究界越来越关注微调技术，以期取得进一步的突破。虽然预训练提供了广泛的语言基础，但微调方法使大语言模型能够完善知识、提高推理能力、增强事实准确性，并更有效地与用户意图和道德考量保持一致。微调、强化学习和测试时缩放(Scaling)已成为优化大语言模型性能、确保鲁棒性和提高在各种实际任务中适应性的关键策略。
2025-03-24 12:31:10
897
原创 2025年AI技能革命！你的大模型学习路线图，不要错过这个风口！
23年 AI 大模型技术狂飙一年后，24年 AI 大模型的应用已经在爆发，因此掌握好 AI 大模型的应用开发技术就变成如此重要，那么如何才能更好地掌握呢？一份 AI 大模型详细的学习路线就变得非常重要！由于 AI 大模型应用技术比较新，业界也没什么参照标准，打造 AI 大模型技术的学习路线并非一件容易的事，我和团队花费了6个多月时间，边整理、边摸索、边实践打造了业界首份 AI 大模型学习路线。，需要的小伙伴可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费。
2025-03-23 16:39:12
1272
原创 AI入门必看的超详细人工智能学习路径
人工智能包括机器学习和深度学习深度学习，而自然语言处理和计算机视觉正是人工智能领域热门的方向。**路径一：**如果你希望快速学习完进行项目实践，请直接学习深度学习，不过编程和数学基础还是要有的（之后如果遇到不懂的地方，单独学不懂的地方就可以了）**路径二：**一步一个脚印，扎扎实实从基础学起，逐步提高学习难度（后附学习大纲）在深入学习人工智能之前，你需要对这个行业有一个初步的了解，包括当前的发展趋势和关键技术。这样，你就能为接下来的学习做好准备。机器学习领域包含了众多算法，这些算法往往基于数学理论。
2025-03-23 16:35:49
660
原创 大模型微调知识全景
大模型微调一般指的是监督微调（SFT），即使用特定下游任务的数据继续训练“预训练模型（基座模型）”，使得模型能够满足特定下游任务的性能标准。示例一：将大模型微调为一个可以将德语翻译为英语的模型。我们需要使用大量输入为德语、输出为英语的带标签数据来训练 base 大模型，这样经过微调后的大模型就可以很好地用于将德语翻译为英语的任务。示例二：开源模型为了能够直接使用，一般会提供经过问答任务微调的版本，即 Chat 模型。增量预训练：注入领域知识；监督微调：适配特定下游任务（各类微调方法百花齐放）；偏好对齐。
2025-03-23 16:33:34
953
原创 大模型面经 - 阿里云
整体来面试中规中矩，都是比较常规的八股知识，但是对自己做的东西的询问比较详细，会了解发论文或者做业务时的整体把握，有没有深刻的理解。
2025-03-23 16:31:16
770
原创 一文读懂 RAGFlow 知识库接入 Dify 的全流程
前面，我发了一篇部署ragflow的文章，以及如何让ragflow与dify共存在一台电脑上：今天来给大家分享一下，如何将ragflow知识库接入dify，作为dify的外挂知识库。
2025-03-23 16:28:54
792
1
原创 DeepSeek-R1：AI重构IT运维的20个革命性应用场景预测！
在数字化转型的深水区，企业IT系统正经历前所未有的复杂化进程。混合云架构、微服务化部署、海量终端设备接入，传统运维模式面临三大核心挑战：人力成本指数级增长、故障响应速度遭遇瓶颈、系统稳定性与业务连续性要求持续攀升。DeepSeek-R1智能运维大模型的问世，标志着运维领域正式进入认知智能时代。本文将深度解析该技术在20个关键场景中的突破性应用价值。1.通过自然语言处理技术，实现日志、指标、trace数据的自动关联分析，准确率达92%，较传统正则匹配效率提升300%2.
2025-03-23 16:27:24
1201
原创 大模型产品经理的未来：为什么每个产品经理都需要学习大模型？
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
2025-03-22 17:32:41
929
原创 AI产品经理面试宝典：100个问题，三天掌握，一周斩获四个offer！
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2025-03-22 17:30:19
916
原创 2025年的行业春天：大模型技术引领未来
随着科技的不断进步，各行各业都迎来了前所未有的发展机遇。而在2024年，我们坚信大模型技术将成为行业发展的春天，引领着新一轮的技术革命和产业变革。
2025-03-22 17:27:54
618
原创 利用 RAGFlow 的 RAG 功能构建 Text2SQL Agent
Text2SQL 代理弥补了自然语言处理 (NLP) 和结构化查询语言 (SQL) 之间的差距。并非所有用户都具有 SQL 背景或了解查询所涉及的表的结构。使用 Text2SQL 代理，用户可以用自然语言提出问题或请求数据，而无需深入了解数据库结构或 SQL 语法。对于熟悉 SQL 的用户，Text2SQL 代理简化了流程，使用户能够快速构建复杂查询，而无需手动编写每个部分的代码。手动编写 SQL 查询很容易出错，尤其是对于复杂的查询或不熟悉数据库结构的用户。
2025-03-22 17:25:43
1651
原创 字节开源了个类 Manus 通用型 AI Agent 产品 TARS
Agent TARS 是一个开源的多模态 AI Agent，可以自行浏览网页、集成命令行、文件系统，利用浏览器操作。🌐 通过 Agent 框架，规划和执行复杂任务，如深度研究 Deep Research 和电脑操作员 Operator 功能务。🛠️ 集成了多种工具，包括搜索、文件编辑、命令行，还支持 MCP（模型上下文协议），可以处理复杂的工作流程。💻️ 提供了桌面客户端：展示浏览器、多模态元素、会话管理、模型配置、对话流程、状态跟踪等。Demo 演示：从技术面分析下特斯拉未来的股价走势。
2025-03-22 17:23:54
2700
原创 【大模型书籍】25年一书通关LLM大模型，大模型零基础入门到大模型精通！
大家好，今天给大家推荐一本大模型应用开发入门书籍《大模型应用开发极简入门》，本书对很多AI概念做了讲解和说明！朋友们如果有需要 《》，。
2025-03-21 17:10:15
839
原创 MCP究竟有何魔力？为什么说MCP才是AI Agent的未来？一篇文章带你快速读懂MCP！
在这个AI时代，AI也不会完全取代人工，相反，会给人工增加助力，是否会用AI辅助工作将会是区分竞争力水平的核心标准！不要排斥AI，拥抱AI，掌握AI，提高自己的核心竞争力才是硬道理！
2025-03-21 17:07:25
1001
原创 一文带你彻底搞懂MCP
最近很多人在聊MCP，但大多数都在讲MCP中的“服务端”、“客户端”的概念。但有些开发者仍然是一头雾水，搞不懂MCP到底是什么，也不知道如何在开发中应用MCP。接下来，本文将揭开MCP的神秘面纱，带你彻底搞懂MCP。在上一篇文章中，我们解读了OpenManus的代码从代码中，我们可以发现，实现Manus的关键思路，就是学会让模型调用函数工具。OpenManus通过四个核心函数工具实现了智能体的所有操作，分别为：执行Python函数谷歌搜索操作浏览器保存文件。
2025-03-21 17:06:05
906
原创 DeepSeek-R1微调指南
在这篇博文中，我们将逐步指导你在消费级 GPU 上使用 LoRA（低秩自适应）和 Unsloth 对 DeepSeek-R1 进行微调。
2025-03-21 17:04:05
987
原创 QWQ-32B 本地私有化部署，性能媲美DeepSeek-R1满血版
QWQ-32B是阿里巴巴最新开源的一款新型推理模型，规模仅拥有320亿参数，但在多项基准测试中，性能几乎媲美，甚至某些测试中超越了。官方提供的评估对比图：从上图可以看出QwQ-32B表现出色，整体几乎超越，在和测试集上与几乎持平，在BFCL(函数调用)测试中，均超越。但其只有32B的参数量，在如此优秀效果的前提下又大幅降低了部署使用的成本。modelscope 地址：huggleface 地址：本次本地部署QWQ-32B推理优化框架采用vLLM，使用Open-WebUI。
2025-03-21 17:02:35
1834
原创 100道大模型面试八股文！背下来你就是大模型大师！吊打面试官
当前就业环境已不再是那个双向奔赴时代了。求职者在变多，岗位在变少，要求还更高了。最近，我们陆续整理了很多大厂的面试题，帮助球友解惑答疑和职业规划，分享了面试中的那些弯弯绕绕。你了解ReAct吗，它有什么优点？解释一下langchain Agent的概念langchain 有哪些替代方案？langchain token计数有什么问题？如何解决？LLM预训练阶段有哪几个关键步骤？RLHF模型为什么会表现比SFT更好？参数高效的微调（PEFT）有哪些方法？
2025-03-20 11:31:49
1183
原创 LangChain与Gemini 2.0强强联合：打造Agentic RAG新篇章
在 2024 年，随着 RAG（检索增强生成）的兴起，AI Agent 作为一项变革性技术出现。让我们从宏观角度了解 AI Agent 及其重要性。AI Agent 是将大型语言模型（LLM）的推理能力与记忆和外部工具（例如 API、数据库和网络搜索引擎）结合的工作流。通过这些工具，AI Agent 能够规划并执行多步工作流，从而自主完成复杂任务。访问外部知识源动态决定何时以及如何检索信息基于推理和检索路径调整响应。
2025-03-20 11:26:35
580
原创 AI大模型知识全攻略：从入门到精通，全面解析大模型的学习之路
打不过就加入，不丢人。• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。总的来说，“大模型”应该是基于具有超级大规模的、甚至可以称之为“超参数”的模型，需要大量的计算资源、更强的计算能力以及更优秀的算法优化方法进行训练和优化。：AI大模型，例如 GPT-3 和 BERT，大幅提升了自然语言处理任务的性能，如翻译、问答、分词、文本生成等领域。
2025-03-20 11:24:59
1027
原创 智慧校园篇：本地化部署DeepSeek语言大模型+视觉AI行为识别大模型如何为智慧校园打造“未来式“管理中枢？
先行者必将获得数字化转型的主动权。
2025-03-20 11:16:58
1122
原创 Dify 实现DeepResearch工作流拆解并再看升级版Dify能否搭建出Manus？
结果只能说是中规中矩吧，个人感觉并比腾讯元宝要差。这也是可以预期的，毕竟这个工作流还是太简单了一些，要应用到生产，还有很多很多优化要做，比如，LLM主题分析和终止搜索节点的设置，信源组成，报告生成节点的设置等等。但是，它也给我带来惊喜，帮我们揭开了DeepResearch的神秘面纱，让我们可以从这里出发，进入DeepResearch。
2025-03-20 11:11:56
1796
原创 AI大模型学习路线图震撼发布！错过你就out了，大模型技能升级必看指南！
24年 AI 大模型技术狂飙一年后，25年 AI 大模型的应用已经在爆发，因此掌握好 AI 大模型的应用开发技术就变成如此重要，那么如何才能更好地掌握呢？一份 AI 大模型详细的学习路线就变得非常重要！由于 AI 大模型应用技术比较新，业界也没什么参照标准，打造 AI 大模型技术的学习路线并非一件容易的事，我和团队花费了6个多月时间，边整理、边摸索、边实践打造了业界首份 AI 大模型学习路线。，需要的小伙伴可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费。
2025-03-19 16:14:20
986
原创 大模型微调入门指南
大模型微调是指在预训练模型（已学习海量通用知识）的基础上（可以理解为大厂开源模型即经过预训练的通用大模型），通过少量领域数据进一步训练，使模型适应特定任务（如医疗问答、法律文本分析等）。这一过程会调整模型参数，强化其在目标领域的表现。微调 vs 预训练预训练：耗费数千块GPU、学习通用语言模式（如语法、常识）。微调：仅需少量GPU、耗时几小时至几天，聚焦特定任务优化（如情感分类）。一、模型微调的核心分类1. 全参数微调（Full Fine-tuning）
2025-03-19 16:11:39
497
原创 AI 落地企业 70 问：从入门到避坑，一篇搞定所有难题！
AI 很火，但你的企业用对了吗？近年来，AI 技术风靡全球，许多企业纷纷投身其中，试图通过 AI 实现降本增效、创新突破。然而，AI 的落地并非一帆风顺——从认知误区到技术选型，从数据基础到组织变革，每一步都充满挑战。你是否也面临这些问题：企业如何从零开始构建 AI 能力？AI 项目的成本和 ROI 如何评估？信息部门如何应对 AI 带来的技术变革？AI 落地过程中有哪些“坑”需要避开？
2025-03-19 16:09:50
1037
原创 字节大模型一面：“什么是各向异性（anisotropic）？
一个好的向量表示应该同时满足Alignment 和 uniformity，前者表示相似的向量距离应该相近，后者就表示向量在空间上应该尽量均匀，最好是各向同性的。• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。
2025-03-19 16:07:31
965
原创 【科普】大模型中常说的 MoE 是指什么？
在大语言模型（LLM）领域，模型规模的持续增长是提升性能的关键途径之一。然而，简单地增加模型参数会带来计算成本的急剧上升。为了在扩大模型容量的同时控制计算负担，一种名为“混合专家模型”（Mixture of Experts，MoE）的架构应运而生，并在近年来受到了广泛关注。MOE，全称 Mixture of Experts（混合专家），是一种机器学习技术，首次在 2017 年提出，主要用于语言建模和机器翻译任务。它并非一种全新的模型，而是一种架构设计思想，可以将其理解为一种特殊的神经网络层。
2025-03-19 16:06:06
1172
原创 2025普通人转行，推荐一个好就业的方向——人工智能大模型，非常详细收藏这一篇就够了！
据教育部数据统计，，将再创历史新高，“”仍是当前大学毕业生需要直面的问题。在此背景下，选择一个就业前景好的专业尤为重要。究竟学什么样的专业好就业呢？给毕业生们推荐3个当下炙手可热的专业方向……1如果说2023是人工智能大模型爆发的一年，那么接下来的2024年，人工智能大模型的影响力将进一步增强，它对我们的生产生活、学习工作的影响将越来越明显，未来发展前景非常广阔。
2025-03-18 17:31:35
2027
原创 AI入门必看的超详细人工智能学习路径，非常详细收藏我这一篇就够了！
人工智能包括机器学习和深度学习深度学习，而自然语言处理和计算机视觉正是人工智能领域热门的方向。**路径一：**如果你希望快速学习完进行项目实践，请直接学习深度学习，不过编程和数学基础还是要有的（之后如果遇到不懂的地方，单独学不懂的地方就可以了）**路径二：**一步一个脚印，扎扎实实从基础学起，逐步提高学习难度（后附学习大纲）在深入学习人工智能之前，你需要对这个行业有一个初步的了解，包括当前的发展趋势和关键技术。这样，你就能为接下来的学习做好准备。机器学习领域包含了众多算法，这些算法往往基于数学理论。
2025-03-18 17:27:49
1241
原创 GraphRAG揭秘：基于Neo4j的知识图谱检索增强技术
对一个查询问题分别进行了测试, 与没有RAG，仅利用LLM生成回复的情况进行对比，在有GraphRAG 的情况下，LLM模型回答的信息量更大、准确会更高。
2025-03-18 17:24:54
804
原创 DeepSeek提示词技巧
DeepSeek，最近是真的火！AI圈、科技博主、职场人，甚至连朋友圈的宝妈群都在聊——“DeepSeek太强了！”“国产GPT之光！”“中文能力碾压！”但你真的会用吗？不少人兴冲冲注册，结果一上来就开始硬憋提示词，仿佛回到了写命令代码的时代，生怕AI听不懂。有人翻着各种“终极提示词秘籍”，一遍遍优化措辞，“请用批判性思维分析……”“请结合苏格拉底式提问法……”结果AI还是答非所问，气得摔键盘。别折腾了！DeepSeek压根不需要这么复杂的“暗号”，它就喜欢“人话”！你正常说话，它比谁都懂。
2025-03-18 17:12:31
683
原创 9个最佳prompt框架：解锁LLMs无限潜力
CLEAR框架特别适用于当你需要详细且结构化的研究查询，不容许任何模糊性时。CLEAR分别代表：Context（背景）、Logic（逻辑）、Expectations（期望）、Action（行动）和Restrictions（限制）。背景（Context）提供背景信息，解释你为什么需要这些信息。这有助于AI理解你的研究动机和目的。逻辑（Logic）阐述你研究的推理过程和你试图达到的目标。这确保了AI能够遵循你的思路来回答问题。期望（Expectations）清晰定义你需要的答案类型，包括具体细节或结构。
2025-03-18 17:09:02
768
原创 什么是大模型？大模型全攻略：从入门到精通，一篇超详细指南让您成为专家！
大模型（Large Models），通常指的是拥有大量参数的深度学习模型。这些模型由于其规模庞大，能够捕捉到数据中的复杂模式，因此在自然语言处理（NLP）、计算机视觉（CV）等领域有着广泛的应用。例如，GPT-3 和 BERT 就是自然语言处理领域中著名的大型预训练模型。强大的表达能力：大量的参数使得模型可以更好地拟合复杂的数据分布。预训练+微调机制：通过在大规模数据上进行预训练，然后针对特定任务进行微调，大模型可以有效地利用迁移学习的力量。计算资源的进步。
2025-03-17 11:12:06
1259
原创 AI产品经理算法宝典：掌握核心知识，非常详细收藏我这一篇就够了
简而言之，NLP是让计算机理解自然语言，而NLG是让计算机生成自然语言。两者结合在一起，可以构建出更加智能和交互式的应用程序，如智能助手、自动写作系统和交互式对话系统。
2025-03-17 11:10:39
769
原创 产品经理到底要不要转 AGI？做决定前先了解这个！
我的朋友李斌，前段时间失业在家。他是做产品经理的，今年32岁，在这家公司一做就是8年，从APP刚上线，到如今几百万日活，慢慢从产品岗，做到了带团队的小leader。本来一直很稳，结果前段时间突然被领导谈话，产品团队调整，他要被裁了。李斌当时就蒙了……领导似乎知道他在想什么，对他说“今年公司准备转型做智能化，APP要推出AI功能，公司会直接招一个AI产品。他很想辩解，但这也是事实。产品人天天忙到焦头烂额，还要提防会随时背锅……然而时代的洪流滚滚而过，终于成了一颗被替代的“螺丝钉”！
2025-03-17 11:07:51
679
原创 通义QwQ-32B+Milvus，消费级显卡布满血大模型与RAG的时代来了！
最近，通义开源的QwQ-32B模型可谓是火的一塌糊涂。作为一个中型推理模型，QwQ-32B只有320亿参数，但却在多个基准测试中展现出优秀的推理能力，几乎直逼满血版DeepSeek R1，在数学计算、写作与代码编程方面的表现更是相当不错。最重要的是，QwQ-32B不仅性能强大，还极其“亲民”，它体积小、推理快，支持消费级显卡部署，像RTX 4090这样的显卡就能轻松运行，非常适合普通个人开发者或者资源不足的科研党上手学习。不过，由于QwQ-32B采用的是。
2025-03-17 11:05:12
1299
原创 运维转行大模型终极指南：史上最全总结，一篇文章搞定！非常详细收藏我这一篇就够了
运维心里苦谁做谁知道，有时候感觉自己像一个杂工，在公司都快变成一个修电脑的了，不装了我转行了，给大家分享一点经验，希望能帮助到你们。运维工程师转行至大模型领域需要学习一系列新的技能和知识。以下是一个详细的转行攻略，帮助您从运维工程师转向大模型领域：了解基础知识：数学基础：学习线性代数、概率论、统计学和微积分等基本数学知识，这些是大模型领域的基础。编程语言：如果您已经熟悉Python，这是一个好的开始。Python是机器学习和数据科学领域中广泛使用的编程语言。
2025-03-16 17:53:59
880
原创 deepseek为什么这么牛，如何玩转deepseek?
deepseek的认知能力、逻辑思维、知识储备，乃至智商、情商，已经全方位。可以这么说，今后如果普通人不会AI，不懂deepseek，那么可能会和17世纪的纺织工一样被时代淘汰。deepseek-R1于2025年1月20日发布并开源，仅用了一个春节的时间，就做成了以下大事：●戳破美国英伟达神话，导致一天之内；●仅用一周，下载榜和应用榜榜首；●仅用一周，；●发布不到20天，国内外巨头纷纷，包括微软、英伟达、亚马逊、英特尔、AMD、中国移动、中国联通、中国电信、华为、360等等等等。
2025-03-16 17:50:07
1146
原创 2025年大模型与AI应用年度好书推荐：附PDF下载，不容错过！
2024 年，又是人工智能和大模型技术飞速发展的一年，我们有幸见证了 AI 如何深刻地影响和改变着我们的世界。为了深入理解这场技术变革，把握 AI 应用的未来趋势，我们特别策划了一期“”主题书单。本篇精选了 2024 年人工智能畅销图书，涵盖自然语言处理、深度学习、LLM、软件架构等，这些经典书带领无数程序员进入 AI 之门。**NO.**本书系统、深入地探讨了人工智能（AI）领域的理论和实践，以统一的风格将当今流行的人工智能思想和术语融合到引起广泛关注的应用中，真正做到理论和实践相结合。
2025-03-16 17:48:21
969
原创 阿里通义 QwQ 强势登场：开源AI推理新王者，MATH测试超越OpenAI o1
阿里巴巴通义千问团队今日正式发布实验性研究模型 QwQ-32B-Preview，并配以博文《QwQ: 思忖未知之界》详解其设计理念与性能表现。作为一款专注数学与编程推理的开源大模型，QwQ-32B-Preview 成为全球首个以宽松许可（Apache 2.0）提供的同类领先模型，并在多个基准测试中超越 OpenAI 的 o1-preview 模型。阿里团队将 QwQ 比喻为“探索未知领域的学徒”，具备在复杂数学、编程推理中的优异表现，尤其在深度逻辑与科学问题的解决上表现突出。
2025-03-16 17:46:34
1098
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人