bugyinyin的博客

传统的基于检索增强生成（RAG）的数据流水线通常依赖于硬编码步骤，每次运行都遵循预定义的路径。在这些系统中，没有实时决策，也不会根据输入数据动态调整操作。这种局限性会降低系统在复杂或不断变化的环境中的灵活性和响应能力，突显了传统 RAG 系统的主要弱点。

预训练大模型虽然具有强大的泛化能力和广泛的知识，但它们通常是针对大量通用数据集进行训练的，这使得它们在处理特定任务时可能无法达到最佳效果，比如ChatGPT、混元、文心一言在回答一些常识性问题时表现的非常出色，但在物理、化学或编程等专业性问题上往往变的傻了吧唧。怎样让大模型更好地适用于特定场景？此时我们就需要利用特定任务的数据集来进一步训练模型，通过模型精调让全能型大模型变的专而精。这种针对性的精调训练能够使模型更加专注于目标任务的特征，从而提高其在特定任务上的准确性和效率。

随着人工智能（AI）和机器学习（ML）技术的迅猛发展，AI模型的规模和复杂度也在不断增加。这些大规模模型，如大型语言模型（LLMs）、计算机视觉模型和复杂的推荐系统，通常需要大量的计算资源来训练和推理。云计算平台提供了便捷的解决方案，但本地部署AI大模型有其独特的优势和必要性。大模型本地部署，顾名思义就是把大模型部署到我们本地的笔记本或者台式机上。

由人民邮电出版社出版，张成文教授编著的《大模型导论》，本书分为理论和实践两大部分，全面涵盖从数据预处理、模型预训练到模型微调、模型推理、模型应用的全流程，旨在帮助读者建立完整的大模型知识体系。其中，理论部分详细介绍了大模型的原理，以及多种训练、微调、推理效率提升技术和框架，从而帮助读者深入理解大模型的工作机制和内在逻辑。尽管大模型相关技术仍在快速迭代之中，更加优秀的训练、微调技术相继提出，但本书所介绍的相关技术依然有效，技术的核心思想在未来仍具有极高的价值。

在人工智能技术的浪潮中，AI大模型（Foundation Models）正以其卓越的数据处理能力和复杂的计算结构，在公路交通领域引发一场深刻的变革。这些模型不仅推动了社会生产力的提升，还在理解、学习、适应和实现任何知识工作的能力上展现出巨大潜力，即向通用人工智能（AGI）阶段的快速进化。

随着人工智能（AI）技术的迅猛发展，特别是大型语言模型（LLM）的应用日益广泛，AI领域正成为00后应届大学生求职的新宠。对于即将踏入职场的年轻人来说，选择一个充满潜力和发展空间的职业方向至关重要。本文将探讨为什么AI赛道是00后就业的理想选择，并为应届生提供实用的求职建议和学习路径。对于00后的应届大学生而言，选择AI赛道不仅意味着投身于一个充满机遇和挑战的新兴领域，更为个人成长和职业发展开辟了广阔的道路。

简单来说，“智能体就是一个prompt，它指示基础模型去和特定的工具互动。生成式 AI 智能体通过一个设计好的prompt，协调基础模型（大模型）与外部工具之间的互动。这个prompt告诉 LLM 何时以及如何使用这些工具。每一个“工具”本质上都包含了一组函数规范（或者我们叫它“声明”）。函数名称：工具的唯一标识符。描述：详细解释工具的用途、能解决什么问题，以及在什么情况下可以使用它。参数：列出工具需要的输入参数，并解释每个参数的含义、类型和期望值。输出（可选）：描述工具返回结果的格式和内容。

近年来，大模型的发展势头迅猛，成为了人工智能领域的研究热点。大模型以其强大的语言理解和生成能力，在自然语言处理、机器翻译、文本生成等多个领域取得了显著的成果。但这些都离不开其背后的核心架构——`Transformer` 。

Qwen2.5-Coder的推出，标志着智能代码语言模型进入了新的时代。这款模型具有高效性能和实用价值，不仅能够深入理解复杂的代码结构，还能提供精确的代码补全和错误检测，极大提升开发效率。本文详细介绍如何在本地系统上部署Qwen2.5-Coder，以及其与Ollama的集成方案，希望为开发者带来更流畅的开发体验。

2024年，人工智能（AI）从成长期走向了成熟期，进入了大范围的产业融合阶段。随之而来的是大范围的应用阶段，标志着AI技术从实验室走向了实际应用。在这个过程中，产品经理和人工智能领域的从业者面临着新的机遇与挑战。本文将探讨这两个领域的现状、机遇与前景，并提供一些建议。2024年，AI从成长期走向成熟期，进入了大范围的产业融合阶段。产品经理和人工智能领域的从业者面临着新的机遇与挑战。虽然赛道整体看好，但真正能够把握住机会的人并不多。

我国高度重视AI大模型发展，已出台多项政策支持技术创新和应用落地，AI大模型技术取得突破性进展，模型规模和性能不断提升，AI大模型应用场景不断拓展，涵盖办公自动化、客户服务、市场营销、研发设计等多个领域，为企业降本增效、提升竞争力提供助力。

近年来，人工智能高速发展。无人超市，无人物流，无人加油站，无人驾驶，无人酒店……再加上各种功能健全的机器人！在我们毫无察觉中，人工智能正在日夜不息地自我迭代进化，冲击着我们生活的方方面面。人工智能的时代，已经来临。我们从互联网走向移动互联网，现在又从移动互联网走向人工智能时代。业内有人称这一次的人工智能爆发是互联网 3.0 时代的开启。

重排的主要动机是克服初始检索方法的局限性，这些方法通常依赖于简单的相似性度量。重排允许进行更复杂的相关性评估，能够捕捉到传统检索技术可能遗漏的查询和文档之间的细微关系。

RAG（检索增强生成）通过检索系统找到用户问题相关的信息片段，利用大模型综合生成一个答案，极大解决了大模型幻觉、信息更新不及时等问题，已经成为了大模型落地的重要手段。但在检索过程中，往往会检索到与问题极度相似、但又不包含答案或包含干扰答案的片段，这些答案无关片段对大模型生成答案有何影响呢？

在这种架构中，我们添加个别Agent作为图节点，并提前定义Agent被调用的顺序，以自定义工作流。显式控制流（普通边）：LangGraph允许你通过普通图边显式定义应用程序的控制流（即Agent通信的顺序）。这是上述架构中最确定性的变体——我们总是提前知道接下来将调用哪个Agent。动态控制流（条件边）：在LangGraph中，你可以允许LLM决定应用程序控制流的部分。这可以通过使用条件边实现。一个特殊情况是监督者工具调用架构。

本次为大家解读的报告是《AI大模型行业应用发展研究报告：电信运营商与云服务商的合作探索》

Meta的Llama 3.3 70B模型，以其多语言能力、高效推理和安全特性，为大型语言模型树立新标杆。它不仅服务于研究者，也助力企业构建AI解决方案，平衡了强大性能与易用性。Llama 3.3的推出，展现了Meta推动包容性AI未来的承诺，让高质量AI技术更加普及。因为这个行业不同于其他行业，知识体系实在是过于庞大，知识更新也非常快。作为一个普通人，无法全部学完，所以我们在提升技术的时候，首先需要明确一个目标，然后制定好完整的计划，同时找到好的学习方法，这样才能更快的提升自己。

今天的“AI 产品经理”就像 2011 年前后出现的“无线端产品经理”一样，只在时代交接的那一两年里临时用了一下。AI时代的产品经理，应该具备哪些能力？产品经理必备的互联网思维、产品思维、洞察力、抽象能力、批判性思考能力、写文档能力……生成式 AI 的底层运作原理，以及由此导致的能力边界；确保生成式 AI 可控、严格听话的调教、约束能力；以及在以上能力基础上，延伸出来的“把生成式 AI 的能力融入现有产品”的判断力，包括：这个交互，可不可以加上生成式 AI，来提升体验；

Decoder和Encoder结构之间有什么区别？关键区别在于输入注意力是否（因果）被掩码mask掉。Decoder结构使用的是基于掩码mask的注意力。

24岁毕业时年薪50万元，到了30岁大概能升到P7(注：职级名称），那时就能年薪百万了。从上海交大硕士毕业后，出生于2000年的赵宏在今年入职腾讯，担任AI算法工程师，成为AI风口下第一批就业的年轻人。伴随人工智能（AI）日渐火热，“百模大战”激烈开打，AI人才掀起招聘热潮。求职招聘平台猎聘数据显示，今年一季度，AI相关职位同比增加321.7%，投递该领域的人才数量同比增长946.84%。目前最紧缺的大模型算法岗位，人才供需比仅为0.17，大概相当于6个岗位争夺1个人才。