m0_71745484的博客

AI产品经理面试100问Attention(重点掌握)1.什么是 Attention?为什么要用 Attention?它有什么作用?2.Attention的流程是什么样的?3.普通的Attention和Transformer的Self-attention之间有什么关系?4.什么是Self-attention?Transformer(重点掌握)1.Transformer是什么，它的基本原理是什么?2.自注意力(Self-Attention)的作用是什么?它有什么优势?

随着大数据和人工智能技术的飞速发展，电力行业迎来了智能化转型的全新契机。电力知识图谱作为一种将数据转化为结构化知识的技术，正在赋能故障诊断、设备管理、运维优化等核心场景。而当知识图谱与大模型相结合，更能释放强大的知识推理和智能预测能力，为行业智慧化发展注入新动力。本文将从专业视角，深入探讨电力知识图谱的构建过程、大模型的融入方法，以及它们在实际应用中的落地场景。通过具体案例剖析与技术解读，帮助你了解如何从零构建电力知识图谱，并利用大模型实现更智能、更高效的行业应用。

引言： 网上关于大模型的文章也很多，但是都不太容易看懂。今天这一篇文章争取做到通俗易懂。让大家尽可能的理解大模型。我将从以下几个方面来给大家进行解惑：一、 什么是大模型？二、大模型是如何训练出来的？三、大模型究竟有什么作用？四、大模型的发展趋势？五、大模型会带来哪些挑战？六、如何学习大模型 AI？一、 什么是大模型？大模型，英文名叫Large Model，大型模型。早期的时候，也叫Foundation Model，基础模型。大模型是一个简称。

AI 智能体（也有人称为 AI 代理），英文名称为 AI Agent，更准确地说现在就是指 LLM Agent，它是一个执行逻辑由其底层模型（LLM）控制的程序。LLM Agent 与少样本提示（few-shot prompting）或固定工作流（fixed flows）等方法的不同之处在于，它能够定义和调整执行用户查询所需的步骤。如果能够访问一组工具（如代码执行或 Web 搜索），Agent 可以决定使用哪种工具、如何使用它，并根据输出迭代结果。这种适应性使系统能够以最少的配置处理各种用例。

想不想让AI化身你的数据小助手？21世纪的数据就像一缸水泥,没有合适的工具,就会变得又重又难搬。过去我们靠人工标注、人工研判、人工决策,工作效率就像蜗牛爬楼梯。直到大模型带着"魔法棒"来了。它不仅能自动分类数据、智能检索信息,还能在1分钟内完成风控决策。就像给数据管理装上了"智慧引擎",让繁重的工作变得轻松自如。让我们一起来了解如何用大模型这根"魔法棒",搅动数据治理这缸"水泥",让数据工作变得既轻盈又高效的精彩故事。大模型在数据管理领域的创新应用。

随着人工智能技术的快速发展，智能体在企业知识管理、客户服务、业务数据分析等领域的应用愈加广泛。一个优秀的智能体设计不仅要具备高效处理用户需求的能力，还需要灵活适配不同场景的任务需求。本文将通过一个智能体的具体设计流程图，结合实际案例，详细解析其架构设计、功能实现及背后的技术逻辑，帮助大家深入了解智能体的构建过程。一、智能体设计的核心思路在智能体的设计过程中，最关键的是对用户需求的精准理解和快速响应。以下是设计的三大核心思路：精准的意图识别用户输入的多样性和复杂性对系统的理解能力提出了挑战。

目录1. 大语言模型（LLM）的核心定义2. 大语言模型（LLM）的核心技术和特性2.1 Transformer 架构2.1.1 看全局抓重点：注意力机制2.1.2 并行处理：效率高2.1.3 理解句子结构：捕捉长距离依赖2.1.4 将文字变成数字：嵌入表示Embedding2.2 Transformer 是如何生成答案的？2.2.1 把重点重新组织：编码器-解码器结构2.2.2 输入和输出之间的关系：交叉注意力。

AI大模型行业正处于快速发展阶段，其技术进步和应用场景的不断拓展不仅为企业带来了新的发展机遇，也为社会经济发展注入了新动能。面对这一变革，企业和个人都需要积极适应变化，抓住机遇，共同推动AI大模型行业的健康发展。为了帮助大家更快的了解和掌握大模型，今天给大家推荐一份非常强力的研究报告，由深圳前瞻产业研究院、首钢基金CANPLUS联合华为云共同出品《2024年中国AI大模型场景探索及产业应用调研报告》这份报告深入探讨中国AI大模型行业的现状、应用场景以及未来发展趋势。

AI Agent作为一种新兴的框架，正在逐步改变我们对自动化和智能系统的理解与应用。AI Agent不仅能够自主地感知、计划和执行决策，还能在复杂的环境中动态适应和协作，从而实现更高效、更智能的工作流程。一、AI Agent 的核心概念与架构剖析（一）定义与本质特征AI Agent 可被视作基于人工智能技术构建的智能实体，具备感知环境、理性决策及自主行动的能力，旨在高效达成预设目标。

很多小伙伴在网上搜索网络安全时，会出来网络安全工程师这样一个职位，它的范围很广，只要是与网络安全挂钩的技术人员都算网络安全工程师，一些小伙伴就有疑问了，网络安全现在真的很火吗？那么寒哥就带大家看看,这一行到底有没有传说中的那么火,首先带大家看看日益新增的网络安全人才需求吧!

企业信息化架构规划与实施指南企业信息化是已经成为企业经营管理必不可少的重要手段。如何更好地规划和实现企业信息架构是每个企业CIO迫切需要解答的问题。本课程在总结了微软（中国）服务部门多年基于国内企业信息化架构的经验，让您能深入体会企业信息化架构的重要性和必要性，如何把软件架构与企业信息化架构和规划结合，如何有效的利用现有资源，权衡各方利弊搭建最优化架构，从而保证企业信息化正确发展；把握在充分考虑经济性、易用性和高效性的基础上，分阶段分步骤地实施适应性强，可扩展性高的企业信息化应用架构。学习目标。

MyBatis 作为互联网数据库映射工具界的“上古神器”，训有四大“神兽”，谓之：SqlSessionFactoryBuilder、SqlSessionFactory、SqlSession、Mapper。可以说，了解了这四大核心，便可知 MyBatis 八九。一、SqlSessionFactoryBuilder从命名上可以看出，这个是一个 Builder 模式的，用于创建 SqlSessionFactory 的类。

今年招聘市场确实是好点了，我发现群友都在讨论，得赶快学点 AI 大模型。他们有的是想正式转到一些新兴的 AI 行业，需要系统的学习训练。更多的是想跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。这也可以理解，ChatGPT 推出仅一年半的时间，就将生成式 AI 推向主流。从谷歌到亚马逊，从百度到阿里，几乎所有科技巨头都在布局 AI，也直接影响到了招聘市场，大模型相关的岗位数量多了不少，年薪甚至达到 80W-90W。

一、什么是大模型幻觉相信大家在使用ChatGPT或者其他大模型时会遇到这样的情况，模型答非所问甚至自相矛盾。这种现象我们称为“幻觉”"幻觉"指的是模型生成的信息或回答不准确或虚假的现象。比如，模型可能在回答问题时编造不真实的细节，或者对事实产生错误的解释。在准确率要求非常高的场景下幻觉是不可接受的，比如新闻领域、医疗领域、金融领域等。以下为几个典型的大模型幻觉案例：1、阅读理解任务中的幻觉：大模型在回答问题时，可能会产生与原文无关的答案，甚至编造事实。

内容总结，本篇综述主要介绍和分析了以下几个方面：• 概述了MM-LLMs的设计形式，将模型架构分为5个部分：模态编码器、输入投影器、语言模型骨干、输出投影器和模态生成器。阐述了每一部分的实现选择。• 描述了MM-LLMs的训练流程，主要包括多模态预训练和多模态指令微调两个阶段。• 总结分析了26种主流的MM-LLMs模型，从模型架构、训练数据集规模等多个维度进行了对比。• 综合回顾了主要MM-LLMs在18个广泛使用的视觉语言评测集上的表现，并总结提炼出提升模型效果的重要训练方法。

随着人工智能技术的飞速发展，大模型已经成为推动这一领域进步的核心力量。它们通过处理海量数据，学习复杂的模式和关系，为各种应用提供了强大的智能支持。从语音识别到自动驾驶，再到个性化推荐系统，大模型正在不断地改变我们的生活和工作方式。然而，对于初学者来说，大模型的世界可能显得既神秘又难以接近。熟练掌握大模型的知识和技能在未来职场将是一项基本要求。无论是为了提升自己的技术能力，还是为了在职场上保持竞争力，了解和应用大模型都十分有必要。

大模型算是当之无愧最火的一个方向了，算是新时代的风口。有小伙伴觉得，既然是新领域、新方向，那么，人才需求肯定比较大，相应的人才缺乏，竞争也会更少，那转行去做大模型是不是一个更好的选择呢？是不是更好就业呢？是不是就暂时能抵抗35岁中年危机呢？在我的职场陪跑群里，也有一位同学提出了类似问题，分享一下我的看法，希望给想要在大模型领域发展或者转行去做大模型的同学一些参考和建议。问 ：985 硕士毕业，大厂背景 工作 4～5 年 当下环境，对于换赛道为大模型这种（技术壁垒） 还是 深耕电商业务，有什么建议么？

在这个人工智能（AI）技术飞速发展的时代，AI产品经理已成为推动产业变革的中坚力量。他们不仅要具备传统产品经理的敏锐洞察力，还需深入掌握AI技术的精髓，以确保AI技术在产品中的有效融合与创新应用。从AI技术到商业变现的过程中，一招不慎，很可能满盘皆输。在AI时代，一个优秀的产品经理，应该具备哪些能力呢？筑牢基石：AI产品经理的基础知识储备领域术语精通： 作为AI产品经理，你需要对“监督学习”、“深度学习”、“卷积神经网络”等术语如数家珍，以便与技术人员高效沟通。

在过去一年里，AI给我们“炫耀”了它恐怖的“产品”生产力：一键生成产品流程图一行指令搞定产品需求文档3秒钟做好竞品分析报告10秒钟生成产品原型图……AI，能达到一个初级产品经理水平。如今AI大模型就像刚出锅的脆皮鸭，谁都想抢一口。原以为只是短暂的AI浪潮，然而现实却赤裸裸向你展示，什么叫：AI抢走你的饭碗，连招呼都不打一声！01 时代抛弃你时 连一声招呼都不打！前几天跟朋友娜娜吃饭，哭诉自己明明很努力，为什么却变成了 “职场工具人”！不仅要想各种产品方案，还要花时间排版、配图。

Content本文探讨了微调大型语言模型（LLMs）以利用财务新闻流预测股票回报的方法，比较了编码器和解码器LLMs在不同文本表示方法下的性能，并发现聚合表示通常能提升投资组合表现，其中Mistral模型在多个投资宇宙中表现稳健，而基于LLMs的回报预测比传统情感分析更能增强投资组合构建的效果。引言 (Introduction)本章阐述了量化投资领域中利用财务文本数据进行投资组合构建的重要性，并强调了自然语言处理（NLP）技术，尤其是大型语言模型（LLMs）在文本分析中的先进能力。

01人工智能技术学习建议‍‍‍这个关于学习人工智能技术的建议，也可以说是一个学习技术的方法论。首先大家要明白一点——(任何)技术都是一个更偏向于实践的东西，具体来说就是学习技术实践要大于理论，要以实践为主理论为辅，而不是反其道而行之，但是在实际的经历和观察中，我发现很多人却是以理论为主，实践为辅。‍‍_知行合一，在知中行，在行中知_‍‍‍‍‍‍‍‍‍就拿这个公众号来说，越理论的东西看的人越多，真的涉及到实操的部分看的人反而变少了。

政务大模型是指通过人工智能技术，对数字政府的数据进行分析和发掘，通常在政务大数据的基础上集合大模型技术构造数智一体化平台，提供智能决策支持和解决方案的一种技术应用。数字政府的建设需要新的技术支持，大模型在政务领域的应用成为关键。全国各地政府都在加强大模型产业顶层设计和布局，北京市率先出台正对性政策，广东、上海、安徽等地方也积极探索大模型产业，助力大模型在政务领域深度应用。最终达到促地方经济发展、增强区域竞争力、加快技术应用、引导产业升级、优化人才结构、提升公共服务。‍‍。

一、什么是大模型幻觉相信大家在使用ChatGPT或者其他大模型时会遇到这样的情况，模型答非所问甚至自相矛盾。这种现象我们称为“幻觉”"幻觉"指的是模型生成的信息或回答不准确或虚假的现象。比如，模型可能在回答问题时编造不真实的细节，或者对事实产生错误的解释。在准确率要求非常高的场景下幻觉是不可接受的，比如新闻领域、医疗领域、金融领域等。以下为几个典型的大模型幻觉案例：1、阅读理解任务中的幻觉：大模型在回答问题时，可能会产生与原文无关的答案，甚至编造事实。

当然可以！我为您推荐一本关于大模型的书籍：《Transformer Tutorials: From Theory to Practice》。虽然这本书不是直接以“大模型”命名，但它涵盖了构建和理解大规模语言模型（如GPT系列和BERT）所需的关键技术和理论。接下来，我将为您详细介绍这本书的内容、结构以及为什么它是一本值得阅读的好书。书名：Transformer Tutorials: From Theory to Practice作者简介。

当然可以！我为您推荐一本关于大模型的书籍：《Transformer Tutorials: From Theory to Practice》。虽然这本书不是直接以“大模型”命名，但它涵盖了构建和理解大规模语言模型（如GPT系列和BERT）所需的关键技术和理论。接下来，我将为您详细介绍这本书的内容、结构以及为什么它是一本值得阅读的好书。书名：Transformer Tutorials: From Theory to Practice作者简介。

DDD 基本概念详解与实例1.1 领域 (Domain)定义：领域是指业务领域，代表着系统所处的业务环境或问题空间。领域是我们设计软件时要解决的问题的核心。示例：假设我们在设计一个电商系统，"领域"就是电子商务，包括订单处理、支付、物流、用户管理等模块。每个模块都有其独特的业务逻辑和规则，这些业务逻辑定义了电商平台的“领域”。1.2 限界上下文 (Bounded Context)定义：限界上下文是指领域模型的边界。

DDD 基本概念详解与实例1.1 领域 (Domain)定义：领域是指业务领域，代表着系统所处的业务环境或问题空间。领域是我们设计软件时要解决的问题的核心。示例：假设我们在设计一个电商系统，"领域"就是电子商务，包括订单处理、支付、物流、用户管理等模块。每个模块都有其独特的业务逻辑和规则，这些业务逻辑定义了电商平台的“领域”。1.2 限界上下文 (Bounded Context)定义：限界上下文是指领域模型的边界。

微服务架构在现代企业中的典型应用微服务架构在现代企业中广泛应用于支持复杂的业务需求和快速变化的市场环境。由于其灵活性、可扩展性和独立部署的特性，微服务架构适合许多行业和场景，包括电商平台、金融服务、物流、互联网服务等。电商平台电商平台的业务复杂，包含订单管理、支付、库存、用户管理等多个功能模块。采用微服务架构可以将每个业务模块独立为一个微服务，模块间通过 API 通信，方便系统的扩展和维护。

微服务架构的容错、扩展性、监控与治理是确保系统稳定性、可维护性和可扩展性的关键方面。在微服务架构的容错、扩展性、监控与治理中，工具的选择对于系统的整体设计和维护至关重要。一、策略容错机制微服务架构中，每个服务都是独立的，但彼此之间存在一定的依赖关系，因此单个服务的失败不应导致整个系统的崩溃。为了解决这一问题，可以采取以下容错机制：1.1 熔断器模式熔断器是一种防止服务级联故障的机制。当某个服务响应异常缓慢或不可用时，熔断器会暂时切断对该服务的调用，从而防止更多请求积压，确保系统的稳定性。

微服务架构的设计与实现涉及多个方面，包括服务划分、通信、数据管理、安全性、监控等。以下是微服务架构设计与实现的关键步骤和最佳实践：服务划分在设计微服务时，首先需要确定如何将应用程序划分为多个服务。服务划分应基于以下原则：业务能力：每个服务应围绕特定的业务能力进行划分，确保服务的单一职责。示例：在电商平台上，可以将服务划分为用户服务、订单服务、支付服务和产品服务等。团队自治：将服务划分为与团队结构相匹配的独立模块，使得每个团队能够独立开发和管理自己的服务。

微服务架构设计的核心原则是指导开发团队在构建和管理微服务时遵循的一系列最佳实践。这些原则确保微服务的灵活性、可维护性和可扩展性。以下是微服务架构的核心原则：单一职责原则每个微服务应该专注于处理特定的业务功能或职责。这样可以减少复杂性，使服务更容易理解和维护。示例：一个电商系统中的订单服务只处理与订单相关的功能，而用户服务专注于用户管理。2. 独立部署每个微服务应该能够独立开发、测试、部署和升级。这意味着一个服务的变更不会影响到其他服务的运行。

微服务架构（Microservices Architecture）是近年来在软件开发中广受欢迎的架构风格，尤其在构建大型、复杂系统时展现出巨大优势。它与SOA（面向服务架构）在理念上有相似之处，但在实现方式、设计原则以及应用场景上存在显著区别。微服务架构的基本概念微服务架构是一种将应用程序拆分为一组小型、独立部署的服务的架构模式。每个微服务负责处理单一业务功能，并且完全自主，独立运行。这些服务通过轻量级的协议（通常是HTTP/REST API）进行通信。

在企业中，**SOA（面向服务架构）**被广泛应用于多个场景，帮助企业提高灵活性、效率和业务响应能力。SOA通过分解企业系统中的功能模块，以服务的形式进行封装和集成，支持跨平台、跨系统的协同工作。以下是SOA在企业中的几个典型应用场景：跨系统集成应用场景：企业通常拥有多个不同的系统，这些系统可能基于不同的技术平台（如ERP、CRM、供应链管理系统等），它们之间的数据交换和业务流程集成是一个常见的需求。SOA的作用：通过SOA，企业可以将这些异构系统通过服务集成起来，消除孤立的业务流程。

在企业中，**SOA（面向服务架构）**被广泛应用于多个场景，帮助企业提高灵活性、效率和业务响应能力。SOA通过分解企业系统中的功能模块，以服务的形式进行封装和集成，支持跨平台、跨系统的协同工作。以下是SOA在企业中的几个典型应用场景：跨系统集成应用场景：企业通常拥有多个不同的系统，这些系统可能基于不同的技术平台（如ERP、CRM、供应链管理系统等），它们之间的数据交换和业务流程集成是一个常见的需求。SOA的作用：通过SOA，企业可以将这些异构系统通过服务集成起来，消除孤立的业务流程。

SOA中的服务治理（Service Governance）是确保服务在整个生命周期中得到有效管理和控制的关键机制。服务治理涉及服务的设计、开发、部署、运行、监控以及退役等各个阶段，确保服务的合规性、性能和安全性。我们接下来将详细学习SOA的服务治理部分，涵盖以下几个主要方面：服务治理的核心内容1.1. 服务目录与注册（Service Directory and Registry）服务治理的第一步是对服务进行注册和管理。

我们现在深入学习SOA的具体设计模式。SOA架构中的设计模式主要是指导服务如何设计、实现、部署和管理，确保服务的松耦合、高可用性、扩展性和复用性。SOA常见的设计模式可以分为以下几类：服务层次设计模式1.1. 基础服务（Fundamental Service）基础服务提供核心的功能，通常是企业的基本业务能力。例如，订单处理服务、客户管理服务等。这些服务是面向具体业务逻辑的，通常不会直接与用户交互。

我们现在深入学习SOA的具体设计模式。SOA架构中的设计模式主要是指导服务如何设计、实现、部署和管理，确保服务的松耦合、高可用性、扩展性和复用性。SOA常见的设计模式可以分为以下几类：服务层次设计模式1.1. 基础服务（Fundamental Service）基础服务提供核心的功能，通常是企业的基本业务能力。例如，订单处理服务、客户管理服务等。这些服务是面向具体业务逻辑的，通常不会直接与用户交互。

面向服务架构（SOA，Service-Oriented Architecture） 是一种通过服务的方式来组织和使用分布式能力的架构风格，目的是使系统内各个模块能够以松耦合的方式进行交互。SOA通过将业务功能和服务解耦，赋予了企业更高的灵活性和可扩展性，使其能够快速应对变化的业务需求。SOA架构设计的整体介绍SOA是一种通过标准协议和接口将功能模块封装为“服务”的架构，它允许不同的系统和应用通过服务来进行通信，而不依赖于它们的底层实现。

今天全程当了吃瓜群众，攻击带来的影响不小，对于AI圈吃瓜的影响力也不小。最新的消息是这个：一失足成千古恨，今天这样的反转再反转反而让事情更加戏剧化，影响力更大。下面给不了解情况的朋友做一个事情概况的介绍：在今年，某知名高校硕士生在某大型科技公司商业化技术团队实习期间，因对团队资源分配感到不满，于六月底利用攻击代码破坏了团队的模型训练任务。而这件事情抽象在于他不仅仅是不满，而且是刻意报复。

真的想入门大语言模型，只看这一个文章应该是可以入门的。但是修行下去，还是要靠自己的了！如果你把大语言模型/LLM 当成一门技术来看，那就要看一下这门技术需要什么。基本要求：开发语言：Python, C/C++开发框架：Numpy/Pytorch/Tensorflow/Keras/Onnx数学知识：线性代数、高数、概率、凸优化这些东西我们假定你都已经会了，或者熟练使用了。如果不熟，我建议你自己再学习一下。尤其是数学的几个基本公式，是要学会的。我列一下吧。数学核心内容。