leah126的博客

坚持到了这儿，恭喜你，表示你有做AI大模型工程师的潜力。其实我想说的上面的内容只是冰山一角，刚开始大家不需要多么精通了解这些内容。主要是不断练习，让自己跳出「舒适区」，进入「学习区」，但是又不进入「恐慌区」，不断给自己「喂招」。记住，学习是一个持续的过程。大模型技术日新月异，每天都有新的研究成果和技术突破。要保持对知识的渴望，不断学习最新的技术和算法。同时，实践是检验学习成果的最佳方式。通过实际项目实践，你将能够将理论知识转化为实际能力，不断提升自己的技术实力。最后，不要忘记与同行交流和学习。

坚持到了这儿，恭喜你，表示你有做AI大模型工程师的潜力。其实我想说的上面的内容只是冰山一角，刚开始大家不需要多么精通了解这些内容。主要是不断练习，让自己跳出「舒适区」，进入「学习区」，但是又不进入「恐慌区」，不断给自己「喂招」。记住，学习是一个持续的过程。大模型技术日新月异，每天都有新的研究成果和技术突破。要保持对知识的渴望，不断学习最新的技术和算法。同时，实践是检验学习成果的最佳方式。通过实际项目实践，你将能够将理论知识转化为实际能力，不断提升自己的技术实力。最后，不要忘记与同行交流和学习。

坚持到了这儿，恭喜你，表示你有做AI大模型工程师的潜力。其实我想说的上面的内容只是冰山一角，刚开始大家不需要多么精通了解这些内容。主要是不断练习，让自己跳出「舒适区」，进入「学习区」，但是又不进入「恐慌区」，不断给自己「喂招」。记住，学习是一个持续的过程。大模型技术日新月异，每天都有新的研究成果和技术突破。要保持对知识的渴望，不断学习最新的技术和算法。同时，实践是检验学习成果的最佳方式。通过实际项目实践，你将能够将理论知识转化为实际能力，不断提升自己的技术实力。最后，不要忘记与同行交流和学习。

AI大模型产品经理是一个在人工智能领域中具有关键作用的职位，他们负责策划、开发和管理基于大规模语言模型（如GPT系列、BERT等）的AI产品。他们不仅需要深入理解AI技术的核心原理，还要具备敏锐的市场洞察力和产品管理能力，将复杂的技术转化为用户友好的产品，推动企业在AI领域的创新与发展。

坚持到了这儿，恭喜你，表示你有做AI大模型工程师的潜力。主要是不断练习，让自己跳出「舒适区」，进入「学习区」，但是又不进入「恐慌区」，不断给自己「喂招」。讯飞星火新注册用户都有免费额度，不同模型额度不要，3.5有10万token， 2.0的有200万一年token. 接口是采用websocket。api接口都是典型chat模式，提供不同的角色信息，system，user和assistant， 多轮对话在history中拼接会话信息。祝愿你在AI大模型的学习之旅中取得丰硕的成果，开启属于你的AI大模型时代！

因此，从来没有一种技术能够像大模型这样同时深入到这么多领域，并且大模型支持跨平台操作，也支持开源，拥有丰富的预训练模型。尤其随着人工智能的持续火热，大模型 在学术界和工业界的关注度持续攀升，越来越多的技术爱好者、行业关注者也都开始学习和应用大模型。但通过学习大模型，你可以不断提升自己的技术能力，开拓视野，甚至可能发现一些自己真正热爱的事业。虽然大模型在底层运算上可能不如一些特定的算法快速，但大模型清晰的结构和强大的能力能够解放开发者的大量时间，同时也能方便地与其他技术（如传统机器学习算法）结合使用。

这里我分几个方面来进行对比吧。首先是知识层面，这个应该是RAG使用者最关心的。RAG对知识的更新时间和经济成本更低。不需要训练，只需要更新数据库即可。RAG对知识的掌控力会更强，相比微调更不用担心学不到或者是遗忘的问题。但是如果模型强缺乏某个领域的知识，足量数据的微调才能让模型对该领域有基本的概念，如果不具备领域知识基础，RAG仍旧无法正确回答。然后是具体任务效果的问题。RAG相比微调能更容易获得更好的效果，突出的是稳定性、可解释性。

大模型 Agent，作为一种人工智能体，是具备环境感知能力、自主理解、决策制定及执行行动能力的智能实体。简而言之，它是构建于大模型之上的计算机程序，能够模拟独立思考过程，灵活调用各类工具，逐步达成预设目标的智能存在。Agent 是 AI 大模型应用的主要新形态，在技术架构范式也发生了很大的变化，从面向过程的架构变成了面向目标架构。**2**_—_

2022年末，ChatGPT一经推出即火爆全球，作为一款自然语言处理(Natural Language Processing，NLP)大模型，ChatGPT在意图理解和内容生成上，表现出了令人惊叹的性能。2023年初，ChatGPT的升级版GPT-4引入了对图片、语音的支持等多模态能力，多项考试分数已经超越了大部分人类。2024年初，OpenAI发布文生视频大模型Sora，在全球视频大模型领域取得里程碑式进展。

大家好，我是花哥。宣布一个大消息，本号改名为【】了，以更贴近公众号的定位，还请关注下~本文我们聊一聊深度学习模型的发展历史及原理。：在20世纪40年代，心理学家Warren McCulloch和数学家Walter Pitts提出了M-P模型。这是最早的神经网络模型，基于生物神经元的结构和功能进行建模。M-P模型通过逻辑运算模拟了神经元的激活过程，为后续的神经网络研究奠定了基础。：1949年，心理学家Donald Hebb提出了Hebb学习规则，该规则描述了神经元之间连接强度（即权重）的变化规律。

一、应用场景。

👀👀当人类的视觉系统察觉到一个物体时，通常不会从头到尾地扫视整个场景；一般会根据个人的需求集中关注特定的部分。比如下面这张图，我们第一眼应该是看到一只动物，然后，眼睛会先注意到动物的脸，然后得出初步结论，这应该是一只狼；就像右边注意力图所示，颜色更深的部分表示一般是我们人类最先看见（注意）的。注意力最早应用在机器视觉领域（CV，Computer Vision），后来才应用到 NLP 和 LLM 领域。是一种机制，允许模型在处理一个输入序列时，关注该序列中任意位置的其他元素。

2022年末，ChatGPT一经推出即火爆全球，作为一款自然语言处理(Natural Language Processing，NLP)大模型，ChatGPT在意图理解和内容生成上，表现出了令人惊叹的性能。2023年初，ChatGPT的升级版GPT-4引入了对图片、语音的支持等多模态能力，多项考试分数已经超越了大部分人类。2024年初，OpenAI发布文生视频大模型Sora，在全球视频大模型领域取得里程碑式进展。

从大模型的激烈竞争，到小模型的崭露头角，再到如今大、小模型相结合的新趋势。近几年，人工智能领域正经历爆发式的发展，并逐渐渗透到各行各业，重塑着我们的生活方式和工作模式…模型越大越好？近年来，大模型发展迅速，以其出色的性能，在语音识别、自然语言处理、图像识别等多个领域取得了显著成果。这些大模型通过深度学习技术，能够处理海量的数据，并从中提取出有价值的特征和信息，为各种应用场景提供强大的支持。特别是在金融、医疗、教育等行业，大模型的应用已经逐渐深入到核心业务领域，成为推动企业创新发展的重要动力。

前不久魔兽世界国服回归，突然之间我又怀念起艾泽拉斯大陆的冒险，于是开始申诉找回账号，各种失败（战网交互流程和服务设计是真有问题）。万念俱灰下打算让当年的老战友带我开个新号，结果他跟我说：玩原神吧！魔兽世界已经弃坑很久了。《原神》，米哈游公司的神作，以其极具创新性的游戏性、宏大精巧的世界观和出色的二次元风格美术设计，在全球范围内赢得了广泛的赞誉和庞大的玩家群体。然而就在 2024 年 8 月 29 日，米哈游创始人蔡浩宇的一番公开发言引发了行业的广泛关注和深刻思考。

AI大模型是指具有巨大参数量的深度学习模型，通常包含数十亿甚至数万亿个参数。这些模型可以通过学习大量的数据来提高预测能力，从而在自然语言处理、计算机视觉、自主驾驶等领域取得重要突破。AI大模型的定义具体可以根据参数规模来分类。根据OpenAI的分类方法，可以将AI模型分为以下几类：小型模型：≤ 1百万个参数中型模型：1百万 – 1亿个参数大型模型：1亿 – 10亿个参数极大型模型：≥ 10亿个参数其中大型模型和极大型模型可以被视为AI大模型。

半个月前，粗心的我细心地发现，有一本关于 Agent 的书籍竟然在上市预售，作者还是熟悉的咖哥（黄佳老师，当年拜读过他的《零基础学机器学习》）果断下单。而在昨天，我终于收到了！立刻花了半个小时品读起来~觉得还是非常不错的，所以忍不住给大家分享推荐一下！咖哥的写作习惯与咱们公号类似，，妙趣横生，非常适合小白。全书一共有九章，涉及丰富内容，大纲如下。，就像书名所说的，相当一部分都是代码教学而非枯燥的理论研究，我认为即使是代码小白，也能跟着步骤一步一步用代码实现一个 Agent！

做大模型一年半，经历了无数场面试。经验我最常听到的候选人（尤其是学生）的说辞是：我没有大模型经验，可以给个机会吗？答案是，我们并不看重候选人的大模型训练经验。这里不是说经验不重要，而是大部分人的经验没有意义。只有头部大模型公司的核心骨干的经验才有意义，而这和绝大多数人选无关（e.g.: 校招/实习常见的简历是微调 LLaMA 7B，社招常见的简历是各个公司自己的 XX 大模型）。事实上，平平无奇的大模型经验反而是扣分项。

在掌握机器学习之前，理解支撑这些算法的基本数学概念非常重要。：这是理解许多算法（特别是深度学习算法）的关键。主要概念包括向量、矩阵、行列式、特征值和特征向量、向量空间以及线性变换。：许多机器学习算法涉及到连续函数的优化，这需要理解导数、积分、极限和级数。多变量微积分以及梯度的概念也很重要。：这些知识对于理解模型如何从数据中学习并进行预测至关重要。主要概念包括概率理论、随机变量、概率分布、期望、方差、协方差、相关性、假设检验、置信区间、最大似然估计和贝叶斯推断。有的时候临时抱佛脚也是可以的。

为了科学地评估模型的表现，必须设置合适的评估指标。不同任务需要不同的指标，常见的评估指标包括准确率、精确率、召回率和F1值。本文详细探讨了大模型项目中的模型设计环节。模型设计需要全面理解问题、选择合适的算法、设计模型架构、设置超参数并定义科学的评估指标。希望通过本文的讲解，读者能够在实际项目中更好地进行模型设计和优化。未来的文章将继续探讨模型调试、优化以及部署的最佳实践。

首先，课程应该从AI大模型的基础介绍开始，帮助学员建立对大模型的直观和基础理解。这一点在腾讯云发布的课程大纲中得到了体现，强调了原理、实践和认知三个方面[15]。通过这样的基础介绍，学员能够对AI大模型有一个初步的了解，为后续深入学习打下坚实的基础。2.

2017 年，Google 在论文 《Attention is All you need》 中提出了 Transformer 模型，其使用 Self-Attention 结构取代了在 NLP 任务中常用的 RNN 网络结构。相比 RNN 网络结构，其最大的优点是可以并行计算。本文将从模型总体结构、自注意力机制（Self-Attention）详解、多头注意力机制这三部分来介绍Transformer的具体实现。图一 Transformer 模型架构图一的左边是编码器，将输入部分首先进行。

在当今人工智能飞速发展的时代，众多强大的 AI 大模型如璀璨星辰般涌现。从专业的写作辅助工具秘塔 AI，到国内广为人知的文心一言、通义千问大模型等；从科技巨头腾讯的混元 AI 模型、字节跳动的豆包 AI 模型，到商汤的商量 AI 模型等，每一个都独具特色，拥有广阔的发展前景。

转行做大模型所面临的机会和挑战，以及如何把握和应对，如：转行做大模型所面临的机会主要有：大模型是AI领域的一个重要趋势，具有强大的泛化能力和适应能力，在多个任务和领域上表现出惊人的成就。大模型可以利用海量的数据来学习通用的知识和能力，从而在多个场景和需求上提供高效的解决方案。大模型可以带来更好的用户体验和商业价值，在各个行业和领域中创造更多的创新和变革转行做。大模型所面临的挑战主要有：大模型需要海量的数据和计算资源来训练和运行，对于硬件设备、网络带宽、存储空间等方面有很高的要求。

在人工智能的浪潮中，大模型技术以其强大的学习能力和推理能力，正在逐渐改变我们的工作和生活方式。那么，大模型究竟是什么？它能做什么？不能做什么？其应用的边界在哪里？背后的原理又是什么？它的商业化如何？基于大模型的智能体是什么？‍‍‍‍它的商业化情况如何？‍01基于大模型的智能体是什么？基于大模型研发的智能体（Agent）通常是指利用大型语言模型（如GPT、BERT等）作为核心组件，构建的能够执行特定任务、与环境交互并做出决策的人工智能系统。这些智能体通常具备以下特点：

👆👇********关注我,可以获取高清PDF原文**

这本书的独到之处在于：①全面涵盖：带你从文档提取一路学到相似度搜索，覆盖文档搜索的每个核心环节，确保你能全面掌握关键技术。②深入剖析：每个环节都不是浅尝辄止，而是深入技术核心，还有实际案例让你看到怎么在项目中运用。③技术前沿：不只教你老一套，还带你了解大模型问答等前沿技术在文档搜索中的应用，让你紧跟技术趋势。④简单易懂：讲的都是大白话，专业术语和复杂数学都靠边站，新手也能一看就懂，一学就会。实用又易懂！

这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取。因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取。

场景：你正在参加腾讯 AI 产品经理的职位面试。面试官是一位经验丰富的产品总监。1、您如何理解 AI 产品经理的角色，以及您认为这个角色在腾讯 AI 战略中扮演着怎样的作用？回答思路：展示你对 AI 产品经理职责的理解，包括市场调研、用户需求分析、产品设计、开发管理、数据分析等。结合腾讯的 AI 战略，例如腾讯云 AI、腾讯 AI Lab 等，阐述你认为 AI 产品经理在推动腾讯 AI 战略落地、打造 AI 产品生态中的重要作用。

AI大模型的广泛应用正在深刻改变电商行业的生态，从技术驱动到商业模式的创新，AI为电商企业提供了前所未有的机会。通过深度学习、自然语言处理、计算机视觉等技术，AI不仅提升了用户体验，还显著提高了行业效率和企业盈利能力。随着AI技术的不断进步，电商行业将迎来更加智能化和个性化的发展模式。企业唯有积极拥抱AI技术，抓住这一变革中的机遇，才能在激烈的市场竞争中立于不败之地。

这两天看大模型微调的材料，发现这个概念是个筐，里面装的东西很多很多。比如之前认识到的，其实它是一种指令微调，是众多微调方式中的一种。也就是说通过指令微调，GPT可以Chat了。所以，微调是微调的GPT，ChatGPT是微调GPT的结果，而不能理解为在ChatGPT基础上进行微调（虽然这种理解在某种层面或某些实际应用上也是对的）。大模型通过预训练掌握语言结构，学会了说人话，表现形式是文字接龙。这种接龙是一种“没有感情”、“没有智慧”的机械行为。

假如我们有一个AI大模型，比如GPT2。此时我们向模型输入，“[cls]、今、天、天、气、真”，一共6个字(单词)。我们希望模型基于这6个字，生成第7个字。此时，模型会输出第7个字，是“的”字。这里要需要特殊说明：最开始的[cls]，是一个特殊标记；它用于标记句子的起始位置；模型需要基于一些特殊的标记来进行计算。现在不太理解也没关系，可以暂时忽略这个cls标记。接着，我们要生成第8个字。对于第8个字的生成，就会依赖初始输入的6个字，与刚刚生成的第7个“的”字。

本课程刘博士将带领学员从四个部分来系统学习大模型技术。内容不但设计了对于历史背景，关键概念，行业应用等内容，而且还设计了专门的动手环节，让用户可以自己动手完成大模型技术的上手体验。具体目录如下大模型工程师Level 1 Course （2day）

01企业对于AI大模型的需求正以前所未有的速度增长，而这背后的原因不仅仅是为了追赶潮流，更是因为AI大模型能为企业带来切实的商业价值。：通过AI大模型，企业可以大幅提升员工的综合能力和产值，减少人工重复劳动，从而有效降低运营成本。：AI大模型为企业提供了重新设计和改良产品的机会，提升用户体验，使产品更具竞争力。：行业大模型能够在相对较小的参数量下，通过低成本的再训练或精调，获得卓越的性能效果。这意味着企业可以以更少的投入，获得更高的回报。

似乎有点标题党，我自然也没有资格讲初代 AGI 产品经理，但和关注 AGI 的大量朋友交流后，发现似乎现在也很少人讲，于是在一位资深科技媒体编辑的怂恿下，把近期自学心路历程写下来，抛砖引玉。经典的三问应该是：什么是AGI、什么是AGI产品经理？为什么要学习成为AGI产品经理？如何成为AGI初代产品经理？这些问题当然有价值，但既然大模型的一切都未知——绿洲资本张津剑有一句很漂亮的话，「」——我们也可以不按常理出牌。本文主要话题：为什么大语言模型如火如荼的今天， Killer App 还没跑出来？

对于企业而言，构建一个符合自身业务需求的知识库是至关重要的。通过RAG、微调等技术手段，我们可以将通用的大模型转变为对特定行业有着深度理解的“行业专家”，从而更好地服务于企业的具体业务需求。这样的知识库基本上适用于每个公司各行各业，包括：市场调研知识库、人力资源知识库、项目管理知识库、技术文档知识库、项目流程知识库、招标投标知识库等等。第一、离线的知识数据向量化•加载：通过文档加载器（Document Loaders）加载数据/知识库。•拆分：文本拆分器将大型文档拆分为较小的块。便于向量或和后续检索。

1️⃣【AI的产品形态到底是什么】？没有固定形态。实际上AI只是一种对传统产品或服务赋能的手段而已，将各种“中间件”（通常是一种训练好的模型，当输入一定数据后自动返回一定的输出值）、传感器等不同形式的软件、硬件融入传统产品或服务的使用或体验流程中。AI只是一种工具而已，产品的终极目标仍然不变为用户创造最大价值，提供最佳用户体验。2️⃣【AI产品的三要素】算法+计算能力 +数据3️⃣【AI产品经理核心能力】人工智能技术+行业认知+数据分析+产品设计+项目管理+商业认知。

工具使用对智能体而言至关重要，它不仅显著扩展了智能体的能力范围，使其能够高效执行如实时信息获取、复杂数据分析等高级任务，还提升了任务精度和用户体验的丰富性；此外，工具的集成增强了智能体的适应性和可扩展性，使其能够在不断变化的环境中保持灵活更新，从而更好地满足多样化的用户需求。工具使用（也称函数调用）是指通过定义和调用外部工具或函数来扩展大模型的能力。我们可以让大模型访问一组预定义的工具，它可以在任何时候调用这些工具。工具允许我们编写代码，执行大模型无法完成的特定任务或计算。

随着大模型的迅猛发展，LLM 作为人工智能的核心力量，正以前所未有的方式重塑着我们的生活、学习和工作。无论是智能语音助手、自动驾驶汽车，还是智能决策系统，大模型都是幕后英雄，让这些看似不可思议的事情变为可能。本文将从以下5个方面介绍大模型相关内容：1. LLM基础知识3. RAG的应用4. Agent的应用5. 多模态模型1. LLM基础知识1.1 LLM基本概念从字面意思来讲，LLM 是 Large Language Model 这三个单词的首字母缩写，意为大语言模型。

（2024年的今天，RAM的读取和写入时延一般在100ns的数量级，而100ns够GPU的每个cuda core都完成100次左右的运算），所以谷歌不惜成本的在芯片上放了巨大的内存。由于深度学习的基本操作是神经元和突触的处理，而传统的处理器指令集（包括x86和ARM等）是为了进行通用计算发展起来的，其基本操作为算术操作（加减乘除）和逻辑操作（与或非），往往需要数百甚至上千条指令才能完成一个神经元的处理，深度学习的处理效率不高。突触权重通常是实数，可以正可以负，表示神经元之间的连接强度。