- 博客(763)
- 收藏
- 关注
RSS订阅
原创 全新发布！大模型LLM学习路线图：全面掌握学习路径，非常详细收藏我这一篇就够了
ChatGPT的出现在全球掀起了AI大模型的浪潮，2023年可以被称为AI元年，AI大模型以一种野蛮的方式，闯入你我的生活之中。从问答对话到辅助编程，从图画解析到自主创作，AI所展现出来的能力，超出了多数人的预料，让不少人惊呼：“未来是属于AI的”。AI大模型——成为互联网从业者必备技能。
2024-08-11 19:00:00
2463
原创 大模型引领机器学习未来：探索趋势与多元化应用
在过去的几年里，机器学习大模型（Large Models）成为了人工智能领域最热门的话题之一。这些大模型通过大规模数据训练，展现出前所未有的能力，推动了自然语言处理、计算机视觉等领域的飞速发展。本文将详细探讨机器学习大模型的基本概念、技术实现、应用场景以及未来的发展趋势。机器学习大模型，通常指的是包含数十亿甚至上千亿参数的深度学习模型。与传统的小规模模型相比，大模型通过大规模数据和计算资源进行训练，能够更好地捕捉复杂的数据模式和特征。
2024-07-13 10:28:53
1451
原创 LLM系列：KVCache及优化方法
KV cache的峰值显存占用大小: b(s+n)∗h∗l∗2∗2=4blh(s+n)b(s+n)∗h∗l∗2∗2=4blh(s+n)b(s+n)∗h∗l∗2∗2=4blh(s+n)，输入序列长度s，输出序列长度n，第一个2表示k/v cache，第二个2表示fp16占用2个字节，transformer模型的层数为l，隐藏层维度为h。按查询头Q分组，每个组共享一个K和V。如下以GPT2结构第i层推理过程为例，分析KV Cahche计算过程，其中WQi，WKi，WVi，WOi，Wupi，WdowniW_Q。
2024-07-01 12:00:00
2524
原创 吴恩达AI系列：教你如何用Langchain封装一本书
编辑吴恩达（英语：Andrew Ng，1976年4月18日—）是斯坦福大学计算机科学系和电气工程系的客座教授，曾任斯坦福人工智能实验室主任。2011年，吴恩达在谷歌创建了谷歌大脑项目2014年5月16日，吴恩达加入百度，负责“百度大脑2017年12月，吴恩达宣布成立人工智能公司Landing.ai，担任公司的首席执行官。
2024-06-27 10:17:28
2647
原创 ollama实战：搭建你的本地中文大语言模型全攻略！
说到ai,大家应该不陌生了，它应该是目前最火的研究方向之一了，下面是目前比较流行的一些ai(人工智能大模型):openai的chatgptgoogle的GemmaAnthropic的Claude月之暗面的kimi阿里的通义千问百度的文心一言字节跳动的豆包但今天聊的是ollama这个开源框架加上开源模型来实现自己本地的ai。
2025-02-20 19:39:28
459
原创 人工智能大模型应用场景盘点：61个案例，你了解几个？
随着科技的飞速发展，人工智能（AI）已经成为推动社会进步的重要力量。其中，人工智能大模型作为AI领域的璀璨明珠，凭借其强大的处理能力和广泛的应用场景，正逐步改变着我们的生活和工作方式。本文将详细探讨人工智能大模型在自然语言处理、城市治理、自动驾驶、智慧医疗等多个领域的61大应用场景。
2025-02-20 10:36:49
668
原创 大模型效率提升指南：Prompt工程全攻略与15+框架应用！
APE 框架提倡将用户的请求分解为三个主要部分：行动、目的和期望。这种分解方法使得与大模型的交互更加明确和高效。**行动 (Action)：**定义需要完成的特定任务、行动或活动。这是框架的第一步，旨在明确要执行的具体任务或活动。**目的 (Purpose)：**讨论意图或目标。这部分是为了解释为什么要执行这个特定的任务或活动，它的背后意图是什么，以及它将如何支持更大的目标或目标。**期望 (Expectation)：**陈述期望的结果。
2025-02-20 10:33:32
466
原创 Chroma+Ollama实战：构建本地RAG应用的全过程解析！
LLM) 是通过使用海量的文本数据集（书籍、网站等）训练出来的，具备通用语言理解和生成的能力。虽然它可以推理许多内容，但它们的知识仅限于特定时间点之前用于训练的数据。是一个用于开发由大型语言模型（LLM）驱动的应用程序的框架。提供了丰富的接口、组件、能力简化了构建LLM应用程序的过程。[Ollama]是一个免费的开源框架，可以让大模型很容易的运行在本地电脑上。RAG）是一种利用额外数据增强LLM知识的技术，它通过从外部数据库获取当前或相关上下文信息，并在请求大型语言模型（LLM。
2025-02-20 10:30:55
363
原创 大模型时代框架指南：训练、微调、推理、部署的超常用法！
动态图优先的深度学习框架，以灵活性和研究友好性著称。动态计算图（即时执行）。张量计算、自动求导、分布式训练。与Python深度集成，调试便捷。支持GPU加速和混合精度训练。生产部署需依赖TorchScript/ONNX。训练速度较静态图框架（如TensorFlow）略慢。：⭐️⭐️⭐️⭐️⭐️（适合快速原型开发）。：学术研究、模型实验、小规模训练。。：与Hugging Face、ONNX、TensorBoard集成，社区庞大。：高性能AI推理服务器，支持多框架、多硬件部署。动态批处理、并发模型执行。
2025-02-20 10:27:24
383
原创 程序员转行大模型：系统学习路线与转行攻略（4000字）_大模型学习攻略2025最新
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2025-02-19 15:15:23
741
原创 AI产品经理必备技能与职业发展路径，人人都可以转行AI产品经理！这里整理全了
如果你还是一个未毕业的在校生，其实想要成为一个AI产品经理最直接的方式就是找对应的实习，实习的要求相对是最低的，然后通过实习经验作为筹码，校招时找对应的AI产品经理岗位。传统的互联网产品经理不懂技术是可以成为一名优秀的产品经理，但是对于AI产品经理来说完全不懂技术，只具备产品经理应有的沟通能力、协调能力、项目管理能力等是很难成为一名优秀的AI产品经理的。网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。
2025-02-19 15:10:49
691
原创 清华大学DeepSeek三件套全网疯传！三本秘籍打包分享（附完整下载）
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2025-02-19 15:07:08
554
原创 DeepSeek + RAGFlow私有化部署指南：技术小白也能轻松上手
这期内容分享下在我们个人本地电脑私有化部署 DeepSeek R1 + RAGFlow，也想观察下在没有GPU的机器上跑起来体验如何？这期分享全程操作的干货内容，言简意赅，不要怕学不会，现在部署大模型已经很简单了。照着我说的一步步做，一定能成功！以上环境相信大部分朋友都具备。远程连接虚拟机，准备下载RagFlow⑥ 配置模型提供商我英文水平一般，先切换到中文，哈哈点击头像，找到左侧模型提供商找到ollama，点击添加模型参考我这图上面配置就行，一看就懂哈。
2025-02-19 15:04:48
381
原创 普通人也能轻松训练AI：快速搭建Dify和DeepSeek的指南
01背景AI已然成为当今的热门话题。过去，由于私有化部署成本极高，大多数使用者仅停留在简单的问答阶段，极少有人尝试训练大模型。然而，随着DeepSeek R1的问世，其部署成本仅为chatGPT的十分之一，这让许多企业和个人看到了参与的希望。未来，必将有越来越多的垂直领域AI大模型或应用出现，这或许是一个巨大的机遇。那么，普通人要如何参与呢？要如何训练自己的AI呢？本文将介绍一种简单且无需编写代码的方法，帮助您轻松训练AI应用。02Ollama的安装。
2025-02-19 15:02:49
474
原创 大模型自学真相：唤醒迷茫者的警钟，一般人我劝你不要自学AI大模型！
但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2025-02-18 10:26:49
1003
原创 AI产品经理转行大模型全攻略：从入门到进阶
如果你想转行做大模型，作为一名AI产品经理，你可以怎么做呢？或许，你可以先进行自我检测，看看自己是否真的适合转行做大模型。这篇文章里，作者便给想转行做大模型的AI产品经理们提出了一些建议，不妨来看看吧。作为一个产品经理，你可能已经熟悉了一些常见的AI技术和应用，比如机器学习、深度学习、自然语言处理、计算机视觉等。但是，你是否了解什么是大模型？大模型又有什么特点和优势？为什么大模型会成为AI领域的一个重要趋势？如果你想转行做大模型，你需要具备哪些基本素质和技能？你又该如何评估自己是否适合这个领域？
2025-02-18 10:23:50
683
原创 2024年大模型落地进展回顾：434个大模型案例解析
2022年底，ChatGPT横空出世，引发世界范围内对大模型的关注；2023年，是中国大模型的发展“元年”，百模大战拉开序幕；2024年，则是更多企业真正开始使用大模型技术并从中获得业务价值的一年。在过去的2024年，沙丘智库《[大模型应用跟踪月报]》采取按月更新的方式，通过企业调研、公开信息等多种渠道，，旨在帮助企业及时了解大模型应用的最新进展，调整战略规划，确保技术投资与未来的发展方向一致。**与2023年相比，2024年金融行业依然是落地案例占比最高的行业。
2025-02-18 10:21:27
687
原创 WPS丝滑接入Deepseek保姆级教程
方法一：带插件版本第一步：下载插件并且安装（下载地址：https://www.office-ai.cn/static/introductions/officeai/smartdownload.html）安装完成之后，打开wps——文件——选项——信任中心——受信任加载项打开后，右侧侧边栏，打开，设置API。敲黑板：此刻，我们应该回到硅基流动，复制自己的API。粘贴进来。（这一步不会，请参考我上一个教程。
2025-02-18 10:19:27
341
原创 大模型在自动量化交易中的应用：从专家决策中学习，实现47.98%的累计收益
利用强化学习（RL）开发有效的量化交易策略是一项具有挑战性的任务，因为与实时金融市场的在线互动存在高风险。因此，利用历史市场数据而无需额外探索的离线强化学习变得至关重要。然而，现有的离线RL方法常常难以捕获复杂的时间依赖项。金融时间序列固有的风险，可能与历史模式过拟合。为了解决这些挑战，我们引入了一个用预训练的GPT-2权重初始化并使用LoRA进行优化的DecisionTransformer （DT）。利用了预训练语言模型的泛化能力和LoRA的效率来学习有效的交易策略。仅从历史数据中获得专家轨迹。
2025-02-18 10:17:58
838
原创 Python AI大模型开源库揭秘：9个程序员尚未知晓的宝藏
AI 大行其道，Python 作为 AI 开发最炙手可热的编程语言，也水涨船高。各位作为 Python 开发者怎么能不了解一下 Python 相关的 AI 开源库呢？以下我就为大家列出了一些目前还鲜为人知的 AI 开源库，有几个还真不错哦。
2025-02-17 18:42:22
625
原创 Llama 3.1部署与使用大全：从本地到远程的全方位指导
Llama 3.1 是 Meta（Facebook 的母公司）发布的一系列最先进的开源大语言模型。Llama 3.1 系列包括 8B（80 亿参数）、70B（700 亿参数）和 405B（4050 亿参数）模型。其中，405B 是 Meta 迄今为止最大的模型。
2025-02-17 18:40:06
724
原创 大模型应用开发入门：Git教程带你亲自动手实践模型微调
动手学大模型应用开发」是一个面向小白开发者的大模型应用开发教程，以个人知识库助手项目为实践目标，通过这个项目完成大模型开发的重点入门。大模型简介，何为大模型、大模型特点是什么、LangChain 是什么，针对小白开发者的简单介绍；如何调用大模型 API，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装；
2025-02-17 10:23:58
1052
原创 AI大模型面经汇总，实在太全面了！其实大模型二月份面试的风向已经悄悄变了...
1.上来没有自我介绍2.直接介绍NeurIPS论文，中间穿插着一些提问3.说一下Transformer的整体结构4.了解有哪些位置编码方式吗5.说一下LLaMA中的旋转位置编码6.算法题：经典的求平方根，牛顿迭代法秒了7.算法题：判断一个字符串能否由另一个字符串旋转而来，比如abcd旋转后可以变成dabc或者bcda等，写完后面试官要求O(1)，临时没想出来8.详细说了快手的用户推荐算法实习，主要做了些什么9.你的NeurIPS论文能和推荐那边结合起来吗。
2025-02-17 10:21:09
757
原创 大模型应用落地的两大瓶颈：机器欺骗与机器幻觉
大模型的“机器欺骗”与“机器幻觉”是当前生成式人工智能（如GPT-4、DS等）面临的核心挑战，深刻影响着其可信度与实用性。严格意义上说，这是多内层神经网络中非线性复合函数带来的必然结果，也是影响各种大模型应用落地的因素之二。一、机器欺骗（Machine Deception）模型生成看似合理但实际虚假、误导性内容，且可能刻意掩盖其不确定性。如虚构不存在的学术论文引用，或对自身能力进行夸大描述。典型场景表现为问答系统中编造权威数据；主动回避（甚至诱导）敏感问题而非承认知识盲区；模仿人类情感以获取用户信任。
2025-02-17 10:16:52
975
原创 21天搞定AI提示词 | 提示词工程&RAG&微调：三种方式如何发挥语义大模型（LLM）的最大性能？
Prompt工程概念：这是一种通过输入文本指令让AI大模型按照要求输出期望结果的技术。快速构建应用和性能基准提示词是调用AI大模型能力的接口，通过结构化精心设计的提示词可以大大提高大模型的准确性和相关性。相比其他技术，通过提示词工程优化LLM性能的门槛更低、成本也会更低。在优化LLM性能的过程中，提示词工程要做的第一件事就是：基于提示词工程快速建立应用原型，并且以此为性能参考基准，用于后续优化性能对比。
2025-02-17 10:12:45
839
原创 大模型训练/微调硬件指南
是Java生态下企业级AIGC项目解决方案，集成RBAC和AIGC大模型能力，帮助企业快速定制AI知识库、企业AI机器人。Gitee AI / 阿里通义 / 百度千帆 / DeepSeek / 抖音豆包 / 智谱清言 / 零一万物 / 讯飞星火 / OpenAI / Gemini / Ollama / Azure / Claude 等大模型。人工智能的快速发展导致了大型语言模型 (LLM) 的出现，这些模型能够解决复杂的任务并推动整个行业的创新。然而，训练和微调这些模型需要大量的计算能力。
2025-02-17 10:10:57
968
原创 零基础也能精通：AI大模型学习完整攻略，非常详细收藏我这一篇就够了！
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2025-02-16 15:50:15
966
原创 大模型正重塑医疗健康体系
2022年11月美国科技公司OpenAI推出ChatGPT 3.5聊天机器人。该聊天机器人基于Transformer深度学习架构、采用预训练方式获取语言知识。由于其参数量巨大、神经网络层结构复杂，因此被称为大语言模型。随后衍生出ChatGPT系列若干版本，朝向能形成更完整的思维链条，具备更强计算和推理能力的大型多模态模型演进。随着ChatGPT的出现，各国研发训练大模型的竞赛日趋激烈。我国的国产大模型积极赶超，并将医学作为重要领域。
2025-02-16 15:47:23
536
原创 Qwen2.5-VL揭秘：为何它是当前最强大的多模态大模型？
这版模型增强了对于文档的解析和问答效果，可以一定程度上替代OCR模型的使用，也具备关键信息提取的能力，同时能够实现格式化输出。表格解析和文档解析可能会有丢失格式的情况，在文档解析中，原始文档中的图片是没法复原的。这个过程可能也与提示词有关，或者需要多轮交互让模型输出正确的样式。
2025-02-16 15:44:36
864
原创 大动作，满血 DeepSeek，首次接入 iPhone！
根据彭博社最新消息，目前基本可以确定，国行 iPhone 最快在5 月推出 Apple Intelligence。其中，阿里巴巴是苹果的核心合作伙伴，负责 iPhone、iPad、Mac 的本地端侧 AI 开发，并对内容进行过滤，可以理解为“安全员”。而百度负责视觉识别、图像识别、网络信息检索，可以理解为“情报员”。苹果现在就像是战绩 12-0 的 ADC，胜券在握，一切求稳，连野区都不敢进。苹果当然有它的顾虑，但用户有自己的选择。围绕 AI 功能而开发的快捷指令，依然有巨大的价值。
2025-02-16 15:42:44
448
原创 deepseek本地部署最简教程——搭建最强AI搜索引擎
Page Assist 是实现 AI 搜索引擎的关键技术，充当了 DeepSeek 与互联网之间的桥梁。它是一款开源的浏览器扩展，旨在为用户提供便捷的本地 AI 模型交互方式。通过该扩展，用户可以在任何网页上开启一个侧边栏（即“sidebar”），与本地运行的 AI 模型进行互动。Page Assist 支持多种浏览器，包括 Chrome、Brave、Edge 和 Firefox。当然，Page Assist 还有其他功能，如文件管理功能，实现聊天共享（需自建服务器）等，这里就不再赘述，各位请自行探索。
2025-02-16 15:41:23
750
原创 保姆级大模型零基础教程：2025从入门到精通全攻略（附100+代码+50个实战案例）
大模型，是指在人工智能领域，特别实在自然语言处理和机器学习中，拥有大量参数的深度学习模型。这些模型通过在大规模数据集上进行训练，能够学到丰富的数据表示和模式，从而在各种任务上表现出色，如文本生成，语言理解，图像识别等。大模型是具有大量参数和复杂结构的模型，这些模型通常具数十亿甚至数万亿个参数，能够处理大规模的数据和复杂的任务。通常使用深度学习技术，如深度神经网络，可以从数据中学习并提取特征来执行各种任务。
2025-02-15 11:18:44
792
原创 清华大学：普通人如何抓住DeepSeek红利2025
DeepSeek 是专注通用人工智能的中国科技公司，其 DeepSeek - R1 模型擅长复杂任务且可免费商用，性能与 OpenAI - o1 正式版相当，经强化学习技术提升推理能力，能提供智能对话、文本生成等多领域应用，支持联网搜索与深度思考，可读取多种文件文字内容。
2025-02-15 11:13:42
705
原创 最全 Ollama 大模型部署指南，非常详细收藏我这一篇就够了！
•本地化部署：无需依赖云端服务，保护数据隐私•极简操作：命令行一键式管理模型（下载/加载/卸载）•硬件友好：支持多平台运行，智能分配 CPU/GPU 资源•开放生态：兼容主流开源模型及社区工具链。
2025-02-15 11:11:27
2982
原创 大模型新突破：UltraRAG框架如何实现知识库的高效利用？
通常需要兼顾测试制定、检索调优、模型调优等关键环节，繁琐的工作流程往往让人无从下手。，改变传统经验式 RAG 系统的开发与优化方式，极大降低学习成本和开发周期。UltraRAG 不仅具备满足专业用户需求的“单反相机”级精细化配置能力，同时也提供类似“卡片机”的一键式便捷操作，。更重要的是，相比复杂配置的 Llamaindex 等传统 RAG 框架，，有效避免在“模型选型”的反复纠结；同时，其又能为科研需求快速赋能，帮助研究者在多种场景下自由组合、快速迭代。
2025-02-15 11:08:54
869
原创 利用deepseek打造个人知识库(满血版不要求硬件)
最近，国产大模型DeepSeek的本地部署教程在网络上热度颇高，不少人都想亲自体验一把私人 AI 助手的感觉。然而，现实却很残酷➤ 用本地精简版AI模型？就像让小学生做高考题，连简单问答都错误百出普通用户一般选择蒸馏版，其参数从1.5B到70B不等。1.5B模型：通常4GB左右显存即可，如一些只有核显搭配8GB内存的入门级设备就能运行，可进行简单基础任务。8B参数量：正常情况下8到10GB显存比较合适，显卡推荐及以上。14B 模型：需要8GB显存，如果是16G显存的电脑运行14b。
2025-02-15 11:06:15
912
原创 17岁少年4个月AI赚取百万，全民AI产品经理时代已经到来！
随着AI时代的到来叠加经济下行，越来越多的独立开发者梦想着实现年入百万的壮举。近日，这种小概率事件正在发生。17岁高中生做了个AI APP，短短四个月销售额达。小伙儿Zach Yadegari（下面暂称小扎克）在X上炫战绩，引来大量网友围观。小扎克发文表示，Cal AI 的收入超过了百万美元，而达成这一成绩的那一天，刚好是他最后一年高中的开学第一天。他发出了“这是命中注定的吗？”的感慨…这个 App 达成这一成绩，也就运营了 4 个月不到。
2025-02-14 21:56:58
532
原创 Dify私有部署与Ollama强强联合，一键解锁AI生产力，为您打造定制化本地模型！
今天聊聊AI智能体，同时也简单的将 Dify 本地私有化部署，接入 Ollama 部署的本地模型。AI智能体是什么？AI智能体是一种具备AI能力、感知、推理、决策和行动能力的计算系统，它能够自主与环境交互，完成特定任务。能够通过感知环境获取信息，分析并做出决策，然后执行相应的行动，有时还能通过学习不断优化自己的行为，尽可能达到预期结果。Dify 是什么？Dify 它是一个开源 LLM 应用开发平台。
2025-02-14 21:53:57
890
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人