- 博客(425)
- 收藏
- 关注
RSS订阅原创 基于LoRA微调多模态大模型
BLIP-2通过利用预训练的视觉模型和语言模型来提升多模态效果和降低训练成本，预训练的视觉模型能够提供高质量的视觉表征，预训练的语言模型则提供了强大的语言生成能力。如下图所示，由一个预训练的，一个预训练的和一个可学习的Q-Former组成。image.png：负责从输入图片中提取视觉特征。：负责文本生成。Q-Former：负责弥合视觉和语言两种模态的差距，由和两个子模块构成，它们共享相同自注意力层，如下图所示。
2024-05-23 14:56:14
533
原创 如何使用ChatGPT等大模型搞钱，开启你的副业
ChatGPT从2022年年底发布以来，全球已有数以百万企业在使用，通过通用的模型能力，不但可以从各方面提高效率，也可以进行各种前所未有的创新。这是一个新的技术浪潮，就像当年的互联网一样。如果你没抓住这波机遇，那么很有可能不久的将来会被逐步淘汰，或者过得越来越难。现在AIGC越来越成熟，即使不会编程，但只要你有创意、有想法，也可以轻松借助类似ChatGPT的AI生成工具，快速实现创意和想法，轻轻松松的搞钱。
2024-05-23 14:53:17
601
原创 第一批ToB人，已经在用大模型搞钱了！
不信？用数据说话↓刚刚，百度智能云生态大会上发布了一系列“炸裂数据”，着实把我惊呆了。这些数据，首度向业界揭秘了「」服务的客户数、精调的模型数、应用开发数，更重要的是，还有大模型合作伙伴的增长数量。百度文心大模型是国内最火的大模型，而“千帆”则是文心大模型企业级服务唯一入口。大模型将每年给全球带来超过30万亿级的增量市场，其中，也包含用大模型改造的企业级数智化项目，这无疑是一块巨大的蛋糕，让ToB老司机们“心里痒痒”。
2024-05-23 14:51:39
637
原创 AI 大模型在教育行业中的应用
在AI领域，AI大模型指的是具有大量参数、能够处理和理解庞大数据集的先进机器学习模型。这些模型通常是基于深度学习算法构建的，尤其是那些涉及深层神经网络的模型，如CNN（卷积神经网络）、RNN（循环神经网络）和最近非常流行的变换器（Transformer）架构。AI大模型通过从大规模数据集中学习复杂的模式和关系，能够执行包括NLP（自然语言处理）、图像识别、语音识别和生成式任务等在内的多种复杂任务。
2024-05-23 14:47:46
605
原创 必看：大模型如何在金融领域落地？（建议收藏）
金融行业在应用大型计算机模型方面，比其他行业要快得多。这是因为金融行业已经积累了大量的数据，这为大型模型提供了丰富的信息来源。这些模型可以在金融领域做很多事情，帮助提高工作效率。比如，这些大型模型可以分析投资者的情绪，预测股票价格。它们还能通过学习过去的金融数据，来预测未来的市场趋势，帮助投资者和金融机构做出更好的决策。此外，这些模型还能帮助处理复杂的任务，比如分析交易信息，识别风险并提出防范策略。金融世界有很多特别的规则和术语，就像一个秘密俱乐部。
2024-05-23 14:43:43
753
原创 金融大模型，要听见远方的风
金融大模型普遍无法在金融核心业务中进行部署。比如大模型加持的智能客服，不仅无法代替客服人员，还可能出现需要频繁唤醒人工客服，且需要客服重新理解用户需求的现象。而在风控等产业应用侧，大模型虽然表现出了巨大的潜力，但还无法真正处理较为复杂的风险异常。这种情况下，金融大模型很可能在运行一段时间，热度相对褪去之后，又和许多金融科技一样流于边缘化。如何才能突破技术与产业之间的长期壁垒？这可能需要金融大模型听到一些来自远方的风。
2024-05-23 14:41:43
424
原创 干货！如何选选择Ai大模型（LLMs）？
当我们在不断扩大的大型语言模型领域中航行时，很明显，它们的潜力才刚刚开始被挖掘。这一领域的快速创新预示着人工智能可以为我们的工作和创造性努力做出更深远的贡献。展望未来，我认为继续在开源社区中推广 AI 模型、推动造福所有人的进步并确保负责任地使用这些强大工具至关重要。当我们这样做时，希望我们能找到适当的平衡点，在降低风险的同时最大限度地LLMs为社会带来利益。
2024-05-23 14:03:11
656
原创 AIGC产品经理：传统产品经理转型的时代机遇与挑战
今年年初，随着GPT、Midjourney大模型的火爆，也带火了AIGC（人工智能生成内容）的潮流。随之而来的是越来越多的AIGC产品经理的招聘需求。AIGC产品经理是一个崭新的角色，同时也面临着一系列独特的挑战和机遇。到底什么是AIGC产品经理，他和传统的产品经理又有什么不同？就在前几天，我和西坡、小李子对于什么是AIGC产品经理做了一些探讨。（他们都是我的知识星球成员）这是某个大厂招聘需求，乍看一下和传统产品经理的招聘需求还是非常相似：其实，AIGC根据场景和领域不同，对于产品经理的要求也不同。
2024-05-21 18:22:35
808
原创 LLama3最新医疗大模型安装与应用指南
医疗领域的开源 LLM：OpenBioLLM-Llama3，在生物医学领域优于GPT-4、Gemini、Meditron-70B、Med-PaLM-1、Med-PaLM-2OpenBioLLM-Llama3有两个版本，分别是70B 和 8BOpenBioLLM-70B提供了SOTA性能，为同等规模模型设立了新的最先进水平OpenBioLLM-8B模型甚至超越了GPT-3.5、Gemini和Meditron-70B。
2024-05-21 18:21:14
1072
原创 LoRA微调三步骤：以大语言模型MT5为例
LoRA微调三步骤是：Step-1：观察&测试原模型(如MT5)的input和output格式。Step-2：准备Training data，建立自己的Dataset类别，并拿原模型实际训练。Step-3：将LoRA外挂到MT5-Small，并进行协同训练及测试。在本篇文章中，将以MT5-small预训练大模型为例，并以Python源码(Source Code)来说明之。简介LoRA当今大家非常关心于LLM大模型的巨大参数量，带来的很高的训练成本，因而限制了诸多下游任务的应用。
2024-05-17 17:09:31
646
原创 大型语言模型微调入门指南
你可以根据特定的用例，通过微调大型语言模型的方式定制现有通用模型。为了更高效地微调模型，你可以考虑使用 LoRA 或模型分片（使用FSDP等框架）等技术。Modal的Llama和Mistral微调模板实现了许多这类的技术，能够帮助你快速启动分布式训练任务。你可以通过在 Modal 上微调 Llama 2 或Mistral 等开源模型获得一个定制的模型，这样不仅成本和延迟低于现有 API 服务，而且还非常适合自己的需求。
2024-05-17 17:06:38
1053
原创 企业落地大模型的路径选择：微调、RAG、提示词工程
与传统应用不同，模型的输出是不确定的，即使多次问它一样的问题，给出的结果也可能不一样。这种特性对于日常应用业务 OK，但是如果要在企业内用来处理具体业务问题，就必须提高这个稳定性，否则影响生产经营，例如产线操作人员通过模型获取操作步骤或者参数，如果步骤或者数据不对可能会导致产品出现质量问题等等。模型一旦训练好，就无法再补充数据，因此模型不会了解你自己组织内部的年假规定，注意事项。如何让大模型掌握这些数据是另外一个需要解决的问题。
2024-05-17 17:05:14
690
原创 10条提升大模型任务微调效果的tricks
在大型语言模型（LLMs）的研究和应用中，如何通过微调来适应特定任务是一个关键问题。尽管提示工程（PE）在提升LLMs的零样本学习和上下文内学习方面取得了显著成效，但关于如何设计有效的微调样本以进一步提升LLMs性能的研究还相对欠缺。为解决上述问题，提出了，这是一种系统化的方法，旨在通过精细化设计来增强LLMs在特定任务上的表现。
2024-05-17 17:03:57
740
原创 简单几步微调Llama 3大模型，小白轻松上手
这是面向小白用户的一个超级简单的微调大模型示例，通过这个例子将得到一个速度翻倍，并可以包含自己业务知识数据的微调后llama3模型，可用于本地部署构建私有化的AI智能体。very 的 nice首先请准备好google账号和网络环境，这个示例基于goolge colab的免费算力完成。使用浏览器打开上方链接将点击copy to Drive复制笔记到自己账号下的网盘，点击之后弹出新窗口我们就在这个弹出的新窗口操作，界面都是英文不多解释，跟着操作就好点击第一个运行小箭头，安装基础环境，要稍等片刻的时间。
2024-05-17 17:02:36
852
原创 垂直领域大模型微调实践经验最全总结
本篇从基座模型选择、模型整体架构、数据设计、训练微调四个角度总结垂直领域大模型微调经验。本篇将现有垂类大模型微调已公布的实践经验做一个全面的总结，大部分经验实测可推广，大家在自己实践过程中可以进行适当参考。下面是一个快捷目录，其中数据设计和训练微调是重点。1. 基座模型选择2. 模型整体架构3. 数据设计4. 训练微调推荐BLOOMZ模型BLOOMZ 模型系列使用了PILE语料库进行训练，该语料库包含各种医学文本，包括PubMed Central 和 PubMed Abstracts等。
2024-05-17 16:59:56
743
原创 【大模型微调】一文掌握7种大模型微调的方法
本篇文章深入分析了大型模型微调的基本理念和多样化技术，细致介绍了LoRA、适配器调整(Adapter Tuning)、前缀调整(Prefix Tuning)等多个微调方法。详细讨论了每一种策略的基本原则、主要优点以及适宜应用场景，使得读者可以依据特定的应用要求和计算资源限制，挑选最适合的微调方案。大型语言模型(LLM)的训练过程通常分为两大阶段：阶段一：预训练阶段在这个阶段，大型模型会在大规模的无标签数据集上接受训练，目标是使模型掌握语言的统计特征和基础知识。
2024-05-17 16:58:54
573
原创 大模型应用在金融业务领域的发展
大模型在金融领域的应用技术与安全白皮书大模型技术带来了AI的新一轮技术变革和产业应用。构建大模型在金融领域完善的开发框架和应用框架，可助力现有金融业务进行数字化转型。但其应用也面临着诸多风险，需要进行进一步防控。除了针对通用的大模型幻觉风险的防护围栏，还需要针对金融领域的应用进行隐私风险防控、大模型攻击防御、可解释性增强、可溯源性增强以及有害内容防控，从而更好的助力传统金融业务。除此之外，金融领域大模型治理框架的搭建、评测集的构建和人才体系的培养则有利于促进大模型在金融领域的生态体系构建。
2024-05-17 16:57:12
960
原创 大模型在金融行业的应用场景和落地路径
这是最好的时代，也是最坏的时代。尽管大模型技术在金融领域具有巨大的应用潜力，但其应用也面临不容忽视的风险和挑战。本文将深入研究大模型在金融领域的数据隐私和安全风险、模型可解释性和透明度、监管和合 规要求，梳理中国、美国、欧洲等地 AIGC 技术的应用规则，探索对应的风险管理和应对策略。当前，金融科技已经从“立柱架梁”迈入了“积厚成势”新阶段，越来越多的金融机构积极使用数字技术来为金融血脉注入全新能量。
2024-05-17 16:47:30
1055
原创 Cobra：首个基于Mamba的多模态大语言模型
本文采用 Mamba 语言模型作为 VLM 的基础模型，它已经显示出可以与 Transformer 语言模型竞争的性能，但推理效率更高。通过广泛的实验，本文评估 Cobra 与旨在提高基础 MLLM 计算效率的并行研究的性能。结果表明，Cobra 甚至在参数更少的情况下实现了与 LLaVA 相当的性能，突显了其效率。Cobra解决了现有依赖于具有二次计算复杂度的 Transformer 网络的多模态大型语言模型的效率瓶颈。
2024-05-16 18:36:24
229
原创 是时候深入学习下 AI 大模型技术了
刚刚结束的 YC Demo Day 上，。虽然 ChatGPT 已经没有之前那么火热，但其实，Llama2 开源后，企业能以更低的成本部署自己的私有模型，并且随着腾讯云向量数据库这样开箱即用的云产品陆续推出，落地大模型的门槛也已经变得越来越低，类 Copilot 的能力，正在融入到各种各样的产品之中。前段时间我参加钉钉的活动，有两个特性挺惊艳的。第一，大模型技术已经完全可以把表单这一层打掉了。
2024-05-16 18:35:53
438
原创 AI大模型上车，算力高于一切
高通在智能座舱 SoC 领域确实有先发优势，占据着很大的市场份额。但是现如今 AI 座舱还处于较为早期的阶段，目前在车端部署大模型的车企并不多，同时提供的应用也较为有限，与科幻电影里无时无刻不在提供服务的智能助手更是相差甚远。中汽协数据显示，2023 年全年我国乘用车产销量分别达到 2612.4 万辆和 2606.3 万辆，但是真正在车端体验到 AI 座舱的用户屈指可数，大多数用户的车辆甚至没有装配一套好用的语音交互。所以，这是一个发展空间还很大的市场，这时候你还会觉得联发科的产品来晚了吗？
2024-05-16 18:35:19
388
原创 AI大模型入门基础教程（非常详细），AI大模型入门到精通，收藏这一篇就够了！
AI大模型是指使用大规模数据和强大的计算能力训练出来的人工智能模型。这些模型通常具有高度的准确性和泛化能力，可以应用于各种领域，如自然语言处理、图像识别、语音识别等。
2024-05-14 22:06:40
1016
原创 免费！免费！免费！OpenAI深夜放大招，最强模型GPT-4o炸裂登场！
深夜炸场，今天凌晨，OpenAI 最近推出了最新的 GPT-4o 模型，看完现场的演示视频，让人忍不住惊叹：AGI（通用人工智能）真的在路上了。看完更新，让我印象最深的就是和的功能。简单来说，就是你可以跟AI打视频电话，多语言语音交流，它甚至能够分辨你的语气，看懂你的表情。不仅如此，它还能看到周围的环境并描述给你。简单设想一下，有了这个，我们还用斥巨资去找外教练口语吗？盲人是不是可以多一个导盲的AI助手，给他们描述眼前的环境？装到马斯克的猫女上，AI老婆不是梦？未来已来！
2024-05-14 21:42:25
858
原创 GPT-4o如何颠覆我们的生活？看5个具体案例场景
以前他需要手动将录音转成文字稿，但有了GPT-4o，他只需上传音频文件，AI立刻就能生成高质量的文字稿，还能进行语法和内容优化。GPT-4o的出现，让AI更加落地了，无论是医疗、教育、工作还是日常娱乐，真正可以用来改善我们的生活，而不再是生成文字的工具。观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。有了GPT-4o，家长只需要给他一部手机，让GPT-4o视频通话辅导作业，她不会的题目，GPT-4o就会一步步为她解答。
2024-05-14 21:40:32
830
原创 太酷了！手机上部署最新AI大模型！只需2步！
我们不禁感慨，虽然目前AI的实际应用仍显得零星，但技术的发展确实需要时间的积累。大型模型的昂贵推理成本无疑限制了其广泛的推广和应用。然而，正是像Llama 3和Phi3这样的小模型的崭露头角，让我们看到了大型模型实用化的希望。虽然小模型的训练成本相对较高，但它们低廉的推理成本为整体经济带来了显著的节省，尤其是在为海量用户提供服务时，高性能的小模型让AI摆脱了成本的束缚，更加灵活地应用于各种场景。想象一下，如果我们能够根据自己的需求在本地部署定制化的AI，那种魅力将是无法言喻的！
2024-05-11 21:04:23
652
原创 yyds！Github+AI大模型完整学习教程
如果问你：2024年，程序员必须掌握哪项技术？从去年起，：编写更快，程序更稳定；：测试数、BUG对应减少；：训练模型，接&做项目更快；输入，AI就能迅速批量完成工作，甚至比人工更出色。知名大厂都在布局AI市场，年薪甚至翻到。未来职场，现在与其焦虑被行业淘汰，不如先人一步，学会运用AI大模型提升工作效率。
2024-05-11 20:54:11
864
原创 如何用人工智能大模型让广告更懂你？两个实战案例告诉你
本文以产品经理的视角，介绍了两个人工智能大模型优化广告匹配策略的应用案例，分别是某电商平台和某社交媒体平台。本文旨在展示大模型在数字化营销业务中的作用和价值，以及产品经理和运营人员如何利用大模型提升广告效果和用户体验。本文首先介绍了人工智能大模型的概念、特点和应用场景，然后分别分析了两个平台的广告匹配策略的优化过程和效果，最后总结了本文的主要内容和结论，以及对读者的建议和期待。广告是数字化营销业务中的重要组成部分，它可以帮助商家和品牌提升知名度、增加销量、扩大市场等。
2024-05-11 20:52:44
961
原创 企业怎么才能用上大语言模型？
客观来看，目前国内哪怕最先开始尝试应用大语言模型的先锋企业，现在仍然还在比较前期、研究怎么将企业数据、经营流程与大语言模型技术进行契合的阶段。针对大语言模型技术在具体业务场景中的应用范式，国内的很多云服务商和创业公司仍在持续技术创新的过程中。但先行起跑、在行业中抢先推行技术变革、做好数据收集和准备，必然能在将来大语言模型最终落地时，获得先手优势。在这一场必然发生的技术变革中，同时具备“对于AI技术未来发展趋势深入理解”和“企业真实需求/思考第一视角”的埃森哲，正在成为中国企业迈入AI新时代的最佳助力。
2024-05-10 18:49:42
845
原创 基于大语言模型的AI智能体
AI智能体，也被称为人工智能代理，人工智能智能体。AI智能体是一种计算机程序，它能够根据其环境、输入和预定义目标做出决策，自主执行任务。这些AI 智能体代表了传统自动化的飞跃，因为它们不仅被设计为遵循一组指令，而且能够独立思考、适应和行动。AI智能体是能够在无需人工干预的情况下执行任务的自主计算机程序。它们可以独立运作，也可以通过自然语言或其他通信模式与其他智能体或人类交互。设想一下，一个AI智能体不断地评估其周围环境，从交互中学习并做出选择以实现特定目标。
2024-05-10 18:47:39
789
原创 ChatGPT--LLM（大语言模型）速览、实操与对比
大模型时代，企业对人才的需求变了，AIGC相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。掌握大模型技术你还能拥有更多可能性• 成为一名全栈大模型工程师，包括Prompt，LangChain，LoRA等技术开发、运营、产品等方向全栈工程；• 能够拥有模型二次训练和微调能力，带领大家完成智能对话、文生图等热门应用；• 薪资上浮10%-20%，覆盖更多高薪岗位，这是一个高需求、高待遇的热门方向和领域；
2024-05-10 18:35:52
759
原创 大型语言模型 (LLM) 初学者指南
我们在日常生活中经常看到令人兴奋的LLM申请。您想知道如何构建 LLM 申请吗？以下是构建 LLM 申请的 3 种方法：利用 Scratch 训练大语言模型训练大型语言模型提示。
2024-05-09 18:28:42
935
原创 大语言模型（LLM）分布式训练框架总结
本文总结了深度学习框架技术是如何在硬件条件限制下，通过多年的技术升级，让 AI 模型的规模突破天际的。如果我们从更高的视角看，AI 模型的增长还有硬件，算法等领域的许多突破。整个生态正在飞速的往前发展。
2024-05-09 18:26:38
575
原创 开源大型语言模型(llm)总结
大型语言模型在ChatGPT以后经历了快速的发展。这些发展包括模型规模的增加、领域专精化、语义理解和推理能力的提升、训练效率和速度的提高，以及对偏见的理解和应对等方面。
2024-05-09 18:24:02
280
原创 可能是最全的开源 LLM （大语言模型）整理
Large Language Model (LLM) 即大规模语言模型，是一种基于深度学习的自然语言处理模型，它能够学习到自然语言的语法和语义，从而可以生成人类可读的文本。所谓 “语言模型”，就是只用来处理语言文字（或者符号体系）的 AI 模型，发现其中的规律，可以根据提示 (prompt)，自动生成符合这些规律的内容。LLM 通常基于神经网络模型，使用大规模的语料库进行训练，比如使用互联网上的海量文本数据。
2024-05-09 18:22:45
954
原创 AI大模型学习笔记-- Function Calling
Function Calling是OpenAI在2023年6月13日发布在Chat Completions API中添加的新能力，帮助开发者通过API方式实现类似于ChatGPT插件的数据交互能力。Chat Completion模型是一种基于人工智能的自然语言处理技术，可以根据用户的输入生成相应的回答。
2024-05-07 18:57:59
928
原创 AI大模型知识点大梳理
AI大模型是指具有巨大参数量的深度学习模型，通常**包含数十亿甚至数万亿个参数。**这些模型可以通过学习大量的数据来提高预测能力，从而在自然语言处理、计算机视觉、自主驾驶等领域取得重要突破。AI大模型的定义具体可以根据参数规模来分类。≤ 1百万个参数1百万 – 1亿个参数1亿 – 10亿个参数≥ 10亿个参数其中大型模型和极大型模型可以被视为AI大模型。总的来说，2022年11月30日由总部位于旧金山的OpenAI推出ChatGPT3.5。
2024-05-07 18:56:54
995
原创 AI大模型学习笔记-- GPT和LLM
2022年底第一次听说chatGPT, 从最初的对话，到如今的文生视频Sora，带来的效果，越来越超出我们的想象。在2023年，我尝试去了解GPT可以干什么，有什么用，该怎么用，不过变化太快，最终也没有找到一个好的方式干进去。为什么变化这么快，说到底，是AI大模型带来的巨变。现在很多大厂都在降薪裁员，也有不少公司在All in AI，我们都有一个预感，要变天了。你想想，如果有一天，一款游戏的所有美术、策划、服务端、客户端、客服都可以由一个人通过AI搞定了，就问你慌不慌？
2024-05-07 18:54:48
773
原创 AI大模型学习笔记-- 大模型应用技术架构
上篇文章介绍了GPT和LLM两个概念，看到这篇文章的时候，相信大家应该都已经听说过AI大模型（如GPT系列），大模型就像是大脑，就像孩子从小学习说话和认知世界一样，通过大量的数据学习，能够理解语言、识别图像、玩游戏、写作、作曲等。如果2023年是AI大模型爆发的一年，很多大厂投入到大模型的研发中，很多创业者通过AI大模型拿到了大笔融资，那对于2024年，将是AI大模型应用大爆发的一年，将有更多的普通人加入到这一浪潮中来。
2024-05-07 18:53:42
863
原创 大模型时代，如何上手 AI 大模型应用开发？
自 ChatGPT 面世以来，市场上一直用“iPhone 时刻”“划时代”“工业革命”等关键词来形容 AI 领域的飞速进展。如今，AI 大模型的战争已经开启大卷特卷模式。被称为 GPT 系列最大的竞争对手（之一）的 Meta 官宣开源模型 Llama-3 系列惊艳亮相不久。国内通义千问就直接开源千亿级参数模型 Qwen1.5-110B，一把火烧上 Hacker News 榜首。并且，这已经是3个月内通义千问开源的第8款大模型。
2024-05-07 18:51:39
871
原创 国内首篇！所有AI大模型一文概括！
肝了将近三天的时间，终于完成了这篇“巨作”，也算圆了之前咱们一位终身VIP用户提出的的需求，主打就是宠用户。关于这篇总结，我可以毫不夸张的说，绝对算得上市面第一篇把所有大模型说明白的内容。我凭什么敢这么说？是因为我是真的花时间去搜了，最有意思的是，这排名第一的热度总结是还是一位宠物博主为智谱写的软广。好了，废话不多说，是骡子是马得拉出来溜溜才知道。接下来正式进入正文。咱们先来看看国内的。目前国内较为知名的AI大模型主要有10家，如图：阶跃星辰零一万物月之暗面清华智谱百川智能。
2024-05-07 18:49:19
993
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人