- 博客(510)
- 收藏
- 关注
RSS订阅原创 神仙级AI大模型入门教程(非常详细)，从零基础入门到精通，从看这篇开始！
对于很多挑战性的任务，使用大模型能够大大减轻程序设计的负担，从而显著提高项目的质量。这里，我为大家分享一份完整的大模型学习资料，希望能帮助那些想要学习大模型的小伙伴们。但通过学习大模型，你可以不断提升自己的技术能力，开拓视野，甚至可能发现一些自己真正热爱的事业。虽然大模型在底层运算上可能不如一些特定的算法快速，但大模型清晰的结构和强大的能力能够解放开发者的大量时间，同时也能方便地与其他技术（如传统机器学习算法）结合使用。大模型的学习不仅能够提升你的技术能力，还能够帮助你更好地理解数据科学和人工智能的原理。
2024-08-24 17:50:37
508
原创 神仙级AI大模型入门教程(非常详细)，从零基础入门到精通，从看这篇开始！
对于很多挑战性的任务，使用大模型能够大大减轻程序设计的负担，从而显著提高项目的质量。这里，我为大家分享一份完整的大模型学习资料，希望能帮助那些想要学习大模型的小伙伴们。但通过学习大模型，你可以不断提升自己的技术能力，开拓视野，甚至可能发现一些自己真正热爱的事业。虽然大模型在底层运算上可能不如一些特定的算法快速，但大模型清晰的结构和强大的能力能够解放开发者的大量时间，同时也能方便地与其他技术（如传统机器学习算法）结合使用。大模型的学习不仅能够提升你的技术能力，还能够帮助你更好地理解数据科学和人工智能的原理。
2024-08-24 17:46:15
544
原创 大型语言模型微调入门指南
你可以根据特定的用例，通过微调大型语言模型的方式定制现有通用模型。为了更高效地微调模型，你可以考虑使用 LoRA 或模型分片（使用FSDP等框架）等技术。Modal的Llama和Mistral微调模板实现了许多这类的技术，能够帮助你快速启动分布式训练任务。你可以通过在 Modal 上微调 Llama 2 或Mistral 等开源模型获得一个定制的模型，这样不仅成本和延迟低于现有 API 服务，而且还非常适合自己的需求。
2024-08-24 17:44:32
604
原创 新时代挑战：大模型时代，小公司的机遇与困境
Meta旗下第三代大模型Llama 3终于在本周正式亮相：最大参数规模超4000亿，训练token超15万亿，对比GPT-3.5多种人类评估测评胜率超六成，官方号称“地表最强开源模型”。在各大科技巨头的“内卷”中，大模型终于来到了一个关键的转折点。摩根士丹利指出，世界正在进入一个由硬件和软件共同推动的大模型能力快速增长的新时代，大模型在创造力、战略思维和处理复杂多维任务方面的能力将显著提升。报告强调，未来大模型的训练将需要前所未有的算力，这将导致开发成本显著增加。
2024-08-23 17:41:37
626
原创 掌握三大秘籍，普通人也能轻松驾驭AI大模型：告别技术焦虑，快速上手攻略
机器学习项目成功的关键，在于对问题的深刻理解，而非算法的选择。——彼得·诺维格（Peter Norvig）谷歌研究总监，人工智能专家这是互联网悦读笔记五一后正式复更的第一天。也是我开始系统化对外输出AI思考的第一篇文章。熟悉这个号的朋友大概能猜到，24年初开始，我就把主要精力投入在了AIGC产品的应用研究上。期间，我不断尝试把大模型落地到企业的实际工作中，并参考了大量行业案例和知识付费课程。但遗憾的是，很多人仍会对这项新技术持怀疑态度。
2024-08-21 17:34:08
756
原创 产品经理如何巧用提示词引导AI工具解决5类问题？
可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。您能帮我理清思路吗？
2024-08-21 17:28:49
698
原创 LLM 大模型学习必知必会系列(一)：大模型基础知识篇
我们通常会看到某模型研发机构开源了 base 模型和 chat 模型，那 base 模型和 chat 模型有什么区别呢？首先，所有的大语言模型（LLM）的工作方式都是接收一些文本，然后预测最有可能出现在其后面的文本。base 模型，也就是基础模型，是在海量不同文本上训练出来的预测后续文本的模型。后续文本未必是对指令和对话的响应。
2024-08-21 17:26:13
795
原创 【大模型微调】一文掌握7种大模型微调的方法
本篇文章深入分析了大型模型微调的基本理念和多样化技术，细致介绍了LoRA、适配器调整(Adapter Tuning)、前缀调整(Prefix Tuning)等多个微调方法。详细讨论了每一种策略的基本原则、主要优点以及适宜应用场景，使得读者可以依据特定的应用要求和计算资源限制，挑选最适合的微调方案。大型语言模型(LLM)的训练过程通常分为两大阶段：阶段一：预训练阶段在这个阶段，大型模型会在大规模的无标签数据集上接受训练，目标是使模型掌握语言的统计特征和基础知识。
2024-08-20 16:31:01
1067
原创 【AI大模型】应用开发基础，学到就是赚到！_ai大模型应用开发
1、了解大模型能做什么2、整体了解大模型应用开发技术栈3、浅尝OpenAI API的调用AI全栈工程师：懂AI、懂编程、懂业务的超级个体，会是AGI（Artificial General Intelligence 通用人工智能）时代最重要的人。
2024-08-20 16:28:54
715
原创 ”疯狂烧钱的AI大模型公司如何赚钱？
AI大模型到底有多烧钱？或许最有发言权的就是OpenAI了，2022年其亏损大约翻了一番，达到约5.4亿美元。据悉，Altman曾私下建议，OpenAI可能会在未来几年尝试筹集多达1000亿美元的资金，以实现其开发足够先进的通用人工智能。国内的AI公司也不例外。不完全统计，国内头部AI公司智谱AI、百川智能、零一万物、MiniMax和月之暗面，从去年下半年至今已完成了总额超30亿美元的融资，当然，他们也公开表示，在通往AGI的路上，这些钱还远远不够。
2024-08-20 16:22:45
625
原创 ChatGLM4重磅开源! 连忙实操测试一波，效果惊艳，真的好用！附带最新相关资料和喂饭级实操推理教程！！
GLM4重磅开源啦GLM4系列版本介绍GLM4大模型能力测评结果经典测评任务结果长文本能力工具调用能力多模态能力手把手实操GLM-4-9B-Chat推理预测&&效果展示GLM4运行硬件和环境要求配置对应的库环境使用peft+bitsandbytes 进行4位量化推理进行大模型的推理显存占用情况手把手实操 多模态版本GLM-4V-9B-Chat推理预测&&效果展示多模态GLM-4V-9B对应的硬件资源进行4位量化加载准备测试图片进行推理预测参考文档GLM-4-9B是智谱AI在24年6月5日推出的开源预训练模型
2024-08-19 18:02:19
675
原创 学大模型必看！手把手带你从零微调大模型！
大模型微调本身是一件非常复杂且技术难度很高的任务，因此本篇文章仅从零开始，手把手带你走一遍微调大模型的过程，并不会涉及过多技术细节。希望通过本文，你可以了解微调大模型的流程。微调大模型需要非常高的电脑配置，比如GPU环境，相当于你在已经预训练好的基础上再对大模型进行一次小的训练。但是不用担心，本篇文章会使用阿里魔塔社区提供的集成环境来进行，无需使用你自己的电脑配置环境。本次微调的大模型是零一万物的 Yi 开源大语言模型，当然微调其他大模型的过程和原理也有差不多。
2024-08-12 18:00:33
714
原创 大模型LLM微调经验总结&项目更新
为了庆祝首篇千赞文章，首个千Star项目，周末对大模型微调项目代码进行了重构，支持ChatGLM和ChatGLM2模型微调的切换，增加了代码的可读性，并且支持Freeze方法、Lora方法、P-Tuning方法、**「全量参数方法」**微调。PS：在对Chat类模型进行SFT时，一定要遵循模型原始的系统指令，否则会出现严重的遗忘或微调效果不明显现象。希望该项目可以帮助大家更好地微调大模型，愿大家以后可以实现“大模型”自由。
2024-08-09 16:38:24
802
原创 学大模型必看！手把手带你从零微调大模型！
大模型微调本身是一件非常复杂且技术难度很高的任务，因此本篇文章仅从零开始，手把手带你走一遍微调大模型的过程，并不会涉及过多技术细节。希望通过本文，你可以了解微调大模型的流程。微调大模型需要非常高的电脑配置，比如GPU环境，相当于你在已经预训练好的基础上再对大模型进行一次小的训练。但是不用担心，本篇文章会使用阿里魔塔社区提供的集成环境来进行，无需使用你自己的电脑配置环境。本次微调的大模型是零一万物的 Yi 开源大语言模型，当然微调其他大模型的过程和原理也有差不多。
2024-08-09 16:31:49
579
原创 爆火的本地知识库项目是什么？什么是RAG？本地知识库与大模型的关系
知识库简单来说就是资料库，比如国家图书馆收录了我国几千年来的历史书籍和资料；每家企业都会有一些内部数据；各个领域都有自己领域内的数据和资料。而怎么管理这些资料和数据，就是知识库技术，知识库的核心有两点，一是数据的存储，二是数据的检索。在互联网技术出现之前，知识库都是以档案室或资料室的形式存在；而计算机技术出现之后，特别是大数据技术出现之后，知识库就可以从线下走到了线上。而大数据技术也为处理大量复杂数据提供了可能。
2024-08-08 17:19:35
725
原创 大模型部署工具 llama.cpp 介绍与安装使用_看完这篇就够了
这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。训练的过程，实际上就是在寻找模型参数，使得模型的损失函数最小化，推理结果最优化的过程。训练完成之后，模型的参数就固定了，这时候就可以使用模型进行推理，对外提供服务。作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2024-08-07 18:29:00
885
原创 大模型部署工具 llama.cpp 介绍与安装使用_看完这篇就够了
这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。训练的过程，实际上就是在寻找模型参数，使得模型的损失函数最小化，推理结果最优化的过程。训练完成之后，模型的参数就固定了，这时候就可以使用模型进行推理，对外提供服务。作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2024-08-06 17:42:23
1247
原创 吴恩达熬夜手写‘大模型学习笔记‘也就让我月薪涨3k (1)
1.限制字数。2.明确总结的目的。比如对于一段消费者评论，作为商家，可以提示模型总结的目的是帮助物流部分优化，这样模型输出结果会更关注产品物流。3.同时总结多条文本。
2024-08-06 17:39:42
747
原创 大模型扫盲系列——初识大模型
大模型是指具有数千万甚至数亿参数的深度学习模型。近年来，随着计算机技术和大数据的快速发展，深度学习在各个领域取得了显著的成果，如自然语言处理，图片生成，工业数字化等。为了提高模型的性能，研究者们不断尝试增加模型的参数数量，从而诞生了大模型这一概念。本文讨论的大模型将以平时指向比较多的大语言模型为例来进行相关介绍。
2024-08-05 18:12:08
722
原创 吴恩达熬夜手写‘大模型学习笔记‘也就让我月薪涨3k (1)
1.限制字数。2.明确总结的目的。比如对于一段消费者评论，作为商家，可以提示模型总结的目的是帮助物流部分优化，这样模型输出结果会更关注产品物流。3.同时总结多条文本。
2024-08-05 17:49:21
226
原创 渗透测试_真详细！以实战学习渗透测试流程及报告(图文+视频讲解)
学习干货|小白女友看完这篇文章后，面试工作和护网蓝队初级竟然秒通过！*** 如您认为文章质量对您有所帮助，麻烦点个关注并转发让更多人看到**[渗透测试|一次丝滑的渗透测试记录][漏洞挖掘|记一次对某杀猪盘的漏洞挖掘(反诈)
2024-08-04 13:45:00
728
原创 如何挑选适合AI大模型推理的显卡？
在人工智能领域，特别是模型训练和推理阶段，显卡性能极为关键。随着模型规模的增加，对算力的需求也在不断上升。因此，挑选合适的显卡，实现高性能与性价比的平衡，成为众多开发者关注的焦点。市面上的加速卡种类繁多，但谈到适合大模型推理的显卡，4090无疑是当前的佼佼者。尽管在性能上不及H100，在价格上不如3090，但4090凭借其出色的性价比和性能，成为大模型推理的首选。4090显卡基于Ada Lovelace架构，大幅提升了计算性能。
2024-08-04 13:45:00
1232
原创 【多图超详细】从零开始安装配置Cuckoo sandbox并提交样本进行分析
*沙盒(Sanbox)**是一种将未知、不可信的软件隔离执行的安全机制。恶意软件分析沙盒一般用来将不可信软件放在隔离环境中自动地动态执行，然后提取其运行过程中的进程行为、网络行为、文件行为等动态行为，安全研究员可以根据这些行为分析结果对恶意软件进行更深入地分析。Cuckoo sandbox是一款用 Python和C/C++ 编写的开源的自动化恶意软件分析系统，且跨越Windows、Android、Linux和Darwin四种操作系统平台。
2024-07-23 18:30:56
347
原创 ChatGLM4重磅开源! 连忙实操测试一波，效果惊艳，真的好用！
GLM-4-9B是智谱AI在24年6月5日推出的开源预训练模型，属于GLM-4系列。之前已开源chatglm1~chatglm3等多个版本。GLM4在语义理解、数学、推理、编程和知识等领域的测试中表现优异。GLM-4-9B-Chat是其人类偏好对齐版本，支持多轮对话、网页浏览、代码执行、自定义工具调用(function call)以及长文本推理（最大128K上下文）。该系列模型还支持26种语言，包括日语、韩语和德语，并推出了支持1M上下文长度（约200万中文字符）的版本。GLM-4-9B 系列模型主要包含:
2024-07-23 17:00:46
348
原创 大数据最新大模型学习路线与建议_大模型学习路径
不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！LLaMA 系列模型核心原理详解（LLaMA/Alpaca/Vicuna/BaiChuan/LLaMA2/BaiChuan2）GPT 系列模型核心原理详解（GPT1/GPT2/GPT3/GPT4/InstructGPT）ChatGLM 系列模型核心原理详（ChatGLM/ChatGLM2）BLOOM 系列模型核心原理详解（BLOOM/BLOOMZ）
2024-07-23 16:56:27
284
原创 如何用大模型+知识库打造微信群里的AI问答神器！
想象一下，你的微信群或公众号中，有一个AI问答专家随时待命，帮助你和你的朋友们解答各种问题，是不是很酷？首先，确保你有一个Python环境。这就像是我们的魔法工坊，所有的魔法都从这里开始。接着是我们的主角——chatgpt-on-wechat。这个项目就像是我们的魔杖，帮助我们在微信世界中施展魔法。我们需要连接到具有API接口的各种大型语言模型。你可以把它们想象成我们的魔法书，里面充满了知识和智慧。最后，我们的知识库，它是基于LinkAI构建的。这就像是我们的魔法药水，给我们的问答专家提供了额外的力量。
2024-07-23 16:55:15
810
原创 如何用大模型+知识库打造微信群里的AI问答神器！
想象一下，你的微信群或公众号中，有一个AI问答专家随时待命，帮助你和你的朋友们解答各种问题，是不是很酷？首先，确保你有一个Python环境。这就像是我们的魔法工坊，所有的魔法都从这里开始。接着是我们的主角——chatgpt-on-wechat。这个项目就像是我们的魔杖，帮助我们在微信世界中施展魔法。我们需要连接到具有API接口的各种大型语言模型。你可以把它们想象成我们的魔法书，里面充满了知识和智慧。最后，我们的知识库，它是基于LinkAI构建的。这就像是我们的魔法药水，给我们的问答专家提供了额外的力量。
2024-07-09 15:09:35
913
原创 如何用大模型+知识库打造微信群里的AI问答神器！
想象一下，你的微信群或公众号中，有一个AI问答专家随时待命，帮助你和你的朋友们解答各种问题，是不是很酷？首先，确保你有一个Python环境。这就像是我们的魔法工坊，所有的魔法都从这里开始。接着是我们的主角——chatgpt-on-wechat。这个项目就像是我们的魔杖，帮助我们在微信世界中施展魔法。我们需要连接到具有API接口的各种大型语言模型。你可以把它们想象成我们的魔法书，里面充满了知识和智慧。最后，我们的知识库，它是基于LinkAI构建的。这就像是我们的魔法药水，给我们的问答专家提供了额外的力量。
2024-07-01 14:09:19
1097
原创 如何用大模型+知识库打造微信群里的AI问答神器！
想象一下，你的微信群或公众号中，有一个AI问答专家随时待命，帮助你和你的朋友们解答各种问题，是不是很酷？首先，确保你有一个Python环境。这就像是我们的魔法工坊，所有的魔法都从这里开始。接着是我们的主角——chatgpt-on-wechat。这个项目就像是我们的魔杖，帮助我们在微信世界中施展魔法。我们需要连接到具有API接口的各种大型语言模型。你可以把它们想象成我们的魔法书，里面充满了知识和智慧。最后，我们的知识库，它是基于LinkAI构建的。这就像是我们的魔法药水，给我们的问答专家提供了额外的力量。
2024-06-29 14:47:26
814
原创 想转行AI大模型开发但不知如何下手？拥有他让你抢先一步
Hugging Face是现在最大的AI开源社区，里面提供了很多的预训练模型，是一个模型库，很多人会把自己训练好的模型上传上去，大家可以免费下载使用。下载下来之后，我们就可以在此基础之上，进行微调或者推理，不用从0去训练一个大模型。并且大家可能都知道，微调模型时，数据的准备是一件费时费力的事，而在Hugging Face上也有很多的数据集，可供大家下载使用。所以Hugging Face也被人称作：AI领域的GitHub。
2024-06-26 16:24:12
854
原创 AI大模型
AI大模型是指一个庞大的神经网络，它具有数百亿个参数，能够对大量数据进行训练并产生高质量的预测结果。AI大模型通常需要在大型GPU集群上进行训练，因此需要大量的计算资源和数据存储资源。目前，最著名的AI大模型是OpenAI的GPT-3模型，该模型可以自动产生高质量的文本内容，并能够通过简单的提示与用户进行交互。
2024-06-20 17:48:51
1038
原创 AI大模型
AI大模型是指一个庞大的神经网络，它具有数百亿个参数，能够对大量数据进行训练并产生高质量的预测结果。AI大模型通常需要在大型GPU集群上进行训练，因此需要大量的计算资源和数据存储资源。目前，最著名的AI大模型是OpenAI的GPT-3模型，该模型可以自动产生高质量的文本内容，并能够通过简单的提示与用户进行交互。
2024-06-20 17:42:23
426
原创 为什么一线大厂都在高薪抢 AI 产品经理？
不知道你是否听过“**移动互联网产品经理”**这个说法，当移动互联网成为整个互联网行业的基础建设，深入到各行各业，所有产品经理，其实都是移动互联网产品经理。而近些年，随着 AI 技术逐渐落地和市场认可度的不断提升，AI 产业岗位和泛 AI 产业岗位变得越来越走俏，很多产品经理希望借此风口转型成为“AI 产品经理”，进而拓宽自己的职业道路。最近，我身边不少产品经理，都会和我讨论 AI 相关的问题，比如：传统行业的产品经理是否适合转行做 AI 产品经理？如果转行的话，需要做哪些准备？
2024-06-19 13:49:19
623
原创 神仙级AI大模型入门教程(非常详细)，从零基础入门到精通，从看这篇开始！
坚持到了这儿，恭喜你，表示你有做AI大模型工程师的潜力。其实我想说的上面的内容只是冰山一角，刚开始大家不需要多么精通了解这些内容。主要是不断练习，让自己跳出「舒适区」，进入「学习区」，但是又不进入「恐慌区」，不断给自己「喂招」。记住，学习是一个持续的过程。大模型技术日新月异，每天都有新的研究成果和技术突破。要保持对知识的渴望，不断学习最新的技术和算法。同时，实践是检验学习成果的最佳方式。通过实际项目实践，你将能够将理论知识转化为实际能力，不断提升自己的技术实力。最后，不要忘记与同行交流和学习。
2024-06-19 13:47:57
822
原创 神仙级AI大模型入门教程(非常详细)，从零基础入门到精通，从看这篇开始！
坚持到了这儿，恭喜你，表示你有做AI大模型工程师的潜力。其实我想说的上面的内容只是冰山一角，刚开始大家不需要多么精通了解这些内容。主要是不断练习，让自己跳出「舒适区」，进入「学习区」，但是又不进入「恐慌区」，不断给自己「喂招」。记住，学习是一个持续的过程。大模型技术日新月异，每天都有新的研究成果和技术突破。要保持对知识的渴望，不断学习最新的技术和算法。同时，实践是检验学习成果的最佳方式。通过实际项目实践，你将能够将理论知识转化为实际能力，不断提升自己的技术实力。最后，不要忘记与同行交流和学习。
2024-06-19 13:43:30
891
原创 这才是找工作的真相，2024年技术招聘报告出炉！
技术的飞速发展如同潮水般汹涌澎湃，有的人站在浪尖，风生水起，也有的人淹没于浪潮之中，黯然退场…。近日，知名的技术招聘平台CoderPad发布了一份报告——，这份报告深度调研了来自全球149个不同国家/地区的13000多名开发者和5500名HR，，一起来看看吧！
2024-06-19 10:49:53
666
原创 想转行AI大模型开发但不知如何下手？拥有他让你抢先一步
Hugging Face是现在最大的AI开源社区，里面提供了很多的预训练模型，是一个模型库，很多人会把自己训练好的模型上传上去，大家可以免费下载使用。下载下来之后，我们就可以在此基础之上，进行微调或者推理，不用从0去训练一个大模型。并且大家可能都知道，微调模型时，数据的准备是一件费时费力的事，而在Hugging Face上也有很多的数据集，可供大家下载使用。所以Hugging Face也被人称作：AI领域的GitHub。
2024-06-19 10:49:11
548
原创 2024年AIGC行业研究：多模态大模型与商业应用
2024年2月，OpenAI发布其首款视频生成模型Sora，用户仅需输入一段文字即可生成长达一分钟场景切换流畅、细节呈现清晰、情感表达准确的高清视频，与一年前的AI生成视频相比，在各维度均实现了质的提升。这一突破再次将AIGC推向大众视野。AIGC即通过大量数据训练而成的人工智能系统，可根据用户的个性化指令生成文本、音频、图像、代码等内容。自2022年频频出圈的ChatGPT推出以来，生成式AI在游戏、影视、出版、金融、数字人等多个应用场景中展现出巨大潜力和价值。
2024-06-19 10:31:34
567
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人