普通网友-CSDN博客

原创你真的会使用大模型吗？—大模型六大提问技巧

大模型在被问及比较深奥话题、引用时，有可能会一本正经的胡说八道（模型幻觉，GPT3.5经常出现，GPT4极大缓解），打个不太恰当的比方，就像学生考试时有个抄了答案的小抄会表现更好一样，给模型一些已知的参考信息会帮助大模型减少虚构的内容。这里如果在后续提示词中直接给出学生的解答，并直接要求判断是否正确，大模型将给出错误的结论。由于大模型的知识库并非与时俱进的，当需要问及与事实相关的问题时，可以将搜索引擎检索到的最新的信息作为提示词告诉模型，这样也更有利于模型再自身的知识库中检索相关内容。

2024-07-27 10:25:32 360

原创投身LLM（大型语言模型），要从本质上想明白3个问题

由于人工智能的快速发展，许多人终于开始理解和接受这个事实：AI 离我们并不遥远，它正在改变我们的世界。作者在看LLM（大型语言模型）的机会时，深度思考了3个问题：LLM下一个发展未来是什么、哪些落地方向更有前景、我们要做些什么准备。希望能够给各位带来启发。最近我自己在看LLM的机会，也和创业者、投资人、从业者进行非常多的交流。大家普遍的感觉是“我知道他很好，但我应该怎么做？在被OpenAI拖着狂奔的过程中，涌现出了很多机会，大家都处于一种兴奋而迷茫的状态。

2024-07-26 14:16:28 572

原创 LLM探索：环境搭建与模型本地部署

最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了…上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地部署还是没问题的。本文将介绍这以下两个国产开源LLM的本地部署ChatGLM-6BMOSS本文先简单的把模型跑起来，后续将继续我近期在LLM方向的一些探索记录~这是清华和智谱公司搞的开源LLM，截止本文撰写时，其在国产开源LLM里面算是天花板的存在了~

2024-07-26 11:02:21 859

原创 AI在创造还是毁掉音乐

近期音乐大模型的兴起，确实在技术层面上对传统音乐产业产生了一定的冲击和挑战。通过高级算法和庞大的数据集，使得音乐创作这种艺术活动变得前所未有地容易接触和尝试，从而激发了公众对于技术和艺术结合可能性的想象。AI音乐创作工具带来的版权问题是一个复杂的议题，涉及人工智能产出的创意成果究竟应该归谁所有。目前世界各地关于这个问题的法律规定尚无统一标准，需要进一步的讨论和立法工作来明确。在一些国家和地区，创作权仍然主要偏向于人类创作者，意味着AI创作的作品版权可能会归属于程序的开发者或是使用者。

2024-07-25 11:14:03 532

原创全网爆火！学大模型必备的大模型黑书来了！内行人全都在学~ （附pdf）

1.1 Transformer 的生态系统1.2 使用Transformer 优化NLP模型1.3 我们应该使用哪些资源1.4 本章小结1.5 练习题8.1 文本到文本模型8.2 使用T5 进行文本摘要8.3 使用GPT-3 进行文本摘要8.4 本章小结8.5 练习题。

2024-07-24 13:41:20 774

原创 LLM 教程 —— 如何部署和推理大语言模型

完成本教程后，您将深入了解如何在生产环境中通过各种工具和平台部署和应用大型语言模型，并能将所学知识应用于自己的项目和挑战中。

2024-07-24 10:11:37 1179

原创大模型开发入门必读资料

随着 GPT 的爆红，“AI 大模型” 已成为技术圈最火的话题。华为、阿里、腾讯、字节等大厂纷纷加大对 AI 技术和市场的投资，许多 AI 创业公司也如雨后春笋般涌现。这些公司都在以高薪资争夺 AI 大模型人才。作为普通工程师，我们要及时抓住机会，才能享受 AI 技术带来的红利。要抓住这些机会，首先需要掌握扎实的技术。现在向大家推荐一本书：《大规模语言模型：从理论到实践》。这本书从理论到实战，带领读者一步步实现大模型，是你提升技能、迈向 AI 大模型领域的绝佳指南。现在我把这本书推荐给你。

2024-07-23 14:09:50 287

原创大语言模型 (LLM)是什么?

2023年，让整个人类最为振奋的AI技术就是ChatGPT。“大语言模型（Large Language Model）”这个词也随之映入人们的眼帘。ChatGPT让人觉得惊艳之处，能够结合上下文，像人一样有逻辑性地回答问题，就算生成超长的文本也不会跑偏。是一种机器学习算法，它可以根据给定文本来预测下一个词语或字符的出现的概率，通过大量的文本数据来学习语言的统计特征，进而生成具有相似统计特征的新文本。

2024-07-23 10:47:16 773

原创 360周鸿祎为什么说大模型已成茶叶蛋？

大模型炒了一年，为什么没有特别火的应用？最近几天360创始人周鸿祎称，去年感觉大模型是原子弹，今年感觉是茶叶蛋。什么意思？我想大概就是说大模型谁都能玩了，现在国内的大模型没有一千，也有几百个了，大模型没什么稀奇的了。但是另一方面也反映了大家都是为了大模型而大模型，但是大模型没能解决什么实际问题，或者说解决的问题太小，有点让人失望了。

2024-07-22 14:42:36 592 1

原创大模型无法稳定输出 JSON？几个小技巧解决！

通过这种方式，我们不需要给出例子（如果例子不恰当，可能会带偏 LLM，出现抽风），也不需要在 prompt 中再指定某个字段的取值，另外也很方便强类型语言进行后续处理。坏处是，当结构比较复杂（例如同时存在多种类型）或者逻辑比较复杂时，或者模型抽风，就容易生成出多余的东西，无法解析到有效的 JSON。如果我们需要给 JSON 引入更加复杂的结构，或者要使用枚举等等，用之前的方式不一定能获得稳定的结构化输出。在实践中，也有人使用 TypeScript 的结构体等方式来实现类似的效果，大体的思路是一样的。

2024-07-22 14:36:35 1258

原创实战Llama-3-70B RLHF-PPO训练耗时及成本

按照scaling law，越大的模型性能也越好同时训练的难度也大幅提升以下基于Llama-3-70B模型训练，对比SFT/PPO训练耗时运算平台为A800(80G)x8 总体训练耗时<2天上述为课程的实操结果课程内容：直播 + 往期录播 ++ 非调包源码 + 算法图解 + 课程PPT课程项目：垂域大模型实操 +进阶专题：**手撕LLaMA、**入门要求：Pytorch+神经网络或深度学习基础授课形式：每周2章节直播，5周上完前10章节价格：私聊单独咨询。

2024-07-17 14:19:38 682

原创如何攻克LLM应用的调试？教你本地化部署与使用一款免费的LLM应用工程化平台

这里的方式1应用场景有限，方式2目前仅在cloud版本中内测，因此这里介绍第3种，其。

2024-07-17 14:08:54 1359

原创【ai大模型】如何使用 LangChain 构建基于LLMs的应用——入门指南

大型语言模型(LLMs)是非常强大的通用推理工具，在各种情况下都非常有用。LangChain 是一个流行的框架，用于创建基于LLMs的应用程序。它考虑到了这些因素以及其他因素，并提供了与封闭源模型提供商（如OpenAI、Anthropic和[Google、开源模型以及向量存储等其他第三方组件）的广泛集成。本文将介绍使用LLMs和LangChain的Python库构建基础知识。唯一的要求是对Python有基本的了解——不需要机器学习经验！

2024-07-15 15:12:35 670

原创【LLM大模型】用智谱 GLM-4大模型开发自己的 IDEA插件

GLM-4模型的API提供了多种功能，包括但不限于文本生成、多模态处理、长文本理解和智能对话等。开发者可以通过API接入GLM-4模型，实现各种智能应用的开发。特点支持长上下文：GLM-4模型支持128K的对话上下文。多模态能力：具备处理文本、图像等多种数据类型的多模态能力。快速推理和并发：支持更快的推理速度和更多的并发请求，降低了推理成本。智能体能力增强：增强了智能体（Agent）的能力，可以更好地理解和执行复杂任务。

2024-07-15 15:11:49 931

原创 AI绘画升温、AI写作降温，AIGC玩“变脸”

AI作为先进科技技术的代表领域之一，一直都颇受人们的关注。经过这些年的发展，AI越来越聪明，甚至在某些领域已经能达成甚至超越人类的能力水平。本文作者围绕AI进行了分析，希望对你有帮助。自柯洁在“围棋人机大战”中惜败AlphaGo后，AI再次上演打败艺术家的戏码，AIGC（人工智能自主生成内容）时代真的要来了吗？据了解，在今年科罗拉多州博览会艺术竞赛中，一名叫艾伦的参赛者利用AI绘图工具Midjourney完成的绘画作品，拿下了博览会的数位艺术类别大奖，成为获得此类奖项的第一幅AI生成作品。

2024-07-13 15:16:12 950

原创 Stable Diffusion 本地部署教程

Stable Diffusion是一种基于潜在扩散模型的AI图像生成技术，它能够根据文本提示生成高质量的图像。这项技术的核心在于其生成的图像既可以与真实照片相媲美，也可以模仿专业艺术家的风格和技巧。Stable Diffusion AI的强大之处在于其开源性，它不仅免费供用户使用，而且其背后的代码和模型也是公开的。这种开放性鼓励了全球的技术爱好者和开发者社区参与到模型的改进和创新中来。Stable Diffusion AI特别注重在低功耗计算机上的运行效率，使得它更加亲民和易于获取。

2024-07-13 15:08:16 2243

原创【人工智能书籍】TensorFlow机器学习实战指南（推荐）

今天又来给大家推荐一本人工智能方面的书籍

2024-07-12 17:57:36 1391

原创拿AI做副业，零门槛简单操作，小白也能轻松入门！

在过去的23年，这一年称人们之为AIGC的元年，特别是openAI发布了GPT，随着AI爆火，一时间，各种玩法是层出不穷，早期靠AI做项目的也是赚的盆满钵满。我不知道小伙伴们发现了没有，现如今AI正在慢慢改变我们的生活，说个简单的例子，midjourney，这是一个画图的AI,之前设计一张图需要三五天的时间，现在用midjourney，三五天能生成100张图，midjourney不仅提高了工作效率，更提高了便捷性。既然AI如此便捷、快速，那何不用AI来做点副业呢，，

2024-07-12 11:08:55 2293

原创 Stable Diffusion 本地部署教程：详细步骤与常见问题解析！

本教程详细介绍了如何在本地部署Stable Diffusion模型，包括安装Python 3.8+、CUDA 11.3+、cuDNN、PyTorch和torchvision，克隆仓库，下载预训练模型。配置运行参数后，通过运行生成图像。常见问题包括CUDA/CuDNN版本不匹配、显存不足、API密钥问题、模型加载失败和生成质量不佳，可按教程提供的解决办法处理。进阶操作包括使用自定义提示词和批量生成图像。完成这些步骤后，即可开始Stable Diffusion的AI艺术创作。

2024-07-12 11:07:07 666

原创详解AI大模型提示工程(prompt)、向量工程(embedding)、微调工程(fine-tune）

大家都在讨论大模型，似乎什么都可以与大模型结合，可当初学者也想上手时，却面临令人头大的词汇，Prompt、Embedding、Fine-tuning，怎么办呢？别担心，本文就用一种有趣的方式让大家认识它们。首先让我们先了解一下作为人类是如何去使用大模型的。我们可以把大模型当做一个对语言有着出色理解能力的人，我们要做的就是通过文本的输入，让大模型理解我们希望他做什么事情。那么学会向大模型提问，就变成了用好大模型最重要的事情，甚至可以说使用大模型的过程就是向大模型提问的过程。那么有哪些概念需要我们了解呢？

2024-07-11 16:54:37 944

2401_85963303的博客

原创你真的会使用大模型吗？—大模型六大提问技巧

原创投身LLM（大型语言模型），要从本质上想明白3个问题

原创 LLM探索：环境搭建与模型本地部署

原创 AI在创造还是毁掉音乐

原创全网爆火！学大模型必备的大模型黑书来了！内行人全都在学~ （附pdf）

原创 LLM 教程 —— 如何部署和推理大语言模型

原创大模型开发入门必读资料

原创大语言模型 (LLM)是什么?

原创 360周鸿祎为什么说大模型已成茶叶蛋？

原创大模型无法稳定输出 JSON？几个小技巧解决！

原创实战Llama-3-70B RLHF-PPO训练耗时及成本

原创如何攻克LLM应用的调试？教你本地化部署与使用一款免费的LLM应用工程化平台

原创【ai大模型】如何使用 LangChain 构建基于LLMs的应用——入门指南

原创【LLM大模型】用智谱 GLM-4大模型开发自己的 IDEA插件

原创 AI绘画升温、AI写作降温，AIGC玩“变脸”

原创 Stable Diffusion 本地部署教程

原创【人工智能书籍】TensorFlow机器学习实战指南（推荐）

原创拿AI做副业，零门槛简单操作，小白也能轻松入门！

原创 Stable Diffusion 本地部署教程：详细步骤与常见问题解析！

原创详解AI大模型提示工程(prompt)、向量工程(embedding)、微调工程(fine-tune）

原创太变态了！Stable Diffusion让商业换装如此简单！AI一键换装~

原创 2024年最强人工智能AI软件，AI画画，AI写小说，一招帮你搞定

原创 AI绘画何以突飞猛进? 从历史到技术突破, 一文读懂火爆的AI绘画发展史

原创『ComfyUI』从小白到入门全套教程，奶奶看了都会了！赶紧收藏！

原创新手到大神的教程，AI绘画Stable Diffusion图生图详解！

原创 Stable Diffusion—Reference组件不炼丹也能一张图保持人物一致性

原创 2024最火的AI绘画软件——Stable Diffusion整合包安装教程，奶奶看了都会！

原创 2024年绘画圈最火的软件 Stable Diffusion整合包安装教程，小白必看！

原创 Stable Diffusion【ControlNet】：tile模型预处理器详解

原创 Stable Diffusion原理详解（附代码实现）

空空如也

空空如也