需要了解的LLM

已于 2023-08-04 09:59:57 修改
阅读量65 收藏
点赞数
文章标签： 人工智能
于 2023-08-04 09:27:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44224676/article/details/132097049
版权

国外 billa

llama

国内

AI模型社区魔搭ModelScope上架两款开源模型Qwen-7B和Qwen-7B-Chat，阿里云确认其为通义千问70亿参数通用模型和对话模型，两款模型均开源、免费、可商用。
Qwen-7B是支持中、英等多种语言的基座模型，在超过2万亿token数据集上训练，上下文窗口长度达到8k。Qwen-7B-Chat是基于基座模型的中英文对话模型，已实现与人类认知对齐。开源代码支持对Qwen-7B和Qwen-7B-Chat的量化，支持用户在消费级显卡上部署和运行模型。

https://github.com/QwenLM/Qwen-7B

阿里达摩 多语言大模型PolyLM
多模态大模型 – 猫头鹰

落落bae
关注
LLM 推理的核心指标
Learning
08-12 525
LLM 推理的核心指标：TTFT 首 Token 延迟、TPOT 每个Token延迟、Latency延迟、Throughput：吞吐量
评估LLM
AI + 工程
04-29 840
一、LLM 基准测试 LLM 排行榜 二、评估指标 1、传统指标 2、非传统指标 2.1 基于嵌入的方法 2.2 其他基于语言模型的指标 2.3 LLM 辅助方法 GPTScore G-Eval 3、可能的陷阱 三、评估基于LLM的应用 1、选择评估指标 2、评估 评估方法 3、构建您的评估集 四、工具 1、OpenAI 评估 2、Ragas 五、挑战 六、结论
一文了解LLM大模型会话 QA 增强
2301_81940605的博客
07-23 858
QA 增强的目的旨在提高模型的回复效果，从而获得更有效的信息。在实际使用过程中，可以通过使用场景调整 prompt，提供一个对话的大背景，以便于模型给出更好的问题重构。同时，使用如 Qwen1.5、LLaMA7B 这样经过特殊训练、针对语义优化的小模型，可以提高问题重构的效率。在 QA 重构后，问答效果会有明显改善，相关指标提升显著。另一方面，有效的召回检索信息使得额外的信息可以顺利地接入，例如，利用用户历史数据可以使模型效果持续提升和优化。
了解 LLM 评估和基准：完整指南
人工智能曾小健
06-28 683
这种评估方法侧重于增强对生成的文本输出质量的评估与人类的一致性。通过文本摘要和对话生成等任务中的实验，使用 GPT-4 的 G-Eval 在摘要任务中与人类判断表现出显著的 Spearman 相关性 0.514，远远超过了以前的评估方法。G-Eval 也称为 GPT-Eval，是一个独特的框架，专注于使用现有的 LLM（例如 GPT-4）来评估 NLG 系统生成的文本的质量。有各种各样的指标和基准测试有助于定义模型的有效性，因此根据 LLM 所针对的任务范围确定最适合您模型的基准测试至关重要。
人工智能 LLM langchain初步了解简记
Blog of pengxiaoxing
06-06 865
所以，不管我们是使用 openai api embedding 功能还是直接通过向量数据库直接查询，都需要将我们的加载进来的数据 Document 进行向量化，才能进行向量运算搜索。转换成向量也很简单，只需要我们把数据存储到对应的向量数据库中即可完成向量的转换。不用进行训练，并且可以实时添加新的内容，而不用加一次新的内容就训练一次，并且各方面成本要比 fine-tuning 低很多。Youtube YoutubeLoader 等等，上面只是简单的进行列举了几个，官方提供了超级的多的加载器供你使用。
6种方法在本地运行LLM
ChatGPTer
12-28 2223
商业人工智能和大型语言模型（LLM）有一个很大的缺点：隐私！在处理敏感或专有数据时，我们无法从这些工具中受益。这使我们了解如何在本地运营私人LLM。开源模型提供了一种解决方案，但它们也有自己的挑战和好处。和我一起探索可以在自己的计算机上运行的 ChatGPT 的本地替代方案。设定期望开源非常广泛，有数千种可用模型，从 Meta 等大型组织提供的模型到个人爱好者开发的模型各 不相同。正如谷歌泄露的一份文件所表明的那样，开源模型和闭源模型之间的差距正在缩小。1.
LLM batch
MichaelWang的博客
12-06 3279
llm batch策略
LLM 为什么需要 tokenizer？
日常学习与专研的记录
04-24 1271
本文详细介绍为什么 llm 需要 tokenizer？
LLM大模型综述
热门推荐
zh515858237的专栏
01-10 2万+
LLM其实就是large language model，大语言模型。如果对“最终任务”进一步进行分类，又大致可以分为两大不同类型的任务：自然语言理解类任务和自然语言生成类任务。如果排除掉“中间任务”的话，典型的自然语言理解类任务包括文本分类、句子关系判断、情感倾向判断等，这种任务本质上都是分类任务，就是说输入一个句子（文章），或者两个句子，模型参考所有输入内容，最后给出属于哪个类别的判断。自然语言生成也包含很多NLP研究子方向，比如聊天机器人、机器翻译、文本摘要、问答系统等。
学习教授LLM逻辑推理11.19
RM_Jin的博客
11-20 648
大型语言模型（LLM）由于其卓越的语言生成能力和极强的泛化能力而受到学术界和工业界的极大关注。然而，当前的LLM仍然会输出不可靠的内容，由于其固有的问题（例如，幻觉）。为了更好地解开这个问题，在本文中，我们进行了深入的调查，系统地探讨LLM在逻辑推理的能力。更详细地说，我们首先调查LLM在逻辑推理的不同任务上的缺陷，包括事件关系提取和演绎推理。我们的研究表明，LLM在解决具有严格推理的任务时表现不佳，甚至会产生反事实的答案，这需要我们迭代地改进。
Building LLM Powered Applications-2024.5.pdf
07-18
无论是对于已经具备一定经验的人工智能专家还是初学者而言，《构建基于大型语言模型的应用程序》都是一本宝贵的参考资料，可以帮助他们深入了解LLM的工作原理，掌握其实现方法，并应用于具体场景中。 #### 结论 ...
最全的开源 LLM （大语言模型）整理.zip
09-01
然而，数据隐私、模型泛化能力、能耗和碳排放等问题也是未来需要面对和解决的挑战。 总结，开源大语言模型已经成为推动NLP发展的重要力量。"awesome-llm-master"项目为开发者提供了宝贵的资源，使得更多人能参与到...
一个基于 Java 的 LLM（大语言模型）应用开发框架
06-29
开发者可以通过阅读和研究这些代码，了解框架的具体实现细节，包括如何与LLM模型交互，如何处理输入和输出，以及如何优化性能等。 总的来说，基于Java的LLM应用开发框架是AI技术与传统软件工程相结合的产物，它降低...
数据分析——学习框架
最新发布
不迁怒，不贰过。小知识，大智慧。
11-11 1395
本教程旨在为读者提供一个系统化的数据分析学习框架，涵盖从数据收集、清洗、分析到可视化和报告的各个环节。通过深入探讨每个环节的理论与实践，读者将能够掌握数据分析的基本技能，提升数据处理和分析的能力。无论您是数据分析的初学者，还是希望进一步提升技能的专业人士，本教程都将为您提供有价值的指导和实用的工具，助您在数据分析的旅程中取得成功。
探索App Intents：让你的应用与Siri无缝互动的新方式
jixn的博客
11-09 2667
苹果推出了一个新框架——App Intents，使开发者可以在iOS 18.2+、macOS 15.2+等平台上集成Siri和Apple Intelligence，实现对应用内容的读取和操作。App Intents使应用的功能和内容能无缝融入系统体验中，例如Siri、Spotlight搜索、快捷指令和小组件，让用户可以轻松访问应用核心功能，并获得更智能的Siri帮助。：表示应用内容，如照片、联系人或文件。：用户可以对 Siri 发出指令，例如“查找我的航班”或“添加待办事项”，Siri直接与应用交互。
掌握AIStarter新功能，轻松关闭广告享受纯净浏览体验
ai_xiaogui的博客
11-07 572
AIStarter的广告拦截器是一项集成在平台内部的新特性，它允许用户根据自己的喜好设置广告过滤规则。无论是烦人的横幅广告、视频前贴片广告还是弹窗广告，都可以通过简单的设置被有效屏蔽。这项功能不仅提升了用户的浏览效率，还保护了用户的隐私安全。在数字时代，拥有一个清爽无干扰的网络环境对每个人都至关重要。AIStarter的广告拦截器正是为此而设计，它帮助用户夺回了对个人浏览体验的控制权。现在就尝试启用这项功能，开始享受一个更加干净、高效的上网体验吧！不要广告！关闭广告！
一次薅国家超算平台的记录
weixin_55179972的博客
11-07 407
参与 谁是下一个“AI”跃人 -AI体验推介活动，赢取千元算力券！（https://www.scnet.cn/home/subject/modular/index270.html）2. Clone开源的Llama3 Chinese （https://github.com/LlamaFamily/Llama-Chinese）活动名称主题：国家超算互联网「AI跃升季」：谁是下一个“AI”跃人 - AI算力体验活动。其中位置1，2替换为商品基模型和训练出来的微调模型。模型改为商城下载的模型。2、运行的过程记录。
在后LLM时代，关于新一代智能体的思考
langboat_mengzi的博客
11-07 902
同时，新一代智能体工具平台应具备与基座LLM保持独立的多层次智能体系，无需依赖单一大模型或者技术供应商，如此一来，有利于实现模块化开发，具备较强的可维护性，同时还能够建立良好的生态，促进智能体的繁荣发展。而“慢思考”是指在基础模型的基础上，当处理一些复杂指令时，智能体将需求拆解成多个子任务，会调用不同的工具来完成任务，并对结果进行反思、确认，这一过程体现了一种类似于人类思维的“系统 2”的过程，即 step-by-step、可解释的且能导致更准确结果的过程。这些能力对于智能体具有重要的作用和价值。
Yolo11实战改进：一文读懂Yolo11到实战。
m0_47867638的博客
11-09 805
YOLO11是Ultralytics YOLO系列实时目标检测器的最新迭代版本，它以尖端的精度、速度和效率重新定义了可能性。在之前YOLO版本令人瞩目的进步基础上，YOLO11在架构和训练方法上引入了重大改进，使其成为各种计算机视觉任务的通用选择。关键特性：YOLO11采用改进的主干网络和颈部架构，提高了特征提取能力，以实现更精确的目标检测和更复杂的任务性能。YOLO11引入了精细的架构设计和优化的训练流程，提供了更快的处理速度，并在准确性和性能之间保持了最佳平衡。
node如何搭建llm
08-16
要搭建LLM（Least Laxity First）调度算法的节点，首先需要了解LLM调度算法的基本原理和实现步骤。 LLM调度算法是一种动态优先级调度算法，相比其他调度算法更加灵活和高效。它通过计算任务的最低松弛度（laxity）...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值