因为无知，所以奋斗！

原创 使用 Langchain 和 Streamlit 构建PDF RAG 聊天机器人(附代码实例)

本文介绍了如何使用Langchain和Streamlit构建一个能够与PDF文档互动的RAG（检索增强生成）聊天机器人。文章详细阐述了构建过程，包括设置基础工具、读取和处理PDF文件、将文本分割成块、创建可搜索的文本数据库、设置对话式AI、处理用户输入和用户交互界面等步骤。通过这些步骤，可以创建一个不仅能够处理和理解大型PDF文档，而且能够以有意义的方式与用户互动的应用程序。与大量 PDF 进行交互从未如此令人着迷。想象一下能够无缝地与您的笔记、书籍和文档进行交流。

原创 使用 PyTorch 从头开始​​构建您自己的 Llama 3 架构

Llama 3 及其其他变体是目前 LLM 领域最流行的开源 LLM。我相信从头开始构建 Llama 3 的能力为构建许多新的令人兴奋的基于 LLM 的应用程序提供了所有必要的基础。我坚信知识应该对所有人免费。请随意使用源代码并更新它来构建您的个人或专业项目。祝大家好运。参考/wp:list。

原创 RAG(检索增强生成) 的最佳实践

RAG 的过程很复杂，包含许多组成部分。我们如何确定现有的 RAG 方法及其最佳组合，以确定最佳 RAG 实践？本文介绍了一项名为“Searching for Best Practices in Retrieval-Augmented Generation”的新研究。本研究旨在解决这个问题。文章分为四个部分：典型RAG工作流程介绍、每个RAG模块的最佳实践、全面评估和作者的思考与见解。

转载 为什么 Llama 3.1 405B 比 GPT-4o 和 Claude 3.5 Sonnet 好得多

Llama 3.1 405B 是 Meta 最大的模型，使用超过 15 万亿个代币进行训练。为此，Meta 优化了整个训练堆栈，并在超过 16,000 个 H100 GPU 上进行训练，使其成为第一个以这种规模训练的 Llama 模型。根据 Meta 的说法，这个版本的原始模型（Llama 1 和 Llama 2）具有 128K 上下文长度，改进了推理和编码能力。Meta还升级了多语言8B和70B型号。

原创 如何在家用设备上运行 Llama 3.1 405B？搭建 AI 集群

在开放式 LLM 模型和封闭式 LLM 模型之间的竞争中，开放式模型的最大优势是您可以在本地运行它们。除了电力和硬件成本外，您无需依赖外部提供商或支付任何额外费用。但是，随着模型大小的增加，这种优势开始减弱。运行需要大量内存的大型模型并不容易。幸运的是，张量基准和分布式推理可能会有所帮助。

转载 2024 年十大机器学习算法（附代码）

机器学习算法是指一类让计算机能够从数据中学习和预测的方法和技术。它们可以帮助我们发现数据中的模式、关系和见解，从而为我们提供更好的决策和预测能力。在实际应用中，有许多种不同的机器学习算法，每种都有其特定的优势和适用场景。

转载 2024年成为AI工程师的3个路径和技能

随着技术的迅速发展，工程师成为了当下和未来的重要技术角色之一。对于许多工程师来说，转型成为工程师是一个具有吸引力的选择。那么，如果你是一名工程师，想要成为一名AI工程师，应该如何规划自己的职业发展呢？

转载 ChatGPT Prompt精准提问技巧：释放ChatGPT的潜能

通过遵循 CREATE 方法（字符、请求、示例、调整、输出类型和附加内容），您可以轻松制作Prompt 提示，有效利用 ChatGPT 的功能来生成富有洞察力、相关性和吸引力的响应。无论您是在寻求信息、灵感还是帮助，掌握提示的艺术都将增强您与这个有效且强大的人工智能工具的互动。

转载 利用Gemini AI提升内容创作的10 种有效方法

借助 Gemini AI，头脑风暴过程从一项艰巨的任务转变为充满可能性的激动人心的旅程，使创作者能够更有效地利用他们的激情。率先上市的 Google 先进的 AI 模型 Gemini Ultra 驱动的自动回复器，可生成无限内容，向无限订阅者发送无限的电子邮件，无需月费！其全面的功能为用户提供了必要的工具，以应对现代内容需求的挑战，从最初的灵感火花到出版的最后阶段。从自动执行繁琐的任务到提供可操作的见解，Gemini AI 为营销人员提供了在竞争激烈的在线环境中茁壮成长所需的工具。

转载 探索Google Gemini：4款模型的全面解析

Gemini Ultra 是 Gemini 系列中功能最强大、最复杂的模型。领域受到了广泛关注。从用于高级研究的功能强大的 Gemini Ultra 到用于实时任务的快速高效的 Gemini Flash，每个模型都是针对不同的需求而设计的。在介绍不同的 Gemini 模型之前，我们先来了解一下什么是上下文长度，以及为什么较大的上下文长度很重要。相比于 Ultra 或 Pro，它的参数较少，但具有极快的推理能力和优化的算法。Gemini Nano 是 Gemini 系列中最小、最轻的模型，专门为设备上的。

转载 如何通过编写高质量ChatGPT Prompt来提高AI模型的表现力

在提高AI模型的表现力方面，编写高质量的Prompt是至关重要的。Prompt是指用户提供给AI模型的输入，它直接影响着模型的输出结果。一个好的Prompt可以引导模型产生准确、有逻辑的回答，而一个糟糕的Prompt则可能导致模糊、不连贯甚至错误的结果。因此，编写高质量的Prompt是提高AI模型表现力的关键之一。如何通过编写高质量Prompt来提高AI模型的表现力随着AI技术的迅速发展，模型变得越来越强大，能够协助我们完成各种任务。然而，如何更好地利用AI的能力仍然存在很大的探索空间。在与。

转载 2024年 掌握Claude Prompt：最佳写作实践指南

提示是提供给人工智能系统以生成输出的输入文本或指令。它充当指导模型响应生成过程的起点或种子。提示是用户与语言模型交互的基本组成部分。它们允许您指定任务、提供上下文并将模型的输出引导到所需的方向。精心设计的提示可以显着影响人工智能响应的质量、相关性和连贯性。提示可以采用多种形式，例如问题、陈述、一段代码或这些元素的组合。它充当语言模型的信号，使其能够理解用户的请求并生成适当的响应。提示的范围可以从简单、简洁的说明到提供附加上下文、示例或约束的更复杂、由多部分组成的提示。

转载 从4个方面详细说明什么是多模态AI

多模态人工智能是指能够处理多种数据输入以产生更复杂结果的人工智能。多模态人工智能是指将不同类型的数据或模式结合起来，从而做出更准确的决策、提出建议或预测现实世界问题的人工智能。多模态人工智能机器使用视频、音频、语音、图像、文本和各种传统中文数据集进行学习。最重要的是，多模态人工智能意味着同时使用多种类型的数据来帮助人工智能创建和更好地解释内容。

转载 如何使用Claude AI撰写高质量文章

Claude是由领先的安全公司 Anthropic 创建的高级对话式人工智能助手。凭借其强大的自然语言功能，在给出正确的提示和信息时，可以生成有关广泛主题的高质量书面内容。本指南将深入介绍如何使用 Claude AI 高效地生成针对目标关键字优化的经过深入研究、引人入胜的文章。

转载 效率提升必备：2024年精选12个免费AI 编码应用助手

在编码领域，拥有正确的可以让一切变得不同。无论您是经验丰富的开发人员，还是刚刚开始编码之旅，使用功能强大的编码应用程序都能大大提高您的工作效率，简化您的工作流程。看看这 12 款让人难以置信的免费。

原创 arm-linux交叉编译环境的搭建

自己参考网上资料整理的，内容都是一些基本型的东东！有兴趣的可以看看~~一．安装Vmware7.1及ubuntuVmware7.1新版本已经放出来好长时间了，貌似加了很多新功能，一直没时间去搞这个。所以，也只有等到考试结束后才能一好好玩玩。下了下来安装后感觉还不错，在刚开始设置的时候版本兼容性比7.0增强了不少，总体性能提升了不少。新版本网上很多地方已经放出源，不过出于安全考虑，还是建议从官

原创 构建基本的嵌入式Linux根文件系统

原创 写得蛮好的linux学习笔记

原创 Linux系统启动的标准流程

原创 linux下各种交叉编译工具

原创 编程时经常使用到的标点符号列表!

原创 C++如何处理内联虚函数