DeepSeek R1：700亿参数，最新本地15X加速部署方案prima.cpp 来了，适合私有化部署需求的公司以及个人使用

已于 2025-04-17 17:35:44 修改
阅读量831 收藏 14
点赞数 22
文章标签： DeepSeek prima.cpp llama 网络攻击模型 本地部署
于 2025-04-17 17:32:56 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_64094522/article/details/147310427
版权

prima.cpp ：低成本，低延迟，低内存，高性能超大LLM模型私有化分布式部署方案

项目地址：https://github.com/Lizonghang/prima.cpp

论文地址：https://arxiv.org/abs/2504.08791

请添加图片描述

​ 随着大语言模型（LLM）技术的迅猛发展，众多企业纷纷推出功能强大且高效的云端推理服务。这些云服务为用户提供了便捷、低成本的解决方案，涵盖广泛的语料库和强大的计算能力。然而，云端部署需要持续的互联网连接，这可能引发隐私泄露、数据安全和网络依赖等问题。

​ 为满足对数据安全性和离线可用性有更高要求的企业和个人用户，LLM的本地部署方案应运而生。本地部署不仅增强了数据控制权，还提升了响应速度和系统的可定制性。然而，传统的大模型对硬件资源的高要求使得本地部署面临挑战，尤其是在资源受限的设备上。为解决这一难题，研究人员和开发者致力于开发轻量化的部署方案，使得在低成本设备上运行LLM成为可能。 llama.cpp是一个使用C/C++编写的高性能开源可商用推理框架，支持在无GPU的设备上高效运行LLaMA系列模型。通过引入GGUF文件格式和多种量化技术，显著降低了内存占用和计算需求。目前在开源平台github斩获了78.3k 的高收藏量。

​ 最近，一个新兴的推理框架 prima.cpp 开源了，该项目由 穆罕默德·本·扎耶德人工智能大学 和 电子科技大学 的研究人员联合开发。旨在在资源有限的普通设备上高效运行更大的模型，根据实验显示，该项目成功部署了70B 规模的大语言模型 DeepSeek R1。在一些模型上与 llama.cpp 方案相比，速度最大提升了15倍，在内存管理上也有了明显进步。

请添加图片描述

prima.cpp 项目亮点与创新

​ 根据 2025 年 4 月发布的论文《PRIMA.CPP: Speeding Up 70B-Scale LLM Inference on Low-Resource Everyday Home Clusters》，prima.cpp 引入了多项创新技术：

  • 节省内存、降低成本： 它采用了一种叫 mmap 的技术，让大模型“随用随取”，像看电影时的缓冲一样，减少内存压力。再配合智能的“分工机制”，让你在家用电脑上也能跑超大模型。
  • CPU 和 GPU 携手上阵：不再只靠显卡“单打独斗”——它会根据每台设备的能力，智能地安排 CPU 和 GPU 一起工作，就像一个高效的团队各司其职，提升整体速度。
  • 高速“流水线”机制：引入了类似“工厂流水线”的 piped-ring 架构，能提前加载模型需要的数据，避免卡顿，使用起来更流畅。
  • 智能负载调度：系统会自动评估每台机器的“能力值”（处理能力和内存），然后合理分配任务。哪台设备强，就干重活；哪台轻，就安排辅助任务。
  • 兼容主流模型，格式通吃：不管你喜欢 Meta 的 LLaMA，还是国产的 DeepSeek、Qwen 系列，都能轻松上阵，同时支持多种压缩格式。
  • 多系统支持，更广泛部署：无论你是用 Mac 还是 Linux，都可以尝试部署 prima.cpp。官方正在加急赶制 Windows 部署方案。

目前支持众多热门模型：

DeepSeek

​ DeepSeek R1 是由 DeepSeek AI 团队推出的超大语言模型，覆盖从 7B 到 70B 多种规模，并通过蒸馏等技术压缩模型体积，提升运行效率。它融合了 Qwen 和 LLaMA 架构的优点，既有强大的理解能力，也对硬件要求更友好，特别适合用在像 prima.cpp 这样的高性能本地部署框架中，兼顾性能和资源利用率。

Llama：

​ 由 Meta（Facebook 母公司）推出的大型语言模型系列，它以开源、高性能著称，广泛应用于自然语言理解、对话生成、编程辅助等场景。它支持从小到超大的模型版本，比如 7B、30B 到 70B，不同算力环境都能使用。LLaMA 模型在全球社区中非常受欢迎，几乎是本地部署 AI 的“默认选择”。

Qwen 2.5 / QwQ

​ Qwen 2.5 是阿里通义实验室研发的新一代中文大模型，专为中文理解优化，兼顾多语言能力。相比之下，QwQ 是它的轻量版兄弟，采用压缩和量化技术，使得在普通设备上也能高效运行。这两个模型在中文问答、客服、教育等领域表现出色。

prima.cpp 应用场景：

  • 用户可以在普通设备上部署先进的 30B 至 70B 大模型，实现本地化的智能助手功能，如自然语言对话、日程管理、家庭自动化控制等。

  • 开发者可以在本地环境中运行大型模型，进行模型测试、调试和微调，减少对云服务的依赖，降低开发成本，同时保护敏感数据的隐私。

  • 教育机构和研究人员可以利用 prima.cpp 在普通计算设备上进行大模型的教学和研究，促进人工智能教育的普及和科研的深入发展。

  • 中小企业可以在内部部署大型语言模型，应用于客户服务、文档生成、数据分析等场景，提高工作效率，保护企业数据的安全性。

prima.cpp 性能表现

官方测试设备：

D1D2D3D4
设备Mac M1LaptopDesktopMate40Pro
操作系统MacOS（UMA）LinuxLinuxLinux（基于 HarmonyOS）
中央处理器苹果 M1英特尔 i9英特尔 i9麒麟9000
CPU 核心88168
RAM（可用）2.4 GiB4.1 GiB9.7 GiB1.9 GiB
磁盘读取速度0.72 GB/秒2.98 GB/秒3.17 GB/秒1.37 GB/秒
GPU 类型苹果金属30702080TI-
VRAM（可用）-8 GiB11 GiB-

​ 在 llama.cpp与prima.cpp 上部署的模型推理速度比较，可以看到prima.cpp在超大模型处理上领先，随着模型参数的增大，推理时间变化更为平稳。

模型llama.cpp / 1Tokenprima.cpp / 1Token
Llama 3-8B15 ms54 ms
Llama 3-14B20 ms65 ms
Llama 1-30B202 ms72 ms
Llama 3-45B328 ms233 ms
Llama 3-60B7965 ms468 ms
Llama 1-65B8807 ms569 ms
Llama 3-70B10120 ms674 ms
Qwen-2.5-7B14 ms44 ms
DeepSeek-R1-Distill-Qwen-7B14 ms52 ms
DeepSeek-R1-Distill-Llama-8B14 ms59 ms
Qwen-2.5-14B23 ms65 ms
DeepSeek-R1-Distill-Qwen-14B24 ms76 ms
Qwen-2.5-32B and QwQ-32B224 ms89 ms
DeepSeek-R1-Distill-Qwen-32B232 ms93 ms
DeepSeek-R1-Distill-Llama-70B10978 ms724 ms
Qwen-2.5-72B12227 ms867 ms

部署教程：

​ 由于项目刚刚兴起，目前只支持Linux和macOS操作系统进行部署（安卓手机需要模拟linux），有开发C项目经验的可以快速上手，大部分内容需要科学上网。注意：请用固态硬盘进行操作，机械硬盘太慢。目前 prima.cpp 仅支持基于 CUDA 的 GPU。

运行环境依赖准备：

  • gcc >= 9.4.0 （常用的 C/C++ 编译工具，让程序代码变成能运行的应用） 下载地址：https://ftp.gnu.org/gnu/gcc/gcc-9.5.0/
  • make> = 4.2.1（自动化构建工具，相当于“建房子的施工队长”，负责编译项目） 下载地址：https://ftp.gnu.org/gnu/make/
  • cmake >= 3.16.3 （帮助项目“配置施工图”的工具，配合 make 一起使用）下载地址： https://cmake.org/files/v3.18/
  • fio >= 3.16（ 用来测试硬盘读写速度） 下载地址：https://sourceforge.net/projects/fio/files/fio-3.16-amd64-jessie/download
  • zmq >= 4.3.2（一种设备间通信工具，帮助多台设备高效协作）下载地址： https://zeromq.org/languages/cplusplus/
  • HiGHS >= 1.9.0（智能任务调度工具，让系统知道每台机器擅长干啥，任务分配更合理）下载地址：https://github.com/ERGO-Code/HiGHS/releases
  • CUDA（可选，如果你有 NVIDIA 显卡）

在Linux(Ubuntu) 上可以执行安装依赖，HiGHS需要自己下：

sudo apt update -y && sudo apt install -y gcc-9 make cmake fio git wget libzmq3-dev
------单独下载HiGHS---------------
git clone https://github.com/ERGO-Code/HiGHS.git
cd HiGHS
mkdir build && cd build
cmake ..
make -j$(nproc)
sudo make install

在macOS 上可以直接下载：

brew install gcc make cmake fio git wget highs zeromq

下载prima.cpp并初始化构建：

git clone https://github.com/Lizonghang/prima.cpp.git

cd prima.cpp  
# 进入目录 "prima.cpp"，这个目录可能包含项目源码
make -j$(nproc)
# 默认构建，使用所有 CPU 核心

------------------------个性化需求构建----------------------------------------
# 如果你在 rank 0 的设备上构建，需要添加 USE_HIGHS=1：
make USE_HIGHS=1 -j$(nproc)
# USE_HIGHS=1 表示启用 HIGHS 求解器（用于数学优化）
# -j$(nproc) 表示使用所有可用的 CPU 核心并行构建，提高构建速度

# 如果你安装了 CUDA，可使用 GPU 加速，添加 GGML_CUDA=1：
make GGML_CUDA=1 -j$(nproc)
# GGML_CUDA=1 启用 CUDA 后端，加速部分操作

# macOS 用户如果模型很大，可能禁用 Metal 会更稳定：
make LLAMA_NO_METAL=1 -j$(nproc)
# LLAMA_NO_METAL=1 禁用 macOS 的 Metal 图形加速，可能有助于大模型运行

# 如果要启用调试模式，可以加上 LLAMA_DEBUG=1：
make LLAMA_DEBUG=1 -j$(nproc)
# LLAMA_DEBUG=1 会开启调试输出，有助于开发和排错

下载一个兼容的模型：比如官方推荐的https://huggingface.co/Qwen/QwQ-32B-GGUF模型进行测试

mkdir download  
wget https://huggingface.co/Qwen/QwQ-32B-GGUF/resolve/main/qwq-32b-q4_k_m.gguf -P download/

一台电脑部署：

这里是单机测试，用的不是prima.cpp ，而是 llama.cpp

./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 -p "what is edge AI?" -n 256 -ngl 30
# -ngl 30 只对GPU有用

llama-cli 常用参数速查表

参数名示例值说明
-mdownload/qwq-32b-q4_k_m.gguf指定模型路径（.gguf 格式）
-c1024上下文窗口大小（token 数），影响模型的“记忆范围”
-p"what is edge AI?"提示词（Prompt），模型将基于此生成内容
-n256要生成的最大 token 数量
-ngl30分配到 GPU 的层数（越多越快，但显存要够）
--temp0.8温度参数，控制生成的多样性（越低越稳定）
--top-k40从概率前 K 个词中随机抽取
--top-p0.95从累计概率大于 P 的词中采样
--repeat_penalty1.1惩罚重复词，避免输出重复
--seed42随机种子，保证结果可复现
--threads8使用的 CPU 线程数
--color(无参数)启用彩色输出，提升可读性
--interactive(无参数)启用交互模式，支持多轮对话
--keep0保留多少 token 不被截断（对上下文管理有用）

分布式多设备部署（prima.cpp项目特色）

官方测试设备:

设备名序号大致型号/说明分配地址
Mac M1D0MacBook Air/Pro M1（2020-2021 款）192.168.1.2
**Laptop **D1普通 Windows 笔电（中端配置）192.168.1.3
**Desktop **D2中端台式机（含独显）192.168.1.4
Mate40 ProD3华为旗舰手机（2020 年发布）192.168.1.5

​ 为了满足通信要求，需要一个 WIFI 局域网, 测试时可以考虑关闭防火墙，开放9000、10000等端口，避免设备之间通信失败。手机需要软件 Termux 模拟Linux系统，下载地址:https://github.com/termux/termux-app/releases

四台设备都需要部署与单机一样的环境，参考 单机部署。

在每台设备上执行启动命令：

# D0:
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 -n 256 -p "what is edge AI?" --world 4 --rank 0 --master 192.168.1.2 --next 192.168.1.3 --prefetch

# D1:
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 1 --master 192.168.1.2 --next 192.168.1.4 --prefetch --gpu-mem 8

# D2:
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 2 --master 192.168.1.2 --next 192.168.1.5 --prefetch --gpu-mem 11

# D3:
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 3 --master 192.168.1.2 --next 192.168.1.2 --prefetch

​ 主设备为D0,一旦启动，prima.cpp 将分析每个设备并决定分配多少工作负载，例如，每个设备应该处理多少个模型 layer，以及其中有多少个应该在 GPU 上运行。

数据的通信是有顺序的环形结构，例如D0->D1->D2->D3->D0 ，下图为论文使用的6台设备网络拓扑。

请添加图片描述

如果需要手动控制 layer 分布，可以使用-lw（或--layer-window、--n-layer-window）和-ngl选项：

  • -lw设置每个设备应处理的模型 layer 总数。格式为逗号分隔的列表，每个设备一个值，按顺序排列。可以设置"8,8,8,8"、"4,4,4,4"、"16,16,24,8"。
  • -ngl设置有多少个模型 layer 应该在 GPU 上运行。
# on head device without a GPU, rank 0, use the option "-lw":
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 -n 256 -p "what is edge AI?" --world 4 --rank 0 --master 192.168.1.2 --next 192.168.1.3 --prefetch -lw "16,16,16,16"

# on worker device with 8 GiB VRAM, rank 1, use the option "-ngl":
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 1 --master 192.168.1.2 --next 192.168.1.4 --prefetch -ngl 16

# on worker device with 11 GiB VRAM, rank 2, use the option "-ngl":
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 2 --master 192.168.1.2 --next 192.168.1.5 --prefetch -ngl 16

# on worker device without a GPU, rank 3:
./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 3 --master 192.168.1.2 --next 192.168.1.2 --prefetch

在虚拟机上部署（Docker）

官方测试设备：一台至少配备 32 个 CPU 核心、32 GiB RAM 和 32 GiB VRAM 的主机。

使用 Docker 容器模拟 4 个同构节点，每个节点分配 8 个 CPU 核心、8 GiB RAM 和 8 GiB VRAM。拉取4个镜像：

sudo docker run -dit --name prima-v1 --memory=8gb --memory-swap=8gb --cpus 8 --cpuset-cpus="0-7"   --network host --gpus all prima.cpp:1.0.1-cuda
sudo docker run -dit --name prima-v2 --memory=8gb --memory-swap=8gb --cpus 8 --cpuset-cpus="8-15"  --network host --gpus all prima.cpp:1.0.1-cuda
sudo docker run -dit --name prima-v3 --memory=8gb --memory-swap=8gb --cpus 8 --cpuset-cpus="16-23" --network host --gpus all prima.cpp:1.0.1-cuda
sudo docker run -dit --name prima-v4 --memory=8gb --memory-swap=8gb --cpus 8 --cpuset-cpus="24-31" --network host --gpus all prima.cpp:1.0.1-cuda

# 没有GPU , 去除 --gpus all

分别复制模型到4个容器：

cd prima.cpp/download
sudo docker cp qwq-32b-q4_k_m.gguf prima-v1:/root/prima.cpp/download/
sudo docker cp qwq-32b-q4_k_m.gguf prima-v2:/root/prima.cpp/download/
sudo docker cp qwq-32b-q4_k_m.gguf prima-v3:/root/prima.cpp/download/
sudo docker cp qwq-32b-q4_k_m.gguf prima-v4:/root/prima.cpp/download/

没有GPU需要在4个容器中重新构建 prima.cpp

cd ./prima.cpp && make clean
make -j$(nproc)  # If not rank 0
make USE_HIGHS=1 -j$(nproc)  # If rank 0

启动推理

cd ./prima.cpp
(prima-v1) ./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 -n 256 -p "what is edge AI?" --world 4 --rank 0 --prefetch --gpu-mem 8
(prima-v2) ./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 1 --prefetch --gpu-mem 8
(prima-v3) ./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 2 --prefetch --gpu-mem 8
(prima-v4) ./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 --world 4 --rank 3 --prefetch --gpu-mem 8
#没有GPU 去除--gpu-mem 8

启动聊天（对话）模式，只需在头部设备上添加标志 -cnv，要退出聊天模式，输入quit或exit。

./llama-cli -m download/qwq-32b-q4_k_m.gguf -c 1024 -n 256 -p "what is edge AI?" --world 4 --rank 0 --master 192.168.1.2 --next 192.168.1.3 --prefetch -lw "16,16,16,16" -cnv

​ prima.cpp 建议操作系统预取即将到来的层权重，实际的预取操作由操作系统调度和处理，这可能会带来一些不确定性。要在计算后立即显式触发预取，强制预取需要可以添加 --force参数。这会实现更积极的重叠，但也会引入额外的内存访问延迟。--force请仅在测试后使用，因为其效果取决于硬件和操作系统行为。

目前的缺陷：

​ 兼容设备较少，配置过于重复，环形通信具有先后顺序，设备故障尚未提及解决方案，模型权重文件需要保存在每个设备上。

核知坊
关注
吉林大学本科毕业论文模板
05-15
"吉林大学本科毕业论文模板" 本科毕业论文（设计）是本科学习期间独立分析问题、解决问题及初步进行科学研究能力的综合体现，也是创新意识、创新能力和获取新知识能力的综合检验，是学校授予学位的重要依据。为了...
吉林农业大学在湖南2021-2024各专业最低录取分数及位次表.pdf
09-22
从文件内容可以看出，吉林农业大学在湖南省本科批次中，各个专业的录取分数及位次每年都有所变化，且不同专业组之间的录取分数及位次也有较大差异。例如，计算机类、英语、生物工程类等专业的录取分数线普遍较高，而...
吉林农业大学成人高考本科如何报名
v_15504473337的博客
03-13 151
众所周知，成人高考的入学考试考生本人是必须参加的，因为成人高考是国家选拔优秀人才进入更高层次的成人高等教育的一项考试，因此考试有一定的难度。所以，考生报名成功后有必要进行合理的复习，毕竟，成考每年考一次，错过今年就要等到明年了。现场确认流程：办理确认手续--交验证件、证明--采集个人照片--核对报名信息、签字、存档。1、吉林农业大学正式报名流程：网上报名--现场确认信息--网上缴费。1. 专科段---畜牧兽医专业。2. 本科段---动物医学专业。吉林农业大学成人高考报名流程。
吉林农业大学成人高考
w15504473337的博客
07-15 206
1、报名流程： 1.1-9月份来学校办理信息采集报名 2.9月份统一现场确认 ——》10月份参加国家统一安排考试 3.11月底公布考试结果、划定录取分数线 4.12月份公布录取结果，发放录取通知书 5.到校交学费，学校统一办理入学 6.次年3-5月份学信网查询学籍,每个学校时间不同 8.本科段考学位英语可以申请学士学位 考试科目： 1、高中起点升本科统考科目： （1）理科类：语文、数学（理）、外...
2023年吉林农业大学成人高考招生简章
v_15504473337的博客
02-23 118
中药学、机械设计制造及其自动化、计算机科学与技术、制药工程、农业机械化及其自动化、食品科学与工程、食品质量与安全、生物技术、环境科学、中药资源与开发、工商管理、市场营销、财务管理、农林经济管理、土地资源管理、旅游管理、家政学、农学、园艺、植物保护、设施农业科学与工程、水土保持与荒漠化防治、动物科学、动物医学、林学、园林。(4)打印考生信息表，考生本人签字确认。考生们应该知道，今年的成人高考如果不出意外，将在10月底举行，那么，距离考试开考已经时间不多了，考生们一定要抓紧时间，提高自己的备考效率。
函授本科报名
w15504473337的博客
07-15 354
函授本科考试科目： 高中起点升专科：语文、数学、英语。 高中起点升本科：文科类——语文、数学、英语，加考历史、地理综合科。 理科类——语文、数学、英语，加考物理、化学综合科。 专科起点升本科：政治、英语、高数。 成人高考院校： 长春理工大学、吉林师范大学、长春工程学院、吉林建筑大学、吉林省经济管理干部学院、吉林农业大学、吉林医药学院、通化师范学院、吉林职工医科大学、长春大学四平职业大学、吉林农业科...
2025java毕业设计选题参考
2301_81135093的博客
01-01 400
计算机选题参考大全
吉林农业大学在山西2020-2024各专业最低录取分数及位次表.pdf
10-24
山西省作为高考大省，每年都有大量学子报考全国各地的高等院校，其中就包括吉林农业大学。在高考志愿填报的过程中，考生及家长对于历年各大高校在山西的录取分数线及位次信息的需求十分迫切。本份数据提供了2020年至...
吉林农业大学本科生毕业论文（设计)模板.doc
09-26
对于吉林农业大学的本科生而言，完成毕业论文不仅是学术生涯的一次重要实践，也是对其四年学习成果的全面检验。为了确保毕业论文的规范性和专业性，吉林农业大学为学生提供了一份详尽的毕业论文模板，这份模板不仅...
吉林农业大学在四川2020-2024各专业最低录取分数及位次表.pdf
11-01
吉林农业大学是位于中国吉林省长春市的一所以农学为特色的多科性大学，该校在全国各地的招生录取情况一直受...这对于有意向报考吉林农业大学的考生来说，可以提前做好规划，有针对性地准备高考复习，提高被录取的机会。
ShenNiusModularity项目源码学习（33：ShenNius.Admin.Mvc项目分析-18）
最新发布
gc_2299的博客
06-02 455
学习并分析ShenNiusModularity项目中的文章管理页面
uni-app学习笔记十五-vue3页面生命周期(二)
shenxiaomo1688的博客
05-28 654
onShow：用于监听页面显示，页面每次出现在屏幕上都触发，包括从下级页面点返回露出当前页面；onHide:监听页面隐藏，当离开当前页面时触发。
java基础学习(二十)
AbaseZ的博客
06-01 499
在子类中可以根据需要对从父类中继承来的方法进行改造，也称为方法的重置、覆盖。在程序执行时，子类的方法将覆盖父类的方法。
板凳-------Mysql cookbook学习 （九）
fengye207161的博客
05-30 752
在 MySQL 中，CREATE TABLE LIKE 是一种用于创建新表的语法，该新表的结构与现有表完全相同，但不包含源表中的数据1。上述语句将创建一个名为 employees_backup 的新表，其结构与 employees 表完全一致，但不包含任何数据1。此语法会复制 existing_table_name 表的所有列定义、索引以及约束到 new_table_name 表中1。新表结构：仅包含 SELECT 中显式指定的字段，不继承源表的索引和约束（除非手动声明）。一、CREATE TABLE …
CppCon 2014 学习:Defensive Programming Done Right.
虾球
06-02 633
这段摘要讲的是：这个大纲展示了如何从系统设计、接口约定，到实现防御、测试验证，全流程构建健壮、可控、可测的 C++ 组件库。 Physical Design（物理设计） 关注：程序的组织结构和部署方式 包括： 头文件（ / ） 实现文件（） 静态库、动态库（, , ） 表示“我们如何组织代码和构建产物” 示例： 总结对比 特性 Logical Design Physical Design 本质 行为的设计 结构和文件的组织方式 关注点 类、函数、契约 文件、模块、编译边界
学习笔记：3个学习AI路上反复看到的概念：RAG，Langchain，Agent
FBeetle的博客
05-31 386
RAG的能力核心是有效结合了检索和生成两种方法。基本思路是把私有数据进行切片，向量化后通过向量检索进行召回，再作为上下文输入到通用大模型，模型再进行分析和回答。同时，AI Agent也可以利用RAG技术来提高其在特定任务（如问答或对话系统）中的性能，尤其是在需要外部知识来支持决策时。RAG可以作为LangChain（如果它是一个语言处理工具）的一部分，用于提供更加丰富和准确的语言生成能力。AI Agent可能使用LangChain来处理自然语言的任务，比如理解用户输入和生成响应。
SAP学习笔记 - 开发17 - 前端Fiori开发 Component 配置（组件化）
shi_ly的专栏
06-01 665
本章讲 Component 配置（组件化），其本质就是把一些共通处理给拿出来放到 Component.js 里面。这样做就会缩减Controller.js 里面的代码。
2025.5.29 学习日记 docker概念以及基本指令
2503_90593237的博客
05-31 633
用于定义 Docker 镜像的构建步骤。通过编写指令，你可以指定基础镜像、安装软件、配置环境变量、复制文件等，最终生成一个可复用的镜像。是一款适用于 Mac、Linux 或 Windows 环境的一键安装应用程序，可让用户构建、分享和运行容器化应用程序和微服务。配置文件，可一次性编排多个服务（如 Web 应用、数据库、缓存等），实现服务的快速部署、扩展和管理。Docker 是一种开源的容器化平台，用于快速部署应用程序，实现开发、测试和生产环境的一致性。，用于定义和管理由多个容器组成的复杂应用。
Python60日基础学习打卡Day40
2403_89934198的博客
06-01 572
在图像数据预处理环节，为提升数据多样性，可采用数据增强（数据增广）策略。该策略通常不改变单次训练的样本总数，而是通过对现有图像进行多样化变换，使每次训练输入的样本呈现更丰富的形态差异，从而有效扩展模型训练的样本空间多样性。常见的修改策略包括以下几类1. 几何变换：如旋转、缩放、平移、剪裁、裁剪、翻转2. 像素变换：如修改颜色、亮度、对比度、饱和度、色相、高斯模糊（模拟对焦失败）、增加噪声、马赛克3. 语义增强（暂时不用）：mixup，对图像进行结构性改造、cutout随机遮挡等。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值