小牛壮士-CSDN博客

原创 128倍压缩还能吊打全原文？苹果 CLaRa 彻底把 RAG 玩明白了

摘要：苹果公司提出的CLaRa框架创新性地解决了传统RAG系统在网络安全应用中的核心痛点。该框架通过SCP预训练将文档压缩为连续memory tokens，采用Straight-Through软top-k机制实现检索与生成的端到端优化，使生成器能直接指导检索器改进。实验显示其压缩率与传统RAG相当（平均44.75 vs 44.86），但仅需处理半页纸的压缩信息即可达到完整文档的响应效果。在安全场景中，CLaRa显著提升了威胁情报解析（准确率提升）、攻击链重建（秒级完成）、告警去噪（自动过滤90%噪音）等关键

2025-12-03 10:14:24 507

原创基于AutoDL云服务器的VLLM大模型部署以及本地调用

本文介绍了使用vLLM框架在云服务器上部署大语言模型的完整流程。

2025-08-20 19:51:57 772 1

原创 Tokenizer（切词器）的不同实现算法

本文介绍了Tokenizer（分词器）在文本处理中的三种主要分词方式：Word-based（基于单词）、Character-based（基于字符）和Subword-based（基于子词），重点分析了Subword分词的不同算法。文章详细讲解了BPE（字节对编码）和WordPiece算法的实现步骤，包括初始化词汇表、统计字符对频率、合并高频字符对等过程。此外还介绍了BPE的扩展版本BBPE（字节级BPE）。最后通过"unrunning"示例展示了贪婪最长匹配优先算法在复杂词汇分词中的应用。

2025-08-15 20:21:43 838

原创 Transformer 自注意力机制

摘要：本文介绍了注意力机制及其实现过程。注意力机制通过Query、Key、Value三个向量模拟人类注意力，使模型能聚焦重要信息。文章详细讲解了单层注意力机制的计算步骤，包括词嵌入、线性变换、注意力得分计算和加权求和。随后扩展到多头注意力机制，通过并行多个注意力头从不同角度捕捉信息特征，最后拼接输出并进行线性微调。文中提供了完整的PyTorch实现代码，展示了注意力机制如何动态调整词向量表示，使模型能更灵活地处理序列数据。

2025-08-15 09:06:01 790

原创 Transformer网络结构解析

本文介绍了Transformer模型的核心架构及其关键组件。首先解释了Transformer在NLP领域的重要地位，作为BERT、GPT等大模型的基础。重点阐述了位置编码的必要性及其计算方法，层归一化技术的作用，以及编码器的核心模块组成。详细分析了掩蔽多头自注意力机制在文本生成任务中的工作原理，说明其如何通过掩码实现自回归预测。最后概述了解码器如何结合编码器信息进行序列生成。全文系统性地解析了Transformer模型的运作机制，为理解现代大语言模型提供了基础框架。

2025-08-14 19:06:33 716

原创 yolov1-v3原理解析

本文系统梳理了YOLO系列目标检测算法（v1-v3）的核心技术演进。YOLOv1首创单阶段检测框架，将目标检测转化为回归问题，实现45fps实时检测但小目标识别效果欠佳；YOLOv2引入DarkNet-19骨干网络、锚框机制和passthrough层，通过多尺度训练显著提升召回率；YOLOv3采用更深的DarkNet-53网络，结合FPN特征金字塔实现三尺度预测，有效解决小目标检测难题。三版本在保持实时性的基础上，通过网络结构优化、多尺度特征融合等技术迭代，逐步提升了检测精度和适应性，为后续目标检测算法发展

2025-08-06 16:32:33 585

原创 yolo目标检测基础知识

本文系统介绍了目标检测相关概念与技术要点。首先阐述了目标检测的核心任务（识别物体类别和位置），并对比了其与图像分类、分割的区别。详细解析了YOLO算法原理，包括单阶段检测特点、数据标注流程、评价指标（IoU、mAP等）及NMS处理机制。同时介绍了目标检测中的关键性能指标（FPS、FLOPS）和YOLO的三层网络结构（Backbone、Neck、Detection head）。通过对比单阶段和两阶段检测器的差异，全面呈现了目标检测技术体系的核心要素。

2025-07-31 19:20:52 740

原创面试问题收集——卷积神经网络

摘要：本文介绍了卷积神经网络的基础知识，包括卷积操作原理、感受野计算、各层功能（卷积层、池化层、全连接层）的区别。重点分析了分组卷积、批量归一化等技术，并概述了LeNet、AlexNet等经典网络的发展历程。文章还解答了BN的作用、参数意义及放置位置，并指出分类任务中全连接层可用全局平均池化替代。内容涵盖卷积网络的核心概念和关键技术演变。（149字）

2025-07-28 19:50:53 781

原创经典神经网络之LetNet

经典神经网络之LetNet

2025-07-23 09:23:20 586

原创卷积神经网络（CNN）原理

本文介绍了卷积神经网络(CNN)的基本原理和结构。CNN由卷积层、激活函数、池化层和全连接层组成，具有局部连接、权重共享和池化三大特性。文章详细讲解了卷积层的工作机制、超参数设置和特征图尺寸计算，以及池化层的作用和类型（最大池化和平均池化）。最后以LeNet为例，给出了一个简单CNN的实现代码，展示了网络各层的参数设置和输出形状。CNN通过这种层级结构能够有效提取图像特征，是计算机视觉领域的重要模型。

2025-07-21 19:56:53 871