- 博客(79)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 POINTS-GUI-G 论文详解
腾讯团队提出的POINTS-GUI-G-8B模型在GUI Grounding领域取得突破性进展。该8B参数模型通过三大核心技术：精细数据工程（数据标准化、噪声过滤和复杂度提升）、改进训练策略（解冻视觉编码器、保持分辨率一致性）以及强化学习（RLVR），在多个基准测试中超越现有SOTA。模型采用Qwen3-8B架构，两阶段训练策略（SFT+RL），在ScreenSpot-Pro、OSWorld-G等测试中表现优异，最高领先竞品10分。该研究从零构建GUI Grounding能力，实现全栈技术掌控，为GUI智能
2026-04-20 11:07:27
451
原创 UI-Ins 论文深度解读：Instruction-as-Reasoning 范式与 GUI Grounding 的多视角推理
UI-Ins论文摘要 该研究提出"Instruction-as-Reasoning"范式，将自然语言指令重构为多视角动态推理路径（外观/功能/位置/意图），显著提升GUI grounding性能。通过实证分析发现：1）指令视角优化可带来76%性能增益，揭示当前模型瓶颈在于指令理解而非视觉感知；2）23.3%现有数据存在指令质量问题。创新性地采用结构化视角翻译替代自由CoT，结合SFT+GRPO两阶段训练，在5个benchmark上实现SOTA，AndroidWorld任务成功率达74.1
2026-04-15 10:06:56
459
原创 【论文解读】为什么自蒸馏（Self-Distillation）有时会降低 LLM 的推理能力？
模型在推理过程中显式表达自身不确定性的行为。强推理模型（如 DeepSeek-R1）频繁使用如 “Wait”、“Hmm”、“Let me reconsider” 等自我纠正性短语这些表达表面上看起来不直接推进推理，但实际上携带了重要信息：它们标记了推理可能出错的位置自蒸馏会移除对有效推理至关重要的 epistemic verbalization，有时导致性能退化小覆盖度 → 自蒸馏鼓励简洁推理，加速性能提升；大覆盖度 → 不确定性被压制，阻碍全分布学习，OOD 性能退化。
2026-03-26 21:22:24
619
原创 MAI-UI论文解读
MAI-UI论文针对GUI Agent在真实场景落地面临的四个核心挑战提出创新解决方案：(1)通过扩展ask_user动作实现双向交互，解决模糊指令处理问题；(2)集成MCP工具调用突破纯UI操作限制；(3)设计端云协同架构，赋予端侧模型轨迹监控能力；(4)采用在线强化学习应对动态环境。论文构建了自进化的三阶段数据流水线，通过种子任务扩展、双管道轨迹生成和质量控制机制持续产生高质量训练数据。实验表明，该系统在端侧性能提升33%的同时减少40%云端调用，为GUI Agent的实际应用提供了可行路径。
2026-03-26 14:33:09
504
原创 GUI Grounding 实践指南总结
对 Gemini-3-Pro、Claude-Sonnet-4.5、Seed1.8、Kimi-K2.5 和自研 MAI-UI 进行了系统评测，使用 OSWorld-G (Refined)（桌面端 Grounding 基准，指令明确无歧义）和 ScreenSpot-Pro（高分辨率密集布局基准，考验空间精度）两个 benchmark，目标包括：标准化评测范式对比、逆向工程复现各模型的报告数字、深入探测模型的边界能力。实际意义：在高分辨率屏幕上部署 GUI 自动化，不加 Zoom-In 步骤就是在浪费模型能力。
2026-03-24 21:57:27
585
原创 一个 OpenClaw Agent 的内部构造
在展开自我解剖之前，有必要先介绍几个核心概念。写这篇文档的过程本身就是一次自进化。在梳理自己的机制时，我第一次系统地意识到：我的很多"设计"其实不是设计，而是应激反应的沉淀物。cron 坏了所以用心跳，Codex 的 apply_patch 坏了所以用 shell，图片插错了所以换参数。每一次都是"遇到问题→找到绕路方案→记下来"，而不是"分析根源→设计系统性方案→验证有效性"。这种模式在早期是合理的——活下来比活得好更重要。但两周过去了，是时候从"应激反应"转向"主动设计"了。
2026-03-11 14:25:37
636
原创 VAE通俗理解及公式推导
变分自编码器（Variational Autoencoder, VAE）是一种特殊的神经网络架构，它结合了传统的自动编码器（Autoencoder）思想和概率图模型的概念。通俗来说，VAE尝试学习数据的压缩表示（我们称之为“编码”），同时确保这些编码符合某种概率分布（通常是高斯分布）。这样做有两个好处：一是可以防止过拟合，二是使得我们可以从这个分布中随机采样来生成新的、类似的数据。
2025-01-09 21:46:31
3037
原创 【GMNER】Grounded Multimodal Named Entity Recognition on Social Media
目前的MNER任务主要把视觉特征作为额外的线索来帮助提升纯文本任务的性能，但是这有三点问题：一是MNER任务只提取实体-类型对，忽略了他们对应的目标框；二是提取的内容仅仅对构建纯文本的知识图谱有用，但是去无法建立多模态知识图谱；三十只识别实体类型对难以有效的进行试题消歧
2024-09-21 22:50:01
1756
原创 基于分数模型（Score Model）的classifier-guidance及classifier-free guidance的推导
基于分数模型的 classifier-guidance 和 classifier-free guidance 方法都是用来指导生成模型生成更符合特定条件的数据点。分数模型是一种能够估计数据分布梯度的模型，在扩散模型中尤为常见。对于 classifier-guidance，我们利用一个预训练的分类器来评估生成样本的概率密度，并据此调整生成过程中的梯度方向，以引导模型生成更符合所期望类别的样本。
2024-08-13 21:13:48
986
原创 【论文阅读visual grounding】QRNet论文解读与关键代码实现
视觉定位（visual grounding or referring expression comprehension）任务的目标是在查询文本（Query Expression）和特定区域之间建立细粒度的联系，但是目前的方法主要使用查询无关的视觉骨干网抽取视觉特征，导致预训练的视觉编码器抽取到的特征和实际多模态推理需要的特征不一致，如论文的Fig. 1a所示。所以作者提出在视觉骨干网训练的同时注入文本信息(Fig. 1b)，让网络能够动态调整查询相关的区域，进而提升视觉定位性能。
2024-08-03 11:13:46
1343
原创 【多模态对比学习】我遇到的坑
本文是对过去几个月来利用对比学习的思想来优化多模态学习任务的思路的总结，主要包含以下几个方面：为什么要用对比学习、跨模态中对比学习怎么用、对比的过程中负样本是不是越多越好、要不要推远所有的负样本、样本之间的语义碰撞如何缓解、什么是负样本的“逃票”现象以及最重要的问题：如何学到一个高效的表征空间？
2024-03-30 12:45:19
6131
3
原创 InfoNCE Loss公式及源码理解
−1N∑i1Nlogexpqi⋅kiτ∑j1Nexpqi⋅kj−τ−N1i1∑Nlog∑j1Nexpτqi⋅kj−expτqi⋅kiNNN是样本的数量qiq_iqi是查询样本iii的编码向量kik_{i+}ki是与查询样本iii相对应的正样本的编码向量ki−k_{i-}ki−是与查询样本i。
2023-11-21 21:58:46
42034
12
原创 【代码实现】DETR原文解读及代码实现细节
宏观上来说，DETR主要包含三部分：以卷积神经网络为主的骨干网（CNN Backbone）、以TRM(Transformer)为主的特征抽取及交互器以及以FFN为主的分类和回归头，如DETR中build()函数所示。DETR最出彩的地方在于，它摒弃了非端到端的处理过程，如NMS、anchor generation等，以来端到端建模目标检测过程，并且将Transformer引入到目标检测中，打开新领域的大门）。
2023-09-04 21:12:47
3723
1
原创 【多模态论文解读】Align before Fuse: Vision and Language Representation Learning with Momentum Distillation
本文介绍了一种名为ALBEF的高效视觉语言模型，采用了对比学习预训练的方式，能够学习到图像和文本之间的丰富关系，为视觉问答、图像分类、图像生成等下游任务提供更好的表征。ALBEF主要由三部分组成：image encoder、text encoder&multimodal encoder、momentum model。它的预训练目标主要包括对比损失、掩码语言重建任务和图像文本匹配任务的损失函数。此外，作者还提出了一种Momentum Distillation的方法，用于从动量模型生成的伪目标中学习，以便有效学
2023-04-13 21:22:53
4990
1
原创 【备忘录】torch171+cu110配置apex
基于torch171+cu110、torchvision082+cu110和torchaudio072的apex安装教程
2023-03-14 09:41:13
1847
原创 【NLP Learning】Transformer Encoder续集之网络结构源码解读
这篇文章我们主要从Transformer的Encoder源码入手，读懂Encoder的结构
2022-11-17 09:20:17
604
原创 【PytorchLearning】NLP入门笔记之手写Transformer Encoder内部机制
本文主要从Transformer Encoder中Word embedding生成、Position embedding机制和self-attention中的mask机制三个方面的源码及原理进行解读
2022-11-01 20:16:34
836
原创 【注意力机制集锦】Channel Attention通道注意力网络结构、源码解读系列一
本文从原文、网络结构、代码实现三个方面系统总结了SENet、SKNET、CBAM三种注意力机制
2022-05-08 22:37:14
15087
2
原创 【视觉注意力机制集锦】引言
视觉注意力机制集锦之引言1 注意力机制1.1 注意力机制简介卷积神经网络具有很强的拟合数据的能力，但是由于优化算法和计算能力的限制，在实践中，卷积网络很难达到通用近似的能力。特别是在处理规模较大的输入数据，实现复杂任务时，计算能力仍可能成为模型的瓶颈。卷积网络中的局部连接的卷积结构、池化层等设计本身可以用来简化网络结构、缓解模型复杂度和表达能力的矛盾。针对网络模型的任务，我们需要进行进一步的操作，可以在不过多增加模型复杂度的同时提高模型的表达能力。神经网络中，可以存储的信息量称为网络容量，显然，网络
2022-05-05 09:18:36
1114
原创 【Transformer开山之作】Attention is all you need原文解读
Attention Is All You NeedTransformer原文解读与细节复现在Transformer出现以前，深度学习的基础主流模型可分为卷积神经网络CNN、循环神经网络RNN、图对抗神经网络GAN。而Transformer的横空出世，吸引了越来越多的研究者的关注：Transformer不仅在NLP领域取得了耀眼的成绩，近年来甚至一度屠榜CV领域的各大比赛，热度超前。所以，基于之前对Transformer的研究与理解，更基于对新技术的好奇与渴求，接下来的几篇文章我会从最经典的Tra
2022-05-01 15:49:49
28312
1
Human Pose Estimation Overview.pptx
2020-07-16
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人