- 博客(15)
- 收藏
- 关注
RSS订阅原创 学习 OpenNRE：基于深度学习的关系抽取模型
OpenNRE 是一个适合学习神经关系抽取的开源框架。它把关系抽取任务拆成了数据、编码器、分类模型、bag 聚合和训练框架几个部分，代码结构比较清楚。从模型角度看，OpenNRE 支持 CNN、PCNN、BERT 等编码器，也支持句子级分类和远程监督 bag 级分类。从工程角度看，它提供了数据加载、训练、验证、测试、checkpoint 保存和预训练模型调用，适合快速复现实验。
2026-06-27 16:14:24
272
原创 Training language models to follow instructions with human feedback阅读笔记
以前大家总觉得，只要给模型疯狂加参数、喂数据，它就会越来越聪明。简单来说，就是找一群人类老师来教 AI 做人。为了把 AI 从“文字接龙机器”变成“贴心小助手”，作者使用了一套叫。
2026-05-21 19:03:34
244
原创 复现 MiniMind 项目
整体看完minmind之后，我最大的感受是：这不是一个只能拿来“跑通流程”的项目，很适合用来认真拆模型结构。RMSNorm做轻量归一化处理位置编码和长上下文外推GQA降低 KV cache 压力，提升推理效率它没有复杂到让人一眼放弃，但让我了解到了现在语言模型的一些主流实现思路。
2026-05-14 17:00:32
397
原创 Attention Is All You Need阅读报告
而在self-attention中，一个位置可以直接关注到另一个位置，路径更短，因此更利于捕捉长距离依赖关系。Transformer的基本模块比较统一，编码器和解码器结构清晰，后续研究可以方便地在此基础上扩展。这些方法虽然各有优势，但存在一个比较明显的问题：模型在处理序列时往往带有较强的顺序依赖，尤其是循环网络，必须按时间步一步一步计算，因此训练速度受到限制，而且不容易充分利用并行计算资源。虽然attention机制已经被证明有效，但在很多模型中，attention只是辅助模块，主干结构依然是循环网络。
2026-04-03 12:58:47
171
原创 《A Neural Probabilistic Language Model》读书报告
这篇论文证明了通过“增加计算量来换取更紧凑、平滑的概率表示”是完全可行的。文中所提出的用连续实数向量表示单词相似性的思想，正是后来词嵌入技术（Word Embeddings）的先驱。在传统的统计语言模型中，核心目标是学习一种语言中单词序列的联合概率函数。然而，这一任务面临着一个维度灾难的问题。这篇论文的伟大之处在于它将单词其映射到了一个连续的向量空间中。为了实现上述目标，作者设计了一个具有共享参数的多层神经网络。实验在 Brown 语料库和 AP News 语料库上进行。
2026-03-19 19:57:58
176
原创 VUE学习笔记
VUE基础小记浏览器渲染流程问题虚拟DOMVUE渲染流程webpack浏览器渲染流程构建DOM树（文档对象模型）构建CSSOM树（构建完整才能使用）在上两步若遇到js阻塞树的构建，则优先加载js文件DOM树与CSSOM树结合，构建渲染树（Render Tree）布局Layout（为Render树上的节点确定显示屏上的精确坐标）绘制Painting（调用节点的paint方法，绘制）页面的重绘，重排（回流）回流：回流是布局或者几何属性需要改变重绘：由于节点的几何属性发生改变或者由于样式
2022-05-03 22:08:54
765
1
原创 CSS布局
文章目录浮动FLexbox网格布局定位和层叠上下文响应式设计浮动设置浮动后，脱离正常文档流，不会覆盖文字，文字形成环绕效果。其高度不会加到父元素上（需要将一个元素放置在主容器末尾，对其使用clear属性，将其拓展到浮动元素下方，即可实现父元素背景包含浮动元素的效果）clear：该元素某边不允许出现浮动元素.clearfix::before.clearfix::after{ display:table; content:" "; //防止外边距折叠}.clearfix::after{ c
2022-04-27 20:41:28
784
原创 盒模型 -- CSS基础回顾（三）
文章目录元素宽度元素高度外边距折叠容器内元素间距元素宽度魔术数值：通过多次尝试修改样式得出的值默认的盒模型，指定的宽高，指定为内容的宽高，该模型在进行布局时，需要多次考虑padding的影响，并调用calc（）进行调整。通过box-sizing：border-box进行调整，调整后的盒模型，该模型包含padding，可通过width直接解决全局设置border-box:root{ box-sizing:border-box;}*,::before,::after{ box-si
2022-04-26 19:43:21
235
原创 层叠，优先级，继承 --CSS基础回顾（一）
文章目录层叠层叠规则继承特殊值简写属性层叠层叠规则当CSS发生声明冲突时，会按照根据以下三种条件解决冲突样式表的来源选择器的优先级源码顺序（1）样式表我们通常添加的样式表属于作者样式表，其优先级大于用户代理样式表（浏览器的默认样式），作者样式表会将其覆盖。!important，该声明会被标记为更高优先级的来源作者!important > 作者 > 用户代理（2）优先级浏览器将优先级分为：HTML的行内样式（内联样式），选择器样式行内样式无选择器，直接作用于
2022-04-26 11:24:43
235
原创 DFS模板总结与使用
文章目录概念模板二、例题Leetcode 78 子集相关链接概念遍历树或图的方法，常用于子集，排列，组合等问题的求解。沿某一节点，尽可能深的搜索，当遇到边界条件或节点不满足条件时，回溯到上一节点。模板function dfs(cur){ if(边界条件){ 相应操作 return; } for(遍历所有可能的选择){ 是否满足题目条件 dfs(cur + 1); 回溯 }}二、例题Leetcode 78 子集返回数组的幂集合//dfs1var subs.
2022-03-30 14:56:04
584
原创 BFS的理解与使用
BFS的理解与使用简单记录有关BFS的使用文章目录BFS的理解与使用前言一、模板二、例题1.Leetcode 1971. 寻找图中是否存在路径2.LeetCode LCP 07. 传递信息总结前言广度优先遍历，沿图（树）宽度进行遍历，可采用邻接矩阵和邻接表作为存储结构，分别为O(n**2)，O(n+e)。时间效率有所不同一、模板let BFS = function(...){ const edges = new Array(n).fill(0).map(() => new Array
2022-03-25 17:05:01
389
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人