beingstrong的博客

向量模型Jina Embedding: 从v1到v3论文笔记。《Jina Embeddings: A Novel Set of High-Performance Sentence Embedding Models》《[Jina Embeddings 2: 8192-Token General-Purpose Text Embeddings for Long Documents]》《jina-embeddings-v3: Multilingual Embeddings With Task LoRA》

论文《How to Fine-Tune BERT for Text Classification?》是2019年发表的一篇论文。这篇文章做了一些实验来分析了如何在文本分类场景下微调BERT，是网上讨论如何微调BERT时经常提到的论文。

LLM agentic模式之multi-agent: ChatDev,MetaGPT, AutoGen思路

2024年2月的综述《Understanding the planning of LLM agents: A survey》提供了基于LLM的的agent的规划(planning)能力的系统视角，总结了近年来提高规划能力的工作。

LLM agentic模式之工具使用: Toolformer、CoA、MM-React思路

大模型基础之位置向量RoPE

vLLM实现原理PagedAttention论文笔记

LLM agentic模式之工具使用: Gorilla及openfunction模型简介

RAG 查询改写方法：HyDE、LLM4CS、Query2doc、rewrite-retrieve-read、Iter-RetGen、STEP-BACK Prompting思路介绍

LLM推理优化之KV cache、multi-query attention、Grouped-query attention、sliding window attention

LLM agentic论文《Self-Refine: Iterative Refinement with Self-Feedback》《Reflexion: Language Agents with Verbal Reinforcement Learning》《CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing》

针对领域问答来进行知识对齐方法KnowPAT，KnowPAT(Knowledgeable Preference AlignmenT) 出自2023年11月的论文《Knowledgeable Preference Alignment for LLMs in Domain-specific Question Answering》

不需要参考模型的对齐方法ORPO和SimPO简介

基于Rank的大模型对齐方法RRHF和PRO思路介绍

大模型对齐方法DPO及其变种IPO、KTO、CPO原理

基于decoder-only LLM得到embedding的方法：LLM2Vec、Echo embeddings、PromptEOL、E5-mistral-7b-instruct、Sgpt、RepLLaMA 、cpt-text、UDEVER

ColBERT是一种多向量排序模型，因为引入了延迟交互机制(late interaction architecture)相比与cross-encoder效率提升了很多。ColBERTv2针对ColBERT的缺点进一步优化了性能和效率。在RAG大热的这一年，ColBERT也引起了一些关注。

文本向量模型BGE与BGE-M3原理介绍

面向检索任务的基于自动编码器的预训练模型方法模型预训练方法RetroMAE和RetroMAE-2原理

agent利用知识来做规划：《KnowAgent: Knowledge-Augmented Planning for LLM-Based Agents》笔记

优化器算法SGD、momentum、AdaGrad、RMSProp、AdaDelta、Adam、AdamW等

RAG(Retrieval-Augmented Generation)综述 [Retrieval-Augmented Generation for Large Language Models: A Survey](https://arxiv.org/abs/2312.10997) 粗略笔记

综述《Unifying Large Language Models and Knowledge Graphs: A Roadmap》统一大语言模型和知识图谱粗略笔记

Matryoshka Representation Learning (MRL)是2022年发表的论文，它可以学习到不同维度都有效的嵌入向量。因为OpenAI在2024年1月底发布的新向量模型得到关注。

激活函数Sigmoid、Tanh、ReLU、Leaky ReLU、PReLU、ELU、SoftPlus、Maxout、Mish、Swish、GELU、SwiGLU、GEGLU 总结

Baichuan2 技术报告笔记

文本生成模型的解码方法：Greedy Search、Beam Search、sampling、 Temperature Sampling、 top-k sampling、 Top-p (nucleus) sampling 、Contrastive search

Llama 2 论文《Llama 2: Open Foundation and Fine-Tuned Chat Models》详细阅读笔记记录

让LLM自动进行数据分析，论文《Data-Copilot: Bridging Billions of Data and Humans with Autonomous Workflow》笔记

Transformer 相关模型的参数量计算

React agent 论文《ReAct: Synergizing Reasoning and Acting in Language Models》阅读笔记

meta的LLaMA模型对应的论文《LLaMA: Open and Efficient Foundation Language Models》阅读笔记

Evol-Instruct方法出自论文 WizardLM: Empowering Large Language Models to Follow Complex Instructions，也是利用大模型生成指令的方法，它可以生成相对复杂和多样的指令数据集。

低成本指令数据集构建：《Self-Instruct: Aligning Language Model with Self Generated Instructions》阅读笔记

​MiniGPT-4 是前段时间由KAUST（沙特阿卜杜拉国王科技大学）开源的多模态大模型，对它的实现方法进行了总结

InstructGPT 模型是在论文《Training language models to follow instructions with human feedback》被提出的，OpenAI在2022年1月发布了这篇文章， 本文是这篇论文的阅读笔记

在学习不同的模型如GPT-1、Bert时可以发现它们使用了不同的子词分词器(subword tokenizer) ：BPE（Bype Pair Encoding)和WordPiece。那这两个子词分词器有什么异同呢？

GPT-2模型来源于OpenAI 在2019年2月发布的论文《Language Models are Unsupervised Multitask Learners》，其模型参数多达15亿，它对下游任务不再需要微调，可以直接将模型应用于下游任务（所以是zero-shot)

GPT1论文阅读记录

GraphSAGE相比之前的模型最主要的一个特点是它可以给从未见过的图节点生成图嵌入向量。那它是如何实现的呢？它是通过在训练的时候利用节点本身的特征和图的结构信息来学习一个嵌入函数（当然没有节点特征的图一样适用），而没有采用之前常见的为每个节点直接学习一个嵌入向量的做法。它的嵌入函数准确来说是一个可以从节点的邻域节点聚合它们的特征信息的函数，并为训练这个函数设计了一个无监督的损失函数