LLM的实践古往今来（持续更新ing...）

已于 2024-03-18 18:31:22 修改
阅读量1.5k 收藏 5
点赞数
分类专栏： 人工智能学习笔记 文章标签： transformers NLP 自然语言处理 预训练语言模型 Bert
于 2023-05-10 16:42:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/PolarisRisingWar/article/details/130533565
版权

诸神缄默不语-个人CSDN博文目录

本文主要以模型被提出的时间为顺序，系统性介绍各种预训练模型的理论（尤其是相比之前工作的创新点）、调用方法（最佳实践）和表现效果。

代码实践部分主要见：

文章目录

2023年

  1. （OpenAI）GPT系：GPT-1 / GPT-2/ GPT-3 / GPT-3.5 / ChatGPT / GPT-4
    1. GPT-1
      (2018) Re45：读论文 GPT-1 Improving Language Understanding by Generative Pre-Training
    2. GPT-2
      1. 原始论文：(2019) Language Models are Unsupervised Multitask Learners
      2. 官方博文：Better language models and their implications
      3. 官方GitHub项目：openai/gpt-2: Code for the paper “Language Models are Unsupervised Multitask Learners”
    3. InstructGPT
    4. CodeX
      1. ChatGPT技术解析系列之：赋予GPT写代码能力的Codex - 知乎
      2. pass@k
    5. GPT-3原始论文：(2020) Language Models are Few-Shot Learners
    6. RLHF
      对RLHF的改进：(2023 huggingface) Efficient RLHF: Reducing the Memory Usage of PPO
  2. （谷歌）Bard
  3. (谷歌 DeepMind) Promptbreeder: Self-Referential Self-Improvement Via Prompt Evolution
    motivation是传统prompt策略都是手工完成的（比如CoT），这是sub-optimal的，因此本文提出自动化的Promptbreeder来让prompt自动改进。
    Promptbreeder在一组task-specific prompt的基础上进行变换（LLM生成变换prompts，这个过程是会逐步进化的），在训练集上评估其表现。
  4. （Facebook）LLaMA
    1. Llama 2: Open Foundation and Fine-Tuned Chat Models
  5. (斯坦福) Alpaca
  6. Vicuna
  7. Dolly
  8. WizardLM
  9. Orca
    Orca: Progressive Learning from Complex Explanation Traces of GPT-4
    Orca-2: Teaching Small Language Models How to Reason
  10. （百度）ERNIE系列和文心一言
  11. （科大讯飞）讯飞星火
  12. （阿里）通义千问
    1. 视频转文字：通义听悟
  13. https://huggingface.co/tiiuae/falcon-40b
  14. （清华）ChatGLM / VisualGLM1
  15. RWKV
    我RNN天下无敌啊！
    官方项目：BlinkDL/ChatRWKV: ChatRWKV is like ChatGPT but powered by RWKV (100% RNN) language model, and open source.
    博文：发布几个RWKV的Chat模型（包括英文和中文）7B/14B欢迎大家玩 - 知乎
    论文：RWKV: Reinventing RNNs for the Transformer Era
  16. （复旦）MOSS
  17. BELLE
  18. BiLLa
  19. MiniGPT-4
  20. gpt4all
  21. （微软）phi-1
    原始论文：Textbooks Are All You Need：证明高质量数据可以打破scale law，在小模型上也能展现出涌现能力（数据集不是用GPT标注的，就是用GPT生成的，有点迷幻）
  22. (微软) Adapting Large Language Models via Reading Comprehension
    改用阅读理解来train LLM
  23. （清华）GLM系
    原始论文：(2022 ACL) GLM: General Language Model Pretraining with Autoregressive Blank Infilling
  24. (浙大) KnowLM：知识图谱+LLM
    DeepKE-LLM: A Large Language Model Based Knowledge Extraction Toolkit
    GitHub中文文档网址：https://github.com/zjunlp/KnowLM/blob/main/README_ZH.md
  25. Unifying Large Language Models and Knowledge Graphs: A Roadmap
  26. DB-GPT
    https://github.com/eosphoros-ai/DB-GPT/blob/main/README.zh.md
  27. (波士顿大学) Platypus: Quick, Cheap, and Powerful Refinement of LLMs：对数据集进行了完善（解决了数据泄露问题），用Lora微调LLaMA 2
    参考讲解博文：大模型榜单又被刷新了~~
  28. (UIUC+英伟达) RAVEN: In-Context Learning with Retrieval Augmented Encoder-Decoder Language Models：检索增强（上下文融合学习）+mask/prefix语言模型，解决数据漂移和文本长度限制
  29. SeqGPT: An Out-of-the-box Large Language Model for Open Domain Sequence Understanding：联合训练文本分类和命名实体识别，关注开放域自然语言理解任务
  30. (CMU+清华) Prompt2Model: Generating Deployable Models from Natural Language Instructions：输入自然语言形式的任务描述，训练特定目的且便于部署的小模型
    检索现有数据集+检索LLM+使用LLM生成数据集→在student上微调
    在这里插入图片描述
    在这里插入图片描述
  31. (ACL) Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models
  32. (DeepMind) Large Language Models can Learn Rules：这个有用呀，以后有时间就看一下 (✧◡✧)
  33. FLM-101B: An Open LLM and How to Train It with $100K Budget
  34. 信息检索
    1. Large Language Models for Information Retrieval: A Survey
  35. (智源) 封神榜
    IDEA-CCNL/Fengshenbang-LM: Fengshenbang-LM(封神榜大模型)是IDEA研究院认知计算与自然语言研究中心主导的大模型开源体系，成为中文AIGC和认知智能的基础设施。
  36. (谷歌) Universal Self-Consistency for Large Language Model Generation
  37. (谷歌) Beyond ChatBots: ExploreLLM for Structured Thoughts and Personalized Model Responses：规划复杂的任务
  38. (伯克利) Starling-7B: Increasing LLM Helpfulness & Harmlessness with RLAIF
  39. https://www.llm360.ai/
  40. Mamba: Linear-Time Sequence Modeling with Selective State Spaces
  41. PowerInfer: Fast Large Language Model Serving with a Consumer-grade GPU
  42. vivo-ai-lab/BlueLM: BlueLM(蓝心大模型): Open large language models developed by vivo AI Lab
  43. Parrot: Enhancing Multi-Turn Chat Models by Learning to Ask Questions
  44. (东北大学) neukg/TechGPT: TechGPT: Technology-Oriented Generative Pretrained Transformer
  45. (腾讯) AppAgent: Multimodal Agents as Smartphone Users：大概来说就是自动操纵APP的

2022年

  1. (谷歌) PaLM
    博文：Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance – Google AI Blog
    PaLM: Scaling Language Modeling with Pathways
  2. (谷歌) LaMDA：模型关心安全性和符合事实，用分类器判断回答是否安全，用外部知识源（如信息抽取系统、翻译器、计算器等）保证符合事实，构建了衡量二者的指标
    论文：LaMDA: Language Models for Dialog Applications
    在这里插入图片描述
  3. (谷歌) T0
    (ICLR) Multitask Prompted Training Enables Zero-Shot Task Generalization
    这篇关注将各种NLP任务都转换为prompt，然后训练得到模型：https://huggingface.co/bigscience/T0pp
    prompt集锦：工具包 bigscience-workshop/promptsource: Toolkit for creating, sharing and using natural language prompts.  数据集 https://huggingface.co/datasets/bigscience/P3
  4. (谷歌) ST-MoE
    ST-MoE: Designing Stable and Transferable Sparse Expert Models
  5. (谷歌) UL2和Flan-UL2
    UL2: Unifying Language Learning Paradigms
    参考讲解内容：https://readpaper.com/paper/684903631811858432
  6. (EMNLP huggingface) TK
    Super-NaturalInstructions: Generalization via Declarative Instructions on 1600+ NLP Tasks
    基于transformers的encoder-decoder模型
    基于T5构建
    遵循in-context instrctions（任务定义、k-shot示例、解释等）来解决各种NLP任务
  7. (Meta) ATLAS
    Atlas: Few-shot Learning with Retrieval Augmented Language Models
    检索增强
    密集检索器模块通过MoCo对比损失进行预训练
    参考讲解博文：Meta发布全新检索增强语言模型Atlas，110亿参数反超5400亿的PaLM - 知乎
  8. (Meta) OPT
    OPT: Open Pre-trained Transformer Language Models
  9. (追一科技 苏神他们做的) RoFormer
    RoFormer: Enhanced Transformer with Rotary Position Embedding：主要改进了位置编码

2021年

  1. RPT
  2. CPT
  3. （浪潮信息）源1.0
  4. (BigScience) [GPT-NeoX-20B: An Open-Source Autoregressive Language Model](https://arxiv.org/abs/2204.06745）
    参考讲解内容：https://readpaper.com/paper/720818360680333312
  5. (JMLR 谷歌) Switch Transformer
    Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity
    ①用稀疏FFN替换密集FFN ②简化MoE
  6. (微软&英伟达) MT-NLG
    官方博文：Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, the World’s Largest and Most Powerful Generative Language Model - Microsoft Research
  7. (ACL) AMBERT: A Pre-trained Language Model with Multi-Grained Tokenization
  8. (OpenAI) CLIP
    Learning Transferable Visual Models From Natural Language Supervision：关注文本-图片对应的多模态任务
    开源版代码：mlfoundations/open_clip: An open source implementation of CLIP.

2020年

  1. Longformer：解决长文本的问题
    序列长度必须是512的整数倍2
    1. 中文版：ValkyriaLenneth/Longformer_ZH
      tokenizer必须要用BertTokenizer3
  2. (ACL) BART
    BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension
  3. (ACL) SenseBERT: Driving Some Sense into BERT：在语义层面弱监督
  4. Pegasus
  5. (EMNLP Findings) E-BERT: Efficient-Yet-Effective Entity Embeddings for BERT：向BERT中注入实体信息（Wikipedia2vec）
    在这里插入图片描述
    首先将Wikipedia2Vec中的词向量映射到BERT的token embedding的同一向量空间中，以学习一个映射矩阵 W W W ，然后使用 W W W 对Wikipedia2Vec中的实体向量进行映射，最后通过拼接的方式将实体信息注入到BERT的输入当中
  6. (微软) DeBERTa
    DeBERTa: Decoding-enhanced BERT with Disentangled Attention：disentangled attention + enhanced mask decoder
    有两个向量，分别通过编码内容和相对位置来表示标记/单词
    DeBERTa 中的 self-attention 机制处理内容到内容、内容到位置、位置到内容的 self-attention，而 BERT 中的 self-attention 相当于只有前两个组成部分。作者假设还需要位置到内容的自注意力来全面建模一系列标记中的相对位置。
    此外，DeBERTa 配备了增强型掩码解码器，其中令牌/单词的绝对位置以及相关信息也被提供给解码器。
  7. (微软) Turing-NLG
    官方博文：Turing-NLG: A 17-billion-parameter language model by Microsoft - Microsoft Research
  8. (JMLR 谷歌) T5：标准encoder-decoder架构的Transformer，在参数量上模仿BERT
    Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer
    中心思想大概是“所有任务都可以视为Text2Text任务，所以Text2Text模型可以解决所有问题”，这个“视为”就比较类似prompt的思想：
    在这里插入图片描述
    T5论文里面介绍了各种模式的框架，最后发现encoder-decoder架构（encoder上无mask，decoder上因果mask）的效果最好，所以最后T5模型也用得是这个框架。
    mask模式：
    在这里插入图片描述
    模型架构是P1：
    在这里插入图片描述
    参考讲解博文：T5: Text-to-Text Transfer Transformer 阅读笔记 - 知乎
    如何评价 Google 提出的预训练模型 T5？ - 知乎：如果需要详尽理解T5，这个问题还是很值得看的

    后续还有一个对模型的升级T5.1.14：将ReLU改成GeLU，decoder的prediction head不再与encoder和decoder的嵌入层共享权重，预训练阶段去掉dropout
    （这都TMD什么纯纯实证经验啊）
  9. (谷歌) mT5
    mT5: A massively multilingual pre-trained text-to-text transformer
    基于T5.1.1做的改进，主要将数据集改成多语言的了
    参考博文：那个屠榜的T5模型，现在可以在中文上玩玩了 - 科学空间|Scientific Spaces
  10. (ICLR 谷歌) ALBERT
    ALBERT: A Lite BERT for Self-supervised Learning of Language Representations：减小BERT参数量（词嵌入向量的因式分解，减小了表征维度；跨层参数共享），将NSP任务换成SOP(sentence order prediction)任务（因为NSP任务成预测主题了），去掉dropout，用LAMB优化器，用n-gram mask
    参考讲解博文：Google ALBERT原理讲解 - 知乎
  11. (ICLR) ELECTRA
    ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators
    训练一个简单的MLM，找出难以预测的token，选为预测目标
    用二分类范式来判断每个token是否被替换过5
  12. (ICLR) Pretrained Encyclopedia: Weakly Supervised Knowledge-Pretrained Language Model：结合知识
  13. (TACL) SpanBERT: Improving Pre-training by Representing and Predicting Spans：简单讲就是将BERT mask的内容换成span（多个连续token）了
    在这里插入图片描述
  14. (SIGGRAPH MIG) Collaborative Storytelling with Large-scale Neural Language Models：协作讲故事，AI代理和人类轮流添加内容。抽样→排序，根据人工偏好得到训练信号
  15. (追一科技 苏神) WoBERT
    ZhuiyiTechnology/WoBERT: 以词为基本单位的中文BERT
    官方博文：提速不掉点：基于词颗粒度的中文WoBERT - 科学空间|Scientific Spaces

2019年

  1. Bert衍生
    SCIBERT
  2. (Meta) Roberta
    修改了BERT中的参数，如使用更大的mini-batch、删除NSP目标等
  3. NEZHA
  4. DistilBERT
  5. (ACL) Transformer-XL
    Transformer-XL: Attentive Language Models Beyond a Fixed-Length Context
  6. (ACL) MT-DNN：BERT预训练+多任务continual pre-training
    Multi-Task Deep Neural Networks for Natural Language Understanding
    在这里插入图片描述
    通过多任务学习提高泛化能力（将其视为正则化）
    先预训练BERT，再微调多任务
  7. (NeurIPS) XLNet
    XLNet: Generalized Autoregressive Pretraining for Language Understanding
  8. (ICML) MASS：encoder-decoder架构的生成式模型
    论文：MASS: Masked Sequence to Sequence Pre-training for Language Generation
    预训练任务是mask连续片段，在decoder端作为目标输出
    在这里插入图片描述
    MASS论文中还给出了与BERT和GPT式语言模型的区别：
    在这里插入图片描述
    参考讲解博文：【论文精读】生成式预训练之MASS - 知乎  BERT生成式之MASS解读 - 知乎
  9. (微软) UniLM
    【论文解读】UniLM:一种既能阅读又能自动生成的预训练模型
  10. (清华) ERNIE
  11. (ICLR) Universal Transformers
    图灵完备的概念我没搞懂反正，主旨是能够解决所有可解决的计算问题。可以参考这个知乎问题下的回答：什么是图灵完备？ - 知乎
    然后UT的主旨就是图灵完备了，解决了transformer的问题
    ACT机制也还没看
    在transformers的基础上，一是具体block数可以自适应，二是增加了全局共享的transition函数
    在这里插入图片描述
    参考讲解博文：Universal Transformers原理解读 - 知乎
  12. (创新工场) ZEN: Pre-training Chinese Text Encoder Enhanced by N-gram Representations
  13. StructBERT: Incorporating Language Structures into Pre-training for Deep Language Understanding
    将语言结构纳入预训练
  14. KnowBert
    (EMNLP) Knowledge Enhanced Contextual Word Representations：嵌入KB（用attention更新表征）
  15. (EMNLP) Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

2018年

  1. (2018 谷歌）Bert
    BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
    在这里插入图片描述
    在这里插入图片描述
    预训练语言模型的万恶之源。
    模型结构：基本上就是Transformer
    模型输入编码：
    在这里插入图片描述
    预训练任务：随机mask token并预测；next sentence prediction（输出2个句子是否是上下句）
  2. (2018 NAACL) ELMo
    原论文里没有配图，可以直接参考上面BERT给出的配图：大意来说就是模型框架是Bi-LSTM，在下游任务重直接使用Bi-LSTM得到token的表征作为词向量
    Deep contextualized word representations
    参考讲解博文：动态词向量算法 — ELMo - 简书
  3. (2018 ACL) ULFMiT
    Universal Language Model Fine-tuning for Text Classification

2013年

  1. Word2Vec
    Efficient Estimation of Word Representations in Vector Space

工具包

  1. 框架
    1. PyTorch
    2. TensorFlow
    3. Keras
    4. transformers
  2. OpenBMB
  3. LangChain
  4. PEFT
  5. BMTools
  6. Megatron
    NVIDIA/Megatron-LM: Ongoing research training transformer models at scale
    Megatron-LM: Training Multi-Billion Parameter Language Models Using Model Parallelism
  7. MLC LLM | Home：将LLM本地部署到任何硬件后端和本地应用程序上
  8. LlamaIndex - Data Framework for LLM Applications
  9. 大模型量化：OpenGVLab/OmniQuant: OmniQuant is a simple and powerful quantization technique for LLMs.
  10. vllm-project/vllm: A high-throughput and memory-efficient inference and serving engine for LLMs
  11. SwanHub - 创新的AI开源社区
  12. 文本表征：https://github.com/FlagOpen/FlagEmbedding/blob/master/README_zh.md
  13. 本地部署聊天机器人：https://dify.ai/
  14. turboderp/exllamav2: A fast inference library for running LLMs locally on modern consumer-class GPUs
  15. 大模型评估：OpenCompass
  16. zejunwang1/LLMTuner: 大语言模型指令调优工具（支持 FlashAttention）
  17. swift/README_CN.md at main · modelscope/swift
  18. alibaba/data-juicer: A one-stop data processing system to make data higher-quality, juicier, and more digestible for LLMs! 🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷为大语言模型提供更高质量、更丰富、更易”消化“的数据！

其他在本文撰写过程中使用的参考资料

  1. 还没看完
    1. 预训练语言模型之GPT-1，GPT-2和GPT-3 - 知乎
    2. DSXiangLi/DecryptPrompt: 总结Prompt&LLM论文，开源数据&模型，AIGC应用
    3. BERT时代与后时代的NLP - 知乎：太长了，看了一点，没撑下去，以后慢慢看吧
    4. 想以后看所有顶会顶刊、高引、大机构、名人的论文，然后做超全面的检索……感觉不太可能，不如调教LLM帮我实现这件事。
      ACL2023：LLM相关论文总结 - 知乎
    5. Generalized Language Models | Lil’Log
    6. 图解BERT、ELMo（NLP中的迁移学习）| The Illustrated BERT, ELMo, and co._图解bert, elmo, and co.-CSDN博客
  2. Top 15 Pre-Trained NLP Language Models

  1. GLM官方推文介绍：【发布】多模态 VisualGLM-6B，最低只需 8.7G 显存 ↩︎

  2. 见https://github.com/huggingface/transformers/blob/main/src/transformers/models/longformer/modeling_longformer.py：
    在这里插入图片描述 ↩︎

  3. 参考我在该项目下提出的issue：如直接使用LongformerTokenizer会报此错，是否需要使用BertTokenizer？ · Issue #2 · ValkyriaLenneth/Longformer_ZH ↩︎

  4. text-to-text-transfer-transformer/released_checkpoints.md at main · google-research/text-to-text-transfer-transformer ↩︎

  5. 如何评价NLP算法ELECTRA的表现？ - 知乎：很多内容还没看 ↩︎

诸神缄默不语
关注
  • 0
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
DeepKE-main.zip
12-04
DeepKE 是一个支持低资源、长篇章的知识抽取工具，可以基于PyTorch实现命名实体识别、关系抽取和属性抽取功能。
DeepKE压缩包，支持NLP
05-11
DeepKE压缩包，支持NLP
LLM基础之Transformer模型简介.pdf
06-19
本篇讲解试图从最浅显的角度来让大家了解大语言模型的基础模型，Transformer模型，不涉及到任何数学公式和神经网络的基础知识。适合对于初学者的科普。
LLM的理论古往今来（持续更新ing...）
诸神缄默不语的博客
06-07 1247
本文介绍LLM的SOTA
pycharm Anaconda DeepKE 项目的搭建 碰到的问题（Windows）
LHD_JAVA的博客
06-03 425
问题整理
开源开放 | 开源知识图谱抽取工具发布大模型版DeepKE-LLM
开放知识图谱
06-19 6740
DeepKE-LLM链接：https://github.com/zjunlp/DeepKE/tree/main/example/llmOpenKG地址：http://openkg.cn/tool/deepkeGitee地址：https://gitee.com/openkg/deepke/tree/main/example/llm开放许可协议：Apache-2.0 license贡献者：浙江大学（张...
实战演练|从原理到应用：DeepKE框架介绍及简单使用
qq_30284057的博客
11-21 6455
本文介绍了deepKE的基本内容，框架，对怎么安装，安装出现的问题进行了讲解，同时给出了deepKE中的各个文件的作用，最后给出了一些简单的使用方法。
LLM-项目详解-InstructKGC（一）：FineTuning ChatGLM With Lora【指令驱动的三元组抽取】
u013250861的博客
06-18 661
根据用户输入的指令抽取相应类型的实体和关系，构建知识图谱。其中可能包含知识图谱补全任务，即任务需要模型在抽取实体关系三元组的同时对缺失三元组进行补全。
【LLM工程篇】deepspeed | Megatron-LM | fasttransformer
发现问题，并解决问题，批判性思维
09-19 3245
当前比较主流的一些分布式计算框架 DeepSpeed、Megatron 等，都在降低显存方面做了很多优化工作，比如：量化、模型切分、混合精度计算、Memory Offload 等 文章目录 note 大模型参数计算 1. 模型参数单位 2. 训练显存计算 3. 推理显存计算 大模型的分布式训练 1. 数据并行 2. 模型并行 3. 流水并行 4. 混合并行 模型量化 DeepSpeed ZeRO：零冗余优化 DeepSpeed Chat fastertransformer：LLM推理加速引擎 Megatro
LLM大模型生产部署的12个最佳实践
新缸中之脑
08-20 1013
大型语言模型 (LLM) 彻底改变了自然语言处理和理解领域，实现了跨各个领域的广泛人工智能应用。然而，在生产中部署 LLM 应用程序也面临着一系列挑战。从解决自然语言的歧义到管理成本和延迟，有几个因素需要仔细考虑。推荐：用快速搭建可编程3D场景自然语言的歧义性给LLM的工作带来了重大挑战。尽管LLM拥有令人印象深刻的能力，但有时会产生不一致和意外的输出，从而导致无声的失败。及时评估对于确保模型理解给定的示例并且不会过度拟合变得至关重要。
利用LLM构建应用实践笔记.zip
02-07
python chatgpt
LLM for Hubei Provincial Government Affairs..zip
12-24
这不仅降低了人力成本，也使得内容更新和迭代的速度加快，满足了信息爆炸时代人们对新鲜内容的高需求。 个性化和定制化服务： AIGC可以根据用户的需求和偏好自动生成个性化的内容。这种能力在教育、娱乐、营销等领域...
AGI资料汇总学习（主要包括LLM和AIGC），持续更新.......zip
最新发布
04-25
这里为你收集整理了关于AI，机器学习，深度学习相关的资料一份，质量非常高，如果你投入时间去研究几天相信肯定对你有很大的帮助。到时候你会回来感谢我的。 本资源是经过本地编译测试、可打开、可运行的文件或源码...
在线LLM应用集锦1（持续更新ing...）
诸神缄默不语的博客
06-08 1629
在线LLM应用集锦
DeepKE发布新版本：支持低资源、长篇章、多任务的图谱抽取开源框架，开源开放
weixin_43564920的博客
03-05 1267
OpenKG地址：http://openkg.cn/tool/deepke GitHub地址：https://github.com/zjunlp/deepke Gitee地址：https://gitee.com/openkg/deepke DeepKE网站：http://deepke.zjukg.org/CN/index.html 开放许可协议：GPL 3.0 贡献者：浙江大学(张宁豫、陶联宽、徐欣、余海洋、叶宏彬、谢辛、陈想、黎洲波、李磊、梁孝转、姚云志、乔硕斐、邓淑敏、张文、郑国轴、陈华钧..
开放开源 | DeepKE：基于深度学习的开源中文关系抽取工具
开放知识图谱
09-27 9337
本文转载自公众号：浙大 KG。作者：余海阳机构：浙江大学代码地址: https://github.com/zjunlp/deepkeOpenKG 发布地址: http:/...
TensorFlow安装教程
热门推荐
诸神缄默不语的博客
05-28 6万+
本文介绍TensorFlow在Linux系统上的安装方法。
cs224w（图机器学习）2021冬季课程学习笔记集合
诸神缄默不语的博客
05-26 4万+
我自己写的cs224w（图机器学习）2021冬季课程笔记的目录
huggingface.transformers安装教程
诸神缄默不语的博客
02-28 3万+
本部分介绍transformers包如何安装，安装后如何检验是否安装成功，以及cache的设置和离线模式如何操作。
LLM-2307.04346.pdf
10-27
1. The paper proposes using Large Language Models (LLMs) to generate property-based tests for API documentation. 2. The LLMs can write logic for generating random inputs and derive meaningful property assertions from the API documentation. 3. The potential of using LLMs for Property-Based Testing (PBT) is demonstrated in Figure 2. 4. The LLMs can be instructed to write generator functions or property assertions to check the properties of the result. 5. The study investigates whether LLMs can write good property-based tests for APIs.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

诸神缄默不语

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值