生成模型
文章平均质量分 91
常鸿宇
这个作者很懒,什么都没留下…
展开
-
多模态——使用stable-video-diffusion将图片生成视频
近期,stabilityAI发布了一个新的项目,是将图片作为基础,生成一个相关的小视频,本文主要是体验一下stable-video-diffusion的使用,以及对其使用方法进行简单的介绍。原创 2023-11-24 21:55:08 · 6114 阅读 · 4 评论 -
NLP实践——LLM生成过程中防止重复循环
本文介绍如何使用LogitsProcessor避免大模型在生成过程中出现重复的问题。原创 2023-11-23 20:37:35 · 2770 阅读 · 1 评论 -
NLP实践——使用Llama-2进行中文对话
在之前的博客 [NLP实践——Llama-2 多轮对话prompt构建] 中,介绍了如何构建多轮对话的prompt,本文将介绍如何设计logits processor,从而实现使用Llama-2进行中文对话。原创 2023-08-05 20:41:24 · 4569 阅读 · 1 评论 -
以Llama-2为例,在生成模型中使用自定义LogitsProcessor
在上一篇文章 以Llama-2为例,在生成模型中使用自定义StoppingCriteria中,介绍了怎样在生成的过程中,使用stopping criteria来控制生成过程的结束,本文将继续这一话题,结合具体的场景,介绍如何实现自定义的logits processor,并以此来控制生成的过程。原创 2023-08-04 22:29:44 · 3020 阅读 · 0 评论 -
以Llama-2为例,在生成模型中使用自定义StoppingCriteria
在之前的文章中,介绍了使用transformers模块创建的模型,其generate方法的详细原理和使用方法,其中提到了用户参与生成过程的两个关键组件,logits_processor和stopping_criteria。本文将结合实际应用场景,介绍用户如何根据自己的需求来设计并实现一个自定义的`stopping_criteria`,来控制生成过程提前结束。原创 2023-08-03 23:22:05 · 4334 阅读 · 3 评论 -
torch显存分析——对生成模型清除显存
本文主要针对生成场景下,如何方便快捷地清除当前进程占用的显存。文章的重点不止是对显存的管理,还包括怎样灵活的使用自定义组件来控制生成过程。原创 2023-08-02 23:05:17 · 883 阅读 · 0 评论 -
以beam search为例,详解transformers中generate方法(下)
在上一篇博客中,对generate方法的基本流程逻辑进行了介绍,本文将继续之前的内容,介绍最常用的采样策略beam search是如何实现的。原创 2023-08-02 22:28:32 · 1706 阅读 · 0 评论 -
以beam search为例,详解transformers中generate方法(上)
在transformers模块中,模型推理预测时,一个核心的语句就是model.generate(),本文就来详细介绍一下generate方法是如何运作的,本文将以最常用的beam search为例,尽可能详细地展开介绍。原创 2023-08-01 22:56:42 · 3623 阅读 · 3 评论 -
NLP实践——Llama-2 多轮对话prompt构建
本文介绍了使用Llama-2模型进行对话时,如何构建多轮对话的prompt,以及对话的背景信息如何与当前对话内容相结合。原创 2023-07-28 22:56:17 · 12844 阅读 · 4 评论 -
论文阅读《Open-Domain Hierarchical Event Schema Induction by Incremental Prompting and Verification》
论文阅读记录——利用LLM实现开放域场景事件schema构建。原创 2023-07-28 22:43:57 · 368 阅读 · 0 评论 -
大模型训练——PEFT与LORA介绍
本文针对大模型的低资源训练策略LORA的原理和代码实现进行了介绍。原创 2023-03-29 23:16:31 · 43090 阅读 · 21 评论 -
Meta最新模型LLaMA细节与代码详解
本文对Facebook Meta AI最新提出的大语言模型LLaMA进行简单的介绍,以及对其开源出的代码和细节进行了详细的说明。原创 2023-03-06 19:36:40 · 34824 阅读 · 21 评论 -
NLP实践——VQA/Caption生成模型BLIP-2的应用介绍
本文介绍最新的图文生成模型BLIP-2,从下载安装到简单的应用。原创 2023-02-16 23:17:01 · 6656 阅读 · 21 评论