LCM-LoRA模型推理简明教程

最新推荐文章于 2024-09-12 10:48:11 发布
最新推荐文章于 2024-09-12 10:48:11 发布
阅读量1.6k 收藏 5
点赞数 2
文章标签： 人工智能 深度学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shebao3333/article/details/134624432
版权

潜在一致性模型 (LCM) 通常可以通过 2-4 个步骤生成高质量图像，从而可以在几乎实时的设置中使用扩散模型。

来自官方网站：

LCM 只需 4,000 个训练步骤（约 32 个 A100 GPU 小时）即可从任何预训练的稳定扩散 (SD) 中提取出来，只需 2~4 个步骤甚至一步即可生成高质量的 768 x 768 分辨率图像，从而显着加速文本转换 -图像生成。 我们使用 LCM 在短短 4,000 次训练迭代中提取了 Dreamshaper-V7 版本的 SD。

有关 LCM 的更多技术概述，请参阅论文。

然而，每个模型需要单独蒸馏以进行潜在一致性蒸馏。 LCM-LoRA 的核心思想是只训练几个适配器层，在本例中适配器是 LoRA。 这样，我们就不必训练完整的模型并保持可训练参数的数量可控。 然后，生成的 LoRA 可以应用于模型的任何微调版本，而无需单独蒸馏它们。 此外，LoRA 还可应用于图像到图像、ControlNet/T2I-Adapter、修复、AnimateDiff 等。LCM-LoRA 还可以与其他 LoRA 结合，只需很少的步骤 (4-8) 即可生成样式图像。

NSDT在线工具推荐： Three.js AI纹理开发包 - YOLO合成数据生成器 - GLTF/GLB在线编辑 - 3D模型格式在线转换 - 可编程3D场景编辑器

LCM-LoRA 可用于 stable-diffusion-v1-5、stable-diffusion-xl-base-1.0 和 SSD-1B 模型。 所有的检查点都可以在这个集合中找到。

有关LCM-LoRA的更多详细信息，请参阅技术报告。

本指南展示了如何使用 LCM-LoRA 进行推理：

  • 文本到图像
  • 图像到图像
  • 与风格化的 LoRA 相结合
  • ControlNet/T2I 适配器
  • 图像修复
  • 动画差异

在阅读本指南之前，我们将先了解一下使用 LCM-LoRA 执行推理的一般工作流程。 LCM-LoRA 与其他稳定扩散 LoRA 类似，因此它们可以与任何支持 LoRA 的 DiffusionPipeline 一起使用。

  • 加载任务特定的管道和模型。
  • 将调度程序设置为 LCMScheduler。
  • 加载模型的 LCM-LoRA 权重。
  • 减少 [1.0, 2.0] 之间的guiding_scale，并在 [4, 8] 之间设置 num_inference_steps。
  • 使用常用参数对管道进行推理。

让我们看看如何使用 LCM-LoRA 对不同的任务进行推理。

首先，确保已安装 peft，以获得更好的 LoRA 支持。

pip install -U peft

1、文本转图像

我们将使用 StableDiffusionXLPipeline 和调度程序：LCMScheduler，然后加载 LCM-LoRA。 该管道与 LCM-LoRA 和调度程序一起，可实现快速推理工作流程，克服扩散模型的缓慢迭代特性。

import torch
from diffusers import DiffusionPipeline, LCMScheduler

pipe = DiffusionPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    variant="fp16",
    torch_dtype=torch.float16
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LCM-LoRA
pipe.load_lora_weights("latent-consistency/lcm-lora-sdxl")

prompt = "Self-portrait oil painting, a beautiful cyborg with golden hair, 8k"

generator = torch.manual_seed(42)
image = pipe(
    prompt=prompt, num_inference_steps=4, generator=generator, guidance_scale=1.0
).images[0]

结果如下：

请注意，我们仅使用 4 个步骤进行生成，这比标准 SDXL 通常使用的步骤要少得多。

你可能已经注意到，我们设置guidance_scale=1.0，这会禁用classifer-free-guidance。 这是因为 LCM-LoRA 是在指导下进行训练的，因此在这种情况下批量大小不必加倍。 这会导致更快的推理时间，但缺点是负面提示对去噪过程没有任何影响。
还可以使用 LCM-LoRA 的指导，但由于训练的性质，模型对guiding_scale 值非常敏感，高值可能会导致生成的图像中出现伪影。 在我们的实验中，我们发现最佳值在 [1.0, 2.0] 范围内。

2、使用微调模型进行推理

如上所述，LCM-LoRA 可以应用于模型的任何微调版本，而无需单独提取它们。 让我们看看如何使用微调模型进行推理。 在此示例中，我们将使用 animagine-xl 模型，它是用于生成动画的 SDXL 模型的微调版本。

from diffusers import DiffusionPipeline, LCMScheduler

pipe = DiffusionPipeline.from_pretrained(
    "Linaqruf/animagine-xl",
    variant="fp16",
    torch_dtype=torch.float16
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LCM-LoRA
pipe.load_lora_weights("latent-consistency/lcm-lora-sdxl")

prompt = "face focus, cute, masterpiece, best quality, 1girl, green hair, sweater, looking at viewer, upper body, beanie, outdoors, night, turtleneck"

generator = torch.manual_seed(0)
image = pipe(
    prompt=prompt, num_inference_steps=4, generator=generator, guidance_scale=1.0
).images[0]

结果如下：

3、图像到图像

LCM-LoRA 也可以应用于图像到图像的任务。 让我们看看如何使用 LCM 执行图像到图像的生成。 在本例中，我们将使用 dreamshaper-7 模型和 LCM-LoRA 来实现 stable-diffusion-v1-5 。

import torch
from diffusers import AutoPipelineForImage2Image, LCMScheduler
from diffusers.utils import make_image_grid, load_image

pipe = AutoPipelineForImage2Image.from_pretrained(
    "Lykon/dreamshaper-7",
    torch_dtype=torch.float16,
    variant="fp16",
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LCM-LoRA
pipe.load_lora_weights("latent-consistency/lcm-lora-sdv1-5")

# prepare image
url = "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/diffusers/img2img-init.png"
init_image = load_image(url)
prompt = "Astronauts in a jungle, cold color palette, muted colors, detailed, 8k"

# pass prompt and image to pipeline
generator = torch.manual_seed(0)
image = pipe(
    prompt,
    image=init_image,
    num_inference_steps=4,
    guidance_scale=1,
    strength=0.6,
    generator=generator
).images[0]
make_image_grid([init_image, image], rows=1, cols=2)

结果如下：

你可以根据提示和提供的图像获得不同的结果。 为了获得最佳结果，我们建议尝试 num_inference_steps、strength 和guiding_scale 参数的不同值并选择最佳值。

4、与风格化的 LoRA 结合

LCM-LoRA 可以与其他 LoRA 结合使用，只需很少的步骤即可生成样式图像 (4-8)。 在下面的示例中，我们将使用 LCM-LoRA 和剪纸 LoRA。 要了解有关如何组合 LoRA 的更多信息，请参阅这个指南。

import torch
from diffusers import DiffusionPipeline, LCMScheduler

pipe = DiffusionPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    variant="fp16",
    torch_dtype=torch.float16
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LoRAs
pipe.load_lora_weights("latent-consistency/lcm-lora-sdxl", adapter_name="lcm")
pipe.load_lora_weights("TheLastBen/Papercut_SDXL", weight_name="papercut.safetensors", adapter_name="papercut")

# Combine LoRAs
pipe.set_adapters(["lcm", "papercut"], adapter_weights=[1.0, 0.8])

prompt = "papercut, a cute fox"
generator = torch.manual_seed(0)
image = pipe(prompt, num_inference_steps=4, guidance_scale=1, generator=generator).images[0]
image

结果如下：

5、ControlNet/T2I 适配器

让我们看看如何使用 ControlNet/T2I-Adapter 和 LCM-LoRA 进行推理。

在本例中，我们将使用 SD-v1-5 模型和 SD-v1-5 的 LCM-LoRA 以及 canny ControlNet。

import torch
import cv2
import numpy as np
from PIL import Image

from diffusers import StableDiffusionControlNetPipeline, ControlNetModel, LCMScheduler
from diffusers.utils import load_image

image = load_image(
    "https://hf.co/datasets/huggingface/documentation-images/resolve/main/diffusers/input_image_vermeer.png"
).resize((512, 512))

image = np.array(image)

low_threshold = 100
high_threshold = 200

image = cv2.Canny(image, low_threshold, high_threshold)
image = image[:, :, None]
image = np.concatenate([image, image, image], axis=2)
canny_image = Image.fromarray(image)

controlnet = ControlNetModel.from_pretrained("lllyasviel/sd-controlnet-canny", torch_dtype=torch.float16)
pipe = StableDiffusionControlNetPipeline.from_pretrained(
    "runwayml/stable-diffusion-v1-5",
    controlnet=controlnet,
    torch_dtype=torch.float16,
    safety_checker=None,
    variant="fp16"
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LCM-LoRA
pipe.load_lora_weights("latent-consistency/lcm-lora-sdv1-5")

generator = torch.manual_seed(0)
image = pipe(
    "the mona lisa",
    image=canny_image,
    num_inference_steps=4,
    guidance_scale=1.5,
    controlnet_conditioning_scale=0.8,
    cross_attention_kwargs={"scale": 1},
    generator=generator,
).images[0]
make_image_grid([canny_image, image], rows=1, cols=2)

结果如下：

本示例中的推理参数可能不适用于所有示例，因此我们建议你尝试“num_inference_steps”、“guidance_scale”、“controlnet_conditioning_scale”和“cross_attention_kwargs”参数的不同值，并选择最佳的值。

下面的示例展示了如何将 LCM-LoRA 与 Canny T2I 适配器和 SDXL 结合使用。

import torch
import cv2
import numpy as np
from PIL import Image

from diffusers import StableDiffusionXLAdapterPipeline, T2IAdapter, LCMScheduler
from diffusers.utils import load_image, make_image_grid

# Prepare image
# Detect the canny map in low resolution to avoid high-frequency details
image = load_image(
    "https://huggingface.co/Adapter/t2iadapter/resolve/main/figs_SDXLV1.0/org_canny.jpg"
).resize((384, 384))

image = np.array(image)

low_threshold = 100
high_threshold = 200

image = cv2.Canny(image, low_threshold, high_threshold)
image = image[:, :, None]
image = np.concatenate([image, image, image], axis=2)
canny_image = Image.fromarray(image).resize((1024, 1024))

# load adapter
adapter = T2IAdapter.from_pretrained("TencentARC/t2i-adapter-canny-sdxl-1.0", torch_dtype=torch.float16, varient="fp16").to("cuda")

pipe = StableDiffusionXLAdapterPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0", 
    adapter=adapter,
    torch_dtype=torch.float16,
    variant="fp16", 
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LCM-LoRA
pipe.load_lora_weights("latent-consistency/lcm-lora-sdxl")

prompt = "Mystical fairy in real, magic, 4k picture, high quality"
negative_prompt = "extra digit, fewer digits, cropped, worst quality, low quality, glitch, deformed, mutated, ugly, disfigured"

generator = torch.manual_seed(0)
image = pipe(
    prompt=prompt,
    negative_prompt=negative_prompt,
    image=canny_image,
    num_inference_steps=4,
    guidance_scale=1.5, 
    adapter_conditioning_scale=0.8, 
    adapter_conditioning_factor=1,
    generator=generator,
).images[0]
make_image_grid([canny_image, image], rows=1, cols=2)

结果如下：

6、图像修复

LCM-LoRA 也可用于修复。

import torch
from diffusers import AutoPipelineForInpainting, LCMScheduler
from diffusers.utils import load_image, make_image_grid

pipe = AutoPipelineForInpainting.from_pretrained(
    "runwayml/stable-diffusion-inpainting",
    torch_dtype=torch.float16,
    variant="fp16",
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LCM-LoRA
pipe.load_lora_weights("latent-consistency/lcm-lora-sdv1-5")

# load base and mask image
init_image = load_image("https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/diffusers/inpaint.png")
mask_image = load_image("https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/diffusers/inpaint_mask.png")

# generator = torch.Generator("cuda").manual_seed(92)
prompt = "concept art digital painting of an elven castle, inspired by lord of the rings, highly detailed, 8k"
generator = torch.manual_seed(0)
image = pipe(
    prompt=prompt,
    image=init_image,
    mask_image=mask_image,
    generator=generator,
    num_inference_steps=4,
    guidance_scale=4, 
).images[0]
make_image_grid([init_image, mask_image, image], rows=1, cols=3)

结果如下：

7、动画差异

AnimateDiff 允许你使用稳定扩散模型对图像进行动画处理。 为了获得好的结果，我们需要生成多个帧（16-24），而使用标准 SD 模型执行此操作可能会非常慢。 LCM-LoRA 可用于显着加快该过程，因为你只需为每一帧执行 4-8 个步骤。 让我们看看如何使用 LCM-LoRA 和 AnimateDiff 执行动画。

import torch
from diffusers import MotionAdapter, AnimateDiffPipeline, DDIMScheduler, LCMScheduler
from diffusers.utils import export_to_gif

adapter = MotionAdapter.from_pretrained("diffusers/animatediff-motion-adapter-v1-5")
pipe = AnimateDiffPipeline.from_pretrained(
    "frankjoshua/toonyou_beta6",
    motion_adapter=adapter,
).to("cuda")

# set scheduler
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)

# load LCM-LoRA
pipe.load_lora_weights("latent-consistency/lcm-lora-sdv1-5", adapter_name="lcm")
pipe.load_lora_weights("guoyww/animatediff-motion-lora-zoom-in", weight_name="diffusion_pytorch_model.safetensors", adapter_name="motion-lora")

pipe.set_adapters(["lcm", "motion-lora"], adapter_weights=[0.55, 1.2])

prompt = "best quality, masterpiece, 1girl, looking at viewer, blurry background, upper body, contemporary, dress"
generator = torch.manual_seed(0)
frames = pipe(
    prompt=prompt,
    num_inference_steps=5,
    guidance_scale=1.25,
    cross_attention_kwargs={"scale": 1},
    num_frames=24,
    generator=generator
).frames[0]
export_to_gif(frames, "animation.gif")

结果如下：

原文链接：LCM-LoRA推理简明教程 - BimAnt

新缸中之脑
关注
LCM-LoRA：a universal stable-diffusion acceleration module
liguandong
12-07 421
LCM需要微调整个sd模型，consistency model本身可以和sd的网络结构完全一致，但是diffusion model作为ODE，其Solver可以有多种，可以采用硬解法的Solver，比如DPM++等，consistency model解ODE实际上通过的是函数f，f是通过蒸馏得到的，LCM就是在sd基础上利用consistency model蒸馏的，在VAE的潜空间中。既然lcm是对sd的一个微调过程，只是换了一个loss，那就可以使用lora，只用lcm的蒸馏损失优化lora的权重。
vllm 大模型量化微调推理使用： lora、gptq、awq
weixin_42357472的博客
06-06 745
AWQ\GPTQ量化模型运行方式（测试下来感觉GPU都会占满，4090卡不量化运行90 tokens/s，AWQ\GPTQ 版30左右 tokens/s）如果是用OPENAI包 model还是写 名称填的–lora-modules qwen-lora；不填这个默认vllm模型不会加载使用lora。如果是这个名称填的–lora-modules qwen-lora。
Diffusers代码学习：LCM ControlNet
duhaining1976的博客
06-18 865
AIGC研究及应用系列
Diffusers代码学习: AnimatediffLCM
duhaining1976的博客
06-27 493
AIGC研究及应用系列
【扩散模型】LCM LoRA:一个通用的Stable Diffusion加速模块
weixin_57974242的博客
07-06 1605
潜在扩散模型(Latent Diffusion models, ldm)在高分辨率图像合成方面取得了显著的成果。然而，迭代采样过程计算量大，导致生成速度慢。受一致性模型的启发，我们提出了潜在一致性模型(Latent Consistency Models, lcm)，能够在任何预训练的ldm上以最小的步骤进行快速推理，包括稳定扩散。原理：将引导反向扩散过程视为求解增强概率流ODE (PF-ODE)， lcm设计用于直接预测潜在空间中此类ODE的解，从而减少了多次迭代的需要，并允许快速，高保真采样。
[AIGC] LCM-LoRA：高速Stable Diffusion
unity尧明的博客
01-21 1750
要回答这个问题，我们得从相关的 Consistency Model 一致性模型（CM）说起。CM 是一类新型扩散模型，经过训练可一步生成图像。它是 Yang Song 等人在一致性模型一文中提出的。潜在一致性模型(LCM) 在潜在扩散模型中应用了相同的思想，例如Stable Diffusion，其中图像去噪发生在潜在空间中。通常，您需要为每个自定义检查点模型训练一个新的LCM，使用起来很不方便。LCM-LoRA 是使用一致性方法通过稳定扩散基础模型（v1.5 和 SDXL）训练的 LoRA 模型。
mtk设备模型之LCM
Eliot_shao的专栏
04-14 7694
1、Linux设备模型 站在BSP的角度来看，整个系统可以由三部分组成：设备、总线、驱动。 Linux kernel有一些总线，比如USB、I2C等。对于每一个总线都会有一些设备和驱动挂在上面。驱动服务于匹配的设备，使Linux正确的操作硬件设备。当一个设备或者驱动注册到特定的总线上的时候就会触发总线匹配函数，比如一个设备注册到了总线，所有的该总线的驱动都会被枚举，判断是不是可以服
清华发布LCM-LoRA模型：图像生成速度提升10倍，下载量破20万
nulifancuoAI的博客
11-22 703
这种技术的基本原理是通过在原始模型中插入少量的适配器层，而不是重新训练整个模型，从而实现快速的模型适应和优化。例如，在使用SDXL模型生成1024x1024分辨率的图像时，标准模型需要约一分钟的时间，而LCM LoRA模型只需大约6秒。它不仅提高了图像生成的效率，还降低了成本，为各种应用提供了新的可能性。LCM LoRA模型是一种创新的深度学习模型，它通过特殊的技术手段，显著提高了图像生成的效率。在需要快速响应的应用中，如在线图像编辑和视频处理，LCM LoRA能够提供即时的图像生成。
【腾讯云HAI域探秘】使用LCM-LORA助力炼丹师极速出丹
Lisas_ss的博客
12-15 4951
高性能应用服务（Hyper Application Inventor，HAI）是一款面向 AI 和科学计算的 GPU/NPU 应用服务产品，提供即插即用的强大算力和常见环境。
Stable Diffuison + LCM-lora加速，在BM1684X上一秒出图SD-lcm-tpu
01-13
在IT行业中，"Stable Diffusion + LCM-Lora 加速，在 BM1684X 上一秒出图 SD-lcm-tpu" 这一主题涉及到几个关键的技术领域，包括图像处理、芯片技术、通信协议以及优化算法。下面将详细阐述这些知识点。 首先，...
lora训练模型-lora-scripts-main.zip
08-13
标题中的“lora训练模型-lora-scripts-main.zip”指的是一个包含LoRA（Low-Rank Adaptation）训练模型的压缩文件。LoRA是一种针对预训练语言模型进行微调的技术，它通过引入低秩矩阵来适应特定任务，从而在不显著...
ATK-LORA-01模块资料及源码.rar_ATK lora模块_ATK-LORA-01_NB-IOT 低功耗_atk-lor
07-15
ATK-LORA-01模块资料及源码,物联网的端点网通传输技术，有许多技术方案可以选择，除了lora以外，还有NB-IoT、WiFi、蓝牙、zigbee、Dustl和sub-1GHz等，不同的通讯技术有着不同的特点，也各有适合自己的应用场景。...
大模型_alpaca-lora微调及推理部署
weixin_42504788的博客
04-27 1295
大模型_alpaca-lora微调及推理部署
第五节 LLaVA模型推理命令(包含lora训练权重推理方法)
weixin_38252409的博客
03-07 1041
LLAVA模型训练方式有预训练、微调训练，而预训练需要大量算力与数据支持，我们将不在重点考虑。对于微调，也因其计算资源导致成本较高，一般不会采用全量微调方式，而是多采用PEFT方式完成，而PEFT代表的Lora微调模型性价比较高。介于此，Lora微调需要合并权重方可实现，在于我个人摸索下实现了LLAVA模型lora训练的推理。为此，我将LLAVA所有推理方式记录于此。。
潜在一致性模型（LCM）：开启图像生成效率新纪元
nulifancuoAI的博客
11-26 789
LCM 是在 Consistency Models 的基础上引入了 Lantent Space （潜空间），进一步压缩需要处理的数据量，从而实现超快速的图像推理合成。最近，清华大学交叉信息科学研究院推出的LCM（Latent Consistency Models）在这两个方面都取得了显著的突破，尤其是在提升出图效率方面，实现了重要的进展。目前官网只提供了Dreamshaper-V7和LCM-SDXL，2 款可以在Stable Diffusion中使用的模型，并且需要安装 LCM 插件。
以bert为例,了解Lora是如何添加到模型中的
Hi20240217的博客
06-13 761
本文以bert为例,对比了添加Lora模块前后的网络结构图。
什么是LCM
apache6的专栏
10-29 5078
 LCM是指液晶显示模块liquid crystal module，通常包括LCD的显示驱动电路，接口电路等。往往做成一个模块的形式. LCM包括有LCD液晶屏，铁框，铁架，PCB线路板，驱动IC，控制IC，背光灯等一系列，其中IC的封装方式有硬封装的，COB邦定，TAB把IC封装在菲林线路上，COF装IC固定的柔性线路板上等。也有直接反IC固定在LCD的玻璃上的叫COG等。LCM一般还包括背
三秒4张图！让 Stable Diffusion 出图速度暴增的新一代生成模型LCM！
2401_84760719的博客
06-29 718
大家好，这里是和你们一起探索 AI绘画月月~最近一种新的图像生成形式逐渐兴起，即生成的图像会随输入的文字或笔画动作迅速变化，这让图像生成有了更多灵活探索和准确控制的空间。这种「实时反馈」的感觉源于模型能在几秒钟内，根据输入生成新的内容，而之所以能有这么快的生成速度，依靠的就是LCM这项新技术。LCM 项目主页：Github 主页：LCM 全称 Latent Consistency Models（潜在一致性模型），是清华大学交叉信息科学研究院研发的一款生成模型。
LoRA训练推理部署流程
最新发布
weixin_42924890的博客
09-12 425
这是LoRA相关的第三篇文章上篇文章已经比较全面的讨论过了LoRA的一些配置和网络模型结构，本文主要从以下几个方面进一步看一下LoRA的微调、模型保存、加载和推理流程。文件simple_mlp.py，定义两层Linear，中间使用relu激活函数。模拟从一个10 维空间映射到2维空间。
llama-factory llm - lora 模型合并与保存
11-18
llama-factory是一个用于深度学习模型开发和训练的开源库，它提供了各种工具和功能来简化模型开发的流程。在llama-factory中，llm和lora是两种常用的模型类型，它们分别代表了不同的深度学习模型架构。 要合并llm和lora模型，首先需要确保它们具有相同的输入和输出形状。然后可以使用llama-factory提供的模型合并工具来将它们合并成一个新的模型。在合并的过程中，需要考虑到每个模型的权重和参数，确保它们能够正确地融合在一起。 一旦模型合并完成，就可以使用llama-factory提供的模型保存功能将新模型保存到硬盘上。保存模型时，可以选择不同的格式和配置来满足不同的需求，比如选择不同的压缩算法或者保存为不同的文件类型。保存模型的同时，还可以保存模型的元数据和其他相关信息，以便在以后能够方便地加载和使用模型。 总的来说，llama-factory提供了一整套完善的工具和功能来处理深度学习模型的合并和保存。通过合并和保存模型，开发者可以更方便地管理和使用复杂的深度学习模型，从而加快模型开发和部署的速度。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值