Stable Diffusion 3震撼发布,开启图像生成新纪元,20亿参数Medium模型率先开源

前言

Stability AI 作为开源图像生成领域的领军者,不断突破技术边界,6月12日发布了其最新一代文本到图像生成模型——Stable Diffusion 3。这次发布的是 Stable Diffusion 3 的 Medium 模型,拥有 20 亿参数,在图像质量、文本遵循度和排版方面都展现出超越现有模型的强大实力。Stability AI 未来还将开源 40 亿和 80 亿参数的版本,进一步提升模型能力,满足不同用户的需求。

  • Huggingface模型下载:https://huggingface.co/stabilityai/stable-diffusion-3-medium

  • AI快站模型免费加速下载:https://aifasthub.com/models/stabilityai

技术特点

Stable Diffusion 3 的核心技术是全新的 多模态扩散Transformer (MMDiT) 架构。与以往版本相比,MMDiT 采用独立的权重集分别处理图像和语言表示,从而提升了模型对文本的理解能力,并改善了文本生成效果:

  • 独立权重集: MMDiT 架构使用独立的权重集来处理图像和文本信息。这使得图像和文本能够在各自的空间中进行独立的处理,同时也能相互影响,提升模型对文本的理解能力和图像生成效果。

  • 双向信息流: MMDiT 允许信息在图像和文本token之间双向流动。这意味着,模型不仅可以根据文本生成图像,还可以根据图像生成文本,并能更准确地将文本信息融入到图像中,提升图像质量和文本遵循度。

Stable Diffusion 3 采用了一种新颖的 修正流 (Rectified Flow, RF) 公式,通过将数据和噪声在训练过程中连接成线性轨迹,实现了更直接的推断路径,从而使用更少的采样步骤就能生成高质量的图像。此外,Stable Diffusion 3 还引入了新的 轨迹采样调度,对轨迹中间部分进行加权,从而提高模型在训练过程中的预测能力。

性能表现

Stability AI 对 Stable Diffusion 3 进行了大量测试,并将生成结果与包括 DALL·E 3、Midjourney v6、Ideogram v1 以及其他开源模型在内的多个模型进行了比较。结果表明,Stable Diffusion 3 在以下方面展现出优势:

  • 文本遵循度: Stable Diffusion 3 在文本遵循度方面表现出色,能够更准确地将文本内容融入到图像中,生成的图像更符合文本描述。

  • 图像质量: Stable Diffusion 3 生成的图像具有更高的视觉质量,细节更丰富,更具艺术性。

  • 排版能力: Stable Diffusion 3 在排版方面也展现出强大的能力,能够根据文本信息生成更美观、更易读的图像。

在实际应用中,Stable Diffusion 3 的 80 亿参数可以在 RTX 4090 显卡上运行,并能够在 34 秒内生成分辨率为 1024x1024 的图像。为了降低硬件门槛,Stability AI 将发布多个版本的 Stable Diffusion 3,包括 40 亿和 80 亿参数的模型,以满足不同用户的需求。

应用场景

Stable Diffusion 3 具有广泛的应用场景,能够为各种需要图像生成的应用提供强大的支持:

  • 艺术创作: 艺术家可以使用 Stable Diffusion 3 来生成各种风格的图像,帮助他们进行创作和实验。

  • 广告设计: 广告设计师可以使用 Stable Diffusion 3 来快速生成符合创意要求的广告图片,提升广告效果。

  • 游戏开发: 游戏开发者可以使用 Stable Diffusion 3 来生成游戏场景、人物、道具等图像,提高游戏的美观度和沉浸感。

  • 影视制作: 影视制作人员可以使用 Stable Diffusion 3 来生成电影、电视剧等作品中的场景、道具等图像,提升作品的视觉效果。

总结

Stable Diffusion 3 的发布,标志着文本到图像生成技术取得了新的突破。其全新的多模态扩散Transformer架构、卓越的生成效果以及广泛的应用场景,使其成为目前最值得期待的开源图像生成模型之一。相信随着技术的不断发展,Stable Diffusion 3 将为图像生成领域带来更多可能性,并为各个行业带来更大的价值。

模型下载

Huggingface模型下载

https://huggingface.co/stabilityai/stable-diffusion-3-medium

AI快站模型免费加速下载

https://aifasthub.com/models/stabilityai

  • 25
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值