- 博客(58)
- 收藏
- 关注
原创 文生图模型LoRA微调全面指南:从理论到实践——sd-scripts 训练推理参数配置
sd-scripts训练与推理参数配置摘要 本文档介绍使用sd-scripts进行Lora训练和推理的关键参数配置。训练部分包含必要参数(如模型路径、数据集配置、输出目录等)和可选参数(如学习率调度、网络维度等),特别强调必须指定network_module=network.lora。推理部分包含基础参数(模型路径、输出目录等)和高级功能(如多LoRA合并、提示批量生成等),支持交互模式和文件读取提示。文档提供了参数使用说明和注意事项,帮助用户高效配置Lora训练和生成过程。 (字数:149)
2025-09-24 15:59:31
788
原创 文生图模型LoRA微调全面指南:从理论到实践——Diffusers中Lora训练源码解析
本文摘要了Diffusers中Lora训练的关键步骤: 图像首先通过VAE编码器压缩到潜在空间,采样过程会引入随机性导致潜在表示变化。 生成标准正态分布噪声并添加到潜在表示中,通过DDPM前向过程得到带噪图像。 使用噪声偏移技术(noise_offset)可改善生成图像颜色分布。 文本提示经过tokenization和编码器转换为隐状态表示。 U-Net接收带噪图像、时间戳和文本编码,输出预测噪声。 损失计算可选择原始MSE或带SNR权重的改进版本,后者能加速训练。 整个过程实现了从图像压缩、噪声添加、文本
2025-09-24 15:57:12
1024
原创 文生图模型LoRA微调全面指南:从理论到实践
本文系统介绍了LoRA(低秩适应)技术在文生图模型中的应用。LoRA通过添加低秩矩阵实现轻量级微调,具有参数效率高、训练稳定、无推理延迟等技术优势。文章详细阐述了LoRA的数学原理和PyTorch实现方式,对比了其与传统全量微调的区别,并介绍了Diffusers中的LoRA训练流程,包括图像编码、噪声添加等关键步骤。此外,还探讨了LoRA的多种变体如QLoRA、LoRA+等技术的发展。该技术显著降低了训练资源需求,适合在消费级GPU上实现特定风格的图像生成任务。
2025-09-23 23:27:38
1201
原创 深度解析DeepSeek FlashMLA:Hopper GPU推理加速新利器
DeepSeek此次开源不仅展示了技术实力,更践行了"车库文化"的开源精神——通过开放核心模块,推动全球AI开发者共同解决推理效率难题。正如英伟达科学家Jim Fan所言:“这是非美国企业对OpenAI初心最好的诠释。项目地址相关阅读:DeepSeek开源周后续项目预告(2/5-5/5)(声明:本文实测数据基于H800 SXM5 GPU,实际效果可能因环境差异略有不同)
2025-02-24 12:13:12
1137
原创 计算机视觉—YOLO V4
计算机视觉—YOLO V41、YOLO V41.1、网络结构1.1.1、BackBone:CSPDarknet531.1.2、Neck:SPP结构1.1.3、Neck:PAN结构1.1.4、YOLO v4整体结构1.2、优化策略
2023-06-02 09:44:51
1152
原创 深度学习——神经网络之RNN循环(递归)神经网络
神经网络之RNN循环(递归)神经网络)1、什么是循环神经网络2、RNN网络结构3、RNN正向传播4、RNN反向传播更新梯度5、克服梯度消失和爆炸问题6、Deep(Bidrectional)RNN7、双向递归神经网络
2022-03-08 14:52:55
2379
原创 高阶卷积——卷积神经网络总结
高阶卷积——卷积的神经网络总结3x3卷积核、Inception、Bottleneck、Resnet残差网络、Wide Resnet、ResNext、分组卷积(group convolution)---- ResNext
2022-02-25 13:19:27
2938
原创 Python爬虫——实战:爬取博客园指定信息
Python爬虫——实战:爬取博客园指定信息用正则表达式提取数据用正则表达式提取数据# 课程内容:爬虫实战博客园# 开发时间: 16:25import requestsimport redef get_one_page(url,page): headers = {} html_txt = '' headers['User-Agent'] = 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, l
2021-11-28 22:40:07
1131
原创 python爬虫——基础知识
python爬虫——基础知识一、网页基础知识二、爬虫的思路1、HTML文档(超文本)三、ROBOTS协议四、浏览器发送HTTP请求的过程1、http请求过程2、请求五、SSL连接错误六、HTML标签层级结构七、选择器八、会话Cookies九、代理的基本原理代理:实现IP 伪装,反反爬虫一、网页基础知识在编写爬虫程序之前首先要了解一些必要的网页知识二、爬虫的思路提取数据来源:HTML文档josn 数据1、HTML文档(超文本)每一份网页都是一份HTML文档,是一种文本标记语言由一系
2021-11-26 11:43:09
648
原创 Python——pandas模块—Series数据结构
Python——pandas模块—Series数据结构Python——pandas模块—Series数据结构pandasSeries创建Series没有指定索引列时,自动创建:0~~(N-1)(N:数组长度)的整数型索引指定索引列index(数字,字符串)这点与数组不同,数组中的元素类型要相同使用列表、数组构建Series通过字典/字典对象的方式创建Series访问SreiesSeries.head()从前访问Series.tail()从后访问Sreies.index查看索引列Sreies.values查看
2021-11-24 02:11:11
3806
原创 Python——Numpy切片和索引(逗号,冒号:省略号...的使用)
Python——Numpy切片和索引Python——Numpy切片和索引用slice()函数访问切片Python——Numpy切片和索引Numpy对象可以使用 索引和切片 进行访问和修改索引下标从 0 开始用slice()函数访问切片返回值: 切片对象语法结构:slice(start[,stop[,step]])等价于a[start:stop:step]实例:#创建一个1维数组import numpy as npa = np.arange(20)#访问2到7,间隔为1的元素切片
2021-11-23 00:56:49
7756
原创 Python高阶——Numpy数组属性
Python高阶——Numpy数组属性Python高阶——Numpy数组属性秩:rankndarray.ndim()秩、(轴、维度)的数量ndarray.shape()数组的维度,对于矩阵,n 行 m 列ndarray.shape = () 也可以用于调整数组大小(调整维度)numpy.reshape() 函数来调整数组大小ndarray.itemsize 以字节的形式返回数组中每一个元素的大小。ndarray.size 数组元素的总个数,(相当于 .shape 中 n*m 的值)ndarray.flags
2021-11-21 23:59:53
1531
原创 Python高阶——Numpy创建ndarray
Python高阶——Numpy创建ndarrayPython高阶——Numpy创建ndarray如何导入NumpyPython 列表和 NumPy 阵列有什么区别用np.array() 创建一个 ndarray对象创建数组1、np.empty()创建指定形状、数据类型,且没有初始化的数组2、np.zeros()创建一个全0数组3、np.ones()创建一个全1数组4、numpy.asarray ()从已有数组创建数组1、列表转ndarray:元组转ndarray元组列表转ndarray元组的元组转ndarr
2021-11-21 20:01:54
9215
2
原创 Python基础——闭包
Python基础——闭包闭包创建一个闭包调用建两个对象闭包返回值return内部函数名return闭包外部的函数名return多个函数名nonlocal关键字闭包本身也是函数,嵌套函数一个函数定义中,引用了该函数外定义的变量该函数可以在其定义环境外被执行return一个函数名创建一个闭包def out_func(): lis1 = [] #定义一个向lis中添加name的函数,在函数里边对lis做处理 def inner_func(name): lis1.append(name)
2021-11-18 13:33:45
453
原创 Python基础——生成器
Python基础——生成器Python基础——生成器生成器自定义一个生成器调用生成器生成器的作用生成器使用例子生成器 + 读取文件Python基础——生成器生成器简单理解:生成器就是一个迭代器生成器本身是一个函数,区别在于;使用了 yield 的函数——生成器函数的返回值是一个:迭代器函数只能return一次,生成器可以return多次在调用生成器(函数)的过程中,当遇到关键字 yield 暂停运行该函数,并保存当前所有的运行信息返回 yield的值,在下一次调用的时候,从当前位置继续运行
2021-11-18 01:38:23
538
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅