qq_45692660的博客

原创 BPE字节对编码

原创 tokenizer

二、Normalization and pre-tokenization。一、如何训练新的tokenizer。

原创 diffusers 源码待理解之处

一、训练DreamBooth时，相关代码的细节小计**

原创 datasets-Load image data

原创 diffusers-训练自己的模型

尽量可以利用已有的预训练权重去训练模型，但是权重并不一定能够完全适配，所以还需要自己来视情况做修改，未能加载预训练权重的那一部分参数必须要重新开始训练，不存在finetune一说。基于datasets这个库创建的dataloader，底层代码还待探索。train_unconditional.py中创建的unet。train_unconditional.py这个代码待细看。预测代码（小疑问，这个路径咋确定的呢？默认的优化器和采样器。

原创 diffusers-Improve image quality with deterministic generation

二、找最佳的prompt。一、找最佳的随机种子。

原创 diffu-Distributed inference with multiple GPUs

pytorch的ddp。

原创 diffu-Distributed inference with multiple GPUs

pytorch的ddp。

原创 diffusers-Textual inversion

原文链接：添加链接描述

原创 diffusers-Inpainting

两个pipeline不是使用同一个VAE，否则第一个pipeline的输出可以是latent。白色mask区域仅使用生成出来的，非白色mask区域使用原始影像，但是图像有点不平滑。

原创 diffusers-Image-to-image

有点递归套娃的样子了。

原创 diffusers-Text-to-image

guidance_scale这个值不能太大也不可以太小，太小时具有更多的创造力，太大时将更加逼近提示，默认是7.5，值太大了会出现伪影。此处的embedding是通过 Compel 库得到的。

原创 diffusers-Unconditional image generation

原创 diffusers-load adapters

注意区分load_lora_weights和unet.load_attn_procs的区别，这里我觉得还是推荐用load_lora_weights。这里说的无法取消多个lora权重的融合，不是很理解，还需要继续去看diffuser的底层代码。

原创 diffuers-Load safetensors

将bin权重转换为safe-tensor权重。

原创 diffuser为pipeline设置不用的scheduler

修改scheduler，用于生成风格不同的图片，查看兼容的scheduler。修改scheduler并重新生成数据。使用默认的pipeline生成数据。

原创 diffuser库之 Load pipelines, models, and schedulers 的阅读记录

diffuser-使用手册

原创 动态规划之-线性DP

class Solution(object): def lengthOfLIS(self, nums): """ :type nums: List[int] :rtype: int """ DP=[0]*len(nums) for i in range(len(nums)): if i==0:DP[i]=1 else: da.

原创 YOLOV4/5笔记

1.问题是对于v1/v2版本中的tx、ty的限制2.GIoU:优化无重叠情况下的无法优化3.DIoU:考虑两个网格之间的中心坐标的距离信息4.CIoU:考虑形状信息大特征图中保留到的局部细节特征往上传，可以优化对小目标的检测效果浅层特征：较强的位置信息以及较弱的语义信息深层特征：较强的语义信息以及较弱的位置信息语义信息对于解决分类问题是有利的，定位信息对于解决框的回归问题是有利的，利用FPN以及PAN模块逐步将两者融合，从而使特征层得到较强的语义信息以及位置信息，可以更好的处理分类以及回归.

原创 位运算-分组异或

class Solution(object): def singleNumber(self, nums): """ :type nums: List[int] :rtype: int """ data=0 for i in nums: data^=i return data

原创 堆排序取Top_k

class Solution(object): def smallestK(self, arr, k): """ :type arr: List[int] :type k: int :rtype: List[int] """ if k<=0:return [] self.data=arr[:k] self.create_max_heap() for .

原创 重构树-二叉搜索树的后序遍历-树的子结构-二叉树路径

# Definition for a binary tree node.# class TreeNode(object):# def __init__(self, x):# self.val = x# self.left = None# self.right = Noneclass Solution(object): def buildTree(self, preorder, inorder): """ .

原创 BFS-429-107-102-1161

"""# Definition for a Node.class Node(object): def __init__(self, val=None, children=None): self.val = val self.children = children"""class Solution(object): def levelOrder(self, root): """ :type root: Node .

原创 剑指offer之66题

class Solution(object):def reverseLeftWords(self, s, n):“”":type s: str:type n: int:rtype: str“”" ''' # 1. return s[n:]+s[:n] ''' ''' # 2. res=[] for i in range(n,len(s)): res.append(s[i]) for i in range(.

原创 DFS-938-剑指offer 55 -I ---104-559-257-872-100-563

# Definition for a binary tree node.# class TreeNode(object):# def __init__(self, val=0, left=None, right=None):# self.val = val# self.left = left# self.right = rightclass Solution(object): def rangeSumBST(self, root,.

原创 堆化-堆排序

1.为low指针寻找放至位置，所以进行数据比较时(最小的子树或者是最大的子树)一直是与初始low指向的数据进行比较2.一直都是将堆顶元素放至底部，而不是第i个def sift(data,low,high): temp=data[low] i=low j=2*i+1 while j<=high: if j+1<=high and data[j]>data[j+1]: j+=1 if data[j]&

原创 深度学习基础篇之标准化与归一化

1.为什么需要归一化？加快网络的收敛，避免出现梯度弥散2.归一化与标准化的区别？同：都是一种线性变化，都是按照比例在进行缩放与偏移不同：归一化是将数据归一化到[-1,1]或者[0,1]的分布，由变量的极值决定其缩放。标准化是将数据转化为均值为零当差为1的正态分布3.为什么需要进行归一化或者是标准化？加速训练(结合激活函数及其梯度进行阐述)，0与100与0与10之间的区别，转换到相同的特征空间4.归一化的类型？[-1,1],[0,1],标准差标准化5.标准化之LRN、BNLRN(局部响应归

原创 深度学习基础篇之Batch_Size

1.Batch_size、epoch、iteration之间的关系？2.为什么需要batch_size？整个数据集训练的话，损失肯定是最稳定的，但是数据太大时内存显存大小无法满足要求，计算得到的梯度差别较大，无法找到一个全局的学习率满足所有的梯度的变化3.如何选取batch_size？对于小数据集而言，可以采用全数据集，训练稳定，都是整体的梯度下降方向，但是不同的梯度值差别较大，难以获得一个全局学习率大数据集，mini_batch4.batch_size对于训练的影像？当batch_size

原创 深度学习基础篇1

1.机器学习与深度学习的区别？可从特征之间着手阐述区别2.为什么要用深层表示？可以从浅层特征与深层特征之间关系阐述3.网络更深的意义？激活函数带来的非线性所阐述。深层网络的容量4.为什么需要激活函数？1.线性函数的复杂度有限，从中学习复杂函数的映射能力有限2.将当前的特征空间通过激活函数映射到另一个空间5.为什么需要非线性的激活函数？1.w=w1@w2@w3....@wn2.输入与输出之间形成非线性映射，可以学习到更复杂的特征6.激活函数的特性？非线性、单调、可微、输出值

原创 BFS-104-559-剑指offer 32-II-剑指offer 32-I -933-101-1379-面试04.03-513-116

# Definition for a binary tree node.# class TreeNode(object):# def __init__(self, val=0, left=None, right=None):# self.val = val# self.left = left# self.right = rightclass Solution(object): def maxDepth(self, root): .

原创 二叉树的定义-BFS-DFS

class Node(object): def __init__(self,item): self.item=item self.left=None self.right=Noneclass Tree(object): def __init__(self): self.head = None def add(self,item): node=Node(item) if sel

原创 深度学习面经

添加链接描述

原创 树-python

class Solution: def rangeSumBST(self, root: TreeNode, low: int, high: int) -> int: if not root: return 0 if root.val > high: return self.rangeSumBST(root.left, low, high) if root.val < low: ..

原创 二分法-1351-852-1337-704-面试10.05-剑指offer53-剑指offer11-374-35-744(待处理)-缺失的数字-367-278-441-69

https://leetcode-cn.com/problems/search-insert-position/solution/te-bie-hao-yong-de-er-fen-cha-fa-fa-mo-ban-python-/class Solution(object): def countNegatives(self, grid): """ :type grid: List[List[int]] :rtype: int ""

原创 DAY-01/02-MySQL

#进阶1：基础查询/*语法：select 查询列表 from 表名;类似于：System.out.println(打印东西);特点：1、查询列表可以是：表中的字段、常量值、表达式、函数2、查询的结果是一个虚拟的表格*/USE myemployees;#1.查询表中的单个字段SELECT last_name FROM employees;#2.查询表中的多个字段SELECT last_name,salary,email FROM employees;#3.查询表中的所有字段#方式

原创 BN层反向传播

[https://www.adityaagrawal.net/blog/deep_learning/bprop_batch_norm]BN层的反向传播公式

原创 双指针-88（合并两个有序链表）-28-925

class Solution(object): def merge(self, nums1, m, nums2, n): """ :type nums1: List[int] :type m: int :type nums2: List[int] :type n: int :rtype: None Do not return anything, modify nums1 in-place instea..

原创 双指针-167-350-26-345-141

class Solution(object): def twoSum(self, numbers, target): """ :type numbers: List[int] :type target: int :rtype: List[int] """ left=0 right=len(numbers)-1 while left<right: .

原创 双指针-剑指offer22-349-977-1800-283-27

# Definition for singly-linked list.# class ListNode(object):# def __init__(self, x):# self.val = x# self.next = Noneclass Solution(object): def kthToLast(self, head, k): """ :type head: ListNode :type.

原创 链表-83-234

# Definition for singly-linked list.# class ListNode(object):# def __init__(self, val=0, next=None):# self.val = val# self.next = nextclass Solution(object): def deleteDuplicates(self, head): """ :type head: Li.