qq_43426078的博客

原创 【机器学习】Nonlinear Independent Component Analysis - Aapo Hyvärinen

通过引入一个新的变量u来解，比如找视频和音频的关系，时间t就可以作为辅助变量（auxiliary varibale）。总结来说Linear ICA是可解的，对于Nonlinear ICA则需要增加额外的假设才能可解（原始信号可分离）。Nonlinear ICA的思想可以用在深度学习的其他模型上。用MLP，通过自监督分类（某一个信号来自于哪个时间段）来训练网络。这样MLP可以表示不同时间段内的信号差。可以表示为观测值(x)经MLP隐藏层分离结果的线性组合。

原创 【机器学习】On the Identifiability of Nonlinear ICA： Sparsity and Beyond

本文是对On the Identifiability of Nonlinear ICA: Sparsity and Beyond (NIPS 2022)中两个结构稀疏假设的总结。原文链接在Reference中。独立成分分析简单来说，就是给定很多的样本X，通过样本分离出组合成样本的源S。关于ICA的详细内容，可以参考Yifan Shen的博客：ICA简明攻略非线性独立成分分析（ICA）旨在从其可观测的非线性混合物中恢复潜在的独立源。非线性独立成分分析（ICA）是无监督学习的基础。它推广了线性ICA（Comon

原创 【机器学习】AdaBoost

随机森林中，每个树的贡献相同。AdaBoost中，不同树的贡献不同。adaboost每个树都是stump，即二分类树。

原创 【机器学习】随机森林（Random Forest）、GBDT（Gradient Boosting Decision Tree）、XGBoost（eXtreme Gradient Boosting）

好处：决策树算法相比于其他的算法需要更少的特征工程，比如可以不用做特征标准化，可以很好的处理字段缺失的数据，也可以不用关心特征间是否相互依赖等。决策树能够自动组合多个特征。不过，单独使用决策树算法时，有容易过拟合缺点。所幸的是，通过各种方法，抑制决策树的复杂性，降低单颗决策树的拟合能力，再通过梯度提升的方法集成多个决策树，最终能够很好的解决过拟合的问题。由此可见，梯度提升方法和决策树学习算法可以互相取长补短，是一对完美的搭档。

原创 【Bioinfomatics】生物信息学名词积累

臭写代码的最近在搞生物信息相关的东西，拿来发现好多单位、名词都不知道是什么。记录一下方便自己和大家学习。

原创 【Leetcode】python回溯算法结果出现[[], [], []]（列表深拷贝 浅拷贝问题）

结果如图：路径是正确的，但为什么答案中全是[]？

原创 【Numpy】不再迷茫！np.mean() axis参数通俗解释。

看完还是有点懵？没关系，继续往下看。

原创 【雅思备考】写作表达积累

写作表达

原创 【雅思备考】Simon口语课

总体来说其实没有太多的技巧可言，就是给一个思路，自己下去要多练。一个观点/人 + 一个例子 + 解释。1分钟准备，自己说两分钟左右。练习，录音，回放，改进。

原创 【雅思备考】九分学长写作课笔记

概述性内容的抓取：看型。大体看图标的形状，看型不看细节。区分动静特征，动态分趋势，静态分差异。细节性内容的抓取：对数。所有main features的准确数值。句子数量：通常2句话，概括主要特征。引导词用overall，in sum等折线图举例：8月人均用水量差别大，12月小（左大右小），8到12月，xxx总体下降，xxx总体上升（两升两降）柱状图举例：注意不能使用随着等描述趋势的词来用于静态表，要用描述差异的。饼图举例：某一个没变化，其他的都有不同程度的变化。

原创 【雅思备考】经验技巧

参考链接：需要全文定位。

原创 【anaconda】彻底解决windows下anaconda3占用C盘问题（改了envs、pkgs安装路径依旧占用C盘）

你大概率会看到pkgs_dirs和envs_dirs有三个，一个是你指定的，比如你装到E盘了。另外两个都是C盘路径。网上的教程告诉你说，你只要保证你的E盘路径在最前面，就可以了。但实际你试过之后会发现根本不行，创建新环境的时候C盘还是会越来越大。

原创 【Shell】遍历目录下所有文件脚本

【代码】【Shell】遍历目录下所有文件脚本。

原创 【Pandas】一文入门Pandas处理csv文件数据集（神经网络/机器学习算法数据预处理）

和某个大佬采集的数据是csv格式的，之前没处理过csv格式的数据。拿来写神经网络训练的时候踩了不少坑，这里记录一下，也方便后来人学习。处理csv文件的包应该有不少，这里就做一个pandas的教程了（其他的没用过hhhh）。这里我以我的一个数据为例演示一些常用的处理方法。csv文件中的空值（NaN）是什么？ 这里是一个大坑。建议大家在读csv的时候用我下面这个参数，把缺失的值统一设置为。这样在后面如果需要手动过滤掉缺失值的时候可以索引到位置。之前试过，如果不设置这个参数，缺失值不是False、0、"NaN

原创 【Conda】python environment setup , windows+conda+jupyter+pytorch (English Version)

English version

原创 【Conda】python数据分析/深度学习环境配置windows+conda+jupyter+pytorch

安装conda

原创 【R语言】一文解决R语言包安装不上问题（尤其是devtools）

Motivation真的要被R语言的环境配置折腾死了…

原创 【R语言】在Jupyter Notebook中使用conda管理的R语言

Motivation忽然发现jupyter竟然能拿来写R，帮教授配了个环境结果g了，试了一下感觉像是conda管理包的问题，记录一下正确的步骤。步骤创建一个新conda环境conda create -n r-kernel激活环境conda activate r-kernel安装Jupyter notebookconda install Jupyter安装R kernel（好像下面两步可以替换为conda install r-base）conda install r-recommen

原创 【R语言】环境配置Anaconda + R4.1.3 + Pycharm

Motivation本来以为配个R环境很简单，但是真的配起来还是遇到了点坑，这边记录一下方便后来人。本教程是配置Anaconda + R4.1.3 + Pycharm，因为之前用python比较多，后来发现pycharm也可以用来写R，于是折腾了一下。步骤安装anaconda：默认大家电脑上都有anaconda，不多赘述，没有的朋友百度一搜，教程很多。anaconda安装4.1.3版本的r-base：这里是个大坑，网上的教程都让你直接conda install r-base=4.0.3或者c

原创 【Programming】编程常用英文术语中文对照，及其解释

Motivation最近开始看Berkeley的CS 61A回炉重造一下自己的编程。发现有一些提到的英文术语一下子脑子里反应不过来对应的中文解释，于是想记录一下方便自己也方便后来人学习。术语function signature（函数签名）： 是描述函数参数和返回类型的一个术语。（python中不包含返回类型）function body（函数体）：...

原创 【Python】with关键字详解

作用with关键字用于异常处理，内部封装了try…except…finally。例子with open('./'+checkpoint_file+'/model_summary.txt','w') as f: model.summary(print_fn=lambda x: f.write(x+'\n'))使用with就不需要写try....finally，处理完成后python会自动关闭文件。参考文章https://www.runoob.com/python3/python-wit

原创 【图像处理】通俗解释如何求图像的梯度（图像求导）及其python代码实现

Motivation在看论文的时候看到了对图像求梯度的结果，一下子没反应过来到底怎么做的，于是学习了一下。通俗解释前置知识首先，开始之前默认大家学过《高等数学》和《信号与系统》，对导数和差分有最基本的认识。如果没有的话，请移步了解导数和差分的概念。对于一个连续函数，对应位置的梯度就是该点的导数（微分）；而对于离散序列来说，某点的导数实际是和相邻点的差分。（这里可能需要大家回忆一下信号与系统里讲过的序列差分的概念）对于数字图像，我们就可以把它视作离散序列集合，只不过它有两个维度而已。如果我们把图

原创 【Numpy】np.stack()最通俗易懂解释

Motivation看代码的时候看到有用np.stack()对图像数据做打包的操作，其中的参数axis = 2没太搞明白是什么意思，查了查教程自己做做实验发现网上的教程写的都太麻烦了…理解起来并不直观。于是有了这篇博文代码分析from matplotlib import pyplot as pltimport numpy as np# 这里大家不用管我代码的细节，只需要知道LLY,LHY,HLY,HHY都是32x32的图片就好了LLY,(LHY,HLY,HHY) = pywt.dwt2(img

原创 【图像处理】图像离散小波变换（Discrete Wavelet Transform）及python代码实现

Motivation看到有论文用到了图像的Haar Discrete Wavelet Transform（HDWT），前面也听老师提到过用小波变换做去噪、超分的文章，于是借着这个机会好好学习一下。直观理解参考知乎上的这篇文章：https://zhuanlan.zhihu.com/p/22450818 关于傅立叶变换和小波变换的直观概念解释的非常清楚（需要对傅立叶变换有基本的理解）二维图像离散小波变换（DWT）先放一张图直观感受一下这个过程（图中是经过两次DWT的）1. 首先明确什么是H和L。H和

原创 【图像处理】from skimage.measure import compare_psnr, compare_ssim ImportError: DLL load failed:找不到指定的模块

原创 【Conda】使用清华镜像源.condarc文件内容

镜像源文件.condarc文件替换为如下内容：channels: - defaultsshow_channel_urls: truedefault_channels: - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r - https://mirrors.tuna.tsinghua.edu.cn/anaconda

原创 【图像处理】gamma校正通俗解释及python实现（替代matlab imadjust）

Motivation之前把matlab代码转python的时候转过这个函数。最近自己动手发现还会用到，遂贴上来方便有需要的朋友们自取。Gamma校正（gamma correction）一句话解释：其实就是说，在人眼看来，亮度并不是线性变化的（对深色更敏感），所以需要做一个映射，来让人眼感觉色彩是均匀变化的。这个映射就是所谓的gamma校正。我们看下面这张图，左边在亮度上其实是均匀变化的，但是在我们人眼看来，深色数量远多于亮色。通过一个非线性校正后（右图），我们人眼看来就是均匀变化的了。这也就是gam

原创 【Pytorch】torch.nn.functional.conv2d（F.conv2d） same padding实现方法（输入与输出大小相同）

Motivation在做图像退化的时候发现pytorch早期版本不支持same padding（新版本是有padding = 'same'这个选项的，但是本人试了也没成功，暂时没找到原因）。于是去查有没有办法自己实现一下same padding。torch.nn.functional.conv2d 详解官方文档写的非常清楚，直接贴上来实现方法由于F.conv2d的padding最多只支持两个参数（对称填充），有些输出大小没办法实现。因此可以通过F.pad()先做填充，再用F.conv2d做卷积。

原创 【图像处理】python常用图像读取和保存方法。（PIL、cv2、scipy 、skimage）

PIL（Python Imaging Library）import numpy as npfrom PIL import Image# read imageraw_image = Image.open("xxx.jpg")# image to arrayimage_array = np.array(image_resize)# array to imageimage_output = Image.fromarray(image_array)# save imageimage_outpu

原创 【Pytorch】tensor、ndarray、list互相转换方法

import numpy as npimport torchndarray = np.array(list) # list 转 numpy数组list = ndarray.tolist() # ndarray 转 listtensor=torch.Tensor(list) # list 转 torch.Tensorlist = tensor.numpy().tolist() # torch.Tensor 转 list 先转ndarray，后转listndarray = tensor.

原创 【图像处理】RGB、YUV (YCbCr) 图像表示详解

RGBRGB图像表示是我们最常见的一种图像表示方式。这个非常好理解，三原色可以构成所有颜色，因此通过R、G、B三个通道的组合，就可以构成一张色彩丰富的图片。下面这张图可以直观感受一下RGB图像表示从原点到最大值点的连线，就是我们熟知的灰度表示。YUV（YCbCr）RGB大约可以表示一千六百七十万种颜色，而人眼大约可以分辨一千万种颜色。因此使用RGB来储存和传输图像会造成很大的空间浪费。为了克服这一问题，YUV于上世纪50年代提出，用于储存和传输电视信号。YCbCr也由三个通道组成：Y通

原创 【Python】glob.glob()函数解释

Motivation看代码的时候看到了这样一行代码：for image_path in sorted(glob.glob('{}/*'.format(args.images_dir))):没太搞明白这个glob函数具体是干啥的，于是查了查。解释这个函数实际就是一个路径通配函数，会返回满足条件的路径列表具体就不贴了，这个博客写的非常清楚，朋友们直接跳去看就好了：https://blog.csdn.net/xjp_xujiping/article/details/81604882...

原创 【Pytorch】torch.manual_seed()、torch.cuda.manual_seed() 解释

作用torch.manual_seed() 为CPU设置种子，保证每次的随机初始化都是相同的，从而保证结果可以复现。torch.cuda.manual_seed()为GPU设置种子，作用同上torch.cuda.manual_seed_all()为所有GPU设置种子（适用于多GPU时），作用同上例子import torchtorch.manual_seed(2)print(torch.rand(2))输出 0.4360 0.1851[torch.FloatTensor of siz

原创 【Pytorch】torch.backends.cudnn.benchmark 作用

作用针对你当前的硬件，找到最合适的算法使用注意事项It enables benchmark mode in cudnn.benchmark mode is good whenever your input sizes for your network do not vary. This way, cudnn will look for the optimal set of algorithms for that particular configuration (which takes some t

原创 【图像处理】[::-1]替代方法，及图片旋转(rotate)固定角度

Motivation在早期版本的pytorch中，torchvision.transforms.functional.rotate()只支持输入是PILimage格式，不支持tensor格式。如果你试图把tensor转成PILimage，网络里又会给你报出各种各样奇奇怪怪的错误。比如：pic should be Tensor or ndarray. Got <class 'torch.Tensor'>.、需要把tensor从GPU里copy出来等。所以干脆心一横，自己写一个吧…[::-1]替

原创 【图像处理】均值漂移(mean shift)及深度学习超分辨代码中的mean shift

均值漂移(mean shift)均值漂移是一种聚类算法，常用于特征点聚类、图像分割、对象轮廓检验、目标跟踪等。这里简单直观介绍一下这个算法大概是怎么回事。基本概念基本概念可以看下面这个图。左面是一堆像素点特征的分布（其实也不用管他是啥，只要当成一堆点就好了），我们可以看到这堆点有的地方密集，有的地方稀疏。把点的密度分布可视化之后就是右边这个图，大概可以理解为点的密度函数三维可视化。这样就可以看到，会存在几个极值点，也就是红色的点。好，看到这里你其实就已经理解这个算法的一大半了。这个算法的操作直观来

原创 【图像处理】tif格式的图像栈(image stack)导入及详细解释

不多废话，直接看代码from skimage import ioimg_stack = io.imread("your path here")是不是很easy？这里多啰嗦一点帮助大家理解如果你的tiff格式是一个图像栈的话，那么io.imread读入的实际应该是一个三维数组，其shape应该为(z, y, x)。其中，z表示的是图像层数，也就是表示你这个tiff文件是多少个图像叠在一起的；y表示图像高度；x表示图像宽度。如果你希望得到其他面的图像，可以将数组投影到你需要的那个面上（一般是均值或

原创 【Pycharm】自动生成文件注释和函数注释（真的解决问题，不是那些抄的）

生成文件注释Mac和windows稍微有点区别，不过大体差不多。Mac：preference->Editor->File and Code Templates->Python ScriptWindows：File->setting->Editor->File and Code Templates->Python Script然后改掉里面的模版就好了，这里给大家提供一个参考：#!/usr/bin/env python# -*- encoding: utf-

原创 【图像处理】python生成二维isotropic(各向同性)、anisotropic(各向异性) 高斯核

Motivation需要自己做个各向异性的高斯核来处理图像，查了下没有看到特别好的实现，于是自己动手写了一个。代码实现比较简单，生成高斯核的部分借鉴了外网的一篇博客。如果要产生一个椭圆形的分布（各向不同性），直接在对应的轴上做下采样就好了。设置了比较多的参数，注释解释的很详细，直接参考就好了。import osimport numpy as npfrom scipy import io as siodef gaussian_2d(muu=0.0, sigma=1, start=-2, en

原创 【图像处理】如何根据给定Kernel进行图像下采样？图像下采样方法解释及代码实现

Motivation有个小想法，需要自己做个根据kernal生成低分辨数据的函数，查了查没找到有现成的方法。于是参考一些别人的代码自己写了一个。原理根据Kernel进行下采样其实就是两步，第一步将Kernel作用于图像（一般是相关，深度学习里的卷积实际是数学上的相关），第二步下采样。图片来源：论文Deep Slam实现功能：根据给定的kernel进行不同倍数下采样from scipy import ndimage# 保证像素数可以整除def modcrop(im, sf):