weixin_43928799的博客

原创 图像基本操作

图像读取import cv2 #opencv读取图片的格式为BGR#读取图片 第一个参数为图片路径 第二个参数图片类型有两个选项 #1.cv2.IMREAD_COLOR彩色图像 (默认) 2.cv2.IMREAD_GRAYSCALE:灰度图像img = cv2.imread('cat.jpg',cv2.IMREAD_GRAYSCALE) #图片展示：def cv_show(name, img): cv2.imshow(name, img) #name：给图片起一个名字，img:要展示的图片

原创 循环神经网络

循环神经网络循环神经网络是处理与时间序列相关的数据的，通过一个记忆体记录信息，然后通过输入和记忆体的信息共同推测出输出。核心是循环核：循环核：参数时间共享，循环层提取时间信息前向传播时：记忆体内存储的状态信息ht,在每个时刻都被刷新，三个参数矩阵W是固定不变的。反向传播时：三个参数矩阵都被梯度下降算法更新。循环核按时间步展开：循环神经网络借助循环核提取时间特征后送入全连接网络。循环核计算过程：数据xt输入根据ht公式计算出ht为（-0.9，0.8，0.7）（ht中有几个数就有几个记忆体

原创 神经网络（tensroflow)

卷积神经网络class Baseline(Model): def __init__(self): super(Baseline, self).__init__() sefl.c1 = Conv2D(filters=6, kernel_size=(5, 5), padding='same') self.b1 = BatchNormalization() self.a1 = Activation('relu') self.p1 = MaxPool2D(pool_size=(2,2),

原创 tensorflow

张量张量是多维数组（列表），阶是张量的维数。#1.创建一个张量：tf.constant(张量内容, dtype=数据类型)#2.将numpy的数据类型转换为Tensor数据类型tf.convert_to_tensor(数据名, dtype=数据类型)#3.创建全为0的张量tf.zeros(维度)#3.创建全为1的张量tf.ones(维度)#4.创建全为指定值的张量tf.fill(维度,指定值)#5.生成正态分布的随机数，默认均值为0，标准差为1tf.random.normal(维度

原创 ELO-Merchant-Category-Recommendation（上篇）

原创 MySQL

大体总结一下， 具体细节参考参考文章1参考文章2

原创 二叉树的遍历与快速排序

#树的遍历，递归class Node(object): def __init__(self, val ,left=None, right=None): self.val = val self.left = left self.right = right def preorder(root):#前序遍历 根、左、右 if not root: return None print(root.val)

原创 逻辑回归公式推导

原创 线性回归公式推导

线性回归重新推导了一下线性回归的公式：最小二乘参数估计，梯度下降：正规方程：因为实际情况中数据的维度都是多维所以使用正规方程多一些。在使用正规方程过程中的梯度下降需要用到矩阵的求导，整理了三个比较常用的矩阵求导公式，应付上边的公式足够了。...

原创 XGBoost :A Scalable Tree Boosting System

模型（加法模型）y^i(T)=∑j=1Tfj(xi)=∑j=1T−1fj(xi)+fj(T)(xi)\hat{y}_{i}^{(T)}=\sum_{j=1}^{T} f_{j}\left(x_{i}\right)=\sum_{j=1}^{T-1} f_{j}\left(x_{i}\right)+f_{j}^{(T)}\left(x_{i}\right)y^​i(T)​=∑j=1T​fj​(xi​)=∑j=1T−1​fj​(xi​)+fj(T)​(xi​)T是基学习器（基于CART算法的回归树）的个数，x

原创 提升树、梯度提升、梯度提升树(GBDT)

提升树提升树是以分类树或回归树为基本分类器的提升方法。模型提升树也同提升算法一样采用加法模型（即基函数的线性组合）与前向分步算法，不过基学习器换为决策树。所以提升树模型可以表示为决策树的加法模型：T（）表示决策树，M为树的个数 ，Θ表示决策树的参数。算法采用前向分步算法，首先确定初始的提升树f0(x) = 0，第m步的模型是：通过经验风险极小化确定下一棵决策树的参数：策略对于针对不同问题的提升树算法主要区别在于使用的损失函数不同。1.对于二分类问题只需将AdaBoost算法中

原创 决策树概述

决策树决策树是一种基本的分类与回归方法。决策树模型呈树形结构，在分类问题中表示基于特征对实例进行分类的过程。可以认为是if-then规则的集合。它的优点是模型具有可读性，分类速度快。缺点是容易过拟合。决策树的学习通常包括3个步骤：特征选择、决策树的生成和决策树的修剪。决策树的构造目标：决策树的目标就是从数据集中归纳出一组分类规则，使数据集中的所有样本都能被划分到正确的类别。就是由数据集估计的一个条件概率模型。损失函数：通常是正则化的极大似然函数策略：是以损失函数为目标函数的最小化。构造：首先

原创 数据预处理

数据预处理数据解读1.利用pandas包读取数据# 读取excel表格，第三行开始读取，读取train表pd.read_excel('data.xlsx', header=2, sheet_name='train')#读取csv文件 pd.read_csv('data.csv', header=0)2.查看数据集基本信息data.info() #DataFramedata.shape #数据集规模数据探索1.数据正确性校验# 检验数据集id无重复data['id'].n

原创 AdaBoost

AdaBoost概述AdaBoost训练过程建模f(x)=∑m=1MαmGm(x)=α1G1(x)+⋯+αmGm(x)+⋯+αMGm(x)\begin{aligned} f(x) &=\sum_{m=1}^{M} \alpha_{m} G_{m}(x) \\ &=\alpha_{1} G_{1}(x)+\cdots+\alpha_{m} G_{m}(x)+\cdots+\alpha_{M} G_{m}(x) \end{aligned}f(x)​=m=1∑M​αm​Gm​(x)=α1​

原创 集成学习概述

原创 3Dshapes.h5数据集的加载

3dshapes.h5 数据集加载3Dshapes数据集3dshapes是由6个地面真实独立的潜在因素程序生成的三维形状数据集。这些因素是地板颜色，墙壁颜色，对象颜色，规模，形状和方向。此数据集一般用于解耦模型480000张（64，64，3）的RGB图像以及对应的标签标签对应着六个生成因子的值官方网址: https://github.com/deepmind/3d-shapes数据集解读: https://tensorflow.google.cn/datasets/catalog/shape