2020年06月_小鹏聊智驾

原创一文搞定ML从入门到入土（附网盘链接）

1 简介ML是数据科学的基石，本系列将分享部分ML重要算法，从理论与代码实现两方面剖析。下文会给出传送门并分享一些相关学习资料的网盘地址。2 传送门概述LRKNNDTSVMNBAdaBoostEMHMM3 福利链接：https://pan.baidu.com/s/1xYFcEwpP4r_sWJuztZlaEg提取码：w4p7...

2020-06-27 18:35:29 903

文章目录1 理论2 代码3 参考1 理论HMM解决的三大问题如下，即概率计算，学习以及预测问题。分别采用前向/后向算法，Viterbi算法，Baum-Welch算法进行求解。2 代码class HiddenMarkov: # 前向算法 def forward(self, Q, V, A, B, O, PI): N = len(Q) #可能存在的状态数量 M = len(O) # 观测序列的大小 alphas = np.zeros((

2020-06-27 18:26:14 377

原创【ML从入门到入土系列08】EM

文章目录1 理论2 代码3 参考1 理论EM算法通过迭代求解观测数据的对数似然函数L(θ)=log⁡P(Y∣θ){L}(\theta)=\log {P}(\mathrm{Y} | \theta)L(θ)=logP(Y∣θ)的极大化，实现极大似然估计。每次迭代包括两步：EEE步：求期望Q(θ,θ(i))=∑zlog⁡P(Y,Z∣θ)P(Z∣Y,θ(i))Q\left(\theta, \theta^{(i)}\right)=\sum_{z} \log P(Y, Z \mid \theta) P\lef

2020-06-27 18:15:11 293

原创【ML从入门到入土系列07】AdaBoost

文章目录1 理论2 代码3 参考1 理论AdaBoost算法是模型融合的典型算法，即将一系列基分类器组合成一个强分类器。其伪代码如下图所示。2 代码class AdaBoost: def __init__(self, n_estimators=50, learning_rate=1.0): self.clf_num = n_estimators self.learning_rate = learning_rate def init_args(sel

2020-06-27 18:08:24 189

原创【ML从入门到入土系列06】朴素贝叶斯

文章目录1 理论2 代码3 参考1 理论朴素贝叶斯是生成学习方法，即训练数据学习联合概率分布 P(X,Y)P(X,Y)P(X,Y)，然后求得后验概率分布P(Y∣X)P(Y|X)P(Y∣X)，利用贝叶斯定理与学到的联合概率模型进行分类预测，公式如下：P(Y∣X)=P(X,Y)P(X)=P(Y)P(X∣Y)∑YP(Y)P(X∣Y)P(Y \mid X)=\frac{P(X, Y)}{P(X)}=\frac{P(Y) P(X \mid Y)}{\sum_{Y} P(Y) P(X \mid Y)}P(Y∣X)

2020-06-27 17:56:41 195

原创【ML从入门到入土系列05】支持向量机

文章目录1 理论1.1 线性SVM1.2 非线性SVM2 代码3 参考1 理论SVM基本形式：有监督二分类线性分类模型；扩展形式：有监督二分类非线性分类模型，有监督多分类（线性/非线性）分类模型，有监督线性回归模型（SVR），基于核函数的SVM/SVR1.1 线性SVM与逻辑回归对比图如下：多分类SVM的核心思想是OVO，其流程如下图1.2 非线性SVM如何将线性支持向量机扩展为非线性支持向量机？将线性内积（线性核函数）替换为K(xi,xj)K\left(x_{i}, x_{j}\ri

2020-06-27 14:52:12 267

原创【ML从入门到入土系列04】决策树

文章目录1 概述2 ID32.1 理论2.2 代码3 C4.53.1 理论4 CART4.1 理论4.2 代码参考1 概述传统的决策树算法包括ID3算法、C4.5算法以及CART算法。三者主要的区别在于特征选择准则不同。ID3算法选择特征的依据是信息增益，C4.5是信息增益比，而CART则是Gini指数。决策树算法的基本流程如下图所示。2 ID32.1 理论离散属性aaa的取值{a1,a2,a3,…aV}\left\{a^{1}, a^{2}, a^{3}, \ldots a^{V}\right

2020-06-27 13:55:53 200

原创【ML从入门到入土系列03】K近邻

文章目录1 理论1.1 距离的度量方式1.2 k 值的选择1.3 分类决策规则2 代码1 理论简单地讲，KNN 思想就是给定一个训练数据集，对于新的输入实例，在训练集中找到与该实例最近邻的 k 个实例，这 k 个实例的多数属于哪个类，则该实例就属于哪个类。其中，算法的三个核心如下：找到与该实例最近邻的实例，即距离的度量方式；k 值的选择；分类决策规则；1.1 距离的度量方式距离的度量在 k 近邻中称为相似性度量，即特征空间中两个实例点的相似程度。常用欧式距离，即L2距离。计算公式如下：

2020-06-27 12:59:09 265

原创 GPU显存释放

有时训久了，会报错CUDA：out of memory查看GPU使用情况$ nvidia-smi逐个kill掉表格中的PID$ kill -9 PID

2020-06-20 22:05:18 544

原创一文搞定YOLO3训练自己的数据集

文章目录前言1 制作自己的数据集2 安装darknet3 建立软链接4 训练文件准备5 训练数据集6 测试模型前言本文默认大家已经安装好TF-gpu环境，没有安装好的伙伴请先看下文一文多图搞定Ubuntu安装Anaconda+GPU Driver+CUDA+CUDNN+TensorFlow-gpu+Pytorch(附网盘链接)1 制作自己的数据集利用labelImg软件选择VOC格式给自己的数据集打标签，生成对应的xml标注文件。创建如下图所示的目录结构。在VOC2007文件夹内创建spl

2020-06-18 20:22:15 462 1

原创【剑指Offer系列68-2】二叉树的最近公共祖先

文章目录题目代码PythonC++题目给定一个二叉树, 找到该树中两个指定节点的最近公共祖先。百度百科中最近公共祖先的定义为：“对于有根树 T 的两个结点 p、q，最近公共祖先表示为一个结点 x，满足 x 是 p、q 的祖先且 x 的深度尽可能大（一个节点也可以是它自己的祖先）。”例如，给定如下二叉树: root = [3,5,1,6,2,0,8,null,null,7,4]示例 1:输入: root = [3,5,1,6,2,0,8,null,null,7,4], p = 5, q = 1

2020-06-16 16:37:40 131

原创【ML从入门到入土系列02】线性回归与逻辑回归

文章目录1 线性回归1.1 线性模型1.2 定义1.3 损失函数1.4 梯度下降1.5 过拟合与正则化1.6 案例2 逻辑回归2.1 定义2.2 决策边界2.3 损失函数2.4 梯度下降2.5 案例1 线性回归1.1 线性模型线性模型是学习一个通过特征的线性组合来进行预测的函数其数学形式为：f(x)=wTx+bf(\boldsymbol{x})=\boldsymbol{w}^{T} \boldsymbol{x}+bf(x)=wTx+b1.2 定义线性回归是采用线性模型解决回归问题，其输出值为连

2020-06-10 19:36:33 287

原创【剑指Offer系列68-1】二叉搜索树的最近公共祖先

文章目录题目代码PythonC++题目给定一个二叉搜索树, 找到该树中两个指定节点的最近公共祖先。百度百科中最近公共祖先的定义为：“对于有根树 T 的两个结点 p、q，最近公共祖先表示为一个结点 x，满足 x 是 p、q 的祖先且 x 的深度尽可能大（一个节点也可以是它自己的祖先）。”示例 1:输入: root = [6,2,8,0,4,7,9,null,null,3,5], p = 2, q = 8输出: 6解释: 节点 2 和节点 8 的最近公共祖先是 6。示例 2:输入: root

2020-06-10 17:31:30 125

原创【ML从入门到入土系列01】概述

文章目录1 ML基本概念1 ML基本概念如下图所示，ML 是计算机从数据中学习出规律，应用在新数据上做预测；其在互联网、生物、医疗、交通、金融等领域有着广泛应用。

2020-06-09 18:07:52 2055

原创【剑指Offer系列34】二叉树中和为某一值的路径

文章目录题目代码PythonC++题目输入一棵二叉树和一个整数，打印出二叉树中节点值的和为输入整数的所有路径。从树的根节点开始往下一直到叶节点所经过的节点形成一条路径。示例:给定如下二叉树，以及目标和 sum = 22， 5 / \ 4 8 / / \ 11 13 4 / \ / \ 7 2 5 1返回:[[5,4,11,2],[5,8,4,5]]提示：节

2020-06-09 16:18:50 126

原创【剑指Offer系列32-3】从上到下打印二叉树3

文章目录题目代码PythonC++题目请实现一个函数按照之字形顺序打印二叉树，即第一行按照从左到右的顺序打印，第二层按照从右到左的顺序打印，第三行再按照从左到右的顺序打印，其他行以此类推。例如:给定二叉树: [3,9,20,null,null,15,7],3/ 9 20/ 15 7返回其层次遍历结果：[[3],[20,9],[15,7]]提示：节点总数 <= 1000代码Python# Definition for a binary tree node.

2020-06-08 16:31:57 107

原创【剑指Offer系列32-2】从上到下打印二叉树2

文章目录题目代码PythonC++题目从上到下按层打印二叉树，同一层的节点按从左到右的顺序打印，每一层打印到一行。例如:给定二叉树: [3,9,20,null,null,15,7],3/ 9 20/ 15 7返回其层次遍历结果：[[3],[9,20],[15,7]]提示：节点总数 <= 1000代码Python# Definition for a binary tree node.# class TreeNode:# def __init__

2020-06-06 16:25:02 158

原创一文搞定Pytorch快速入门

文章目录1 简介2 CNN3 RNN1 简介Pytorch 是 Facebook 开发的 DL 开源框架，目前学术界运用广泛，本文将通过 MNIST 手写数字识别案例分享 Pytorch 的常用操作。2 CNNimport torchimport torch.nn as nnimport torch.utils.data as Dataimport torchvision import matplotlib.pyplot as plttorch.manual_seed(1)

2020-06-05 19:35:28 231

原创【剑指Offer系列32-1】从上到下打印二叉树

文章目录题目代码PythonC++题目从上到下打印出二叉树的每个节点，同一层的节点按照从左到右的顺序打印。例如:给定二叉树: [3,9,20,null,null,15,7],3/ 9 20/ 15 7返回：[3,9,20,15,7]提示：节点总数 <= 1000代码Python# Definition for a binary tree node.# class TreeNode:# def __init__(self, x):#

2020-06-05 16:59:35 106

原创一文搞定Keras快速入门

文章目录1 简介2 NN2.1 Dropout2.2 正则化3 CNN4 RNN5 模型保存与载入1 简介Keras 是谷歌公司基于 TensorFlow 的DL开源框架，接口简便，适合初学者。本文将通过 MNIST 手写数字识别案例剖析 Keras 的常用接口。2 NNimport numpy as npfrom keras.datasets import mnistfrom keras.utils import np_utilsfrom keras.models import Sequen

2020-06-04 19:50:03 256

原创【剑指Offer系列55-2】平衡二叉树

文章目录题目代码PythonC++题目输入一棵二叉树的根节点，判断该树是不是平衡二叉树。如果某二叉树中任意节点的左右子树的深度相差不超过1，那么它就是一棵平衡二叉树。示例 1:给定二叉树 [3,9,20,null,null,15,7]3/ 9 20/ 15 7返回 true 。示例 2:给定二叉树 [1,2,2,3,3,null,null,4,4]1/ 2 2/ 3 3/ 4 4返回 false 。限制：1 <= 树的结点个数 <=

2020-06-04 16:41:34 120

原创一文搞定TensorFlow快速入门

文章目录前言传送门前言TensorFlow 是谷歌针对DL网络大规模训练开发的开源框架，目前社区活跃度最高，工业界较常用。本系列是对TensorFlow的快速入门实战分享，下一节会分享相关传送门。传送门基础操作进阶操作...

2020-06-03 19:32:32 219

原创【TensorFlow快速入门系列02】进阶操作

文章目录1 Tensorboard1 Tensorboard

2020-06-03 19:28:09 223

原创【剑指Offer系列26】树的子结构

文章目录题目代码PythonC++题目输入两棵二叉树A和B，判断B是不是A的子结构。(约定空树不是任意一个树的子结构)B是A的子结构，即 A中有出现和B相同的结构和节点值。例如:给定的树 A:3/ 4 5/ 1 2给定的树 B：4/1返回 true，因为 B 与 A 的一个子树拥有相同的结构和节点值。示例 1：输入：A = [1,2,3], B = [3,1]输出：false示例 2：输入：A = [3,4,5,1,2], B = [4,1]输出：true

2020-06-03 14:59:04 146

原创【剑指Offer系列07】重建二叉树

文章目录题目代码PythonC++题目输入某二叉树的前序遍历和中序遍历的结果，请重建该二叉树。假设输入的前序遍历和中序遍历的结果中都不含重复的数字。例如，给出前序遍历 preorder = [3,9,20,15,7]中序遍历 inorder = [9,3,15,20,7]返回如下的二叉树：3/ 9 20/ 15 7限制：0 <= 节点个数 <= 5000代码Python# Definition for a binary tree node.# class

2020-06-02 10:33:29 191

小陈说CV的博客