![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 74
五癫
武汉理工大学软件工程
展开
-
西瓜书-3.18,3.19理解过程-对数几率回归
3.22到3.23,3.24的推导过程原创 2019-02-14 14:15:10 · 545 阅读 · 0 评论 -
向量范数与矩阵范数
1.范数(norm)的意义要更好的理解范数,就要从函数、几何与矩阵的角度去理解。 我们都知道,函数与几何图形往往是有对应的关系,这个很好想象,特别是在三维以下的空间内,函数是几何图像的数学概括,而几何图像是函数的高度形象化,比如一个函数对应几何空间上若干点组成的图形。 但当函数与几何超出三维空间时,就难以获得较好的想象,于是就有了映射的概念,映射表达的就是一个集合通过某种关系转为另转载 2017-11-25 19:30:12 · 541 阅读 · 0 评论 -
python-numpy数组拼接方法介绍
数组拼接方法一思路:首先将数组转成列表,然后利用列表的拼接函数append()、extend()等进行拼接处理,最后将列表转成数组。示例1:>>> import numpy as np>>> a=np.array([1,2,5])>>> b=np.array([10,12,15])>>> a_list=list(a)>>> b_list=list(b)转载 2017-11-23 14:29:28 · 7738 阅读 · 0 评论 -
机器学习-代价函数
注:代价函数(有的地方也叫损失函数,Loss Function)在机器学习中的每一种算法中都很重要,因为训练模型的过程就是优化代价函数的过程,代价函数对每个参数的偏导数就是梯度下降中提到的梯度,防止过拟合时添加的正则化项也是加在代价函数后面的。在学习相关算法的过程中,对代价函数的理解也在不断的加深,在此做一个小结。 1. 什么是代价函数?假设有训练样本(x, y),模型为h,参数为转载 2017-11-23 10:37:29 · 1777 阅读 · 0 评论 -
机器学习-采用决策树对wine分类
1.数据集的准备我采用UCI中的Wine Data Set将178个样本分成118个训练样本和60个测试样本,下载地址:http://download.csdn.net/download/tiankong_/10119862数据描述:第一列为类属性 ,用1,2,3表示,后面13列为特征属性,分别为Alcohol,Malicacid,Ash,Alcalinity of ash,M原创 2017-11-15 21:37:14 · 2559 阅读 · 5 评论 -
机器学习-方差
1.什么是方差2.方差的含义3.数学期望(均值)和算术平均值(平均数)的关系(期望和平均数的关系)4.离散型随机变量和连续型随机变量数学期望算法5.数学期望的性质原创 2017-11-16 14:38:34 · 447 阅读 · 0 评论 -
机器学习-数学期望
1.什么是数学期望在概率论和统计学中,数学期望(mean)(或均值,亦简称期望)是试验中每次可能结果的概率乘以其结果的总和严格的定义如下:2.数学期望的含义这个很重要,我们一定要明白概念的含义,联系到实际的应用场景中表达的真正意义,数学期望的存在是为了表达什么?答:反映随机变量平均取值的大小3.数学期望(均值)和算术平均值(平均数)的关系(期原创 2017-11-16 11:55:42 · 4367 阅读 · 2 评论 -
机器学习-采用正态贝叶斯分类器对wine分类
1.数据集的准备我采用UCI中的Wine Data Set2.原创 2017-11-15 17:55:49 · 1132 阅读 · 2 评论 -
python argparse用法2
可选参数到目前为止,我们已经使用了位置参数。让我们来看下如何使用可选参数。[python] view plain copyimport argparse parser = argparse.ArgumentParser() parser.add_argument("--verbosity", help="increase转载 2017-11-29 20:01:21 · 613 阅读 · 0 评论 -
python中的类
Python中的类(classes)Python的类机制使用尽可能少的新语法和语义将类引入语言。Python的类提供了面向对象程序设计语言所有的 标准特性:类继承机制允许有多个基类,一个派生类可以覆盖基类中的任何方法,一个方法可以使用相同的名字调用 基类中的方法。Table of Contents1 名字和对象2 Python的域(scopes)和名称空间(转载 2017-12-05 15:13:22 · 224 阅读 · 0 评论 -
人工智能技术体系-机器学习基础第一讲
学习AI,我们并非初始就针对各种深度学习网络架构,而是应该从机器学习开始,个人在此推荐以下基础学习资料。1.推荐学习资料 (1)统计学习方法-李航著 此书偏向原理和推导。包括对感知机、k近邻算法、朴素贝叶斯法、决策树、逻辑斯谛回归、支持向量机(SVM)等详细定义和描述。非常契合上篇文章中的技术体系图内容。 (2)台大林轩田机器学习视频教程 个人无意中发现的,非常喜...原创 2018-06-08 09:23:40 · 536 阅读 · 0 评论 -
西瓜书-3.14,3.15理解过程-广义线性模型
假设样本的输出标记符合指数趋势的变化,以对数线性回归为例: (3.14)形式上描述的是对于整体的线性规律对于y而言,描述的是:y=3.15也较好理解注:广义线性模型的参数估计方法有 1.加权最小二乘法 2.极大似然估计 ...原创 2019-02-14 13:53:49 · 275 阅读 · 0 评论 -
西瓜书-3.9,3.10理解过程-线性模型
许多人对3.9公式不理解,其实,min右侧只是用矩阵的形式表示了均方差的概念(大家可以结合矩阵的乘法运算举个例子试试),argmin表示右侧式子最小时w取得的值,我们的目标就是求出这个向量w 需要注意的是:实际问题中,我们的样例数可能很少,而属性维度却很大,即造成了求出多个权重向量维度的情况,都能使得均方误差最小化,此时,如何选择最终结果呢?决定因素:学习算法的归纳偏好 做法:...原创 2019-02-14 11:26:25 · 1167 阅读 · 2 评论 -
西瓜书-3.5,3.6,3.7,3.8推导过程
1.什么是线性模型 碰到不熟悉的概念,我们首先从名字本身着手。 线性:顾名思义,表示模型是一个线性组合, 模型: 可以理解成表示实际问题的一个函数(通过输入,可以得到输出-即结果)于是,线性模型有了以下定义: 2.线性回归已知:,目标:试图通过现有数据构建一个线性模型,使其尽可能准确的预测输出标记。解法:最小二乘法(实质就是试图找到一条直线,使得所有样本...原创 2019-02-14 10:54:57 · 1488 阅读 · 1 评论 -
逻辑回归算法步骤
结合西瓜书理解原创 2019-02-15 11:11:08 · 2826 阅读 · 0 评论 -
机器学习中L1正则化和L2正则化有什么区别?
1.正则化的作用 机器学习中,如果参数过多,模型过于复杂,容易产生过拟合状态,故正则化的提出是为了一定程度上避免过拟合。比如,常见的L1和L2正则化。2.正则化公式L1:L1正则化是在原来的损失函数基础上加上权重参数的绝对值。L2:L2正则化是在原来的损失函数基础上加上权重参数的平方和。 它们的直观解释参照红色石头博客https://blog.csdn.n...原创 2019-02-15 10:08:49 · 3456 阅读 · 0 评论 -
西瓜书-逻辑回归算法的使用
1.任务名称:实验-sklearn-user-guide 1.1.112.使用包:sklearn(里面提供了许多机器学习算法的详细教程和案例,需要多多掌握)3.资料地址:http://sklearn.apachecn.org/#/docs/79逻辑回归逻辑回归(Logistic regression 或logit regression),即逻辑模型(英语:Logit model,也...转载 2019-02-15 09:15:01 · 1592 阅读 · 0 评论 -
支持向量机原理篇之手撕线性SVM
转载自:https://blog.csdn.net/c406495762/article/details/78072313转载请注明作者和出处: https://zhuanlan.zhihu.com/ml-jack 机器学习知乎专栏:https://zhuanlan.zhihu.com/ml-jack CSDN博客专栏:http://blog.csdn.net/column/details/164...转载 2018-07-07 16:00:09 · 1465 阅读 · 3 评论 -
k近邻法(k-NN)笔记4-利用FLANN库(k近邻法)解决图像识别问题实例解析
本篇文章所有数据和代码的下载地址:点击此处1.问题描述已知数据集:1934个文件,选取一个文件示例如下:按文件排列顺序,其类别如下0~188 :表示数字“0”189~386:表示数字“1”387~581:表示数字“2”582~780:表示数字“3”781~966:表示数字“4”967~1153:表示数字“5”1154~1348:表示数字“6”1349~1549:表示数字“7“1550~1729:表...原创 2018-07-02 15:47:25 · 2094 阅读 · 1 评论 -
k近邻法(k-NN)笔记3-第三方库FLANN介绍-下载/编译/测试代码解析
k近邻法(k-NN)笔记3- 第三方实现(PCL点云库kdtree模块)笔者我查阅了较多kdtree的第三方实现,下载调试了github上及其他途径的代码,结合个人喜好和对比结果,推荐PCL点云库kdtree模块。PCL库是大型跨平台开源C++编程库,实现了大量点云相关的通用算法和高效数据结构,其中划分了许多模块,其中有一个核心问题就是建立离散点间的拓扑关系,实现基于邻域关系的快速查找。 具体详情...原创 2018-07-02 15:50:12 · 5950 阅读 · 0 评论 -
机器学习-UCI数据库
1.Wine Data Set地址:点击此处原创 2017-11-15 15:38:37 · 2606 阅读 · 0 评论 -
python argparse用法总结
1. argparse介绍是python的一个命令行解析包,非常编写可读性非常好的程序2. 基本用法prog.py是我在linux下测试argparse的文件,放在/tmp目录下,其内容如下:#!/usr/bin/env python# encoding: utf-8import argparseparser = argparse.ArgumentParser()parser.转载 2017-11-29 13:57:20 · 215 阅读 · 0 评论 -
机器学习-用python绘制常见的统计分布
1.二项分布服从二项分布的随机变量X表示在n个独立的是/非试验中成功的次数,其中每次试验的成功概率为p。E(X) = np, Var(X) = np(1−p)原创 2017-11-20 11:19:16 · 3138 阅读 · 0 评论 -
机器学习-采用正态贝叶斯分类器、决策树、随机森林对abalone数据集分类
1.abalone(鲍鱼)数据集描述http://archive.ics.uci.edu/ml/datasets/Abalone总共包含4177条数据,每条数据中包含8个特征值,一个分类(鲍鱼年龄,看看圈数),可以看做是分类问题或者回归问题2.数据集预处理数据的部分展示Sex / nominal / -- / M, F, and I (infant) Lengt原创 2017-11-17 11:58:14 · 7637 阅读 · 2 评论 -
机器学习-采用正态贝叶斯分类器、决策树、随机森林对wine数据集分类
#include "opencv2/ml/ml.hpp"#include "opencv2/core/core.hpp"#include "opencv2/core/utility.hpp"#include #include #include #include #includeusing namespace std;using namespace cv;using names原创 2017-11-15 21:58:36 · 2766 阅读 · 0 评论 -
贝叶斯(朴素贝叶斯,正太贝叶斯)及OpenCV源码分析
原出处不祥,我转载自http://blog.csdn.net/App_12062011/article/details/52164579(别人也是转载的)一、原理 OpenCV实现的贝叶斯分类器不是我们所熟悉的朴素贝叶斯分类器(Naïve Bayes Classifier),而是正态贝叶斯分类器(Normal Bayes Classifier),两者虽然英文名称很相似,但它转载 2017-10-31 10:12:26 · 1380 阅读 · 0 评论 -
机器学习开篇-记于2017-10-24
1.机器学习的分类(首先明确常见类别) 监督学习大体上讲:对一组给定的输入提供应有的输出结果,也就是对训练样本集中的每个样本都能提供其真实输出,有时还能提供预测错误的代价。监督学习中的经典学习算法:决策 树、人工神经网络、贝叶斯网络、支持向量机等。对应于数学来讲:此处我们转换一下思维,联想一下从小学习的数学。以前我们经常碰到的问题,给出两点坐标a(x1,y1),b(x2,y2),另给原创 2017-10-24 09:56:46 · 284 阅读 · 0 评论 -
机器学习-朴素贝叶斯法笔记
1.什么是朴素贝叶斯法?先从名字入手:朴素:指特征条件独立贝叶斯:指基于学习好的模型,对给定的输入x利用贝叶斯定理求出后验概率最大的输出y总结:朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。2.朴素贝叶斯法的用途?对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布,然后基于此模型,对给定的输入x利用贝叶斯定理求出后验概率最大的输出原创 2017-10-28 13:17:15 · 498 阅读 · 0 评论 -
机器学习-感知机笔记(题目举例和代码解答)
1.题目2.解答#include#include#include#includeusing namespace std;typedef vector featureVct;typedef int label;class Perceptron;void printRes(Perceptron pp);class Perceptron{private: v原创 2017-10-27 21:57:01 · 2338 阅读 · 0 评论 -
机器学习-感知机笔记
1.什么是感知机感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。分为原始形式和对偶形式。2.感知机模型3.感知机的学习策略为了找出超原创 2017-10-27 13:34:02 · 336 阅读 · 0 评论 -
机器学习-联合概率分布笔记
1.什么是联合概率分布? 联合概率分布简称联合分布,是两个及以上随机变量组成的随机向量的概率分布。根据随机变量的不同,联合概率分布的表示形式也不同。对于离散型随机变量,联合概率分布可以以列表的形式表示,也可以以函数的形式表示;对于连续型随机变量,联合概率分布通过一非负函数的积分表示。2. 举例说明联合概率分布打靶时命中的坐标(x,y)的概率分布就是联合概率分布(涉及两个随原创 2017-10-24 18:13:56 · 46138 阅读 · 3 评论 -
机器学习-泛化能力笔记
1.什么是泛化能力?在机器学习方法中,泛化能力通俗来讲就是指学习到的模型对未知数据的预测能力。在实际情况中,我们通常通过测试误差来评价学习方法的泛化能力。2.泛化误差的定义大家马上应该发现,这个不是损失函数的期望吗?? 没错,泛化误差就是所学习到的模型的损失函数期望(期望误差)3.泛化误差上界原创 2017-10-27 09:57:45 · 14435 阅读 · 2 评论 -
使用Python进行描述性统计
使用Python进行描述性统计目录1 描述性统计是什么?2 使用NumPy和SciPy进行数值分析 2.1 基本概念 2.2 中心位置(均值、中位数、众数) 2.3 发散程度(极差,方差、标准差、变异系数) 2.4 偏差程度(z-分数) 2.5 相关程度(协方差,相关系数) 2.6 回顾3 使用Matplotlib进行图分析 3.1 基转载 2017-11-17 14:16:49 · 1396 阅读 · 0 评论 -
朴素贝叶斯-过滤垃圾邮件代码实例详解
1.问题描述过滤垃圾邮件2.思考过程(1)收集数据:提供文本文件(2)准备数据:将文本文件解析成词条向量此处我们需要从给予的文本文档中构建自己的词列表(将文本内容进行词分割,过滤不需要的),也就是要创建符合实际情况的文本解析规则和过滤器(此处发现python对这方面的支持太好用,用其他语言比如c++当然也可以),代码实现中可以为此单独写一个函数(3)分析数据:检查词条确保解...原创 2017-11-13 15:56:57 · 5012 阅读 · 0 评论 -
各种分布的python例子
#-*- encoding:utf-8 -*-import numpy as npfrom scipy import statsimport matplotlib.pyplot as plt######################二项分布#####################def test_binom_pmf(): ''' 为离散分布 二项分布的例子转载 2017-11-19 22:22:48 · 1615 阅读 · 0 评论 -
机器学习-熵与条件熵笔记
1.什么是熵?熵是不确定性的度量转载 2017-11-14 15:10:32 · 412 阅读 · 0 评论 -
机器学习-信息增益和信息增益比-笔记
转载 2017-11-14 19:58:26 · 1079 阅读 · 0 评论 -
opencv3.0正太贝叶斯分类器api讲解
1.官方文档学习新东西时,首先弄懂原理,然后手动实现,最后查看经典的库调用,对于最后一步,我们需要查看官方文档。opencv2.0和opencv3.0之间关于normalbayesclassifier的接口略有变化,opencv3.0关于此部分的描述点击此处2.关键的几个接口opencv3.0原创 2017-11-14 14:49:12 · 500 阅读 · 0 评论 -
opencv中Mat存储图像和遍历图像像素
#include #include using namespace cv;using namespace std;int main(int argc, const char** argv){ Mat img = imread("F:\\Image\\6.jpg", CV_LOAD_IMAGE_UNCHANGED); //Mat存储图片 cout << img.rows <<原创 2017-11-14 14:22:00 · 1159 阅读 · 0 评论 -
OpenCV—基本矩阵操作与示例
转载自:http://blog.csdn.net/iracer/article/details/51296631OpenCV的基本矩阵操作与示例OpenCV中的矩阵操作非常重要,本文总结了矩阵的创建、初始化以及基本矩阵操作,给出了示例代码,主要内容包括:创建与初始化矩阵加减法矩阵乘法矩阵转置矩阵求逆矩阵非零元素个数矩阵均值与标转载 2017-11-13 21:09:38 · 337 阅读 · 0 评论