原创 数据结构之单向循环链表----python实现

单向循环链表单链表的一个变形是单向循环链表，链表中最后一个节点的next域不再为None，而是指向链表的头节点。操作is_empty() 判断链表是否为空length() 返回链表的长度travel() 遍历add(item) 在头部添加一个节点append(item) 在尾部添加一个节点insert(pos, item) 在指定位置pos添加节点remove(item) 删除一个节点search...

原创 数据结构之单向链表----python实现

单向链表单向链表也叫单链表，是链表中最简单的一种形式，它的每个节点包含两个域，一个信息域（元素域）和一个链接域。这个链接指向链表中的下一个节点，而最后一个节点的链接域则指向一个空值。表元素域elem用来存放具体的数据。链接域next用来存放下一个节点的位置（python中的标识）变量p指向链表的头节点（首节点）的位置，从p出发能找到表中的任意节点。节点实现class Node(): """...

原创 实验楼机器学习挑战赛-----线性回归拟合并绘图

def linear_plot(): import numpy as np import matplotlib.pyplot as plt from sklearn.linear_model import LinearRegression data = [[5.06, 5.79], [4.92, 6.61], [4.67, 5.48], [4.54, 6.11], ...

原创 线性回归---sklearn+python实现

简单线性回归问题思想回到正题，对于简单线性回归有如下问题：下面通过程序来实现简单的线性回归:import numpy as npimport matplotlib.pyplot as pltx=np.array([1,2,3,4,5])y=np.array([1,3,2,3,5])plt.scatter(x,y)x_mean=np.mean(x)y_mean=np.mean(y)up...

原创 K最近邻算法（KNN）---sklearn+python实现

k-近邻算法概述简单地说，k近邻算法采用测量不同特征值之间的距离方法进行分类。k-近邻算法优点：精度高、对异常值不敏感、无数据输入假定。缺点：计算复杂度高、空间复杂度高。 适用数据范围：数值型和标称型。      k-近邻算法（kNN)，它的工作原理是：存在一个样本数据集合，也称作训练样本集，并且样本集中每个数据都存在标签，即我们知道样本集中每一数据与所属分类的对应关系。输入没有标签的新数据后，将...

原创 实验楼机器学习挑战赛---python实现最小二乘法

最小二乘法 Python 实现介绍最小二乘法是机器学习中最基本的数学优化方法之一。例如，线性回归中拟合参数求解，一般就会使用到最小二乘法，其过程如下：对于线性方程：\displaystyle y(x, w) = w_0 + w_1xy(x,w)=w0​+w1​x其中，w_1w1​ 为自变量对应的系数，w_0w0​ 常数也就是截距项。此时，如果我们令其平方损失函数为：\displaystyle F_...

原创 HOG+SVM

什么是HOG特征？特征就是某个像素进行四则运算后得到的结果，HOG特征也满足这个定义。梯度直方图特征(HOG) 是一种对图像局部重叠区域的密集型描述符, 它通过计算局部区域的梯度方向直方图来构成特征。HOG特征的计算步骤模块划分（image win block cell）梯度 方向 模板bin 投影每个模块hog模块划分（image win block cell）从图中我们可以看出image&gt...

原创 矩阵乘法

题目描述如果A是个x行y列的矩阵，B是个y行z列的矩阵，把A和B相乘，其结果将是另一个x行z列的矩阵C。这个矩阵的每个元素是由下面的公式决定的： 原型：voidmatrix_multiply(int *m1,int *m2,int *r, int x, int y, int z);输入参数：    int *m1：x行y列的矩阵(array1[x][y])    int *m2：y行z列的矩阵(a...

原创 为什么逻辑回归 模型要使用 sigmoid 函数

为什么逻辑回归模型要使用 sigmoid 函数？1.广义模型推导所得2.满足统计的最大熵模型3.性质优秀，方便使用（Sigmoid函数是平滑的，而且任意阶可导，一阶二阶导数可以直接由函数值得到不用进行求导，这在实现中很实用）...

原创 Google Inception Net介绍及Inception V3结构分析

Inception V3总体结构计算流程：模块组内各模块结构及计算过程：模块一：模块二：模块三：

转载 正则化项L1和L2

转载：https://blog.csdn.net/jinping_shi/article/details/52433975正则化（Regularization）机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两种，一般英文称作ℓ1ℓ1-norm和ℓ2ℓ2-norm，中文称作L1正则化和L2正则化，或者L1范数和L2范数。L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓...

原创 Numpy常用的各种操作

1. 导入 NumPy，查看 NumPy 版本信息2.通过列表创建一维数组3.通过列表创建二维数组4.创建全为 0 的二维数组5.创建全为 1 的三维数组6.创建一维等差数组7.创建二维等差数组8.创建等间隔一维数组9.创建单位矩阵（二维数组）10.创建二维随机数组11.创建二维随机整数数组（数值小于 5）数组运算12.生成一维示例数组，完成以下操作13.生成二维示例数组，完成以下操作数学函数14...

原创 python---高阶函数(map、reduce、filter、sorted)

python中map()函数map()是 Python 内置的高阶函数，它接收一个函数 f 和一个 list，并通过把函数 f 依次作用在 list 的每个元素上，得到一个新的 list 并返回。例如，对于list [1, 2, 3, 4, 5, 6, 7, 8, 9]如果希望把list的每个元素都作平方，就可以用map()函数：因此，我们只需要传入函数f(x)=x*x，就可以利用map()函数完...

原创 python---文件操作

文件的打开与关闭在操作文件的整体过程打开文件，或者新建立一个文件读/写数据关闭文件<1>打开文件在python，使用open函数，可以打开一个已经存在的文件，或者创建一个新文件open(文件名，访问模式)示例如下： f = open('test.txt', 'w')说明:访问模式说明r以只读方式打开文件。文件的指针将会放在文件的开头。这是默认模式。w打开一个文件只用于写入。如果该...

原创 python---匿名函数lambda

匿名函数用lambda关键词能创建小型匿名函数。这种函数得名于省略了用def声明函数的标准步骤。lambda函数的语法只包含一个语句，如下： lambda [arg1 [,arg2,.....argn]]:expression如下实例： sum = lambda arg1, arg2: arg1 + arg2 #调用sum函数 print "Value of tot...

原创 python---字典及常见操作

变量info为字典类型： info = {'name':'班长', 'id':100, 'sex':'f', 'address':'地球亚洲中国北京'}说明：字典和列表一样，也能够存储多个数据列表中找某个元素时，是根据下标进行的字典中找某个元素时，是根据'名字'（就是冒号:前面的那个值，例如上面代码中的'name'、'id'、'sex'）字典的每个元素由2部分组成，键:值。例如 'nam...

原创 python---列表的相关操作

列表的相关操作列表中存放的数据是可以进行修改的，比如"增"、"删"、"改""<1>添加元素("增"append, extend, insert)append通过append可以向列表添加元素extend通过extend可以将另一个集合中的元素逐一添加到列表中>>> a = [1, 2]>>> b = [3,

原创 python---常见字符串操作

字符串常见操作如有字符串mystr = 'hello world itcast and itcastcpp'，以下是常见的操作<1>find检测 str 是否包含在 mystr中，如果是返回开始的索引值，否则返回-1mystr.find(str, start=0, end=len(mystr))<2>index跟find()方法一样，只不过如果str不在 mystr中会报...

原创 分类器性能度量----查准率、召回率、F1

#!/usr/bin/python# -*- coding:utf-8 -*-import numpy as npfrom sklearn.metrics import accuracy_scorefrom sklearn.metrics import precision_score, recall_score, f1_score, fbeta_scorefrom sklearn.me...

原创 支持向量机SVM----学习笔记四（代码实践一SVM思路解决回归问题）

           用SVM思路解决回归问题本质就是找到一根直线或曲线能够最佳程度拟合数据点。SVM在解决分类问题时是存在一个margin的，SVM在解决回归问题同样存在一个margin，与分类不同的是在此情况下，我们希望margin里包含的样本数据越多越好，这就代表这个范围能比较好的表达样本数据点。在这种情况下，取中间的那根直线作为回归的结果，用它来预测其他未知点y的值。SVM分类是相反的思路...

原创 支持向量机SVM----学习笔记三（代码实践一高斯核函数）

       高斯核函数是SVM中使用最多的一种核函数，对比高斯函数x-u,高斯核函数中表征的是两个向量(x,y)之间的关系，高斯函数又被称为RBF核和径向基核函数。在多项式核函数中，我们知道多项式核函数是将数据点添加多项式项，再将这些有了多项式项的特征点进行点乘，就形成了多项式核函数，对于高斯核函数也是一样，首先将原来的数据点映射成一种新的特征向量，然后得到新的特征向量点乘的结果，对高斯核函数来...

原创 支持向量机SVM----学习笔记三（代码实践一多项式特征）

      处理非线性数据最典型的思路就是采用多项式的方式来扩充原本的数据，制造新的多项式的特征。         本篇主要记录如何使用sklearn去用多项式特征来实现非线性SVM，使用的是sklearn自带的make_moons数据集，我们在此基础上添加了噪声。1.数据准备import numpy as npimport matplotlib.pyplot as pltfrom sklea...

原创 支持向量机SVM----学习笔记二（代码实践一线性分类）

       本篇主要记录如何使用sklearn去实现SVM，使用的是鸢尾花数据集，在对SVM进行分类前，和KNN一样我们首先，要对数据进行标准化处理，这是因为SVM寻找的是使margin最大的区间中间的那根线，而我们衡量margin的方式是数据点之间的距离，如果数据点在不同维度上量纲不同的话，那对于距离的估计就是有问题的。       例如在下图中，横轴范围在0-1，纵轴范围却在0-10000，...

原创 支持向量机（SVM）-----学习笔记一（原理详解与公式推导）

支持向量机（SVM）什么是支持向量机？支持向量机，因其英文名为support vector machine，故一般简称SVM，通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，其学习策略便是间隔最大化，最终可转化为一个凸二次规划问题的求解。SVM思想（线性可分支持向量机）图一给定一些数据点，它们分别属于两个不同的类，现在要找到一个线性分类器把这些数据分成两类。在决策...

原创 线性回归公式推导（二）

原创 逻辑回归---Logisitic Regression公式推导

原创 Faster-RCNN_TF代码解读（二）：Faster-RCNN_TF-master\lib\rpn_msr\proposal_layer_tf.py

# --------------------------------------------------------# Faster R-CNN# Copyright (c) 2015 Microsoft# Licensed under The MIT License [see LICENSE for details]# Written by Ross Girshick and Sean ...

原创 Faster-RCNN_TF代码解读（一）：lib\networks\VGGnet_test.py

import tensorflow as tffrom networks.network import Network#要检测的类别数+backgroundn_classes = 21#对于一副任意大小PxQ的图像，首先缩放至固定大小 MxN,缩放因子为1/16_feat_stride = [16,]#anchor_scales为3个尺度anchor_scales = [8, 16,...

原创 Faster-RCNN

Faster-RCNN(tensorflow版本）代码链接：https://github.com/wiibrew/Faster-RCNN_TF附总结的Faster-RCNN流程图