我思故我在！

转载 科学计算与Matlab笔记：第7章：符号运算

1. 符号对象用eval命令将符号表达式对应的数值求出来当r（A）小于n，或者A的行列式为0时，齐次线性方程组有非零解2.符号微积分反转，符合实际的视觉效果用另外一种算法，结果同样为13. 级数sum求和，求和的项目受限4. 符号方程求解直接求解无解，可以换种解法，利用某种变换...

转载 Machine Learning Foundations 笔记：1-4 Feasibility of Learning

转载 Machine Learning Foundations 笔记：1-3 Types of Learning

转载 Machine Learning Techniques 笔记：2-9 Decision Tree

g(x) 即为最终的选择容易理解，但缺乏强有力的数学理论保障1.首先学如何做分支2.根据分支，分成c块，3. 各分支学习一个各自的小树4. 各分支整合起来，生成大树。但只有这4个步骤，可能不行，因为没有停止的条件。1.每次一刀切两段，只建造二元树2. 回传一个最好的常数（二元分类，回传最多的y；回归问题，回传y的平均）1.利用decision stump切分二元树。decision stump：在...

转载 科学计算与Matlab笔记：第6章：数值微积分与方程求解

1. 数值微分与数值积分2. 线性方程组求解3. 线性方程组应用举例E点受力分析4. 非线性方程求解与函数极值计算5. 常微分方程数值求解6. 常微分方程应用举例...

转载 Machine Learning Foundations 笔记：1-2 Learning to answer Yes/No

转载 Machine Learning Foundations 笔记：1-1 The Learning Problem

转载 Machine Learning Techniques 笔记：2-8 Ada Boosting

只要比乱猜效果好，最终Ein总可收敛t=1，放大errort=2，进一步切割，放大中间的errort=3经过足够的迭代，可以得出一条完美的分界线

转载 Machine Learning Techniques 笔记：2-7 Blending and Bagging

如果只有一条横线，或一条竖线，可能无法把data ooxx完美的分开，如果相结合，则可能会产生一个近似完美的折线。PLA产生的一大堆线，投票后，可能会得到一个比较中庸的线，近似于SVM的最大margin。可以将一堆简单的组合起来，做一个比较复杂的东西。...

转载 Machine Learning Techniques 笔记：2-6 Support Vector Regression

Kernel LR:如果将SVM用到soft binary classification，可以用2-level learning的方式，先做一个SVM，然后将SVM的结果放在LR中微调一下，或者是使用representer theorm直接把LR变成kernel的形式。今天，着眼点在于如何将LR变成kernel的形式上周的Representer Theorm:最好的w什么时候变成一堆z的线性组合呢...

转载 Machine Learning Techniques 笔记：2-5 Kernel Logistics Regression

上节2-4中有讲，如果SVM中允许犯一点点错误，把原来很严格的hard-margin改成soft-margin，允许违反一些些边界，用C代表惩罚，与原来形式类似，唯一的差别，就是alpha n的上界为C。LIBLINEAR，LIMSVM（专门求解dual SVM）由台大林志远老师实验室开发SVM error measure, usually called hinge error measure.e...

转载 科学计算与Matlab笔记：第5章：数据分析与多项式计算（插值 拟合）

1. 数据统计分析a. 求最大元素与最小元素>> x=[-43,72,9,16,23,47]x =   -43    72     9    16    23    47>> y=max(x)y =    72>> [y,k]=max(x)y =    72k =     2>> A=[13,-56,78;25,63,-235;78,25,563;1...

原创 几种插值算法对比

1.拉格朗日插值2.牛顿插值3.分段线性插值4. 分段三次埃尔米特插值5.样条插值函数6.五种样条函数比较所以，7. 五种插值方法的实际应用

转载 网络爬虫笔记3，信息提取之Beautiul Soup库

VS的

转载 科学计算与Matlab笔记：第4章：Matlab绘图

1. 二维曲线plot函数&fplot函数Plot函数(1)plot函数的基本用法plot（x,y）其中，x与y分别用于存储x坐标与y坐标数据例1：绘制一条折线>> x = [2.5, 3.5, 4, 5];>> y=[1.5, 2.0, 1, 1.5];>> plot(x,y)（2）最简单的plot函数调用方式>> x=[1.5, 2.0,...

转载 Intel研究院院长吴甘沙：大数据的10个技术前沿(1.8万字+61PPT)

Intel研究院院长吴甘沙：大数据的10个技术前沿(1.8万字+61PPT) 本次讲座是清华大数据产业联合会"技术•前沿"系列讲座的第一讲，主讲人为英特尔（中国）研究院院长吴甘沙。吴甘沙院长从大数据技术前沿的十个问题入手，对大数据产业进行了深度解析，演讲全文如下：首先我们公司要求要有一些免...

转载 Intel研究院院长吴甘沙演讲全文：大数据分析师的卓越之道(32PPT)

Intel研究院院长吴甘沙演讲全文：大数据分析师的卓越之道(32PPT)亲爱的各位同仁，各位同学，早上好。讲到大数据，就要问数据分析师应该做什么？所以我今天的标题是大数据分析师的卓越之道。这里不一定讲的对，讲的对的我也不一定懂，所以请大家以批评式的方式去理解。这是一个典型的数据分析的场景，下面是基础设施，数据采集、存储到处理，左边是数据处理，右边价值输出。连接数据和价值之间的是这知识发现，用专业词...

转载 科学计算与Matlab笔记：第3章：Matlab程序流程控制

1. 顺序结构程序2. 用if语句实现选择结构3. 用switch语句实现选择结构4. 用for语句实现循环结构5. 用while语句实现循环结构6. 函数文件的定义与调用7. 函数的递归调用8. 函数参数与变量的作用域...

转载 网络爬虫笔记2， requests库入门-2(编程实例)

实验1：爬取京东网。import requestsurl = "http://item.jd.com/10460106645"try:    r = requests.get(url)    r.raise_for_status()    r.encoding = r.apparent_encoding    print(r.text[:1000])except:    print("爬取失败")...

原创 科学计算与Matlab笔记：第2章：Matlab矩阵处理

1. 特殊矩阵通用的特殊矩阵>zeros函数：产生全0的矩阵，即零矩阵>ones函数：产生全1的矩阵，即1矩阵>eye函数：产生对角线为1的矩阵。当矩阵为方阵时则得到一个单位阵>rand函数：产生0~1区间均匀分布的随机矩阵>randn函数：产生均值为0，方差为1的标准正态分布随机矩阵。zeros函数的调用格式：>zeros(m): 产生mxm的零矩阵>z...

转载 网络爬虫笔记1， requests库入门

1. 安装python3 https://www.python.org/2. 安装pycharm 社区版http://www.jetbrains.com/pycharm/3. 安装anacondahttps://www.anaconda.com/download/4. 在pycharm中，设置编译器，并添加安装requests包。5.打开ipython，实验第一个程序import requests...

转载 ind2sub

ind2sub ind2sub，函数名。在FreeMat、Matlab中，该函数用于把数组中元素索引值转换为该元素在数组中对应的下标（关于元素的下标访问及索引访问请参考sub2ind）。外文名 ind2sub 函数功能FreeMat、Matlab 语法格式 [I,J] = ind2sub 适用二维数组语法格式：[I,J] = ind2sub(siz,IND)这种调用格式适用于二维数组，其中siz是...

原创 matlab中的sub2ind函数

matlab中的sub2ind函数 在matlab中，矩阵的存储是按列优先，sub2ind函数将矩阵中指定元素的行列下标转换成存储的序号，即线性索引号。下面，我们举例子进行说明。1 建立一个3*4*2的矩阵rng(0,'twister'); % Initialize random number gen...

转载 线性回归原理小结

线性回归原理小结　　　　线性回归可以说是机器学习中最基本的问题类型了，这里就对线性回归的原理和算法做一个小结。1. 线性回归的模型函数和损失函数　　　　线性回归遇到的问题一般是这样的。我们有m个样本，每个样本对应于n维特征和一个结果输出，如下：　　　　(x(0)1,x(0)2,...x(0)n,y0),(x(1)1,x(1)2,...x(1)n,y1),...(x(m)1,x(m)2,...x(m...

转载 精确率与召回率，RoC曲线与PR曲线

精确率与召回率，RoC曲线与PR曲线　　　　在机器学习的算法评估中，尤其是分类算法评估中，我们经常听到精确率(precision)与召回率(recall)，RoC曲线与PR曲线这些概念，那这些概念到底有什么用处呢？　　　　首先，我们需要搞清楚几个拗口的概念：1. TP, FP, TN, FN　　True Positives,TP：预测为正样本，实际也为正样本的特征数　　False Positive...

转载 交叉验证(Cross Validation)原理小结

交叉验证(Cross Validation)原理小结　　　　交叉验证是在机器学习建立模型和验证模型参数时常用的办法。交叉验证，顾名思义，就是重复的使用数据，把得到的样本数据进行切分，组合为不同的训练集和测试集，用训练集来训练模型，用测试集来评估模型预测的好坏。在此基础上可以得到多组不同的训练集和测试集，某次训练集中的某样本在下次可能成为测试集中的样本，即所谓“交叉”。　　　　　那么什么时候才需要交...

转载 最小二乘法小结

最小二乘法小结　　　　最小二乘法是用来做函数拟合或者求函数极值的方法。在机器学习，尤其是回归模型中，经常可以看到最小二乘法的身影，这里就对我对最小二乘法的认知做一个小结。1.最小二乘法的原理与要解决的问题　　　　　最小二乘法是由勒让德在19世纪发现的，原理的一般形式很简单，当然发现的过程是非常艰难的。形式如下式：　　　　　　目标函数 = Σ（观测值-理论值）2　　　　观测值就是我们的多组样本，理论...

转载 梯度下降（Gradient Descent）小结

梯度下降（Gradient Descent）小结　　　　在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法。这里就对梯度下降法做一个完整的总结。1. 梯度　　　　在微积分里面，对多元函数的参数求∂偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。比如函数f(x,y), 分别对x,y求偏导数，求...

转载 科学计算与Matlab笔记：第 1章 ：Matlab基础

Matlab系统环境： 设置当前工作路径：cd C:\Training\AI\Matlab查看当前工作路径： pwd设置搜索路径：path(path,’C:\Training\AI\Matlab’) 2.Matlab数值数据 无符号整型：00000000b - 11111111b,（0 - 2.^8 -1） 有符号整型：10000000b - 01111111b,(-2.^7 -...

转载 科学计算与Matlab笔记：第 0章 ：Matlab简介

第 0章 ：Matlab简介求解方程组：x^2-3x+1=0根 方法1：多项式求根函数roots p = [1, -3, 1]; x = roots(p) x =2.61800.3820 x = [-5: 0.1: 5]; y1 = x.^2 -3*x + 1; y2 = zeros(size(x));...