数据挖掘
zizi7
这个作者很懒,什么都没留下…
展开
-
线性代数(5)
特征值和特征向量对nnn阶方阵AAA,如果满足Ax=λx(1)Ax=\lambda x \tag{1}Ax=λx(1)其中xxx为nnn维非0向量,λ\lambdaλ为常数(可以为复数)则称λ\lambdaλ为AAA的特征值,xxx为AAA属于λ\lambdaλ的特征向量式(1)的几何意义是:向量xxx经过转换矩阵AAA后,依然保持原来的方向,只有λ\lambdaλ倍伸缩的变化特征向...原创 2020-02-29 13:09:24 · 918 阅读 · 0 评论 -
线性代数(4)
行列式行列式是对方阵的求值:det(A)=∣A∣det(A)=|A|det(A)=∣A∣行列式十条性质单位矩阵的行列式为1det(I)=1(1)det(I)=1 \tag{1}det(I)=1(1)每交换一次方阵的行,其行列式的正负改变一次常数乘以方阵某一行的行列式,等于常数乘以方阵的行列式∣tatbcd∣=t∣abcd∣(2)\left|\begin{matrix}ta&a...原创 2020-02-24 13:23:49 · 604 阅读 · 0 评论 -
线性代数(3)
目录Ax=bAx=bAx=b无解时的求解空间投影最小二乘上的应用正交矩阵Gram-Schmidt正交化A=QR分解A=QR分解A=QR分解Ax=bAx=bAx=b无解时的求解从线性代数(1)列空间的讨论可知,如果bbb不在AAA的列空间C(A)C(A)C(A)内,那么Ax=bAx=bAx=b无解在实际应用中这种无解的情况很多:1)因为观察/测量的数据总会有误差,无法保证每个bib_ibi...原创 2020-02-19 11:33:00 · 324 阅读 · 0 评论 -
线性代数(2)
线性相关性给定一组向量x⃗1,x⃗2,x⃗3,...,x⃗n\vec{x}_1,\vec{x}_2,\vec{x}_3,...,\vec{x}_nx1,x2,x3,...,xn,如果存在不全为0的数c1,c2,c3,...,cnc_1,c_2,c_3,...,c_nc1,c2,c3,...,cn,使得c1x⃗1+c2x⃗2+...+cnx⃗n=0c_1\vec{x}_1+c_2...原创 2020-02-12 11:44:00 · 276 阅读 · 0 评论 -
线性代数(1)
目录方程组的“行图像”与“列图像”逆矩阵LU分解向量空间与子空间零空间列空间秩方程组的“行图像”与“列图像”对一个二元二次方程组2x−y=0−x+2y=3(1)2x-y=0\\-x+2y=3 \tag{1}2x−y=0−x+2y=3(1)可以记为AX=bAX=bAX=b的行图像形式[2−1−12][xy]=[03](2)\left[\begin{matrix}2 & -1\...原创 2020-02-06 19:16:44 · 471 阅读 · 0 评论 -
LR逻辑回归
功能与线性回归一样,LR通过对训练数据的拟合,得到一个回归模型,对测试数据进行预测特点线性回归是用来估计连续型回应变量与一组预测变量之间关系的方法逻辑回归用来估计非连续型(分类型)变量与一组预测变量之间关系的方法(非0即1,如新闻广告点击、是否患病)对于01问题之所以用LR而不是线性回归,我是这么理解的黑点和白点表示01两类样本,如果用线性回归,大体是红原创 2015-06-11 14:34:34 · 1457 阅读 · 0 评论 -
GBDT(Gradient boosting decision tree)算法
GBDT 又称MART(Multiple Additive Regression Tree),“是一种迭代的决策树算法,该算法由多棵决策树组成,所有树的结论累加起来做最终答案。它在被提出之初就和SVM一起被认为是泛化能力(generalization)较强的算法。近些年更因为被用于搜索排序的机器学习模型而引起大家关注。”GBDT可用于所有(线性/非线性)回归问题(LR只能用于线性问题)原创 2015-06-12 10:55:49 · 1233 阅读 · 0 评论