机器学习笔记第1周

第2课 Introduction

监督学习：根据已知数据集，推测出其他数据的值

回归问题：预测连续值的输出。

分类问题：预测离散值的输出

支持向量机算法

无监督学习

聚类算法：找出数据集中的结构，分成多个聚类

鸡尾酒会算法：两个不同位置的麦克风，分离出两个不同的音源

Octave

Cocktail party problem algorithm

[W,s,v] = svd((repmat(sum(x.*x,1),size(x,1),1).*x)*x');

svd：奇异值分解

第5课 Model and Cost Function

线性回归算法 单变量线性回归

第6课 Parameter Learning

（批量）梯度下降  （Batch）Gradient Descent

α：学习速率

第8课  Linear Algebra Review 线性代数复习

向量：只有一列的矩阵

矩阵乘法应用：

矩阵乘法：

不符合交换律：A*B!=B*A

符合结合律：(A*B)*C=A*(B*C)

逆矩阵

A^(-1)A=AA^(-1)=I（单位矩阵）

只有m*m矩阵（方阵）才有逆矩阵

Octave求逆矩阵：A=[3 4: 2 16]   pinv(A)

奇异矩阵（退化矩阵）：没有逆矩阵的方阵，可以想成是非常接近于0的矩阵

转置矩阵

A={1 2 0}       AT={1 3}

     {3 5 9}       {2 5}

      {0 9}

B=AT Bij=Aji