机器学习算法基础--线性回归,最小二乘法,梯度下降,逻辑斯特回归,k-means

本文介绍了机器学习的基础算法,包括线性回归的模型、最小二乘法和梯度下降,以及逻辑斯特回归在分类中的应用。讨论了过拟合与欠拟合的概念,提出L2正则化作为解决方案。同时,讲解了非监督学习中的k-means聚类算法及其评估指标。
摘要由CSDN通过智能技术生成

线性回归

  • 定义:线性回归通过一个或者多个自变量与因变量之间进行建模的回归分析。其中可以为一个或多个自变量之间的线性组合(线性回归的一种)

线性关系模型

  • 一个通过属性的线性组合来进行预测的函数:
    f ( x ) = w 1 x 1 + w 2 x 2 + . . . + w d x d + b f(x)=w1x1+w2x2+...+wdxd+b f(x)=w1x1+w2x2+...+wdxd+b
    –w为权重,b为偏置项,可以理解为w0*1

也可以把w,x看成是矩阵形式:
w = ( w 0 w 1 w 2 ) , x = ( 1 x 1 x 2 ) w=\begin{pmatrix}{w0}\\{w1}\\{w2}\end{pmatrix},x=\begin{pmatrix}{1}\\{x1}\\{x2}\end{pmatrix} w=w0w1w2,x=1x1x2

–看成矩阵是为了满足特定的运算需求,如矩阵的乘法:

import numpy as np

# 二维数组相乘,构建三个样本三组特征值,每组特征值的权重都为2
a = [[1, 2,<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值