机器学习笔记-Python

最新推荐文章于 2024-08-23 17:48:13 发布

有个黑塔小人

最新推荐文章于 2024-08-23 17:48:13 发布

阅读量45

点赞数

分类专栏：工作记录文章标签：机器学习

本文链接：https://blog.csdn.net/ckxbjn/article/details/132565484

版权

工作记录专栏收录该内容

3 篇文章 0 订阅

订阅专栏

机器学习流程：数据收集--数据清洗--特征工程--数据建模

误差项定义

拟合的平面： $h_\theta\left ( x \right )= \theta _1+\theta _2x_1+\theta _3x_2$

$\theta _0$ 是偏置项

整合： $\sum_{i=0}^{n}\theta _ix_i = \theta ^{T}x$

$y^{i} = \theta ^{T}x + \varepsilon ^{i}$

梯度下降

#小批量梯度下降
import numpy as np

class LinearRegression:
    def __init__ (self,data,labels,polynomial_degree=0,num_features=2):
        self.data = data
        self.theta = np.zeros(num_features,1)
        self.labels = labels
    
    def train(self,alpha,num_iterations = 500):
        return

    def gradient_descent(self,alpha, num_iterations):
        for i in range(num_iterations):
            self.gradient_descent(alpha)
        return
    
    def gradient_step(self,alpha):
        num_example = self.data.shape[0]
        prediction = LinearRegression.hypothesis(self.data,self.theta)
        delta = prediction - self.labels
        theta = self.theta
        theta = theta - alpha*(1/num_example)*(np.dot(delta.T,self.data)).T
        self.theta = theta

    def hypothesis(data,theta):
        prediction = np.dot(data,theta)
        return prediction

plotly工具包

sklearn 工具包