机器学习--线性回归

jameschangze

已于 2023-05-19 15:20:02 修改

阅读量71

点赞数 1

文章标签：机器学习线性回归 python

于 2023-05-05 19:05:23 首次发布

本文链接：https://blog.csdn.net/jameschangze/article/details/130513239

版权

批量梯度下降

注意：需要导入文件ex1data1.txt,ex1data2.txt
代码块


print("---------------------批量梯度下降---------------------")
#batch gradient decent(批量梯度下降）
def gradientDescent(X,y,theta,alpha,iters):
    #定义一个theta形状的零矩阵
    temp=np.matrix(np.zeros(theta.shape))
    #定义一个变量，表示theta的个数。
    #ravel函数将矩阵变为一维，shape[1]代表了矩阵的列数（即theta的个数）
    parameters = int(theta.ravel().shape[1])
    cost = np.zeros(iters)


    for i in range(iters):
        error = (X*theta.T)-y
        for j in range(parameters):
            term = np.multiply(error,X[:,j])#计算梁矩阵（ho(x)-y)x
            temp[0,j] = theta[0,j]-((alpha/len(X)*np.sum(term)))

        theta=temp
        cost[i]=computeCost(X,y,theta)
    return theta,cost



#初始化一些附加变量-学习速率a和要执行的迭代次数
alpha=0.01
iters=1000

g,cost=gradientDescent(X,y,theta,alpha,iters)
#最后，我们可以使用我们拟合到的参数计算训练模型的代价函数（误差）

print(g)

print("--------------------------")
#现在我们来绘制线性模型以及数据，直观地看出它的拟合
#np.linspace(start=0,stop=100,num=5)-->通过定义均匀间隔创建数值的序列，指定间隔起始点，终止端，以及指定分隔值总数，最终函数返回间隔类均值分布的数值序列
x=np.linspace(data.Population.min(),data.Population.max(),100)

f=g[0,0]+(g[0,1]*x)
print("------------------------")
fig,ax=plt.subplots(figsize=(12,8))
ax.plot(x,f,'r',label='Prediction')#ax.plot()可以同时创建曲线和散点
ax.scatter(data.Population,data.Profit,label='Traning Data')
ax.legend(loc=2)#loc参数，用于控制图例的位置，
ax.set_xlabel('Population')
ax.set_ylabel('Profit')
ax.set_title('Predicted Profit vs. Population Size')
plt.show()

代码运行截图：

#由于梯度方程式函数也在每个训练迭代中输出一个代价的向量，所以我们也可以绘制，请注意，代价总是降低，这是凸优化问题的一个例子


fig,ax=plt.subplots(figsize=(12,8))
ax.plot(np.arange(iters),cost,'r')
ax.set_xlabel('Iterations')
ax.set_ylabel('Cost')
ax.set_title('Error vs.Training Epoch')
plt.show()