Serendipity_zyx的博客

文章目录1. 一维搜索2. 最速下降法最速下降法特征最速下降法的优缺点3. Newton法算法基本思想牛顿法和梯度下降法的效率对比1. 一维搜索最优化问题一般选择某一组变量，然后在满足一定的限制条件下，求出使目标值达到最优（最大或最小）的变量值。大部分时候，最优化问题都采用迭代计算的方式来求解。而大多数迭代下降算法都具有的共同点是在得到某次迭代点xkx^kxk后，需要按照一定规则来确定一个方向dkd^kdk，沿着该方向在直线上求函数的极小点得到下一个迭代点xxxk+1 。这样不断在一维的目标函数上，求

【准备工作】下载好课后习题所用的数据集：单变量线性回归【问题描述】使用一个变量实现线性回归，预测食品卡车的利润。假设你是一家餐馆的首席执行官，正在考虑在不同的城市开设一个新的分店。该连锁店已经在各个城市拥有卡车，假设现在你有各个城市的利润和人口数据。您将会使用这些数据来帮助您选择下一个扩张的城市。文件ex1data1.txt包含了我们线性回归问题的数据集。第一列是一个城市的人口，第二列是在该城市的食品卡车的利润。利润的负值表示损失。首先，导入所需要的包。import numpy as npi

课后作业实现吴恩达机器学习作业Python实现(一)：线性回归吴恩达机器学习作业Python实现(二)：logistic回归吴恩达机器学习作业Python实现(三)：多类分类和前馈神经网络吴恩达机器学习作业Python实现(四)：神经网络(反向传播) & BP（反向传播）神经网络公式推导吴恩达机器学习作业Python实现(五)：偏差和方差吴恩达机器学习作业Python实现(六)：SVM支持向量机吴恩达机器学习作业Python实现(七)：K-means和PCA主成分分析吴恩达机器学习