机器学习-凸函数

https://www.nowcoder.com/discuss/205341

1 凸优化是指X 是闭合的凸集,f 是X  上的凸函数的最优化问题,这两个条件任一不满足则该问题即为非凸的最优化问题。

其中,X 是凸集是指对集合中任意两点,即任意两点的连线段都在集合内,直观上就是集合不会像下面那样有凹下去的部分,至于闭合的凸集,则涉及到闭合的凸集,则涉及到闭集的定义,而闭集的定义又基于开集。闭合的凸集是指包含所以边界点的凸集。

实际建模中判断一个最优化问题是不是凸优化问题一般看一下几点:

目标函数f 如果不是凸函数,则不是凸优化函数

决策变量x 中包含离散变量(0-1 变量或整数变量),则不是凸优化问题

约束条件写成g(x) <=0 时,g 如果不是凸函数,则不是凸优化问题

之所以要区分凸优化问题和非凸的问题的原因在于凸优化问题中局部最优解同时也是全局最优解,

2 人工智能,机器学习和深度学习的区别

机器学习: 一种实现人工智能的方法

使用算法来解析数据,从中学习,然后对真实世界中的事件做出决策和预测,使用大量的数据来训练,通过各种算法从数据中学习如何完成任务。机器学习直接来源于早期的人工智能领域,传统的算法包括决策树,聚类,贝叶斯分类,支持向量机,EM,Adaboost 等,在学习方法上,机器学习算法可以分为监督学习,无监督学习,半监督学习,集成学习,深度学习和强化学习。

2 深度学习:一种实现机器学习的技术

深度学习并不是一种独立的学习方法,其本身也会用到有监督和无监督的学习方法来训练深度神经网络,但由于近几年该领域发展迅猛,一些特有的学习手段相继提出(如残差网络) 。

最初的深度学习是利用深度神经网络来解决表征表达的一种学习过程,深度神经网络本身并不是一个全新的概率,可大致理解为包含多个隐含层的神经网络结构,为了提高深层神经网络的训练效果,人们对神经元的连接方法和激活函数等方面做出了相应的调整,其实有不少想法早年间也曾有过,但是训练数据量不足,计算能力不足,因此最终的效果不尽人意。

 

参考:https://blog.csdn.net/wwf_lightning/article/details/73477215

http://www.sohu.com/a/227603209_163476

 

学习人工智能,机器学习都离不开数学基础和编程知识。无论你是数据科学的初学者还是已经从事人工智能开发的有经验人员,这门课都适合于你。为什么这么说?首先人工智能和机器学习本质上就是算法,而算法就是数学及统计学以及编程的结合。当前市场上有许多开源的软件包如SKLEARN确实可以帮助没经验的或缺乏数学或算法基础的人实现机器学习模型及预测,但这些工具无法使你真正懂得算法的本质或来源,或者无法使你在不同场合下灵活运用及改进算法。记住,在实际工作中找到适合应用场景的解决方案是最难但是最重要的。但这离不开数学基础和算法理解。比如,线性回归是一类普遍的机器学习算法,所有的机器学习软件都有现成的方法实现模型,但如果在训练数据中加入几条新数据,那么新建立的模型和原来的模型有和联系或不同?再比如,为什么深度神经网络中的Sigmoid函数一般只用到输出层?神经网络的向后传播理论如何与泰勒展开和复合函数的偏导数联系在一起?人工智能中推荐系统和文字向量如何与矩阵的奇异分解以及特征向量联系?模型中对标签进行数据变换如何影响预测值?所有这些问题的答案,你都可以从本课中找到线索。本课系统地讲述了有关人工智能,机器学习背后的数学知识。特别指出,微积分和代数知识是本课的核心。统计学基础被安排在另外的课程中。除此之外,我在每一章节或主要知识点后都安排了各类程序以解释和回顾所学到的东西。最后要提到的是,这不是一门工程项目实践课。但我会另外专门安排有关人工智能,机器学习的实践课程
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值