![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
人工智能之数学
aidh123
聚焦科技,开心生活。
展开
-
人工智能数学之范数
范数概念范数是一种强化了的距离概念,包含向量范数和矩阵范数。线性代数中我们知道一个向量(m1)通过一种映射关系(矩阵 nm),可以得到另一组向量(n*1)。其中向量范数表示了向量空间中,这个向量的大小,因为向量都是有大小的,所以度量就使用了范数 。矩阵范数,表示在这个映射中,变化大小的度量。向量范数L-P范数L-P范数作为一组范数,定义如下:L0范数P=0的范数,当p=0,数学层面...原创 2019-03-20 15:59:16 · 2205 阅读 · 1 评论 -
人工智能数学之信息论
信息论信息论(Information Theory)是概率数理统计分支,我们主要看信息论在人工智能中的应用,所以目前只关注相关的信息。例如基于信息增益的决策树,最大熵模型, 特征工程中特征选取时用到的互信息,模型损失函数的交叉熵(cross-entropy)。信息论中log默认以2为底。基础1.熵直观来说熵就是表示事情不确定性的因素度量,熵越大不确定性就越大,而不确定性越大,带来的信息则越...原创 2019-03-25 22:04:43 · 3697 阅读 · 0 评论 -
人工智能之数学(概率方面)
我们经常使用的统计机器学习算法,或者是神经网络模型中,数学作为最基础的根基,融合了高等数学中的微分学、概率、线性代数、凸优化等方面,每一个方面深入后都是有很多的益处,但是本着先实用,在进行学习的原则。所以主要是理解相关数学符号,理解统计学习中一些和概率相关的算法推导,即可。概率: 一件事情发生的概率,等于该事件发生的数目除以所发生的数目。例如电影院观影人数为100人,女生50人,男士50人,你看...原创 2019-03-23 20:44:41 · 1704 阅读 · 0 评论 -
深入理解基于信息论的机器学习模型
前言 上一篇(https://blog.csdn.net/weixin_40192195/article/details/88807562) 简单讲解了信息论的相关知识,今天将信息论实际应用到机器学习模型中,尽量充分讲解每一个点,思路如下:信息论–>决策树–>Bagging–>starcking1. 决策树 决策树模型作为另一种解决问题的思路。也是工业界常用的模型,因为...原创 2019-04-02 09:43:47 · 1372 阅读 · 0 评论