AI-深度学习框架-应用数学和机器学习基础

AI-深度学习框架-应用数学和机器学习基础

矩阵、多项式、群论

标量、向量、矩阵和张量

乘矩阵和向量
恒等矩阵和逆矩阵
线性相关和跨度

范式理论

范式是存在于某一科学论域内关于研究对象的基本意向。它可以用来界定什么应该被研究、什么问题应该被提出、如何对问题进行质疑以及在解释我们获得的答案时该遵循什么样的规则。范式是一科学领域内获得最广泛共识的单位，我们可以用其来区分不同的科学家共同体或亚共同体。它能够将存在于一科学中的不同范例、理论、方法和工具加以归纳、定义并相互联系起来。

种特殊矩阵和向量

特征值分解

奇异值分解

穆尔彭罗斯伪逆矩阵（The Moore-Penrose Pseudo inverse ）
跟踪运算符
行列式
行列式应用：主成分分析

概率论、随机过程与信息论

随机变量
概率分布
边际概率
条件概率
条件概率的链式法则
独立和条件独立
期望、方差和协方差
常见概率分布
常用函数的有用特性
贝叶斯法则
连续变量技术细节
信息论
结构概率模型
数值计算

上溢和下溢
不良调理
梯度优化
约束优化
线性最小二乘法

机器学习基础

学习算法
容量，过拟合和欠拟合
超参数和验证集
估计量，拜厄斯、方差
极大似然估计
贝叶斯统计
监督学习算法
无监督学习算法
随机梯度下降
建立机器学习算法
激发深层学习