数学知识
文章平均质量分 94
奇而思
python、vim爱好者;Fortran使用者
展开
-
凸优化学习(一)凸集与凸函数、凸优化问题
4.1 凸集 convex sets仿射集(Affine Sets):如果一个集合C∈RnC∈RnC\in\mathbb{R}^n 是仿射的,则在C中两点的直线也在C中,若x1∈C,x2∈C,则x=θx1+(1−θ)x2 ∈C,θ∈Rx1∈C,x2∈C,则x=θx1+(1−θ)x2 ∈C,θ∈Rx_1\in C,x_2\in C,则x=\theta x_1+(1-\thet...原创 2018-07-01 22:23:36 · 13099 阅读 · 0 评论 -
凸优化学习(二)对偶和SVM
4.4 对偶问题对于有约束的优化问题。约束优化问题的一般形式为: minimizesubject.tof0(x)fi(x)≤0fori=1,2,...,mhi(x)=0fori=1,2,...,pminimizef0(x)subject.tofi(x)≤0fori=1,2,...,mhi(x)=0fori=1,2,...,p\begin{array}{l}minimize & f_0(...原创 2018-07-04 14:04:33 · 3714 阅读 · 0 评论 -
信息论知识:互信息、交叉熵、KL散度
信息论的基本想法是一个不太可能的事件居然发生了,要比一个非常可能的事件发生,能提供更多的信息。消息说:‘‘今天早上太阳升起’’ 信息量是如此之少以至于没有必要发送,但一条消息说:‘‘今天早上有日食’’ 信息量就很丰富。我们想要通过这种基本想法来量化信息。定义三个性质非常可能发生的事件信息量要比较少,并且极端情况下,确保能够发生的事件应该没有信息量。较不可能发生的事件具有更高的信息量。...原创 2018-07-05 22:13:08 · 5549 阅读 · 0 评论 -
矩阵分析一子空间和特征分解
线性方程组Ax=b的行视图是超平面,列视图是列向量的线性组合。从这个视角,将矩阵与向量组联系起来了。5.1 线性相关、线性无关定义:给定向量组A:a1,a2,...,ama1,a2,...,ama_1,a_2,...,a_m,如果存在不全为零的数k1,k2,,...,kmk1,k2,,...,kmk_1,k_2,,...,k_m,使得k1a1+k2a2+...+kmam=0k1a1+k...原创 2018-08-14 11:06:29 · 8400 阅读 · 2 评论