GinGinXia-CSDN博客

原创 EM算法-Jensen不等式

凸函数定义：设是定义在区间= [a, b]上的实值函数。如果对于任意的和，下列式子成立，则称是上的凸函数。如果上述不等式为小于，则为严格凸。图示：【定理】Jensen不等式设是定义在区间= [a, b]上的实值函数。对于任意的，下列不等式恒成立，证明：当...

2020-07-26 13:01:23 796

原创【Python-Pandas】数据分析中的一些常用操作（1）

# -*- coding: utf-8 -*-import numpy as np # linear algebraimport pandas as pd # data processing, CSV file I/O (e.g. pd.read_csv)import matplotlib.pyplot as pltimport seaborn as sns # visualization tool#读取csv格式文件df=read.csv('D:\\...\\ .csv')#查看数.

2020-07-15 16:31:38 315

原创不等式约束问题-KKT条件（1）

允许不等式约束的KKT条件（卡罗需-库恩-塔克条件，Karush-Kuhn-Tucker Conditions，有时称为一阶必要条件）是对只允许等式约束的拉格朗日乘数法的推广。定义一个优化问题如下，该最优问题既有等式约束，又有不等式约束。KKT条件告诉我们，需要通过以下的方程组来得到我们想要的答案通俗易懂的解释：https://www.matongxue.com/search/?q=kkt油管视频讲解：https://www.youtube.com/watch?v=HI.

2020-07-10 14:05:24 2124

原创等式约束问题-拉格朗日乘子法

拉格朗日乘子法用于解决带有等式约束的最优化问题，而KKT条件是用于解决不等式约束的最优化问题。定义一个优化问题求解过程是引入拉格朗日乘子，联立方程组，即可求得最优解。通俗易懂的解释可以参考：https://www.matongxue.com/madocs/939/...

2020-07-10 13:35:26 1836

原创极大似然估计法（Maximum likelihood estimation, MLE）

极大似然估计法（Maximum likelihood estimation, MLE），是一种用来估计概率模型参数的方法。例子1 [1]假设有一个不透明的袋子里装着3个球，每个球要么是红色要么是蓝色，这是我能知道的所有信息。现在我有机会可以有放回地从袋中抽取4次球，每一次抽取出来的球的颜色是一个随机变量，我们用参考资料[1]https://www.probabilitycourse.com/chapt...

2020-07-06 11:04:02 2009

原创归并排序图解+python实现

图解算法：Python实现：

2020-07-04 09:52:48 197

原创分类模型-Logistic回归模型(Logistic regression model )

逻辑斯蒂回归模型比线性回归更加robust，因为受到L2损失函数的影响，线性回归会容易受到outliers的干扰，但这些干扰本不应该被当作问题。

2020-07-02 12:56:25 2111

原创概率（Probability）和似然（Likelihood）的区别

极大似然估计是一种统计里用于参数估计的方法，其背后的思想属于频率学派思想。先看一个简单的例子。参考资料：https://www.probabilitycourse.com/chapter8/8_2_3_max_likelihood_estimation.php...

2020-07-01 09:13:58 2955

原创理解偏差（Bias）和方差（Variance）

我们分别从定义、图形和数学上来理解偏差（Bias）和方差（Variance）这两个概念。定义和公式符号测试样本训练集在数据集中的标记的真实标记训练集上学得模型在上的预测输出学习算法的期望预测偏差（Bias）度量了学习算法的期望预测与真实结果的偏离程度，刻画的是学习算法本身的拟合能力。 ...

2020-06-30 16:08:16 1839

原创理解假设检验

Table of Contents假设检验有两个重要的要素：假设检验的基本步骤：例子P值常见的几种检验统计量从对总体的假设出发用样本数据去检验，实现对总体指标分析的过程，就是假设检验。它的基本思想是，对总体指标进行某种假设，以小概率事件不发生为基准，运用反证法的思想，按照总体的假设，并根据所获样本的数据，通过样本统计量的分布，得出小概率事件在某一次抽样中发生的错误现象，从而对总体指标的假设做出拒绝的判断。假设检验有两个重要的要素一是逻辑上的反证法。反证法是一种论证方式，首先假

2020-06-27 21:48:14 645

原创插入排序图解+python实现

插入排序的思路是从右侧的未排序区域内取出一个数据，然后将它插入到已排序区域内合适的位置上。算法图解：代码实现：import numpy as npdef InsertSort(arr): for i in range(len(arr)-1): j=i+1 while(j>=1): if arr[j]<arr[j-1]: temp=arr[j-1] .

2020-06-26 10:59:09 213

原创冒泡排序图解+python实现

冒泡排序就是重复’从序列右边（或左边）比较两个数字的大小，再根据结果交换两个数字的位置‘这一操作的算法。在这个过程中，数字会像泡泡一样，慢慢从右往左（从左到右）浮到序列的顶端，所以这个算法被称为冒泡排序。时间复杂度为。图解算法，以从右边开始比较为例。代码实现：import numpy as np#从左边开始比较def leftBubbleSort(arr): for i in range(len(arr)-1): for j in range(le..

2020-06-26 09:47:14 499

原创动态规划(1)-背包问题 python实现

动态规划将问题分成小问题，并先着手解决这些小问题。《算法图解》中的一个例子：假设你是个小偷，背着一个可装4磅东西的背包。你可偷窃的商品有如下3件。音响笔记本电脑吉他 3000美元 2000美元 1500美元 4磅 3磅 1磅为了让盗窃的商品价值最高，你该选择哪些商品？代码实现：import numpy as npdef bag(value,weight,capacity,n): calculateTable=np.zer

2020-06-26 09:26:57 430

原创快速排序（Quick sort）Python实现

快速排序用到了分而治之（Divide andConquer, D&C）的思想，简单地说就是把复杂的问题分解成相同或相似的可直接求解的简单问题。快速排序的速度比选择要快，平均运行时间为。步骤如下：1. 选择基准值。 2. 将数组分成两个子数组，小于基准值的元素组成的子数组和大于基准值的元素组成的子数组。 3. 对这两个子数组进行快速排序。Python代码如下：def quickSort(array): if len(array)<2: return .

2020-06-21 08:39:35 417

原创递归算法（Python实现）

递归指的是调用自己的函数。每个递归函数都有两个条件：基线条件（base case）和递归条件（recursive case）。递归条件是函数调用自己，基线条件是函数不再调用自己，从而避免形成无限循环。下面是一些例子：#阶乘def fact(x): if x==1: #base case return 1 else: return x*fact(x-1) #recursive case#斐波那契数列def

2020-06-21 00:39:04 1223

原创【收益管理】单资源容量控制（4）多舱位模型之启发式算法：EMSR-a & EMSR-b

目录一、简介二、EMSR-a三、EMSR-b四、对于EMSR-a和EMSR-b的评价一、简介EMSR-a 和EMSR-b是Belobaba提出的两种用于解决多舱位模型（Multi-class model）启发式算法，相比于用动态规划（dynamic programming）求最优，这两种算法（求近优）的计算速度会更快，而且在实业界得到普遍的使用，被嵌入进收益管理的系统中。EMSR的全称是Expected marginal seat revenue（期望边际座位收益），我在两舱位模型的

2020-06-20 13:22:25 2960 1

原创选择排序（Selection sort）Python实现

选择排序是一种很简单和直观的排序算法（不过时间复杂度较高，）。基本思想如图示，Python 实现方式一：def selectionSort(arr): for i in range(len(arr)-1): min_index=i for j in range(i+1,len(arr)): if(arr[min_index]>arr[j]): min_index=j #找到最小

2020-06-19 10:41:33 850

原创二分查找（Binary search）Python实现

二分查找是一种算法，其输入是一个有序的元素列表，如果要查找的元素包含在列表中，二分查找返回去位置，否则返回Null。二分查找的时间复杂度为。如果列表包含1024个元素，最多需要见擦汗10个元素。（因为）。Python实现：def binary_search(list, item): #有序数组 low=0 high=len(list)-1 while low<=high: mid=(low+high)//2 #如果（low+high）不是偶数，自动将

2020-06-18 21:30:01 1594

原创机器学习笔记（二）基础介绍（2）

本文包括以下内容：1. 模型评估与模型选择 2. 正则化与交叉验证 3. 泛化能力 4. 生成模型与判别模型 5. 监督学习应用

2020-06-17 21:16:41 539

原创【收益管理】单资源容量控制（3）两舱位模型（Two-class model）

一、静态模型（static models）的基本假设在介绍两舱位模型（Two-class model）之前，需要先了解一下在收益管理中关于静态模型（static models）的一些基本假设。首先，先回顾一下静态模型包括哪些模型。在进行数学建模的时候，为了模型的可溯性和可分析性，一般都需要做一些假设，有一些假设似乎与现实世界不太相符，但很多时候模型只需要捕捉到最本质的东西，就不失为一个分析问题的好方法。而随着科学和技术的不断发展，很多看似“不合理”的假设也能逐渐被得到改进，使得我们的模型更...

2020-06-16 13:18:08 1498

原创【收益管理】单资源容量控制（2）先从报童模型谈起！

一、简介报童模型（Newsvendor Model）是一个在运筹学（Operations Research）中非常经典的模型，最早是用在采购和库存管理中去确定最优的库存水平。报童模型虽然比较简单，但其中蕴含的思想很重要，也是后来人们构建更复杂模型的基础。之所以叫做报童模型，是因为这个模型常常被设定在一个卖报童卖报的场景下，即对于一个卖报童来说，他每天的决策是需要批发进多少数量的报纸，使得自己的期望利润最大化。但是更一般的，该模型可以用来描述具有以下特点的场景：单种具有已逝性（perishable）的

2020-06-15 13:26:37 2519 1

GinXia的博客