weixin_43464554的博客

原创 分支定界-附Python代码

分支定界算法介绍（含搜索策略、分支策略、剪枝策略）附python代码

原创 Python求解凸优化问题之CVXPY

CVXPYCVX是由Michael Grant和Stephen Boyd开发的用于构造和解决严格的凸规划(DCP)的建模系统，建立在Löfberg (YALMIP)， Dahl和Vandenberghe (CVXOPT)的工作上。CVX支持的问题类型Linear programs (LPs)Quadratic programs (QPs)Second-order cone programs (SOCPs)Semidefinite programs (SDPs)还可以解决更复杂的凸优化问题，

原创 相对内点、相对边界

https://www.math.cuhk.edu.hk/course_builder/1819/math4230/relint.pdf

原创 Fixed vs. Random Variables

https://sassyfridays.ca/table-of-contents/fixed-vs-random-variables/This is a topic that you will need to think about when you’re developing your models for ANOVAs. We’ll define what a fixed and a random variable are then we’ll talk about how to incorp.

原创 Glivenko–Cantelli theorem证明以及独立同分布假设检验

定理证明检验是否为iid

原创 阿里巴巴运筹优化相关实验室、岗位

Decision Intelligence Lab https://damo.alibaba.com/labs/decision-intelligence/MindOpt是达摩院决策智能实验室自主研发的数学规划求解器套件https://tianchi.aliyun.com/mindopt“Daling" System for Computing Resource Optimization“Longling" System for User Traffic-based Optimization in

原创 严平稳遍历序列的强大数定律和中心极限定理

平稳序列：有限二阶矩，相同均值，斜方差平移不变性严平稳；分布的平移不变性。（严平稳序列同分布）如果严平稳序列的方差有限，则一定为平稳序列正态事件序列，数学期望、斜方差矩阵和联合分布相互唯一决定，此时严平稳和平稳等价遍历过程：渐进独立的平稳过程是遍历过程，渐进独立要求序列中任意两个相距很远的随机变量几乎是独立分布的。严平稳遍历序列的强大数定律：有限绝对值均值，则样本均值渐进一致严平稳遍历序列的任何多元函数也是严平稳遍历序列渐进独立定理是大数定律的推广：（1）大数定律要求随机.

原创 半连续性-wiki

文章目录定义图示性质https://zh.wikipedia.org/wiki/%E5%8D%8A%E9%80%A3%E7%BA%8C%E6%80%A7定义图示性质

原创 Fakas引理和线性规划强对偶证明

文章目录Fakas 引理Fakas 引理的第二种形式线性规划强对偶证明线性规划问题证明http://www.mathcs.emory.edu/~hhuan30/math346_fall17/strong_duality_lp.pdf知乎高赞解释：如何理解farkas引理？ - Johnny Richards的回答 - 知乎https://www.zhihu.com/question/279644412/answer/565859435Fakas 引理Fakas 引理的第二种形式线性规

原创 序列模型和注意力机制（Sequence models & Attention mechanism）

基础模型（Basic Models）选择最可能的句子（Picking the most likely sentence）条件语言模型集束搜索（Beam Search）改进集束搜索（Refinements to Beam Search）集束搜索的误差分析（Error analysis in beam search）Bleu 得分（选修）（Bleu Score (optional)）注意力模型直观理解（Attention Model Intuition）注意力模型（Attention Mode

原创 自然语言处理与词嵌入-吴恩达深度学习笔记

文章目录自然语言处理与词嵌入词汇表征（Word Representation）Visualizing word embeddings——t-SNE算法Properties of Word Embeddings——Cosine similarityEmbedding matrix学习词嵌入（Learning Word Embeddings）Word2VecSkip-Gram模型负采样（Negative Sampling）GloVe 词向量（GloVe Word Vectors）情感分类（Sentiment C

原创 循环神经网络RNN知识图解-吴恩达

RNN分类RNN的训练RNN的新序列采样梯度消失——GRU and LSTMBidirectional RNN

原创 卷积神经网络图解

卷积神经网络结构包括卷积层、池化层、全连接层，适用于包括图片在内的高维数据。卷积的优点在于参数共享和稀疏连接。

原创 Gurobi优化求解初始值设置

Q: Gurobi优化求解变量时能设置各优化变量的猜想最优初始值吗？可以通过 Var.Start 属性设置初始解，而且可以同时设置多组初始解，初始解可以不完整，可以不可行，gurobi 会根据初始解信息，自动凑齐全部变量，构造更好的可行解。可以通过 Var.VarHintVal 和 VarHintPri 属性设定 引导解，给 gurobi 搜索时不同的暗示和引导。这二种方法都可以把自己的猜想导入到 gurobi 中。具体使用请看手册和范例。...

原创 深度学习优化算法介绍和简要代码（吴恩达）

神经网络前向传播后向传播过程 # Loop (gradient descent) for i in range(0, num_iterations): # Forward propagation: [LINEAR -> RELU]*(L-1) -> LINEAR -> SIGMOID. AL, caches = L_model_forward(X, parameters) # Compute cost.

原创 深度学习训练目标和思考，含数据不匹配、误差分析、迁移学习、多任务学习、端到端学习介绍

深度学习训练目标和思考，含数据不匹配、误差分析、迁移学习、多任务学习、端到端学习介绍

原创 深度学习训练目标和思考，含可避免偏差和方差

文章目录目标训练集、开发集、测试集、真实应用发集和测试集应来自同一分布开发集和测试集的大小满足和优化指标根据目标选择单一数字评估指标可能的问题如何估计可避免偏差和方差。定义目标水平错误率修正可避免偏差问题处理方差问题案例目标真正好的工程师思维清晰，对于要调整什么来达到某个效果第一步是弄清楚如何定义一个指标来衡量你想做的事情的表现，然后分开考虑如何改善系统在这个指标上的表现。第二步是瞄准和射击目标，如设计数据集、cost函数等notice： 正交化，使用不同的参数不会相互干扰，每次只调整一个因素判

原创 拟牛顿法求解非线性方程组

文章目录牛顿法求解非线性方程组次梯度法案例Python代码牛顿法求解非线性方程组假设有非线性方程组 f(x)=0f(x)=0f(x)=0, 解为x∗x^{*}x∗f(x∗)=f(x~)+∂f(x~)∂x(x∗−x~)+12!∂2f(x~)∂x2(x∗−x~)2+13!∂3f(x~)∂x3(x∗−x~)3+..=0\begin{aligned} f\left(x^{*}\right) &=f(\tilde{x})+\frac{\partial f(\tilde{x})}{\partial x}\

原创 最速下降法求解非线性优化问题-附Python代码

最速下降法求解优化问题泰勒公式f(x+β)=f(x)+β∇f(x)+o(β)≈f(x)+β∇f(x)\begin{aligned}f(x+\beta) &=f(x)+\beta \nabla f(x)+o(\beta) \\& \approx f(x)+\beta \nabla f(x)\end{aligned}f(x+β)​=f(x)+β∇f(x)+o(β)≈f(x)+β∇f(x)​梯度方法f(x0−α∇f(x0))=f(x0)−α∇f(x0)∇f(x0)+o(α)≈f(

原创 牛顿法求解非线性方程组-附Python代码

牛顿法求解非线性方程组假设有非线性方程组 f(x)=0f(x)=0f(x)=0, 解为x∗x^{*}x∗f(x∗)=f(x~)+∂f(x~)∂x(x∗−x~)+12!∂2f(x~)∂x2(x∗−x~)2+13!∂3f(x~)∂x3(x∗−x~)3+..=0\begin{aligned} f\left(x^{*}\right) &=f(\tilde{x})+\frac{\partial f(\tilde{x})}{\partial x}\left(x^{*}-\tilde{x}\right)+\f

原创 Learn to schedule heuristic

learn to schedule heuristicControl the orderControl the durationKnowledgeMeasure of primal performance-primal integral(Berthold, 2013a) normalized average of the incumbent value over time->SCIP-how to manage primal heuristicsTime budget for heur.

原创 深度学习-神经网络训练要点

训练数据划分在机器学习发展的小数据量时代，常见做法是将所有数据三七分，就是人们常说的70%验证集，30%测试集，如果没有明确设置验证集，也可以按照60%训练，20%验证和20%测试集来划分。数据集规模较大的，验证集和测试集要小于数据总量的20%或10%测试数据要来自同一分布因为你们要用验证集来评估不同的模型，尽可能地优化性能。如果验证集和测试集来自同一个分布就会很好。网页抓取，代价就是训练集数据与验证集和测试集数据有可能不是来自同一分布训练思路：满足偏差要求后检查方差如果网络足够大，通常可以很好

原创 前向传播和后向传播

原创 深度学习-激活函数比较

激活函数类别激活函数比较sigmoid 函数a=σ(z)=11+e−za = \sigma(z)= \frac{1}{1+e^{-z}}a=σ(z)=1+e−z1​tanh 函数a=tanh(z)=ez−e−ze−z+eza = tanh(z)= \frac{e^{z}-e^{-z}}{e^{-z}+e^{z}}a=tanh(z)=e−z+ezez−e−z​Relu 函数a=max{0,z}a = max\{0,z\}a=max{0,z}Leaky Reluyi={xi if&

原创 mac 使用Anaconda安装Gurobi+Pycharm调用anaconda环境

原创 python读取xlsx文件

import openpyxl#打开excel文件,获取工作簿对象dog_food = openpyxl.load_workbook('dog-food.xlsx')#从工作薄中获取一个表单(sheet)对象sheets = dog_food.sheetnamesprint(sheets, type(sheets))sheet1 = dog_food['Sheet1']col_range = sheet1['A:B']demand = []for col in col_range: # 打

原创 Dantzig-Wolfe Decomposition

文章目录原问题reformulation子问题-CG的思想算法原问题reformulation子问题-CG的思想算法

原创 单纯形法的矩阵形式（python实现todo）

单纯形法的矩阵形式单纯形法的python实现（Todo）选择检验数为正的入基

原创 Julia求解混合整数规划（Either/or 约束条件）

问题描述某公司的研发部门一直在开发四条可能的新产品线。管理层现在必须做出决定，确定这四种产品中的哪一种将实际生产，以及生产的水平。因此，一个运筹学研究已经被要求找到最有利可图的产品组合。如下表第一行所示，开始生产任何产品时，都会产生大量成本。管理层的目标是找到使总利润(总净收入减去启动成本)最大化的产品组合。设连续决策变量x1x_{1}x1​, x2x_{2}x2​, x3x_{3}x3​, x4x_{4}x4​ 分别为产品1、2、3、4的生产水平。管理层对这些变量施加了以下政策限制:最多只能

原创 高级建模方法（Gurobi）：线性化、分段线性函数、逻辑变量/约束

高级建模方法（gorubi）：线性化、分段线性函数（0-1变量表示，特殊顺序集表示）、逻辑变量/约束

原创 笔记：美团智能配送系统的运筹优化实战

智能配送的资源优化配置既有线上的业务，也有线下的复杂运营。配送连 接订单需求和运力供给。为了达到需求和供给的平衡，不仅要在线下运营商家、运营 骑手，还要在线上将这些需求和运力供给做合理的配置，其目的是提高整体的效率。资源优化配置的三个层级基础层是结构优化，它直接决定了配送系统效率的上限。这种基础结构的优 化，周期比较长，频率比较低，包括配送网络规划、运力结构规划等等。中间层是市场调节，相对来说是中短期的，主要通过定价或者营销手段，使供需达到一个相对理想的平衡状态。再上层是实时匹配，通过调度做实时

原创 用普里姆（Prim）算法求解最小生成树——C语言（案例实现）

用普里姆（Prim）算法求解最小生成树原理假设N=(P,E)N=(P,{E})N=(P,E)是连通网，TETETE是NNN上最小生成树中的边集合。算法从U=U0(U0∈V),TE={}U={U_{0}}(U_{0} \in V),TE = \{\}U=U0​(U0​∈V),TE={}开始,重复执行下述操作:在所有的uuu ∈\in∈ UUU, vvv ∈\in∈ V−UV-UV−U的边(u,v)(u,v)(u,v) ∈\in∈ EEE 中找一条代价最小的边(u0,v0)(u_{0},v_{0})(u0​,

原创 数据结构：图的表示和遍历算法C语言实现（带案例）

图的表示邻接矩阵在边数相对点数较少时会浪费存储空间。使用数组和链表相结合的邻接表存储。图的存储————邻接矩阵法有向图中，第i个结点的出（入）度=第i行（列）的非零元素个数，第i个结点的度= 第i行和第i列的非零个数之和无向图中，第i个结点的度 = 第i行（列）的非零元素个数，无向图的邻接矩阵是对称矩阵可压缩对于n个顶点和e条边的图，时间复杂度是 O(n+n2+e)O(n+n^{2}+e)O(n+n2+e)#define MAXVEX 100 /*最大顶点数*/#define INF

原创 树和二叉树（含前序遍历和后序遍历案例实现）

//// Created by pengxiangzhou on 2021/1/29.//#include <stdio.h>#include <stdlib.h>树的双亲表示法结点结构定义优点:根据结点的parent指针很容易找到它的双亲结点，时间复杂度为o(1)#define MAX_TREE_SIZE 100typedef int TElemType; //树结点的数据类型，目前暂定为整型typedef struct PTNode //结点结构{

原创 学习笔记：大话数据结构-栈

大话数据结构-栈栈的定义stack是限定仅在表尾进行插入和删除操作的线性表，允许插入和删除的一端称为栈顶，另一端称为栈底栈又称为后进先出的线性表，简称LIFO结构栈的插入操作，为压栈、入栈；栈的删除操作，为出栈typedef int SElemType; /*SElemType类型根据实际情况而定，这里假设为int*/typedef struct{ SElemType data[MAXSIZE]; int top; /*空栈top=-1，栈满etc*/}SqStack;

原创 《菜鸟教程》C语言学习

《菜鸟教程》C语言学习具体可参考https://www.runoob.com/cprogramming/c-tutorial.html//// Created by pengxiangzhou on 2021/1/23.//#ifndef C_DS_C_BASIC_H#define C_DS_C_BASIC_H#endif //C_DS_C_BASIC_H#include <stdio.h> // 预处理器指令以#开头，标准输入输出库函数/* * 双引号可以输入中文

原创 《大话数据结构》：线性表

// C语言-大话数据结构：线性表//// Created by pengxiangzhou on 2021/1/24.//#include <form.h>#ifndef C_DS_LINEAR_LIST_H#define C_DS_LINEAR_LIST_H#endif //C_DS_LINEAR_LIST_H/*线性表-顺序存储结构 * 顺序存储结构的三个属性：数组data，存储位置为存储空间的位置；数组存储数据元素的最大值；线性表当前长度 * 数组的长度是存

原创 数据结构-绪论

数据结构数据结构在做什么？用程序代码把现实世界的问题信息化用计算机高效地处理这些信息从而创造价值数据结构Note： 抽象数据类型通常用数据对象、数据关系、基本操作集来表示数据结构三要素逻辑结构数据结构的物理结构（存储结构）Note数据的存储结构会影响存储空间的方便程度。非顺序存储较为方便数据的存储结构会影响对数据运算的速度。顺序存储较快数据的运算定义：包括运算的定义和实现。运算的定义是针对逻辑结构的，指出运算的功能；运算的实现是针对存储结构的，指出运算的具体操作步

原创 python install package报错：OSError : dlopen() : Library not loaded以及后续问题

python install package报错OSError : dlopen() : Library not loaded 问题OSError: dlopen(/Users/unittest_docker/code/venv/lib/python3.8/site-packages/_scrypt.cpython-38-darwin.so, 6): Library not loaded: /usr/local/opt/*** #***表示包名 Referenced from: /Users/un

原创 最短路问题-理论证明、Dijkstra算法实现和整数规划实现（Python+gurobi）

最短路径问题什么是最短路径问题最短路径问题和线性规划间的关系Python调用Gurobi求解最短路径问题Dijkstra’s AlgorithmDijkstra’s Algorithm 证明Dijkstra’s Algorithm 实现