qq_33542428的博客

原创 新手向——python处理数据整理

如何运用python处理数据老哥，你的需求是运用编程进行简单的数据处理，比如excle或者world或者从网站上爬取数据。我不知道你有没有过编程经历，但是要实现你的需求需要学习python这个编程语言+学会处理数据，总体学习大概需要2~3周时间。所以第一步你需要先去学会这个语言，python这门语言比较简单，我推荐先从在线学习开始，先当玩练习一下。下面两个网站是在线学习的网站，可以在线跑代码，学到函数部分即可。python基础菜鸟教程廖雪峰——python教程由于你没有学过编程，没有编程思想，所以

原创 tensorflow1运用模型断点续训、恢复图和进行预测

前言本文是代码根据吴恩达深度学习第四课程第一周第二节作业图像分类识别修改而成，会简单介绍一下项目流程，然后介绍tensorflow1保存模型的两种方法，以及如何用模型预测。项目流程简单介绍这里直接放代码了比较简单。import tensorflow.compat.v1 as tffrom cnn_utils import *SAVE_FILE = "./model/model"SECOND_TRAING = Falsenp.random.seed(1)X_train_orig, Y_tr

原创 Qlearning、sarsa以及sarsa_lambda

Qlearning算法importnumpyasnp importgym importrandom if__name__=='__main__': env=gym.make("FrozenLake-v0") env.render() action_size=env.action_space.n print("Actionsize",action_size) state...

转载 指数移动加权平均

转载 深度学习梯度下降优化算法解析

转载 交叉熵

1. 引言我们都知道损失函数有很多种：均方误差（MSE）、SVM的合页损失（hinge loss）、交叉熵（cross entropy）。这几天看论文的时候产生了疑问：为啥损失函数很多用的都是交叉熵（cross entropy）？其背后深层的含义是什么？如果换做均方误差（MSE）会怎么样？下面我们一步步来揭开交叉熵的神秘面纱。2. 交叉熵的来源2.1 信息量一条信息的信息量大小和它的不确定性有很大的关系。一句话如果需要很多外部信息才能确定，我们就称这句话的信息量比较大。比如你听到“云南西双版

转载 动量梯度下降法

动量梯度下降法（Gradient descent with Momentum）

转载 softmax函数

softmax函数softmax用于多分类过程中，它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多分类！假设我们有一个数组，V，Vi表示V中的第i个元素，那么这个元素的softmax值就是更形象的如下图表示：softmax直白来说就是将原来输出是3,1,-3通过softmax函数一作用，就映射成为(0,1)的值，而这些值的累和为1（满足概率的性质），那么我们就可以将它理解成概率，在最后选取输出结点的时候，我们就可以选取概率最大（也就是值对应最大的）结点，

原创 SVM对于高斯核函数的理解

问题：怎么分类非线性可分的样本的分类？目的是样本分类，采用的方法：按一定规律统一改变样本的特征数据得到新的样本，新的样本按新的特征数据能更好的分类，由于新的样本的特征数据与原始样本的特征数据呈一定规律的对应关系，因此根据新的样本的分布及分类情况，得出原始样本的分类情况高斯核和多项式核干的事情截然不同的，如果对于样本数量少，特征多的数据集，高斯核相当于对样本降维；高斯核的任务：找到更有利分类任务的新的空间高斯核...

转载 反向传播：大视野

反向传播：大视野正如我所讲解的，反向传播 提出了两个神秘的问题。首先，这个算法真正在干什么？我们已经感受到从输出处的错误被反向传回的图景。但是我们能够更深入一些，构造出一种更加深刻的直觉来解释所有这些矩阵和向量乘法么？第二神秘点就是，某人为什么能发现这个 反向传播？跟着一个算法跑一遍甚至能够理解证明算法可以运行这是一回事。这并不真的意味着你理解了这个问题到一定程度，能够发现这个算法。是否有一个推理的思路可以指引我们发现 反向传播 算法？本节，我们来探讨一下这两个谜题。 为了提升我们关于算法究竟做了

转载 低秩矩阵分解

低秩矩阵中低秩（Low-rank）的意义1，问题的引出——对低秩矩阵分解中低秩的误解论文《Privileged Matrix Factorization for Collaborative Filtering》是我在推荐系统研究方向上所读的第一篇论文（针对该篇论文，请看总结点击打开链接），当时对矩阵分解的理解是：评分矩阵X分解成两个隐特征矩阵U和V，U代表用户隐特征矩阵，V代表商品隐特征矩阵。U和V的隐因子向量的长度为k，其中k<<min{m,n}，自己也就理解成了分...

转载 雅克比矩阵和行列式

3，例子3.1 设函数f为二维空间到二维空间的变换3.2 极坐标到笛卡尔坐标的变换3.3 球坐标到笛卡尔坐标的变换3.4 三维空间到四维空间的变换3.5 三维空间到三维空间的变换...

转载 多元高斯分布解析

转载 PCA特征选择

一、PCA简介1. 相关背景主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。上完陈恩红老师的《机器学习与知识发现》和季海波老师的《矩阵代数》两门课之后，颇有体会。最近在做主成分分析和奇异值分解方面的项目，所以记录一下心得体会。在许多领域的研究与应用中，往往需要对反映事物的多个变量进行大量的观测，收集大量数据以便进行分析寻找规律。多变量大样本无疑会为研究

转载 PCA原理：为什么用协方差矩阵

PCA的理论知识以及与K-L变换的关系PCA是主成分分析(Principal Components Analysis)的简称。这是一种数据降维技术，用于数据预处理。一般我们获取的原始数据维度都很高，那么我们可以运用PCA算法降低特征维度。这样不仅可以去除无用的噪声，还能减少很大的计算量。K-L转换(Karhunen-Loève Transform)是建立在统计特性基础上的一种转换，它是均方差(MSE, Mean Square Error)意义下的最佳转换，因此在资料压缩技术中占有重要的地..

转载 SVD奇异值分解原理

SVD不仅是一个数学问题，在工程应用中的很多地方都有它的身影，比如前面讲的PCA，掌握了SVD原理后再去看PCA那是相当简单的，在推荐系统方面，SVD更是名声大噪，将它应用于推荐系统的是Netflix大奖的获得者Koren，可以在Google上找到他写的文章；用SVD可以很容易得到任意矩阵的满秩分解，用满秩分解可以对数据做压缩。可以用SVD来证明对任意M*N的矩阵均存在如下分解：这个可以应用在数据降维压缩上！在数据相关性特别大的情况下存储X和Y矩阵比存储A矩阵占用空间更小！ 在开始讲解SVD..

转载 正则化的理解

我们总会在各种地方遇到正则化这个看起来很难理解的名词，其实它并没有那么高冷，是很好理解的首先，从使用正则化解决了一个什么问题的角度来看：正则化是为了防止过拟合， 进而增强泛化能力。用白话文转义，泛化误差（generalization error）= 测试误差（test error），其实就是使用训练数据训练的模型在测试集上的表现（或说性能 performance）好不好如上图，红色这条“想象力”过于丰富上下横跳的曲线就是过拟合情形。结合上图和正则化的英文 Regularizaiton-Regul

转载 反向传播算法推导

1 反向传播算法和BP网络简介 误差反向传播算法简称反向传播算法（即BP算法）。使用反向传播算法的多层感知器又称为BP神经网络。BP算法是一个迭代算法，它的基本思想为：（1）先计算每一层的状态和激活值，直到最后一层（即信号是前向传播的）；（2）计算每一层的误差，误差的计算过程是从最后一层向前推进的（这就是反向传播算法名字的由来）；（3）更新参数（目标是误差变小）。迭代前面两个步骤，直到满足停止准则（比如相邻两次迭代的误差的差别很小）。 本文的记号说明：下面以三层感知器(即...

转载 ThinkCmf目录结构

ThinkCMF目录结构：|--admin                                /管理后台URL重定向目录，你可以将文件夹名改为任何你喜欢的        |--themes                      /后台模板文件目录|--api                                    /主要是放 ucenter

原创 三阶魔方与四阶魔方总结

三阶魔方：完成顶层（一）顶层十字完成第二层后顶层会有以下三种情况：针对上述三种情况，我们只需记住一个公式即：公式MUMUMUUM’UM’UM’UU我们最终的目的是使得顶面变成这样如果你的魔方顶面已经是这样了，那这一步就可以直接跳过，不过不是每次都会这样幸运的，公式还是需要背的。下面就是顶层三种状态和拧法。俯视图黑色表示黄色块

转载 android 6.0权限全面详细分析和解决方案

原文：http://www.2cto.com/kf/201512/455888.htmlhttp://blog.csdn.NET/yangqingqo/article/details/48371123http://inthecheesefactory.com/blog/things-you-need-to-know-about-Android-m-permission-

原创 AndroidStudio使用第三方jar包报错(Error: duplicate files during packaging of APK)

> Duplicate files copied in APK META-INF/LICENSE.txtFile 1: D:\work\workspace\ADControl\libs\fastjson-1.1.32.jarFile 2: D:\work\workspace\ADControl\libs\fastjson-1.1.32.jarError:: duplicate file