- 博客(84)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 记一次linux杀病毒过程
接收到信息化部门同事说环境机检测到挖矿软件、勒索软件、内网主机与恶意地址、域名与URL通信。1.查看与恶意网址通讯的ip以及相应进程。3.进入到进程所在目录并删除文件。2.找到进程启动所在目录。
2023-06-08 10:46:02
219
1
原创 word2vec
目录1.为何不用one-hot2.跳字模型skip-gram2.1训练跳字模型3.连续词袋模型continuous bag of words，CBOW3.1训练连续词袋模型4.近似训练4.1负采样4.2 层序hierarchical softmax负采样通过考虑同时含有正类样本和负类样本的相互独⽴事件来构造损失函数。其训练中每⼀步的梯度计算开销与采样的...
2020-08-04 20:20:44
310
原创 Python基础知识整理
目录1. Python的映射类型2.python中的标识符3.装饰器4.Python中的复数5.函数参数定义6.Python闭包7. 已知a = [1, 2, 3]和b = [1, 2, 4]，那么id(a[1])==id(b[1])的执行结果8.可变与不可变数据类型9.最大公约(因)数10.比较大小11.字符串编解码：12.质数：13.正则匹配字符串14.python socket操作15. 解释型语言的特性有什么16. Python...
2020-06-17 15:57:06
2152
原创 梯度提升树GBDT-XGBoost
目录一、构造目标函数：二、目标函数的近似三、把树的结构引入目标函数（参数化）1.参数化2.参数化3.利用定义的变量整合目标函数四、生成树的过程，利用贪心算法 主要根据贪心科技李文哲老师直播视频记录Bagging与Boosting二者都是由weak learner 组合而成，但有所区别：Bagging：Leverages unstable base l...
2020-04-19 19:47:07
459
原创 UEFI模式创建Grub2引导ubuntu16.04和windows10，并安装Linux Nvidia驱动
目录Table of Contents目录说明：正如EasyBCD官网文档https://neosmart.net/wiki/easybcd/uefi/ 说的那样： 1.Linux的安装2.下载DiskGenius Trick:当时装linux系统时，给/boot的空间太小了（200M，建议300M~500M），所以就尝试用...
2020-04-06 15:25:25
2099
原创 条件随机场CRF(Conditional Random Field)
⼀个重要的要求是，我们保留了推断的⾼效算法，它与链的长度是线性关系。例如，这要求，在给定观测的条件下，表⽰的后验概率分布的量在与转移概率和发射概率相乘然后在上求和或积分之后，我们得到的上的概率分布与上的概率分布具有相同的函数形式。这就是说，在每个阶段概率分布不可以变得更复杂，而仅仅是在参数值上发生改变。毫不令人惊讶的是，在多次相乘之后具有这个性质的唯一的分布就是指数族分布。实际应用中...
2019-11-11 16:41:08
452
原创 HMM(Hidden Markov Model)
目录HMM定义HMM的确定从⽣成式的观点考虑隐马尔科夫模型，我们可以更好地理解隐马尔科夫模型。HMM的参数 统一定义：HMM举例HMM的3个基本问题概率计算问题定义：前向概率-后向概率前向算法后向算法前后向关系单个状态的概率：两个状态的联合概率期望学习问题监督学习方法Baum-Welch算法（非监督学习方法）预测问题...
2019-04-30 11:36:26
1369
原创 采样
--------七月在线机器学习笔记目录带拒绝的采样分析对某概率分布函数进行采样的意义用采样改造EM算法本身马尔科夫连模型概率转移矩阵马尔科夫随机过程的平稳分布马尔科夫随机过程与采样细致平稳条件设定接受率MCMC：Metropolis-Hastings算法改造MCMC算法二维Gibbs采样带拒绝的采样分析在对某区域f(x,y)≤...
2019-04-29 13:36:06
781
原创 主题模型
-----------七月在线机器学习笔记目录-----------七月在线机器学习笔记pLSA模型极大似然估计：N-文档数，M-单词数，K-主题数LDA（latent Dirichlet Allocation） Dirichlet分布:对称狄利克雷分布对称狄利克雷分布的参数分析LDA的解释LDA的详细解释：参数的学...
2019-04-21 20:19:37
952
原创 EM算法和GMM高斯混合模型
---------------七月在线机器学习笔记 通过极大似然估计详细推导EM似然函数：找出与样本的分布最接近的概率分布模型,即找到可能分布模型的最佳参数假设分布为,每个样本相互独立，则为了简化求导，这里取对数似然函数： (1)但是，当给定的样本数据是不完整的或者某个特征是不确定的...
2019-04-20 16:43:42
468
转载 SVM and SMO（Sequencial Minimal Optimization）
主要参考1.SVM_SMO-Python代码实现 https://blog.csdn.net/zouxy09/article/details/172920112.通俗讲解SVM SVM---https://blog.csdn.net/v_JULY_v/article/details/76248373.SMO论文部分翻译解析 http://www.cnblogs.com/jerry...
2019-04-12 17:45:44
388
原创 贝叶斯网络
条件概率：全概率公式：贝叶斯（Bayes）公式：朴素贝叶斯的假设 1.一个特征出现的概率，与其他特征（条件）独立（特征独立性）-------对于给定分类的条件下，特征独立 2.每个特征同等重要（特征均衡性）---------------七月在线机器学习笔记以文本分类为例：样本：1000封邮件，每个邮件...
2019-04-09 12:28:45
1347
原创 python深度学习---生成式对抗网络（GAN）
生成式对抗网络（GAN，generative adversarial network）由 Goodfellow 等人于 2014 年提出，它可以替代VAE来学习图像的潜在空间。 '''# 它能够迫使生成图像与真实图像在统计上几乎无法区分，从而生成相当逼真的合成图像。#GAN工作原理：一个伪造者网络和一个专家网络，二者训练的目的都是为了打败彼此 因此，GAN由以下两部分组成。...
2019-04-04 17:01:13
5352
原创 python深度学习--DeepDream
#DeepDream 是一种艺术性的图像修改技术，它用到了卷积神经网络学到的表示 '''#DeepDream 算法与前面的卷积神经网络过滤器可视化技术几乎相同，都是反向运行一个cnn：对cnn的输入做梯度上升，以便将cnn靠顶部的某一层的某个过滤器激活最大化。# 但有几个简单区别： 1.使用 DeepDream，我们尝试将所有层的激活最大化，而不是将某一层的激活最...
2019-04-03 13:20:16
702
原创 python深度学习--LSTM文本生成
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-04-03 13:14:58
1542
原创 python深度学习--神经风格迁移
神经风格迁移（neural style transfer）神经风格迁移（neural style transfer）它由 Leon Gatys 等人于 2015 年夏天提出[“A neural algorithm of artistic style”]''' #成功转化成许多智能手机图片应用 #神经风格迁移是指将参考图像的风格应用于目标图像，同时保留目标图像的内容 ...
2019-04-03 13:12:12
1754
2
原创 Adaptive basis function models -----Adaboost
Adaptive basis function models------七月算法*机器学习笔记核方法：一个函数可以表示为多个基函数的加权求和 --当时，为线性基函数，这会给模型带来巨大的局限性，因此将输⼊变量的固定的⾮线性函数进⾏线性组合来拟合函数 ,为所有数据或部分数据,可认为变量x到每一个数据的距离核函数，可以看作度量两...
2019-04-02 18:07:52
620
原创 决策树与随机森林
七月在线机器学习笔记决策树决策树是一种树型结构，其中每个内部结点 表示在一个属性上的测试，每个分支代表一 个测试输出，每个叶结点代表一种类别。决策树学习是以实例为基础的归纳学习。决策树学习采用的是自顶向下的递归方法， 其基本思想是以信息熵为度量构造一棵熵值 下降最快的树，到叶子节点处的熵值为零， 此时每个叶节点中的实例都属于同一类。优点是： 它可以自学习。在学习的过...
2019-03-27 09:32:34
753
原创 Spectral Clustering 谱聚类
七月在线机器学习笔记#谱和谱聚类'''方阵的谱：方阵作为线性算子，它的所有特征值的全体谱半径：方阵最大的特征值矩阵A的谱半径：的最大特征值，T即转置谱聚类：一般的说，是一种基于图论的聚类方法，通过对样本数据的拉普拉斯矩阵的特征向量进行聚类，从而达到对样本数据聚类的目的。'''#谱分析的整体过程''' 给定一组数据x1,x2,...xn，记任意两个点之间的相似度(“距...
2019-03-26 15:52:18
801
原创 python深度学习--Keras函数式API（多输入，多输出，类图模型）
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesplt.rcParams['font.sans-serif'] = ['SimHei'] #指定默认字体plt.rcParams['axes.unic...
2019-03-26 15:23:12
3043
原创 python深度学习--检查和监控模型（使用Keras回调函数和TensorBoard）
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-26 15:19:39
1259
原创 python深度学习--提升模型性能
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-26 15:11:35
947
原创 聚类算法之K-Means 和DBSCAN python实现
这里均采用欧氏距离实现#实践中，几种相似度计算的比较的重要性往往高于聚类算法本身class KMEANS(object): def __init__(self,n,clusters,data): self.results=None#分类结果 self.n=n self.mse=np.zeros(shape=(self.n,))#每...
2019-03-20 16:44:40
1340
原创 python深度学习--一维cnn处理序列
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.model...
2019-03-20 16:37:55
13272
16
原创 python深度学习--jena温度预测
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-19 20:38:39
5268
原创 python深度学习--RNN
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-19 20:32:58
504
原创 python深度学习--处理文本数据（one-hot; word Embedding)
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-12 21:10:27
4039
原创 python深度学习--卷积神经网络可视化
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-11 20:54:19
1534
1
原创 python深度学习--预训练网络：特征提取和模型微调（接dogs_vs_cats）
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylab,osfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.ut...
2019-03-10 13:51:55
4278
原创 python深度学习--dogs_vs_cat小量数据集训练
首先注册kaggle并下载dogs-vs-cats数据集大概800M【最好使用科学上网，速度较快】，将其解压到指定路径（注意要逐层解压至文件夹形式）#os.mkdir()为创建文件夹【执行一次后应当将其注释掉只留后面可能用到的一些路径配置】import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimp...
2019-03-09 19:16:21
1422
原创 最大熵模型
七月在线机器学习笔记#熵如果一个随机变量x的可能取值为X={x1, x2,…, xk}。要用n位y: y1y2…yn表示(每位y 有c种取值)n的期望值至少为：一般地。我们令c为2(二进制表示)，于是， X的信息量为将P(x=xi)写成普适公式即得研究函数f(x)=xlnx,x=[0,1]f'(x)=lnx + 1f''(x)=1/x [x>0，凸函数]...
2019-03-09 14:00:27
628
原创 梯度下降（学习率优化，以F(w)=w^4为例）和拟牛顿
'''学习率α如何确定 使用固定学习率还是变化学习率? 学习率设置多大比较好?下降方向 处理梯度方向，其他方向是否可以？ 可行方向和梯度方向有何关系？'''#----------------------------------------------#固定学习率的梯度下降:以h_w=w^4为例def fix_xr(): w0=1.5...
2019-03-07 12:52:42
578
原创 python深度学习--卷积神经网络（mnist）
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-05 14:56:23
1027
原创 python深度学习--波士顿房价回归预测
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesfrom keras import models, layers, optimizers, losses, metricsfrom keras.utils...
2019-03-05 14:47:28
5635
原创 python深度学习---路透社多分类
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Series#路透社数据集#多分类问题from keras.datasets import reuters(train_data, train_labels)...
2019-03-05 14:46:06
660
原创 python深度学习---电影评论二分类
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Series#本节使用 IMDB 数据集，它包含来自互联网电影数据库（IMDB）的 50 000 条严重两极分化的评论。数据集被分为用于训练的 25 000 条评论与...
2019-03-05 14:44:43
957
原创 python深度学习--概念
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport pylabfrom pandas import DataFrame, Seriesdef load_mnist(path='mnist.npz'): f = np.load(path) x_train, y_train =...
2019-03-05 14:42:23
701
原创 docker 安装hadoop2.8.5和spark2.4.0
win7 + docker+ubuntu+java-1.8+hadoop-2.8.5+spark-2.4.0win7系统下，docker的安装，本人是利用Docker Toolbox进行安装参考博客：https://blog.csdn.net/xiangxiezhuren/article/details/79698913下载地址https://docs.docker.com/toolb...
2019-02-19 21:09:24
925
2
原创 Orange数据挖掘工具介绍
Orange3 使用一、Orange3数据挖掘工具的介绍 官方网址：https://orange.biolab.si/ 正如首页介绍的那样：它是一个面向新手和专家的开源的机器学习和数据可视化工具，带有很多用于数据挖掘或机器学习模型的交互式数据分析工作流程；另外，它绑定了Python语言进行脚本开发。包含一系列数据挖掘流程的组件，比如数据预处理，建模，模型评估以及可视化...
2018-12-12 16:56:50
30236
3
原创 核密度估计
---PRML假设观测服从D维空间的某个未知的概率密度分布p(x)。我们把这个D维空间选择成欧⼏⾥得空间，并且我们想估计p(x)的值。根据我们之前对于局部性的讨论，让我们考虑包 含x的某个⼩区域R。这个区域的概率质量为现在假设收集了服从p(x)的N次观测。由于每个数据点都有一个落在区域R中的概率P，显然位于区域R内部的数据点的总数K将服从二项分布根据二项分布的期望[ E(x)...
2018-12-05 21:36:56
4946
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人