自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(26)
  • 收藏
  • 关注

原创 requests httpclients使用json传递多层参数爬取数据

测试爬取广州工程行业评分数据,参数如下图。是两层的,如果用普通的键值对方式传参。会报“参数不符合规范,不能进行查询”错误。需要将参数先转成json再传递。

2022-06-16 14:48:38 424 1

原创 jenkins pipeline slave部署nacos负载均衡平滑升级

1、背景公司有一个项目使用nacos作为服务注册和配置中心。老板希望项目更新升级过程尽量不影响用户使用,特申请一台服务器作负载均衡服务。服务器部署内容172.16.0.14nginx、nacos、mysql、项目服务172.16.0.13jenkins、项目服务一共就两台服务器资源有限且项目的服务较多,本次没有搭建harbor做镜像仓库。172.16.0.14作为jenkins slave执行代码获取、项目构建、部署。2、jenkins配置jenkin安装不作介绍

2021-11-19 17:07:19 2121

原创 ingress实现外部访问k8s

IngressKubernetes 暴露服务的方式目前只有三种:LoadBlancer Service、NodePort Service、Ingress。Ingress 可以提供负载均衡、SSL 和基于名称的虚拟托管。Ingress 是什么?Ingress 公开了从集群外部到集群内服务的 HTTP 和 HTTPS 路由。 流量路由由 Ingress 资源上定义的规则控制。下面是一个将所有流量都发送到同一 Service 的简单 Ingress 示例:可以将 Ingress 配置为服务提供外部可

2021-04-22 17:00:16 2958

原创 jenkins pipeline harbor docker ansible-playbook部署maven项目实战

1、目标通过jenkins pipeline部署maven项目,其中项目打包成docker镜像,镜像存储在harbor中。通过ansible-playbook在项目主机运行新构建镜像。此处不再描述jenkins pipeline部分,主要写ansible-playbook部分。[jenkins pipeline harbor docker ansible部署maven项目](https://blog.csdn.net/lsnow8624/article/details/114693817)详见上一篇博

2021-03-18 17:39:09 834

原创 jenkins pipeline harbor docker ansible部署maven项目

1 目标通过jenkins pipeline部署maven项目,其中项目打包成docker镜像,镜像存储在harbor中。部署jenkins 参考:https://blog.csdn.net/lsnow8624/article/details/113740989docker构建java项目参考:https://blog.csdn.net/lsnow8624/article/details/113341559安装harbor参考:https://blog.csdn.net/lsnow8624/arti

2021-03-12 14:34:51 1035 5

原创 docker方式部署jenkins

获取镜像在docker hub(https://hub.docker.com/)上搜索jenkins![在这里插入图片描述](https://img-blog.csdnimg.cn/20210207144751303.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xzbm93ODYyNA==,size_16,color_FFFFFF,t_70

2021-02-07 14:49:23 313

原创 centos7 docker构建java项目

1、背景基于docker构建helloworld镜像,学习如何用docke构建java镜像2、准备工作docker安装部分此处略,可以参考:https://blog.csdn.net/lsnow8624/article/details/1132487982.1、安装javaa、下载jdk1.8b、解压jdk,将积压后的文件夹移动到/usr/local[root@localhost docker]# unzip jdk-8u212-linux-x64.tar.gz[root@localhos

2021-02-02 14:27:06 205

原创 centos7 安装docker harbor

目标安装harbor 作为docker的镜像仓库。由于之前安装了k8s,安装的docker版本较低,新版的harbor要求较新版本的docker。故先升级安装docker再安装harbordocker 升级安装参考:https://www.cnblogs.com/wangzy-tongq/p/13273122.html1 、停止docker服务systemctl stop docker2、卸载旧版本dockeryum remove docker docker-client docker-

2021-01-27 15:32:25 531

原创 selenium 爬虫项目实例 爬取社保五险

1、背景受疫情影响,2020年国家为缓解企业困难,进行社保补贴。中间社保费用多次变化。用selenium做了爬取社保的小项目。其中登录需要输入图片验证码,使用百度云的OCR识别功能接口2、百度云OCR设别百度云注册后通过身份识别可以开启“通用OCR识别”功能,每天免费5万次。虽然识别率低,勉强能用import timefrom aip import AipOcrAPP_ID = '你的app_id' # 修改成你的app_idAPI_KEY = '你的api_key' # 修改成你的a

2020-08-20 10:59:22 1082

原创 requests爬虫实例 多页爬取房源信息

1、 背景本实例爬取小猪网沈阳房源信息,使用request、bs4。简单爬取title、address、price、name、sex等信息。未保存信息。未使用爬虫框架。2、场景分析2.1 小猪网沈阳(https://sy.xiaozhu.com/)打开后有一个房源列表右侧为房源图表列表2.2 房源列表分析a、使用chrome浏览器b、F12进行源文件分析c、鼠标点源文件左上角的“箭头”,再点任一房源位置d、找到源代码中的房源a链接部分,右键a链接后“copy”->“copy

2020-08-13 16:37:02 1049

原创 jmeter测试项目实例

1、背景现在在一家小公司,人少没有专门的测试。开始的时候用阿里云的性能测试服务,做过重点的性能测试。老板不愿意出钱搞测试,购买的低配版服务能测试内容比较少。前端时间同时大批量用户同时做一个业务,中间约1分30秒系统资源访问出现瓶颈,尴尬。最近抽空用jmeter做了一个压测场景。2、jmeter体系结构如下图,jmeter体系结构包括:a、前置处理处理器,初始化参数等b、采样器,压测处理过程,其中断言可以分析请求处理结果c、监听器,压测结果分析3、jmeter压测实例本次压测实例包括登

2020-07-30 16:45:40 3261

翻译 kaggle 房价预测

背景Kaggle的房价预测竞赛目前已有4000多人参与比赛,基于给出的80个特征,对房屋的售价进行了的预测。这里基于目前得票数最高的优胜方案:《用Python进行全面数据探索》,该方案在数据探索,特征工程上都有十分出色的表现。作者Pedro Marcelino 在竞赛中使用的主要方法是关注数据科学处理方法,以及寻找能够指导工作的有力文献资料。作者主要参考《多元数据分析》(‘Multivaria...

2019-08-13 20:44:02 434

原创 吴恩达机器学习 EX8 第二部分 推荐系统 协同过滤

2、推荐系统在第一部分练习,实现协同过滤学习算法,并将其应用于电影评级数据集。这个数据集由1到5的等级组成。数据集有nu = 943个用户,nm = 1682个电影在第二部分练习中,计算协同适配目标函数和梯度。在实现了成本函数和梯度之后,学习用于协同过滤的参数2.1 导入模块和数据导入模块import matplotlib.pyplot as pltimport numpy as np...

2019-04-26 11:50:10 569 1

原创 吴恩达机器学习 EX8 第一部分 异常检测

1、异常检测异常检测属于无监督算法,根据阀值计算数据是否异常1.1 作业介绍在本练习中,将实现一个异常检测算法来检测服务器计算机中的异常行为。这些特性度量每个服务器的吞吐量(mb/s)和响应延迟(ms)。在您的服务器运行时,您收集了m = 307个关于它们行为的示例,因此有一个未标记的dataset {x(1),…,x(m)}。您怀疑这些示例中的绝大多数都是服务器正常运行的“正常”(非异常...

2019-04-24 16:11:13 831

原创 吴恩达机器学习 EX7 第二部分 主成分分析(PCA)

2 主成分分析主成分分析通过协方差矩阵提取数据的主要成分,如90%的成分,通常用户数据压缩和主成分提取2.1 导入模块和数据该部分通过将二维数据压缩成一维数据演示主成分分析使用方法导入模块和数据import matplotlib.pyplot as pltimport numpy as npimport scipy.io as sciofrom mpl_toolkits.mplot...

2019-04-24 10:21:23 1066

原创 吴恩达机器学习 EX7 作业 第一部分 K均值聚类

1、k均值聚类聚类算法k均值聚类算法无监督算法,k均值聚类的训练集是无标签的(有X,没有y)。根据需要将训练集分类,得出分类算法。如市场细分、用户分群等1.1、 作业介绍在本练习中,将实现K-means算法并将其用于图像压缩。首先从一个示例2D数据集开始,该数据集将帮助您直观了解K-means算法的工作原理。在此之后,您将使用K-means算法对图像进行压缩,方法是将图像中出现的颜色数量减少...

2019-04-23 17:35:08 1007

原创 吴恩达机器学习 EX6 第二部分 支持向量机 垃圾邮件分类

2 垃圾邮件分类如今,许多电子邮件服务提供垃圾邮件过滤器,能够将电子邮件精确地分类为垃圾邮件和非垃圾邮件。在本部分练习中,您将使用SVMs构建自己的垃圾邮件过滤器。2.1导入模块加载模块import matplotlib.pyplot as pltimport numpy as npimport scipy.io as sciofrom sklearn import svmimp...

2019-04-10 17:11:24 2444

原创 吴恩达机器学习 EX6 作业 第一部分 了解支持向量机 高斯核函数

1、支持向量机支持向量机比较复杂,看了好多遍讲义对深入原理还不是很理解。想深入研究的可以看支持向量机通俗导论(理解SVM的三层境界)1.1 作业介绍在本练习的前半部分,您将使用支持向量机。各种示例2D数据集。使用这些数据集进行实验将帮助您直观地了解支持向量机如何工作,以及如何使用支持向量机的高斯内核。1.2 导入模块和数据导入模块import matplotlib.pyplot as ...

2019-04-09 17:21:48 1400

原创 吴恩达机器学习 EX5 作业 正则化线性回归 偏差 VS 方差 学习曲线

1、偏差、方差、学习曲线1.1 偏差、方差从下图可以看出a、线性回归存在欠拟合,高偏差问题,如左图b、多项式或者很多特征存在过拟合、高方差问题,如右图训练集误差和交叉验证集误差近似时:偏差/欠拟合交叉验证集误差远大于训练集误差时:方差/过拟合1.2 正则化和方差、偏差和多项式模型次数问题类似当lambda很大时,高偏差/欠拟合,如左图当lambda很小时,高方差/过拟合,如...

2019-03-27 12:55:52 844 3

原创 吴恩达机器学习 EX4 作业 神经网络反向传播 手写数字

1、神经网络神经网络通过前向传播计算输出层的隐藏层的误差,反向传播计算前一层的误差及代价函数的偏导数,反向更新各层参数theta2、作业介绍在前面的练习中,您实现了神经网络的前馈传播,并使用我们提供的权值来预测手写数字。在本练习中,您将实现反向传播算法来学习神经网络的参数3、导入模块和数据导入模块import matplotlib.pyplot as pltimport numpy ...

2019-03-26 15:21:44 1911

原创 吴恩达机器学习 EX3 作业 第二部分神经网络 前向传播 手写数字

2 神经网络前向传播神经网络是一种很古老的算法,它最初产生的目的是制造能模拟大脑的机器。20世纪八九十年代比较火,后来支持向量机更好的表现逐渐减少。21世纪第一个十年后期,由于计算机处理能力的显著提高,神经网络又活起来。科学家希望模拟人的大脑,不同的接收器官(比如眼睛、鼻子、耳朵),经过多个不同神经元处理,形成最终的信息。神经网络包含:一个输入层、一个输出层、多个隐藏层如下图3层神经网络...

2019-03-23 16:36:03 770

原创 吴恩达机器学习 EX3 作业 第一部分多分类逻辑回归 手写数字

1 多分类逻辑回归逻辑回归主要用于分类,也可用于one-vs-all分类。如本练习中的数字分类,输入一个训练样本,输出结果可能为0-9共10个数字中的一个数字。一对多分类训练过程使用“一对余”方法,如训练一个样本,判断是否为1时。1是正类,其余数字均为负类。1.1 导入模块和数据import matplotlib.pyplot as pltimport numpy as npimport...

2019-03-22 17:50:06 976

原创 吴恩达机器学习 EX2 作业 第二部分正则化逻辑回归

2 正则化逻辑回归正则化主要是解决过拟合问题,线性回归和逻辑回归均可以试用正则化处理解决过拟合问题。当训练算法在训练集表现较好,测试集上表现较差时,可能发生过拟合问题。通过合适的正则化参数lambda解决过拟合问题2.1 作业介绍在练习的这一部分中,您将实现规范化的逻辑回归,以预测来自制造工厂的微芯片是否通过了质量保证(QA)。在QA过程中,每个芯片都要经过各种测试,以确保其正常工作。假设...

2019-03-20 17:07:45 1622

原创 吴恩达机器学习 EX2 作业 第一部分逻辑回归

1 逻辑回归逻辑回归算法是用于预测分类的有监督算法,预测结果的正确或错误分类1.1 作业介绍在本部分练习中,您将构建一个逻辑回归模型来预测学生是否被大学录取假设您是一个大学院系的管理员,希望根据两次考试的结果确定每个申请人的入学机会。您可以使用以前申请者的历史数据作为逻辑回归的训练集。对于每个培训示例,您都有申请人在两次考试中的分数和录取决定。你的任务是建立一个分类模型,根据这两次考试的...

2019-03-20 15:23:35 934

原创 吴恩达机器学习 EX1 作业 第二部分多变量线性回归

2多变量线性回归2.1作业介绍在本部分中,您将使用多个变量实现线性回归来预测房价。假设你在卖房子,你想知道一个好的市场价格是多少。其中一种方法是首先收集最近售出房屋的信息,并建立一个房价模型。文件ex1data2.txt(数据集请到网上自行下载)包含俄勒冈州波特兰市的房价训练集。第一栏是房子的大小(以平方英尺为单位),第二栏是卧室的数量,第三栏是房子的价格2.2 导入模块import m...

2019-03-19 15:23:18 2091

原创 吴恩达机器学习 EX1 作业 第一部分单变量线性回归

1、单变量线性回归1.1作业介绍在本练习中,您将使用一个变量实现线性回归来预测一辆食品卡车的利润。假设你是一家连锁餐厅的首席执行官,正在考虑在不同的城市开设一家新餐厅。这个连锁店已经在各个城市有了卡车,你可以得到城市的利润和人口数据。1.2 导入模块import matplotlib.pyplot as pltimport numpy as npfrom matplotlib.colo...

2019-03-19 14:38:46 1958 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除