自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

全栈工程师开发手册(原创)https://github.com/tencentmusic/cube-studio

https://github.com/tencentmusic/cube-studio,邮箱[email protected],微信号luanpeng1234。涉及前端,后端,python,c++,java,js,c#,安卓,架构师,爬虫,数据分析,数据开发

  • 博客(800)
  • 资源 (9)
  • 收藏
  • 关注

原创 jenkins使用入门(邮件、ssh、git、SonarQube、pipline)

jenkins部署可以参考:https://blog.csdn.net/luanpeng825485697/article/details/82945004进入jenkins主页登录以后新建任务选择构建一个自由风格的软件项目ssh插件点击-系统管理-系统插件-可选插件中 直接搜 publish over ssh 点击安装,安装完之后,重启jenkins配置ssh1,系统管理->系...

2018-10-15 19:22:36 2906

转载 将Python脚本打包成可执行文件

Python是一个脚本语言,被解释器解释执行。它的发布方式:.py文件:对于开源项目或者源码没那么重要的,直接提供源码,需要使用者自行安装Python并且安装依赖的各种库。(Python官方的各种安装包就是这样做的).pyc文件:有些公司或个人因为机密或者各种原因,不愿意源码被运行者看到,可以使用pyc文件发布,pyc文件是Python解释器可以识别的二进制码,故发布后也是跨平台的,需...

2018-10-13 18:21:27 1376

转载 Docker容器内不能联网的6种解决方案

Docker容器内不能联网的6种解决方案注:下面的方法是在容器内能ping通公网IP的解决方案,如果连公网IP都ping不通,那主机可能也上不了网(尝试ping 8.8.8.8)1.使用–net:host选项sudo docker run --net:host --name ubuntu_bash -i -t ubuntu:latest /bin/bash2.使用–dns选项sudo d...

2018-10-11 20:41:55 13174 1

转载 Git使用-.gitignore文件(使一些文件不上传到git)

一般我们总会有些文件无需纳入 Git 的管理,也不希望它们总出现在未跟踪文件列表。通常都是些自动生成的文件,比如日志文件,或者编译过程中创建的临时文件等。我们可以创建一个名为 .gitignore 的文件,列出要忽略的文件模式。下面介绍怎么创建这种文件,先打开终端然后在终端输入以下命令:cd desktop ///切换到桌面touch .gitignore ///创建.gitignor...

2018-10-11 13:04:05 2797

原创 有状态容器实践:k8s集成ceph分布式存储

ubuntu安装ceph# wget -q -O- 'https://download.ceph.com/keys/release.asc' | sudo apt-key add -# echo deb https://download.ceph.com/debian-jewel/ $(lsb_release -sc) main | sudo tee /etc/apt/sources.lis...

2018-10-10 18:08:06 3006

转载 linux-网络数据包抓取-tcpdump

用法格式:tcpdump [-i 网卡] [选项] ‘表达式’选项说明如下:-i:interface 监听的网卡。-nn:表示以ip和port的方式显示来源主机和目的主机,而不是用主机名和服务。-A:以ascii的方式显示数据包,抓取web数据时很有用。-X:数据包将会以16进制和ascii的方式显示。表达式:表达式有很多种,常见的有:host 主机;port 端口;src h...

2018-10-10 09:20:29 2163

原创 jenkins简介及docker部署

一、相关概念1.1 Jenkins概念:Jenkins是一个功能强大的应用程序,允许持续集成和持续交付项目,无论用的是什么平台。这是一个免费的源代码,可以处理任何类型的构建或持续集成。集成Jenkins可以用于一些测试和部署技术。Jenkins是一种软件允许持续集成。1.2 Jenkins目的:1、持续、自动地构建/测试软件项目。2、监控软件开放流程,快速问题定位及处理,提示开放效率。...

2018-10-05 16:24:05 3291

原创 docker 部署Gitlab

docker部署gitlabdocker run --detach --publish 10443:443 --publish 11110:80 --publish 10022:22 --name gitlab --restart always --volume /srv/gitlab/config:/etc/gitlab --volume /srv/gitlab/logs:/var/log/...

2018-10-05 15:21:17 5331 1

原创 Python 并行分布式框架 Celery

在学习Celery之前,我先简单的去了解了一下什么是生产者消费者模式。生产者消费者模式在实际的软件开发过程中,经常会碰到如下场景:某个模块负责产生数据,这些数据由另一个模块来负责处理(此处的模块是广义的,可以是类、函数、线程、进程等)。产生数据的模块,就形象地称为生产者;而处理数据的模块,就称为消费者。单单抽象出生产者和消费者,还够不上是生产者消费者模式。该模式还需要有一个缓冲区处于生产者和...

2018-09-24 22:47:16 11098 2

原创 python文件夹,文件监听工具(pyinotify,watchdog)

watchdog库

2018-09-24 09:37:58 10780 1

转载 swagger入门和实践(含docker部署swagger)

简介Swagger 是最流行的 API 开发工具,它遵循 OpenAPI Specification(OpenAPI 规范,也简称 OAS)。Swagger 可以贯穿于整个 API 生态,如 API 的设计、编写 API 文档、测试和部署。Swagger 是一种通用的,和编程语言无关的 API 描述规范。应用场景如果你的 RESTful API 接口都开发完成了,你可以用 Swagg...

2018-09-23 23:06:49 21411 2

原创 ubuntu启动配置ftp服务端

修改vsftpd的默认根目录 做实验时有时需要将FTP服务器vsftpd的默认根目录(/var/ftp/pub)修改成指定的其他目录,比如/media/ftp/pub/ 修改vsftpd的配置文件/etc/vsftpd/vsftpd.conf,添加下面三行 local_root=/media/ftp/pub chroot_local_user=YES anon_root=/var...

2018-09-20 15:09:42 3964

原创 使用Python编写Prometheus监控metrics接口

使用Python和Flask编写Prometheus监控Installationpip install flaskpip install prometheus_clientMetricsPrometheus提供4种类型Metrics:Counter, Gauge, Summary和HistogramCounterCounter可以增长,并且在程序重启的时候...

2018-09-17 09:19:16 23059 5

转载 prometheus之记录规则(recording rules)与告警规则(alerting rule)

Prometheus支持两种类型的规则:记录规则和警报规则。 要在Prometheus中包含规则,请创建一个包含必要规则语句的文件,并让Prometheus通过Prometheus配置中的rule_files字段加载规则文件。 通过将SIGHUP发送到Prometheus进程,可以在运行时重新加载规则文件。 这些更改仅适用于所有规则文件格式良好的情况。语法检查规则 要在不启动Promet...

2018-09-16 22:45:20 8554

原创 使用docker run的选项以覆盖Dockerfile中的设置详解

通常,我们首先定义Dockerfile文件,然后通过docker build命令构建得到镜像文件。然后,才能够基于镜像文件通过docker run启动一个容器的实例。那么在启动一个容器的时候,就可以改变镜像文件中的一些参数,而镜像文件中的这些参数往往是通过Dockerfile文件定义的。但并非Dockerfile文件中的所有定义都可以在启动容器的时候被重新定义。docker run不能覆盖...

2018-09-16 17:56:32 10703

原创 mqtt安装使用教程。(基于rabbitmq插件,docker部署,k8s部署,python教程)

Docker安装RabbitMQ配置MQTT使用RabbitMQ作为MQTT服务端,Eclipse Paho作为客户端。宿主机系统为ubuntu16.04Docker下载镜像docker pull daocloud.io/library/rabbitmq:3.7.4启动RabbitMQdocker run -d --hostname my-rabbit --name some-...

2018-09-13 20:16:03 4364

原创 phabricator安装配置和使用(docker安装和独立部署)

我这里使用的是ubuntu16.04的系统使用安装脚本安装创建安装脚本。https://secure.phabricator.com/source/phabricator/browse/master/scripts/install/install_ubuntu.sh将网址中的脚本文件下载下来,或者直接在本地创建一个sh文件,将网页上的sh代码复制下来。形成本地的安装脚本instal...

2018-09-09 16:08:59 6427

转载 Supervisor安装与配置(Linux/Unix进程管理工具)

Supervisor(http://supervisord.org/)是用Python开发的一个client/server服务,是Linux/Unix系统下的一个进程管理工具,不支持Windows系统。它可以很方便的监听、启动、停止、重启一个或多个进程。用Supervisor管理的进程,当一个进程意外被杀死,supervisort监听到进程死后,会自动将它重新拉起,很方便的做到进程自动恢复的功能,...

2018-09-03 15:30:11 1376

原创 Prometheus 原理和实践,含docker部署Prometheus、node Exporters、Alertmanager、Push Gateway、grafana

/usr/bin/python /home/lp/python/crawlapp/csdn-html-markdown.pyPrometheus 入门与实践吴 莉, 殷 一鸣, 和 蔡 林 2018 年 5 月 30 日发布随着容器技术的迅速发展,Kubernetes 已然成为大家追捧的容器集群管理系统。Prometheus 作为生态圈 Cloud Native ...

2018-09-02 19:27:02 13576 1

转载 helm的简介

Helm Chart 结构Chart 目录结构examples/ Chart.yaml # Yaml文件,用于描述Chart的基本信息,包括名称版本等 LICENSE # [可选] 协议 README.md # [可选] 当前Chart的介绍 values.yaml # Chart的默认配...

2018-08-30 11:53:10 6470

转载 python操作rabbitmq操作数据

一、RabbitMQ 消息队列介绍RabbitMQ也是消息队列,那RabbitMQ和之前python的Queue有什么区别么?py 消息队列: 线程 queue(同一进程下线程之间进行交互) 进程 Queue(父子进程进行交互 或者 同属于同一进程下的多个子进程进行交互)123如果是两个完全独立的python程序,也是不能用上面两个queue进行交互的,或者和其他语言交...

2018-08-27 14:55:13 6344

原创 docker 部署rabbitmq,k8s部署rabbitmq集群,跟踪和监控rabbitmq

docker部署rabbit在docker环境部署RabbitMQRabbitMQ是用 Erlang 编写的,直接部署的话需要先部署 Erlang 环境,比较麻烦。在 docker 环境下部署就比较简单了,直接使用rabbitmq官方提供的镜像即可。登录 docker 节点,运行docker pull rabbitmq:management这里使用的是带 web 管理插件的...

2018-08-26 20:36:43 10297

转载 Rabbitmq基本原理和架构

MQ全称为Message Queue, 是一种分布式应用程序的的通信方法,它是消费-生产者模型的一个典型的代表,producer往消息队列中不断写入消息,而另一端consumer则可以读取或者订阅队列中的消息。RabbitMQ是MQ产品的典型代表,是一款基于AMQP协议可复用的企业消息系统。业务上,可以实现服务提供者和消费者之间的数据解耦,提供高可用性的消息传输机制,在实际生产中应用相当广泛。本文...

2018-08-26 17:57:28 9571 1

原创 hdfs+zookeeper+hbase分布式在k8s中部署(本文已过期)

hadoop+hbase+spark在k8s中部署

2018-08-26 14:16:28 10213 4

原创 docker部署kafka,k8s(helm)部署kafka

我们在k8s上部署kafka,接收kafka生产者的数据,并将信息分发到消费者kafka的基础知识参考:https://blog.csdn.net/luanpeng825485697/article/details/81036028docker部署kafka同之前一样,我们现在docker部署一遍试试坑拉取镜像zookeeper和kafka的镜像docker pull wu...

2018-08-24 10:04:24 10105 3

转载 Kubernetes 详解

Kubernetes主要由以下几个核心组件组成:etcd保存了整个集群的状态; apiserver提供了资源操作的唯一入口,并提供认证、授权、访问控制、API注册和发现等机制; controller manager负责维护集群的状态,比如故障检测、自动扩展、滚动更新等; scheduler负责资源的调度,按照预定的调度策略将Pod调度到相应的机器上; kubelet负责维持容器的生命周...

2018-08-23 12:09:18 3240

原创 kubernetes存储系统介绍(Volume、PV、dynamic provisioning,阿里云服务器nfs创建pv,hostpath创建pv)

在K8S运行的服务,从简单到复杂可以分成三类:无状态服务、普通有状态服务和有状态集群服务。下面分别来看K8S是如何运行这三类服务的。无状态服务K8S使用RC(或更新的Replica Set)来保证一个服务的实例数量,如果说某个Pod实例由于某种原因Crash了,RC会立刻用这个Pod的模版新启一个Pod来替代它,由于是无状态的服务,新启的Pod与原来健康状态下的Pod一模一样。在Pod...

2018-08-18 09:33:23 3174 1

原创 kubernetes中port、target port、node port的对比分析,以及kube-proxy代理

在学习前要知道一个服务下可能有多个pod,每个pod可能在不同的主机上。一个主机可能有多个服务。而每个container又几乎模拟的是一个主机。所以不是只有主机才有ip和端口号。容器网络实例服务中的3个端口设置这几个port的概念很容易混淆,比如创建如下service:apiVersion: v1kind: Servicemetadata: labels: ...

2018-08-15 09:55:07 1931

原创 通过helm在k8s上部署spark(伪集群版)

首先要求你的k8s支持helm。阿里云自带的k8s已经包含了对helm的支持。关于服务器k8s的部分这里不讨论,我们考论如何用一个已经好的k8s来进行部署spark。安装配置 kubectl 和 Helm CLI在本地计算机上安装和配置 kubectl。参见https://blog.csdn.net/luanpeng825485697/article/details/80862581文...

2018-08-11 16:28:24 5342

原创 c++通过pybind11制作模型python接口,生成python调用包

pybind11

2018-08-09 18:08:24 7246

原创 python后台——asyncio,多进程+asyncio

今天我们来学习下异步io的服务器处理。

2018-08-07 21:02:26 21861 4

转载 ubuntu下vim配置成c++开发编辑器

整体的vim的设置是在 /etc/vim/vimrc 文件中。如果想设置所有用户的配置,在里面设置就可以了,配置和.vimrc是一样的,在最后面添加下面2中的语句。不建议修改/etc/vimrc 文件,每个用户可以在用户根目录中设置vim,新建.vimrc。命令如下:vim ~/.vimrc在终端下使用vim进行编辑时,默认情况下,编辑的界面上是没有显示行号、语法高亮度显示、智能缩...

2018-08-06 12:48:32 6921

原创 git原理和常用操作

对于gitlab来说,注册需要翻墙,而登录不需要。git安装配置可以参考,在这篇文章中写过 https://blog.csdn.net/luanpeng825485697/article/details/80875860文章中包含了本机安装git,和ssh key的配置git上传文件夹到远程仓库(1)首先进入目标文件夹:比如我的项目都在一个/home/lp/pyt...

2018-08-03 22:43:56 3350

原创 将应用制作成镜像发布到服务器k8s上作为容器微服务运行。

首先我们需要在本地docker中调试运行一遍,再发布到k8s上去将应用制作成镜像将应用制作成docker镜像,需要我们编写dockerfile文件.可以参考https://blog.csdn.net/luanpeng825485697/article/details/80921390编写好dockerfile以后,我们将应用制作成镜像docker build -t imag...

2018-08-03 22:38:09 20621

转载 Kubernetes部分Volume类型介绍及yaml示例

1、EmptyDir(本地数据卷)EmptyDir类型的volume创建于pod被调度到某个宿主机上的时候,而同一个pod内的容器都能读写EmptyDir中的同一个文件。一旦这个pod离开了这个宿主机,EmptyDirr中的数据就会被永久删除。所以目前EmptyDir类型的volume主要用作临时空间,比如Web服务器写日志或者tmp文件需要的临时目录。    yaml示例如下:[ro...

2018-07-28 16:35:52 4393

转载 cmake教程

./test1 face.jpg frozen_graph.pb input MobilenetV1/Predictions/Reshape_1实例:先制作makefile文件 以便以后运行CMakeLists.txt文件内容如下:cmake_minimum_required(VERSION 3.10)project(cpptensorflow)set(CMAKE_CXX...

2018-07-27 08:53:10 9715

转载 ubuntu16.04安装使用redis入门教程

环境 Ubuntu 16.04安装Redis服务器端 ~ sudo apt-get install redis-server 安装完成后,Redis服务器会自动启动,我们检查Redis服务器程序检查Redis服务器系统进程 ~ ps -aux|grep redis redis 4162 0.1 0.0 10676 1420 ? Ss 23:24 ...

2018-07-27 08:52:28 4031

原创 docker安装常用组件(mysql,redis,postgres,rancher,Portainer,蝉道,JIRA,sonarqube,Confluence,pgadmin4,harbor)

docker安装mysqldocker search mysql 搜索docker pull mysql:5.6 下载docker images |grep mysql 查看docker run -p 3306:3306 --name mysql_docker -v $PWD/conf:/etc/mysql/conf.d -v $PWD/logs:/log...

2018-07-27 08:47:00 5009

转载 tensorflow c++接口,python训练模型,c++调用

调用tensorflow c++接口,首先要编译tensorflow,要装bazel,要装protobuf,要装Eigen,整体过程还是比较麻烦,bazel安装过程就不说了,下面慢慢来说明下安装步骤。Eigen(矩阵库下载):wget http://bitbucket.org/eigen/eigen/get/3.3.4.tar.bz2下载之后解压放在重新命名为eigen3,我存...

2018-07-24 14:50:55 9468 5

转载 ubuntu安装opencv的c++开发环境

为了搭建opencv3,看了各种教程,装了卸,卸了装,多次失败后,在几篇文档的借鉴下,终于是成功搭建了环境。首先,更新ubuntu上的一些库:sudo apt-get updatesudo apt-get upgrade其次,需要安装一些搭建opencv3的库(要在opencv3搭建前安装好)具体需要的库如下:sudo apt-get install cmakes...

2018-07-24 12:57:56 22883 4

simplemaps_worldcities_basicv1.6.zip

包含全球城市的坐标和名称信息。包含city city_ascii lat lng country iso2 iso3 admin_name capital population id,可以从https://simplemaps.com/data/world-cities上下载,如果打不开网页吗,可以从这里下载

2020-02-15

网址信息,地址定位

根据网址信息,可以方便的知道网址的现实地址,对查找对方地址有很大帮助

2014-04-03

网页数据整合

提取网页中的元素存到xls中去,根据网页源代码快速提取,整合,对于不能直接导出xls的网页,是很好的选择

2014-04-03

win下捕获分析数据帧

sharpcap捕获分析数据帧,类似于sniffer的功能,自动分析出目的MAC地址,源MAC地址,目的IP地址,源IP地址,和网络层,传输层数据

2014-04-03

c#实现简单图像处理

c#实现简单的图片处理,包含屏幕截图,区域找图,图层处理,图片裁剪,图片预览,图片处理,拖拽图片

2014-04-03

c#实现实时显示cmd操作

c#实现实时显示cmd操作,也可以操作cmd命令,实现简介操作,自己可以任意添加命令

2014-04-03

linux下捕获数据包libpcap所需安装包

linux下捕获数据包libpcap的安装,包含bison-3.0.tar.gz,flex-2.5.37.tar.gz,libpcap-1.5.3.tar.gz,m4-1.4.13.tar.gz

2014-04-03

图标制作替换软件合计

图标制作替换软件合计,内置5个软件,总有一个适合你。给自己的软件配上图标

2014-04-03

举办活动精美ppt模板

比赛时拷贝别人的,绝对精美,里面有好多动画,基本任何活动换图片就可以了

2011-08-23

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除