自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

TURING.DT

科技改变世界,技术改变人生。

  • 博客(9)
  • 资源 (3)
  • 收藏
  • 关注

原创 linux内核参数优化

linux内核参数优化主要针对/etc/sysctl.conf文件 /etc/sysctl.conf是一个允许你改变正在运行中的Linux系统的接口。它包含一些TCP/IP堆栈和虚拟内存系统的高级选项,可用来控制Linux网络配置,由于/proc/sys/net目录内容的临时性,建议把TCPIP参数的修改添加到/etc/sysctl.conf文件, 然后保存文件,使用命令“

2016-12-30 16:43:33 671

原创 hive metastore日志中报错message:Metastore contains multiple versions

hive metastore日志中报错:Exception in thread "main" java.lang.RuntimeException: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient      at o

2016-12-29 15:15:03 2027

原创 redis 参数优化

今天业务部门往codis集群中插入数据,数据量很大几个亿,codis界面看到的Performace:10 OP/s基本为个位数,很慢,后来发现codis proxy的链接数很小,   39 ESTABLISHED不太正常,排查后发现proxy服务器/proc/sys/net/core/somaxconn 对应的值128,我的reids节点都已经设置了,proxy忘记了设置,因为业务访问是链

2016-12-29 15:02:07 345

原创 Linux centOS系统备份还原(dd+rsync方式)

Linux系统备份是非常重要的,尤其是对一些关键的单点业务,下面将说说采用简单的工具进行备份,实用派。一、rsync备份系统rsync -Pa 备份源目录 备份到位置 rsync -Pa / /media/youxia/usb/backup_20141216 --exclude=/media/* --exclude=/sys/* --exclude=/proc/* --exclud

2016-12-23 16:56:52 13788

转载 使用python抓取分析链家网二手房数据

python抓取链家网北京二手房数据,使用requests+BeautifulSoup的方法对页面进行抓取和数据提取。通过使用requests库对链家网二手房列表页进行抓取,通过BeautifulSoup对页面进行解析,并从中获取房源价格,面积,户型和关注度的数据。整体共两个py文件,第一个是获取数据,第二个是处理分析数据一、获取数据并保存为csv文件#!/usr/bin/p

2016-12-23 11:00:33 9391 7

原创 CentOS6安装MySQL HA架构部署(MySQL + Heartbeat + DRBD)

Heartbeat + DRBD安装配置参考:CentOS6安装NFS HA架构部署(NFS + Heartbeat + DRBD)这里只说下mysql的安装方法Mysql的编译安装(默认都是双台配置)这里选取的是mysql-5.6.33进行源码编译安装。yum -y install make gcc-c++ cmake bison bison-devel  ncurses

2016-12-19 17:09:09 516

原创 backtype.storm.event [ERROR] Error when processing event

storm节点supervisor服务异常停止挂了backtype.storm.event [ERROR] Error when processing event报错信息:2016-12-16T03:12:06.109+0800 [Thread-3] backtype.storm.daemon.supervisor [INFO] Downloading code for storm i

2016-12-16 11:10:34 824

原创 CentOS6安装NFS HA架构部署(NFS + Heartbeat + DRBD)

因业务需求,使用NFS共享服务,为了降低硬件故障导致的服务不可用,使用NFS + Heartbeat + DRBD架构实现NFS高可用。一、安装配置drbd1、测试环境:CentOS 6.4主testserver2.bj 10.111.32.51 挂载sdb1  10G备testserver3.bj 10.111.32.52 挂载sdb1  10GHeartbeat虚拟IP

2016-12-14 19:43:16 2536

转载 kafka性能调优

主要优化原理和思路kafka是一个高吞吐量分布式消息系统,并且提供了持久化。其高性能的有两个重要特点:    利用了磁盘连续读写性能远远高于随机读写的特点;    并发,将一个topic拆分多个partition。要充分发挥kafka的性能,就需要满足这两个条件kafka读写的单位是partition,因此,将一个topic拆分为多个partition可以提高吞吐量。但

2016-12-05 11:08:03 3089

Python深度学习(Deep Learning With Python中文版)

本书由Keras之父、现任Google人工智能研究员的弗朗索瓦•肖莱(François Chollet)执笔,详尽介绍了用Python和Keras进行深度学习的探索实践,包括计算机视觉、自然语言处理、产生式模型等应用。书中包含30多个代码示例,步骤讲解详细透彻。由于本书立足于人工智能的可达性和大众化,读者无须具备机器学习相关背景知识即可展开阅读。在学习完本书后,读者将具备搭建自己的深度学习环境、建立图像识别模型、生成图像和文字等能力。

2018-09-29

Spark大数据分析核心概念技术及实践OCR 中文

Spark大数据分析核心概念技术及实践,深度讲解使用spark技术对大数据进行分析,并给出实践案例

2018-09-29

hadoop权威指南第二版中文

hadoop,hadoop权威指南,大数据

2016-04-08

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除