自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(22)
  • 资源 (2)
  • 收藏
  • 关注

原创 公网服务器被AnXqV程序入侵,CPU跑满解决办法

前段时间在阿里云服务器上挂公司网站的时候发现操作很慢,用top命令看了下进程情况。如下图这个进程占了97.6%,而且不是我自己安装的,很明显是病毒。尝试手动查杀后发现过段时间还是会有,肯定是在有定时任务。果然有一个,马上执行crontab -r删除任务,并删除在/tmp目录下的可执行文件然后就可以了。最后吐槽下阿里云的售后,不解释直接让你做快照然

2017-02-07 14:43:26 2705 4

原创 fatal: --author ‘‘ is not ‘Name <email>‘ and matches no existing author

在Idea中使用oschina的码云git仓库进行项目管理,但是在push项目的时候,总是报错找不到用户信息。 报错信息如下: 解决方式: 1.先到码云添加自己的公钥,生成方式点击查看,生成后复制添加到码云中即可。 2.在提交的时候直接输入用户名加邮箱即可成功提交。

2016-08-22 14:02:43 3798 1

原创 ueditor采用Spring MVC的方式整合七牛云实现上传图片、视频、附件等

Dubbo整合Zookeeper和Spring示例程序1.Dubbo架构本篇文章基于dubbox,使用dubbo应该也可以正常运行。我认为想讲清楚一个任何一个技术框架,首先熟悉架构是非常有必要的。这将对对整个架构的理解有非常大的帮助。 我们首先看看Dubbo的架构,这段摘抄自Dubbo官方文档 节点角色说明: Provider: 暴露服务的服务提供方。 Consumer: 调用远程服务的

2016-08-20 13:16:11 6452 8

原创 maven 亲测可用国内镜像 阿里云

maven阿里云中央仓库maven作为一个项目管理工具确实非常好用,但是在国内这个网络条件下实在是让人恼火。之前oschina的中央仓库可用,现在oschina的maven服务器关了,一直没找到国内镜像来替代。今天发现阿里云公开了一个中央仓库,大家可以试试。配置修改maven根目录下的conf文件夹中的setting.xml文件,内容如下: mirrors>

2016-08-12 09:07:44 123964 60

原创 Spring MVC 接收前端传递的表单json字符串

Spring MVC 接收前端传递的表单json字符串初衷在编写页面表单数据较多,并且很多input来自于循环,没有对应的Pojo类与之映射。在这种情况下,如果循环不是太多的话可以自己构建一个Pojo对象,然后使用SpringMVC的form标签进行绑定。但是表单过于复杂后这种方式代码就显得非常臃肿。所以采取在前端页面将表单数据拼接成json字符串,然后传递到controller,

2016-07-28 23:33:00 7860 4

原创 scrapy 写入json文件

pipelines.pyclass GuomeiPipeline(object): def __init__(self): self.file = codecs.open('aa.json', 'w', encoding='utf-8') def process_item(self, item, spider): line = json.

2016-07-12 09:28:33 2430

原创 hive常用命令

set hive.cli.print.header=true;           控制在cli中是否显示表的列名set hive.cli.print.current.db=true;     设置在cli中显示当前数据库名称 在hive cli中执行source 能执行file中的命令 -S 参数能以静默模式运行(只输出结果信息

2016-07-12 09:26:07 283

原创 hadoop2.x日志文件格式说明

hadoop 日志:默认在$HADOOP_HOME/logs.log 后缀:通过log4j记录的,记录大部分应用程序的日志信息.out 后缀:记录标准输出和错误日志,少量记录日志命名规则:【hadoop】-【hadoop】-【namenode】-【hadoop-yarn.dragon.org】.【log】   框架名称        用户

2016-07-12 09:24:43 299

原创 hadoop 2.x 编译

Hadoop 2.x 编译编译前准备 (hadoop_src/BUILDING.txt)Requirements:* Unix System* JDK 1.6+* Maven 3.0 or later   (建议maven 3.0.5)* Findbugs 1.3.9 (if running findbugs)* ProtocolBuffer 2.5.0

2016-07-12 09:23:19 311

原创 datanode集群新加硬盘

将硬盘挂载到指定目录,如/data在hdfs-site.xml中修改  dfs.datanode.data.dir  file://${hadoop.tmp.dir}/dfs/data,/data  Determines where on the local filesystem an DFS data node  should store its bl

2016-07-12 09:20:53 378

原创 通过webdav协议将hdfs挂载到本地

hdfs-webdav能讲hdfs映射为本地文件系统。通过实现webDav Http协议。可以如使用本地文件系统一样使用hdfs。部署过程:(hadoop版本为1.2.1,使用高版本有一些问题)下载war包修改WEB-INF/classes/hadoop-site.xml,修改fs.default.name属性,以确定hdfs-webdav要连接的hadoop namenode ser

2016-07-12 09:19:45 1093

原创 hadoop 2.x 配置

软件的安装目录: /opt/ 安装: 0)说明 0、配置ssh面密码登录       ssh-keygen -t rsa       将公钥拷贝到需要访问的主机上                       ssh-copy-id username@hostname      g      

2016-07-12 09:18:57 288

原创 通过nfs3将hdfs挂载到本地

1.启动hdfs       start-dfs.sh (启动后使用jps查看进程是否启动) 2.执行 hdfs portmap start和 hdfs nfs3 start   使用jps查看portmap和nfs3是否启动 3.执行 mount -t nfs -o vers=3,proto=tcp,nolock 10.211.55.38:/ /hdfs 

2016-07-12 09:18:12 622

原创 docker 共享主机网络

1.停止服务1service docker stop2.关掉docker01ifconfig docker0 down3.删除docker1brctl delbr docker04.增

2016-07-12 09:15:45 703

原创 Docker集群网络部署

编辑/etc/network/interface文件auto br0iface br0 inet staticaddress 192.168.7.31netmask 255.255.240.0gateway 192.168.7.254bridge_ports em1bridge_stp offdns-nameservers 8.8.8.8 192.1

2016-07-12 09:13:56 514

原创 企业级Hadoop部署参数调整

1.节点内核参数调整    – ulimit,/etc/security/limits.conf 设置 nofile  (同时打开文件数量的限制)   – THP (Transparent Huge Page)、ACPI、内存overcommit问题    – 不同功能的节点进行不同设置 • 耗内存?swap?   • 需要高磁盘吞吐?   • CP

2016-07-12 09:11:35 295

原创 Hadoop运维和Hive调优

1. 高级运维 —— 各种服务– HttpFS(HDFS over HTTP)• http://host:14000/webhdfs/v1/?op=xxx&user.name=hdfs – HA • http://www.cloudera.com/content/cloudera-content/cloudera- docs/CDH5/latest/CDH5

2016-07-12 09:09:40 726

原创 Unknown: Failed to write session data (files). Please verify that the current setting of session.s

1.Unknown: Failed to write session data (files). Please verify that the current setting of session.save_path is correct ()1).打开php.ini 里面有个session.save_path2).根据错误log修改相应session文件夹权限

2016-07-12 09:07:55 1539

原创 Dubbo整合Zookeeper和Spring示例程序

Dubbo整合Zookeeper和Spring示例程序1.Dubbo架构本篇文章基于dubbox,使用dubbo应该也可以正常运行。我认为想讲清楚一个任何一个技术框架,首先熟悉架构是非常有必要的。这将对对整个架构的理解有非常大的帮助。我们首先看看Dubbo的架构,这段摘抄自Dubbo官方文档节点角色说明:Provider: 暴露服务的服务提供方。Consumer

2016-07-08 16:04:21 3412

原创 Hadoop2.6 伪分布式配置

1.   安装前资源准备操作系统(我在这里使用的是centos 6.5 64bit)准备jdk的安装包    3.准备Hadoop安装包 2.   必要环境搭建2.1  Java环境配置以root用户登录系统 我把jdk安装到/opt目录下,进入该目录进行解压,命令如下 现在该目录下多了jdk1.7.0_71这个文件夹

2016-01-05 11:19:39 358

原创 Hadoop1.0.3配置简易教程

1.关闭防火墙(需root用户)2.关闭Selinux(在/etc/selinux/config 目录下 将SELINUX=enforcing改为SELINUX=disabled 重启电脑)3.配置ssh免密码登录(需要安装ssh client)4.安装Java及配置Java环境(安装前需先卸载Linux自带的openjdk)【所有机器都要做】5.下载Hadoop并解压  a.

2014-10-30 10:57:44 510

原创 C#类似windows资源管理器-获取文件图标

在做文件管理器的过程中,有一个非常

2014-06-01 19:50:15 2334

最新MAC版windows远程桌面工具支持win10

最新MAC版windows远程桌面工具支持win10,去掉.zip后缀直接运行

2016-01-06

hadoop-eclipse-plugin-2.6.0.jar

hadoop2.6.0 eclipse插件

2015-07-10

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除