大齐的学习笔记

原创 hadoop 1.2.1 安装步骤 伪分布式

最近在系统的学习hadoop课程第一步是安装hadoop1.x，具体安装步骤如下：一、系统安装本文使用centos6.5安装，具体安装步骤省略二、jdk安装下载jdk1.7.0_51解压，在环境中设置环境变量：vi /etc/profile,添加如下行：export JAVA_HOME=/usr/local/jdk1.7.0_51export CLASSPATH=.

原创 heritrix 3.2.0 -- 环境搭建

heritrix作为一个比较经典的开源爬虫，写这篇文章目的是因为，3.X之后的heritrix的介绍以及配置的文章比较少了。heritrix 3.x 以后使用maven 2配置jar包引用，但是总是有好多包没法从maven库下载。所以，这里讲的环境搭建直接使用了编译好的工程来做，heritrix-3.2.0-dist.tar.gz以及源码压缩包heritrix-3.2.0-src.tar.gz

原创 记一次 java程序优化

优化原因环境中部署两个程序：web应用 tomcat   10G（webservice服务端，前端web服务）java应用               5G（webservice客户端，socket客户端）之前的设计思路是打算web应用作为前端不做业务处理，后端使用webservice做能力接入。 1天能力处理量大概在150W次到两百万次左右：并发数量web端口在

原创 heritrix 3.2.0 下载

由于archive.org屏蔽，编译完成版本http://builds.archive.org/maven2/org/archive/heritrix/heritrix/3.2.0/ 无法下载。现将dist版本放到github，方便大家下载学习 github地址如下：https://github.com/xiamizy/heritrix-packageheritrix-3.

原创 elasticsearch 性能测试

最近花很大的经历来做性能测试，把结果整理到了ppt中，可能有个别地方不准，但是可以看看一个趋势。主要分为两部分，一部分是写入elasticsearch性能，一部分是查询测试，elasticsearch的查询性能。当然在elasticsearch1.3.0之后elasticsearch会提供benchmark来评估服务器性能实用情况。硬件配置主机cpumemdisk

原创 spring 4 泛型注入

最近对系统进行改造，发现在泛型实例初始化的时候，得不到想要的泛型。或者需要强制转换。spring 4 开始支持泛型对象初始化，初始化方法如下：注：使用配置文件的方法暂时还没有发现，下面是使用java annotation的方法：package com.mitchz..toolkit.chain;import java.util.List;import java.util.M

原创 系统监控的工具tsar

近期一直在折腾着elasticsearch，需要对硬件进行评估大概几方面 内存 cpu 硬盘 网络。iostatvmstattop几个命令用了一堆，其实需要关注的几个点只要都列出来就可以了 [root@cloud-15 tsar-master]# tsar -l -i 1Time ---cpu-- ---mem-- ---tcp-- ---

原创 haproxy简单负载均衡搭建

最近对负载均衡进行搭建具体方法如下：haproxy 修改部分(haproxy-cfg.cfg)global daemon maxconn 4500 defaults mode http timeout connect 5000ms timeout client 50000ms timeo

原创 highchart 实现mrtg

最近需要对流量图进行重构，<%@ page language="java" contentType="text/html; charset=UTF-8" pageEncoding="UTF-8"%>流入流出<script type="text/javascript" src="http://ajax.googleapis.com/ajax/libs/jq

原创 iostat 离线安装

由于lucene需要一定的io读写顾安装iostat来对磁盘io进行监控iostat 属于sysstat下的功能git路径如下：https://github.com/sysstat/sysstat第一步，需要下载该文件http://sebastien.godard.pagesperso-orange.fr/download.html第二部，则需要开始编译了，与其他程序安装相似

原创 初识lucene

lucene的介绍网上有好多，再写一遍可能有点多余了。使用lucene之前，有一系列的疑问为什么lucene就比数据库快？倒排索引是什么，他是怎么做到的lucene的数据结构是什么样的，cpu消耗，内存消耗主要因为什么lucene的索引流程以及查询流程是什么样的推荐两篇文章，更进一步了解lucene可以参考lucene与数据库对比部分http://www.che

原创 hadoop 2.3 集群总结

用了近两个礼拜的摸索终于搭建好了hadoop集群，测试性能也符合预期。centos6.4下hadoop2.3集群总结如下：关于环境的设置：             1.关闭selinux （反复折腾了好多次）               vi /etc/selinux/config SELINUX=disabled               2.关闭防火墙

原创 centos 6.5 hadoop 2.3 初配置

为了安装hadoop废了好大的劲才把esxi5.5给装好。同时装了centos6.5，由于hadoop里面有个免密码登陆所以这里讲的就是免密码登陆。看了大家的博客文章发现转发的一部分，写ubuntu的一部分，写centos的又有一部分。可能自己理解的程度有限，现把解决的部分问题列出来，供大家参考:1.我装好了centos却发现没有网卡了，大家记住检查下： vi /etc/s

原创 esxi5.5 安装，虚拟机复制

尝试在vmware workstation上安装hadoop，感觉太慢了。好在家里的台式机配置还可以，所以就想在它上面虚拟出几台服务器出来。台式机配置如下：虚拟出来三个应该没问题了吧。第一步，下载esix5.5（去官网上看是需要注册，然后就是无尽的等待）网盘地址：http://pan.baidu.com/s/1kTG5w0J里面有个问题，就是针对realtek网卡不

原创 ElasticSearch大批量数据入库

最近着手处理大批量数据的任务。现状是这样的，一个数据采集程序承载大批量数据的存储和检索。后期可能需要对大批量数据进行统计。数据分布情况13个点定时生成采集结果到4个文件（小文件生成周期是5分钟） 名称 大小（b）gather_1_2014-02-27-14-50-0.txt

原创 dubbo初体验

最近需要开发部门中某个大数据量的提取的功能，加到了一个ElasticSearch的群。在群里听说到一个框架叫dubbo，阿里系开源软件。听到群友谈的神乎其神的，什么什么功能切分多协议栈，高并发等等等。最最重要的一点，还有一个控制台，计数器。于是联想到了手头的一个功能的优化。现状是这样的：功能高度冗余，新研发功能使用效率很低，所以在不停的新研发功能功能集中到一份代码中，每次重新编译痛苦的不

原创 log4j日志分模块打印，同时不打印到控制台上

由于定时刷新程序的启用，导致catalina.out配置文件中打入大量日志，致使程序调试困难。         无法正常查看日志。所以客户要求将性能流量配置日志迁移出catalina.out目录。修改log4j配置文件后，发现      分文件中有了日志输出，但是，catalina.out文件中依然有性能流量日志输出。          原始配置方法如下：          

原创 oracle pipelined返回值函数 针对数据汇总统计 返回结果集方法

近期需要一个汇总统计，由于数据太多，数据量太大所以在java程序中实现比较困难。若用后台程序统计，数据不能保证实时，同时实现周期比较长。顾使用函数返回结果集的方式，在不增加临时表的情况下实时获取数据。需求为：多个端口流量每五分钟累计汇总一次。如果用程序实现则为讲所有数据取出做每五分钟统计，元数据获取带来的数据量将是10万条以上。在数据库中做汇总统计只需要24*12=288条记录。具体实现方

原创 比较有用的log4j.properties

转自   http://walsh.iteye.com/blog/314941 log4j.properties log4j.rootLogger=DEBUG,CONSOLE,DATABASE,FILE log4j.addivity.org.apache=true # 应用于控制台 log4j.appender.CONSOLE=org.apache.log

原创 总结spring下配置dbcp,c3p0,proxool数据源链接池

转载自 http://hiok.blog.sohu.com/66253191.htmlapplicationContext-datasource-jdbc.xml  datasource   ${jdbc.driverClassName}   ${jdbc.url}   ${jdbc.username}   ${jdbc.password}   -->  ${jdbc.dri

原创 centos下安装mysql步骤

转载自http://zym820910.iteye.com/blog/671566一、下载MySQL5.0和相关perl包1．官网[url] http://dev.mysql.com/downloads/mysql/5.0.html[/url]下载MySQL5.0版本，这里需要注意的是下载与系统CPU和操作系统相符合的5.0版本(比如说CPU：Intel EM64T，OS：CentOS5.2)

原创 Swing透明和变换

以前或许大家对一个UI组件是否透明没有那么关心，但是自从Vista的毛玻璃出现后，UI透明就成了大家非常关注的一个话题，于是Java阵营开始了铺天盖地的讨论如何实现透明的效果，但是很不幸的是无论组件如何透明和变换，但是能够放置于屏幕任何位置的Window一族就是没法透明和变形，原生代码的问题还是交给原生代码来解决吧。 自己写原生代码是可怕的，特别是对我这种只知道Java的平凡程序员，所以我们得借助

原创 在Struts2中集成Spring详细讲解

Spring的官方定义是：一个轻量级的IoC和Aop容器框架，它使用了一种叫做依赖注入的技术。所谓依赖注入，就是指将创建对象以及协议依赖对象之间合作的责任从对象自身中转移到“工厂”中去，这个“工厂”通常由IoC容器提供。 Struts2与Spring的集成要用到Spring插件包，这个包是同Struts2一起发布的。Spring插件是通过覆盖(override)Struts2的Ob

原创 AJAX实例入门

一、开门见山 这些时间，瞎子也看得见，AJAX正大踏步的朝我们走来。不管我们是拥护也好，反对也罢，还是视而不见，AJAX像一阵潮流，席转了我们所有的人。 关于AJAX的定义也好，大话也好，早有人在网上发表了汗牛充栋的文字，在这里我也不想照本宣科。 只想说说我感觉到的一些优点，对于不对，大家也可以和我讨论： 首先是异步交互，用户感觉不到页面的提交，当然也不等待页面返回。这是使用了AJAX技术

原创 Redhat Enterprise Linux中如何关闭SELinux？

转自http://www.cnitblog.com/lywaml/archive/2005/06/21/468.html红帽企业 Linux 4 包括了一个 SELinux 的实现。SELinux 代表了用户，程序以及进程间相互交流的主要变化。在这个发行版本中，SELinux 被默认安装并被开启使用。在安装的过程中，您可以选择禁用 SELinux，或是设置它只记录警告信息，或是使用它的只在以下

原创 C3P0连接池详细配置

C3P0连接池详细配置 转自http://msq.javaeye.com/blog/60387 3 30 1000 false 属性preferredTestQuery将被忽略。你不能在这张Test表上进行任何操作，它将只供c3p0测试 使用。Default: null--> Test 保留，并在下次调用getConnection()的时候继续尝试获取连接。如果设为true

原创 hibernate中load,get;find,iterator;merge,saveOrUpdate,lock的区别

hibernate中load,get;find,iterator;merge,saveOrUpdate,lock的区别 转自http://www.blogjava.net/bnlovebn/archive/2007/07/13/130025.html一、load,get（1）当记录不存在时候，get方法返回null,load方法产生异常（2）load方法可以返回实体的代理类，get方法

原创 107个常用Javascript语句

1.document.write( " "); 输出语句 2.JS中的注释为// 3.传统的HTML文档顺序是:document- >html- >(head,body) 4.一个浏览器窗口中的DOM顺序是:window- >(navigator,screen,history,location,document) 5.得到表单中元素的名称和值:document.getElementById( "

原创 车祸 shit

今天上班的时候就觉得右眼在那跳，妈的，果不其然，回家路上自行车也跟人家撞上了，郁闷，裤子也坏了，腿也伤了。我还没反应过来，撞一起的是个女的，十七八岁吧，郁闷，什么破自行车。强烈呼吁不要去买小自行车了，质量太差了。链条也掉了，前轮也坏了，受不了。害的我还要去修，晚上还好找到一家还没收摊的，郁闷死我了，在修车的过程中，那个女孩有招来个女的，两人在那用连云港方言加普通话在那聊，太受不了了。没事还说句，他

原创 JAVASCRIPT实现XML分页

为了方便用户查看大批量数据，我们会用到动态分页，因此分页功能是我们在网站上见过的最普遍也是最常用的一个功能模块了。而以往的信息分页都是连接到数据库的，每一次点击都必须要后台数据库的支持。这样不但服务器的负担加重，而且严重的影响用户浏览的速度.试想，如果把分页的功能放到客户端，那会产生什么样的效果呢？呵呵，看看下面的设计吧！ 。 材料： XML卷之动态分页有2个文件：pages.xml 和 page

原创 javabeans的运用

javabeans的运用对javabean的使用我开始严重的郁闷，跟着书上说的做，但是总是不成功。后来别人说我是基础不牢靠。我觉得应该从servlet学起然后再加进入JSP学是非常快的，对于JAVABEAN在我看来和普通类差不多，只是多了一些很少的特性而已，如果学习servlet对类的调用就会了解的更加的深一点，运用javabean的标签，对JAVABEAN的调用是非常简单的，只要将j

原创 hadoop 1.2.1 安装步骤 伪分布式

最近在系统的学习hadoop课程第一步是安装hadoop1.x，具体安装步骤如下：一、系统安装本文使用centos6.5安装，具体安装步骤省略二、jdk安装下载jdk1.7.0_51解压，在环境中设置环境变量：vi /etc/profile,添加如下行：export JAVA_HOME=/usr/local/jdk1.7.0_51export CLASSPATH...

原创 hadoop 1.2.1 安装步骤 伪分布式

k1.7.0_51解压，在环境中设置环境变量：vi /etc/profile,添加如下行：export JAVA_HOME=/usr/local/jdk1.7.0_51export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarexport PATH=$PATH:$JAVA_HOME/bin由于在centos下安装，选择需要设置jdk版本update-alte

原创 heritrix 3.2.0 -- 环境搭建

heritrix作为一个比较经典的开源爬虫，写这篇文章目的是因为，3.X之后的heritrix的介绍以及配置的文章比较少了。heritrix 3.x 以后使用maven 2配置jar包引用，但是总是有好多包没法从maven库下载。所以，这里讲的环境搭建直接使用了编译好的工程来做，heritrix-3.2.0-dist.tar.gz以及源码压缩包heritrix-3.2.0-src.tar....

原创 heritrix 3.2.0 -- 环境搭建

原创 记一次 java程序优化

优化原因环境中部署两个程序：web应用 tomcat   10G（webservice服务端，前端web服务）java应用               5G（webservice客户端，socket客户端）之前的设计思路是打算web应用作为前端不做业务处理，后端使用webservice做能力接入。 1天能力处理量大概在150W次到两百万次左右：并发数量web端...

原创 记一次 java程序优化

前的设计思路是打算web应用作为前端不做业务处理，后端使用webservice做能力接入。 1天能力处理量大概在150W次到两百万次左右：并发数量web端口在12tps应用端在20tps左右（能力聚合的时候可能会调用几个能力做聚合操作）。   jvm优化之前的应用服务的启动参数  -Xss1024k -Xms1g -Xmx3g -Xmn2g -XX:PermSize=64m -XX:MaxPermSize=128m -Djava.awt.headless=true

原创 asasdasdasdasd

原创 heritrix 3.2.0 下载

由于archive.org屏蔽，编译完成版本http://builds.archive.org/maven2/org/archive/heritrix/heritrix/3.2.0/ 无法下载。现将dist版本放到github，方便大家下载学习 github地址如下：https://github.com/xiamizy/heritrix-packageheritrix-...

原创 heritrix 3.2.0 下载

ub地址如下：https://github.com/xiamizy/heritrix-packageheritrix-3.2.0-dist.tar.gz