- 博客(86)
- 资源 (8)
- 收藏
- 关注
转载 Hadoop数据类型
一. Hadoop内置的数据类型BooleanWritable:标准布尔型数值ByteWritable:单字节数值DoubleWritable:双字节数值FloatWritable:浮点数IntWritable:整型数LongWritable:长整型数Text:使用UTF8格式存储的文本NullWritable:当中的key或value为空时使用二. 用户自定义数据类型的实现
2015-01-28 21:52:18 429
转载 java后台服务程序设计
2002 年 10 月 16 日在很多大型软件项目中,都有一些极为重要的后台服务程序,它们并不处理具体的系统业务逻辑,但对整个系统资源和服务的协调管理却是不可或缺。本文讨论如何完整地编写一个后台服务管理程序,并通过一个具体的后台服务管理例子来说明这一技术实现的技巧。为什么需要后台服务程序?在许多大型软件项目中,后台服务程序都扮演着极为重要的角色。它们无处不在,例如操作系统的内核程序处理
2015-01-27 20:19:07 1844 2
转载 zookeeper客户端 和服务器连接时版本问题
在使用kafka 和zookeeper 实现实时分析程序时,由于zookeeper部署版本和分析程序导入jar包的版本不一致,导致了当实时分析程序从远程服务器连接kafka集群的zookeeper时报错,错误信息如下:[html] view plaincopy2012-12-31 10:51:41,562-[TS] INFO main-E
2015-01-26 17:03:29 2596 1
转载 HBase Java简单示例
Hbase采用Java实现,原生客户端也是Java实现,其他语言需要通过thritf接口服务间接访问Hbase的数据。Hbase作为大数据存储数据库,其写能力非常强,加上Hbase本身就脱胎于Hadoop故和Hadoop的兼容性极好,非常适合于存储半规则数据(灵活、可扩展性强、大数据存储)。基于Hadoop的mapreduce + Hbase存储,非常适合处理大数据。Hbase
2015-01-24 18:13:20 1000
转载 HBase如何合理设置客户端Write Buffer
作者: 大圆那些事 | 转载请以超链接形式标明文章原始出处和作者信息网址: http://www.cnblogs.com/panfeng412/archive/2012/10/16/how-to-use-hbase-client-write-buffer.htmlHBase客户端API提供了Write Buffer的方式,即批量提交一批Put对象到HBase服务端。本文将结合HBase相关
2015-01-24 14:44:24 465
转载 HBase实战(1):数据导入方式
HBase实战(1):数据导入方式2014-07-14 13:36 mumuxinfei 博客园 字号:T | T作为Hadoop生态系统中重要的一员, HBase作为分布式列式存储, 在线实时处理的特性, 备受瞩目, 将来能在很多应用场景, 取代传统关系型数据库的江湖地位. 本篇博文重点讲解HBase的数据导入, 描述三种方式, Client API, Bulkl
2015-01-24 11:57:35 1001
转载 大数据性能调优之HBase的RowKey设计
1 概述HBase是一个分布式的、面向列的数据库,它和一般关系型数据库的最大区别是:HBase很适合于存储非结构化的数据,还有就是它基于列的而不是基于行的模式。既然HBase是采用KeyValue的列存储,那Rowkey就是KeyValue的Key了,表示唯一一行。Rowkey也是一段二进制码流,最大长度为64KB,内容可以由使用的用户自定义。数据加载时,一般也是根据Rowke
2015-01-23 14:39:37 1386
转载 HBase多线程建立HTable问题
最近在写wormhole的HBase plugin,需要分别实现hbase reader和hbase writer。 相关阅读: Hadoop+HBase搭建云存储总结 PDF HBase 结点之间时间不一致造成regionserver启动失败 Hadoop+ZooKeeper+HBase集群配置 在测试的时候会报错如下: 2013-07-08 0
2015-01-23 12:28:31 1985
转载 Hbase设计以及优化
目录(?)[+]表的设计写表操作读表操作参考资料1、表的设计1.1、Column Family由于Hbase是一个面向列族的存储器,调优和存储都是在列族这个层次上进行的,最好使列族成员都有相同的"访问模式(access pattern)"和大小特征;在一张表里不要定义太多的column family。目前Hbase并不能很好的处理超过2~
2015-01-23 11:54:54 526
转载 JSP学习笔记(七十六):使用EHCache
一、获取EHCache下载地址:http://ehcache.sourceforge.net/二、使用EHCache添加对应的jar包到classpath中:我使用的是1.5,需要添加ehcache-1.5.0.jar,backport-util-concurrent-3.0.jar,commons-logging-1.0.4.jar(这个包struts2中有,我没有添加)在src
2015-01-23 08:36:19 774
转载 EhCache参数及磁盘持久化加载
EhCache是不错的Java开源缓存模块,Cache的配置很灵活,官方提供的Cache配置方式有好几种。你可以通过声明配置、在xml中配置、在程序里配置或者调用构造方法时传入不同的参数。你可以将Cache的配置从代码中剥离出来,也可以在使用运行时配置,所谓的运行时配置无非也就是在代码中配置。以下是运行时配置的好处:1、在同一个地方配置所有的Cache,这样很容易管理Cache的内存和
2015-01-23 08:18:38 8386 1
转载 Ehcache介绍
1.OverviewEhcache从 Hibernate 发展而来,逐渐涵盖了Cahce界的全部功能,是目前发展势头最好的一个项目。标准缓存分布式缓存(基于RMI/JGroups/JMS)URL,页面片段缓存(类似OSCache的相关部分)中央缓存服务器(类似Memcached)2.基本功能与配置Ehcache的基本功能,可以从配置文件中学习
2015-01-23 08:17:00 440
转载 Ehcache缓存配置
简介 Cache的配置很灵活,官方提供的Cache配置方式有好几种。你可以通过声明配置、在xml中配置、在程序里配置或者调用构造方法时传入不同的参数。 你可以将Cache的配置从代码中剥离出来,也可以在使用运行时配置,所谓的运行时配置无非也就是在代码中配置。以下是运行时配置的好处: · 在同一个地方配置所有的Cache,这样很容易管理Cache的内存和磁
2015-01-23 07:57:11 436
转载 如何快速地编写和运行一个属于自己的MapReduce例子程序
大数据的时代, 到处张嘴闭嘴都是Hadoop, MapReduce, 不跟上时代怎么行? 可是对一个hadoop的新手, 写一个属于自己的MapReduce程序还是小有点难度的, 需要建立一个maven项目, 还要搞清楚各种库的依赖, 再加上编译运行, 基本上头大两圈了吧。 这也使得很多只是想简单了解一下MapReduce的人望而却步。本文会教你如何用最快最简单的方法编写和运行一个属于自己
2015-01-22 15:15:28 741
转载 HTablePool简单使用例子
HTablePool用在经常要创建表关闭表的程序中,可以大大优化性能,提高效率。HTablePool()HTablePool(Configuration config, int maxSize)HTablePool(Configuration config, int maxSize, HTableInterfaceFactory tableFactory)maxSize并非
2015-01-21 20:07:31 872
转载 Jetty和Tomcat的使用及性能测试
分类: Web开发/ Tomcat/ 文章 一 测试目的这次对Jetty和Tomcat进行性能测试,主要是为了给新版本WebPortal的开发选择合适的Java Web Server。我们之前对老的Rest和新的TMMI都进行过性能测试,Rest有Akamai的缓存,性能基本没有问题。但是WebPortal的内容是不断更新的,不适合使用Akamai缓存,所以性能就全靠Web
2015-01-20 17:57:45 2964
转载 TOMCAT可以稳定支持的最大并发用户数
服务器配置: 单硬盘,SATA 8MB缓存测试服务器和loadrunner运行服务器位于同一网段--100MB网络(同一交换机)上,排除网络问题的影响服务器运行始终,CPU使用率非常低没有超过5% 因此虽然服务器配置低,但是不是性能瓶颈所在服务器运行在windows server 2003 sp2中文版(正版系统)tomcat内存的设置:1.4GBJVM+256MB的池
2015-01-20 17:34:50 6400
转载 Tomcat并发数优化的方法总结
web应用的并发提升,除了负载均衡。在小企业中也可以通过一些软件的上的设置来进行一些优化。下面是一些在服务器上修改tomcat参数的优化方法,非常简单实用!(这些方法通过网络整理的) 1,让Tomcat6 中支持Java语言的特性 NIO( New I/O) 引用使用NIO在服务器端会有更好的性能,加强服务器端对并发处理的性能。 请注意:很抱歉,在tomcat6在默认的配
2015-01-20 17:08:29 509
转载 Java.util.date 与 java.sql.date区别和转换
java.util.Date 就是在除了SQL语句的情况下面使用java.sql.Date 是针对SQL语句使用的,它只包含日期而没有时间部分它都有getTime方法返回毫秒数,自然就可以直接构建java.util.Date d = new java.util.Date(sqlDate.getTime());插入日期 参数选用java.util.Date类型,插入时转化ps
2015-01-17 20:15:55 455
转载 oracle 数据类型详解---日期型(转载)
oracle 数据类型详解---日期型 oracle数据类型看起来非常简单,但用起来会发现有许多知识点,本文是我对ORACLE日期数据类型的一些整理,都是开发入门资料,与大家分享:注:由于INTERVAL及TIME ZONE实际用得比较少,所以本文内容未涉及这两个方面。1、常用日期型数据类型1.1、DATE这是ORACLE最常用的日期类型,它可以保存日期和时间,
2015-01-17 20:14:15 499
转载 javaweb学习总结(四十一)——Apache的DBUtils框架学习
一、commons-dbutils简介 commons-dbutils 是 Apache 组织提供的一个开源 JDBC工具类库,它是对JDBC的简单封装,学习成本极低,并且使用dbutils能极大简化jdbc编码的工作量,同时也不会影响程序的性能。因此dbutils成为很多不喜欢hibernate的公司的首选。 commons-dbutilsAPI介绍:org.apa
2015-01-17 19:30:35 471
转载 Quartz使用-入门使用(java定时任务实现)
注:这里使用的是Quartz1.6.5版本(包:quartz-1.6.5.jar) [java] view plaincopy//测试main函数 //QuartzTest.java package quartzPackage; import java.text.SimpleDateFormat; im
2015-01-16 16:27:56 427
转载 Ehcache中Cache预热机制
Cache预热机制简介Ehcache在程序启动的时候并不会立即去加载位于磁盘上的数据到内存,而是在数据被用到的时候去加载(lazy load)。因此在cache启动的时候,其内部没有数据。如果我们想在用到这些数据之前,它们全部被装载进内存,应该怎么做?Ehcache提供了BootstrapCacheLoader机制来解决这个问题,在Cache被激活之前,它会得到运行。并
2015-01-16 15:56:01 1532 1
转载 Ehcache是现在最流行的纯Java开源缓存框架
Ehcache是现在最流行的纯Java开源缓存框架,配置简单、结构清晰、功能强大,最初知道它,是从Hibernate的缓存开始的。网上中文的EhCache材料以简单介绍和配置方法居多,如果你有这方面的问题,请自行google;对于API,官网上介绍已经非常清楚,请参见官网;但是很少见到特性说明和对实现原理的分析,因此在这篇文章里面,我会详细介绍和分析EhCache的特性,加上一些自己的理解和思考,
2015-01-16 15:15:35 931
转载 自己实现一个内存缓存
最近了解了下缓存技术,主要分为内存缓存 和磁盘缓存,然后分布式里面有一些消息的推送,节点的一些处理。现在很多的用OSCache,EhCache 等等,资料很多,暂时就不多说了,我这里仅仅为了了解缓存框架的的知识,自己临时写一个缓存,后面可以实现AOP 和spring 结合。 实现功能:1.数据都缓存到内存中2.实现对每个元素Element的缓存时间进行控制3.
2015-01-16 15:14:09 2074
转载 详解java序列化(一)
我们可以通过序列化来保存一个对象的状态(实例变量)到文件中,也可以从这个格式化的文件中很容易地读取对象的状态从而可以恢复我们保存的对象。 用来实现序列化的类都在java.io包中,我们常用的类或接口有:ObjectOutputStream:提供序列化对象并把其写入流的方法ObjectInputStream:读取流并反序列化对象Serializable:一个对象想要
2015-01-16 15:08:40 371
转载 Ehcache中储存缓存的方式
目录1 堆内存(MemoryStore)1.1 指定可用内存1.2 驱除策略1.3 元素过期2 非堆内存(BigMemory)3 磁盘(DiskStore)3.1 指定可用容量3.2 元素过期 在Ehcache中对于缓存的存储主要有三种方式:分别是堆内存、非堆内存和磁盘。其中非堆内
2015-01-16 12:03:59 856
转载 JDBC中Statement和PrepareStatement的区别及特性
目录(?)[+]主要区别: Statement执行一条sql就得编译一次,PrepareStatement只编译一次;常用后者原因在于参数设置非常方便;执行一条sql就得编译一次,后者只编译一次;还有就是sql放置的位置不同; 常用后者原因在于参数设置非常方便;特性: jdbc的api中的主要的四个类之一的java.sql.statement
2015-01-16 11:34:51 318
转载 JDBC操作详解
分类: JDBC2013-07-09 15:28 981人阅读 评论(0) 收藏 举报目录(?)[+]一、JDBC常用接口、类介绍JDBC提供对独立于数据库统一的API,用以执行SQL命令。API常用的类、接口如下:DriverManager管理JDBC驱动的服务类,主要通过它获取Connection数据库链接,常用方法如下:
2015-01-16 11:31:13 568
转载 Apache DBUtils使用总结
Apache DBUtils使用总结 DBUtils是个小巧的JDBC轻量级封装的工具包,其最核心的特性是结果集的封装,可以直接将查询出来的结果集封装成JavaBean,这就为我们做了最枯燥乏味、最容易出错的一大部分工作。 在使用DBUtils之前,应该注意一些问题: 1、DBUtils是JDBC的简单封装,可以和JDBC混合使用。 2、DBUtils对结果集自动封
2015-01-15 21:39:37 472
转载 Log4j.properties配置详解
Log4j有三个主要的组件:Loggers(记录器),Appenders (输出源)和Layouts(布局)。这里可简单理解为日志类别,日志要输出的地方和日志以何种形式输出。综合使用这三个组件可以轻松地记录信息的类型和级别,并可以在运行时控制日志输出的样式和位置。 1、Loggers Loggers组件在此系统中被分为五个级别:DEBUG、INFO、WARN、ERRO
2015-01-15 14:18:25 792
转载 HTTP的报文格式、GET和POST格式解析
1、HTTP报文格式HTTP报文是面向文本的,报文中的每一个字段都是一些ASCII码串,各个字段的长度是不确定的。HTTP有两类报文:请求报文和响应报文。请求报文一个HTTP请求报文由请求行(request line)、请求头部(header)、空行和请求数据4个部分组成,下图给出了请求报文的一般格式。 (1)请求行请求行由请求方法字段、URL字段和H
2015-01-15 11:48:25 1617
转载 配置Eclipse来解决 no xxx in java.library.path问题
近来需要和BPM项目联调,尤为苦恼的是,本地跑通DM+BPM确实蛮有难度的,在启动BPM项目之前,需要安装Louts Form(因为项目上页面是用Form做的),做了众多准备工作之后,启动两个项目,不巧报错信息如下:"pe-cc not in java.library.path"。 找相关开发人员来解决问题,并无效果,主要原因是项目启动需要加载Form中的一些类库文件,因为能从
2015-01-14 21:54:48 12933
转载 java.library.path (
java.library.path (2012-07-03 10:06:52)转载▼标签: java library path分类: Java设置java.library.path的两种方式:1、通过启动参数设定 java -Djava.library.path=/jni/library/p
2015-01-14 21:53:37 7073
转载 Hbase访问方式之Mapreduce
概述:Hbase对Mapreduce API进行了扩展,方便Mapreduce任务读写HTable数据。一个简单示例:说明:从日志表中,统计每个IP访问网站目录的总数[java] view plaincopypackage man.ludq.hbase; import java.io.
2015-01-14 16:59:10 525
转载 Mapreduce读取和写入Hbase(从A表读取数据,统计结果放入B表,非常详细,附有代码说明以及流程)
Hbase Map Reduce Example – Frequency CounterThis is a tutorial on how to run a map reduce job on Hbase. This covers version 0.20 and later.Recommended Readings:– Hbase home, – Hbas
2015-01-14 16:18:00 2705 1
转载 DBUtils使用详细示例
用了好长一段时间JAVA,今天才知道有DBUtils这个东西。看了一下,使用方便,上手很快,是个不错的东西。 一、使用示例 Java代码 package com.exam.test; import java.sql.Connection; import java.sql.SQLException; import java.ut
2015-01-14 15:12:20 1804
转载 DBUtils与C3P0结合--支持自定义字段映射和线程池
1.首先是MyBeanProcessor:重写BeanProcessor的实现,使用策略模式[java] view plaincopypackage c3p0.util2; import java.beans.PropertyDescriptor; import java.sql.ResultSetMetaData;
2015-01-14 14:44:12 895
转载 HBase/Hadoop学习笔记
学习目标:至少掌握五点:1. 深入理解HTable,掌握如何结合业务涉及高性能的HTable。2. 掌握与HBase的交互,通过HBase Shell命令及Java API进行数据的增删改查。3. 掌握如何用MapReduce分析HBase里的数据4. 掌握如何测试HBase MapReduce。 HBase简介:
2015-01-13 23:27:52 874
转载 MapReduce操作HBase
运行HBase时常会遇到个错误,我就有这样的经历。 ERROR: org.apache.hadoop.hbase.MasterNotRunningException: Retried 7 times检查日志:org.apache.hadoop.ipc.RPC$VersionMismatch: Protocol org.apache.hadoop.hdfs.protocol.ClientPr
2015-01-13 23:26:10 467
jacob-1.19_1.18.rar
2020-08-17
springboot jpa mysql controller演示
2018-08-01
site-1.10.10
2015-09-06
windows下64位的Redis-x64-3.0.300-alpha3
2015-09-06
curl-7.33.0-win32.msi
2013-10-30
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人