源码分析
zhuwentaolove
Java学习者
展开
-
hdfs随机读取,seek源码
The default HDFS block size is 128 MB. So you cannot read one line here, one line there. You always read and write 128 MB blocks. This is fine when you want to process the whole file. But it makes HDF...原创 2019-12-06 09:52:47 · 821 阅读 · 0 评论 -
InputFormat,OutputFormat,RecordReader
InputFormat提供了两个方法:getSplits实现分片规则,createRecordReader读取数据规则K,V public abstract List<InputSplit> getSplits(JobContext context ) throws IOException, Interr...原创 2019-11-27 11:23:31 · 118 阅读 · 0 评论 -
hdfs FastCopy源码 copyBlock
1从srcnamenode获取到block的信息,2去dest addblock信息,3判断block进行拷贝,拷贝判断是不是同一个datanode,如果是进行硬链接拷贝。否进行复制数据LocatedBlock存放文件的block信息,通过DatanodeInfo[] getLocations()获取包含了文件所在的DatanodeInfoDatanodeInfo中包...原创 2019-11-15 10:18:04 · 484 阅读 · 0 评论 -
spring管理mybatis SqlSession的源码
1开启事务 ,同一个事务会共享要给session,request 引用+1,执行完毕,released引用-12如果是没有开启事务的话,每一次执行都会关闭session3如果没有开启事务,一个线程查询两次可能不是同个session/*** Checks if {@code SqlSession} passed as an argument is managed by S...原创 2019-10-25 10:46:40 · 403 阅读 · 0 评论