- 博客(23)
- 资源 (18)
- 收藏
- 关注
原创 MapReduce实现排序功能
期间遇到了无法转value的值为int型,我采用try catch解决str2 2str1 1str3 3str1 4str4 7str2 5str3 9用的\t隔开,得到结果 str1 1,4 str2 2,5str3 3,9str4 7我这里map,reduce都是单独出来的类,用了自定义的keypackage com.kan
2014-05-29 12:15:06 2621 1
原创 抽象公共类,复用公共方法为多个对象
今天学习如何实现愤怒的小鸟,用到了JBox2D构建物理世界(这个不是这篇文章重点,但是很谢谢这个开源玩意)一般一个独立的物体的实体类import org.jbox2d.dynamics.Body;import org.liky.angrybird.util.Globals;import org.liky.angrybird.util.ImageUtils;import
2014-05-26 16:50:39 2297
原创 hadoop学习;block数据块;mapreduce实现例子;UnsupportedClassVersionError异常;关联项目源码
对于开源的东东,尤其是刚出来不久,我觉得最好的学习方式就是可以看源码和doc,测试它的例子为了方便查看源码,关联导入源码的项目block数据块,在配置文件hdfs-default.xml中可以查看到,记住要修改不是在这里block文件存储块是最基本的单位查看block存放位置,配置文件中查看如果文件大于64M会占两个块,meta文件是校验
2014-05-23 18:58:05 1503 1
原创 hadoop;RPC;调用接口;cmd的jps查看java进程;有main方法的类才能产生进程
RPC(remote procedure call)不同java进程间的对象方法调用,一方称作服务端,一方称作客户端;被调用的对象的方法执行发生在server端首先应该编写服务端MyServer,客户端MyClient,操作对象类MyBiz(根据服务端方法参数推测的),操作对象接口MyBizable(根据客户端方法参数推测的)通过查看源码,一步步向里查看,直到没有return该方法出现
2014-05-22 19:45:44 2162
原创 hadoop源码解读namenode高可靠:HA;web方式查看namenode下信息;dfs/data决定datanode存储位置
点击browserFilesystem,和命令查看结果一样当我们查看hadoop源码时,我们看到hdfs下的hdfs-default.xml文件信息我们查找${hadoop.tmp.dir}这是引用变量,肯定在其他文件有定义,在core-default.xml中查看到,这两个配置文件有个共同点:就是不要修改此文件,但可以复制信息到core-site.xml和hdfs-sit
2014-05-22 15:49:01 1763
原创 hadoop学习;hdfs操作;运行抛出权限异常: Permission denied;api查看源码方法;源码不停的向里循环;抽象类通过debug查找源码
package com.kane.hdfs;import java.io.InputStream;import java.net.URL;import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;import org.apache.hadoop.io.IOUtils;public class Test {
2014-05-22 14:57:10 2403 1
原创 android传感器;摇一摇抽签功能
package com.kane.sensortest;import java.util.Random;import android.hardware.Sensor;import android.hardware.SensorEvent;import android.hardware.SensorEventListener;import android.hardware.Sen
2014-05-22 12:03:18 2171
原创 android:启动服务;广播(最高优先窃听信息)并转发给别人
3.1、Service服务Service类似Activity,实际上就是一个没有界面的Activity,而且默认不会随着程序关闭而关闭。 开发人员自定义的服务类一般用来完成一些安全软件的一些监听功能,以及消息提示,流氓软件的功能。系统服务则是通过类似getSystemService()的方法来取得系统的一些服务管理类(XxxxManager),来调用系统处理好的功能完成自己需要的操作,
2014-05-19 21:23:02 1165
原创 hadoop学习;datajoin;chain签名;combine()
hadoop有种简化机制来管理job和control的非线性作业之间的依赖,job对象时mapreduce的表现形式。job对象的实例化可通过传递一个jobconf对象到作业的构造函数中来实现。x.addDeopendingJob(y)意味着x在y完成之前不会启动。鉴于job对象存储着配置和依赖信息,jobcontrol对象会负责监管作业的执行,通过addjob(),你可以为jobcont
2014-05-19 00:26:35 1534
原创 博弈树,动态规划(计算好的子问题存储起来,以后直接取用)
public class GameTree {/*** 判断剩余球数,谁能取到最后谁赢,* ,一人取一次,默认我方先取,,能否必胜,能就返回true,否则false* @param x剩余球数* @return*/static boolean f(int x){int[] op={1,3,7,8};//每次取球只能有四种情况for(int i=0;iif (
2014-05-19 00:24:34 2402 1
原创 hadoop学习;Streaming,aggregate;combiner
hadoop streaming允许我们使用任何可执行脚本来处理按行组织的数据流,数据取自UNIX的标准输入STDIN,并输出到STDOUT通过设定mapper为‘RandomSample.py 10’,我们按十分之一的采样率,没有设定特殊的reducer,一般默认使用IdentityReducer(把输入直接转向输出)通过HDFS的命令getMerge(输出合并)或其他文件操作,可以获得
2014-05-17 17:52:43 1767
原创 hadoop学习;安装jdk,workstation虚拟机v2v迁移;虚拟机之间和跨物理机之间ping网络通信;virtualbox的centos中关闭防火墙和检查服务启动
hadoop分割与读取输入文件的方式
2014-05-16 15:35:19 1299
原创 hadoop学习;自定义Input/OutputFormat;类引用mapreduce.mapper;三种模式
hadoop分割与读取输入文件的方式被定义在InputFormat接口的一个实现中,TextInputFormat是默认的实现,当你想要一次获取一行内容作为输入数据时又没有确定的键,从TextInputFormat返回的键为每行的字节偏移量,但目前没看到用过以前在mapper中曾使用LongWritable(键)和Text(值),在TextInputFormat中,因为键是字节偏移量,可以是L
2014-05-14 21:01:34 1665 1
原创 hadoop学习;大数据集在HDFS中存为单个文件;安装linux下eclipse出错解决;查看.class文件插件
一个典型的hadoop工作流会在别的地方
2014-05-13 18:18:29 1837 2
原创 Hadoop学习;测试;启动bug;secondary合并edits到fsimage
一个Hadoop集群拥有多个并行的计算机,用以存储和Hadoop强调代码向数据迁移
2014-05-12 18:51:06 1353 2
转载 数据库连接池:最小数必有;C3P0连接池
数据库连接池编辑数据库连接是一种关键的有限的昂贵的资源,这一点在多用户的网页应用程序中体现得尤为突出。对数据库连接的管理能显著影响到整个应用程序的伸缩性和健壮性,影响到程序的性能指标。数据库连接池正是针对这个问题提出来的。数据库连接池负责分配、管理和释放数据库连接,它允许应用程序重复使用一个现有的数据库连接,而再不是重新建立一个;释放空闲时间超过最大空闲时间的数据库连接
2014-05-09 16:34:55 2984
转载 大型高并发高负载网站的系统架构
大型高并发高负载网站的系统架构 一个小型的网站,比如个人网站,可以使用最简单的html静态页面就实现了,配合一些图片达到美化效果,所有的页面均存放在一个目录下,这样的网站对系 统架构、性能的要求都很简单,随着互联网业务的不断丰富,网站相关的技术经过这些年的发展,已经细分到很细的方方面面,尤其对于大型网站来说,所采用的技 术更是涉及面非常广,从硬件到软件、编程语言、数据库、We
2014-05-09 15:59:38 734
原创 线程池;java实现线程池原理;适用于交互频繁的(如电商网站)
线程池是一种多线程处理形式,处理过程中将任务添加到队列,然后在创建线程后自动启动这些任务。线程池线程都是后台线程。每个线程都使用默认的堆栈大小,以默认的优先级运行,并处于多线程单元中。如果某个线程在托管代码中空闲(如正在等待某个事件),则线程池将插入另一个辅助线程来使所有处理器保持繁忙。如果所有线程池线程都始终保持繁忙,但队列中包含挂起的工作,则线程池将在一段时间后创建另一个辅助线程但线程的数目永
2014-05-09 11:01:57 2266
原创 迷宫问题用‘图’求解
迷宫问题可以看做是在“图”中求解:已知的两个节点是否连通,以及求某个连通的通路。可以通过图的深度优先遍历求解。import java.util.HashSet;import java.util.Set;class Pos{public int i;public int j;public Pos(int i,int j){this.i=i;this.j=j;}
2014-05-08 16:48:34 2229 1
原创 Dijkstra求含权图最短通路;试探与回溯保证枚举的不遗漏不重复;国际象棋八皇后问题
求两节点的最短通路,对于无权图,可以通过图的广度优先遍历求解。含权图一般通过Dijkstra算法求解。import java.util.ArrayList;import java.util.HashMap;import java.util.Iterator;import java.util.List;import java.util.Map;public class Sho
2014-05-08 10:22:19 1378
原创 邻接矩阵(以顶点为中心),比较稀疏时,采用邻接表;图的两种遍历(邻接矩阵实现)
对于边比较稠密的图,可以采用邻接矩阵(以顶点为中心)的方式表示,而边比较稀疏时,采用邻接表的结构更合适。两种都不能直观表达哪两个点相连或者最短路径是什么。深度优先遍历类似于树的先根序遍历。与树不同的是,它需要对已经访问过的节点添加标记以免被重复遍历。public class Depth {/** * 对k号节点深度遍历 * @param a * @param col
2014-05-05 20:12:46 3656 1
ImageMagick-6.9.tar.gz
2015-03-10
gifsicle1.64
2014-08-04
android文本/图片切换,contentresolver,抽屉,评级,scroll,bitmap使用
2014-04-05
android程序员宝典应用
2014-04-01
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人