HadoopCV(1) —— 总体规划

        项目目标为在Hadoop平台上实现行人跟踪的openCV算法。终极效果为可以从多个摄像头接受源视频,然后在hadoop平台上运行行人检测算法,在主机屏幕上实时显示多个视频中的行人跟踪效果。

        行人检测算法由小伙伴们使用openCV编写,原理如下,训练过程:从图像金字塔中采集patches, 提取HOG特征,使用HOG特征训练SVM分类器返回patch中有还是没有人。工作过程:将一副图像做金字塔,采集patches,使用训练好的SVM输出当前patch是否有人,最后将有人的框框做融合。

        感觉Hadoop实现方面的难点主要是:Hadoop由Java编写,怎样调用openCV的C程序;Hadoop默认处理TextInputFormat的输入输出,怎样从HDFS上读取传递图片或视频格式的内容;

        可以参考的相关内容如下:

某个人的博客:

点击打开链接

点击打开链接

点击打开链接

googlecode上的hadoop-computer-vision工程,使用JavaCV, 自定义FileInpupFormat和RecordReader:

点击打开链接

另一个使用Hadoop的图像处理库HIBI,还没细看,其中比较重要的是HIB(HIPI Image Bundle)就是把分散的图像打包。这个也是java写的,主要是将图片读入,解压缩的接口,把图片以方便处理的像素数组格式呈现给用户,似乎没用到JavaCV和任何cv库。这个工程还有论文可参考,大家去google scholar上搜HIPI即可:

点击打开链接

其他的hadoopCV的工程,大家可以去googlecode或github上搜搜看。

下面是一个讲Hadoop原理的文章,比较深入,稍微晦涩,细读有收获:

点击打开链接


        从上面的参考资料中,我们可以利用的是两个工程中写好的Image格式的输入方法,但是到目前还没有找到video格式的方法,可以接着寻找方法,实在不行只能自己想办法写视频的InputFormat和RecordReader了,但正如之前链接中所说,是个non-trivial 的工作。

        但是我认为现阶段我们应该存到HDFS中的应该是大量的图片而非视频,一方面省去了读视频格式的问题~~呵呵呵。另一方面,从原理出发:行人跟踪应该处理的是实时的流数据,而非存好的一段段视频(视频都是过去式了,还跟踪人有什么意义。。)。HDFS上应该存的是从10000个(举例)视频源实时截取的10000张图片,然后将10000张图片均分给各个map节点(这里可能用到HIB,因为打完包的传起来应该快些),由各个map任务对所有自己分到的图片执行cv算法(可能 不许要reduce任务),最后返回带有跟踪框的10000张图片,再分发回10000个播放视频源。

        这样的话,“理想”的完整任务可以分三部分:1. 输入部分--帧图像采集部分:从10000个视频源实时采集出10000张图片,并把这些图片上传到HDFS。这部分怎么实现还没研究,多路的图像采集卡?用 一个处理流数据的集群?。。。2. 中间部分--hadoopCV部分:把所有HDFS图片分散给集群,运行cv程序,返回10000张结果图片到HDFS。3. 输出部分--输出结果视频部分:把10000张结果图片输出到10000个视频播放源。

        第1,3部分还没做survey ,而且鉴于计算资源有限,时间有限,先以第2部分为主,而且它也是大作业核心。按照这个方案的话,第2部分还有个问题:HDFS上的这10000张图片是实时更新的,怎样让Hadoop处理完当前10000张,自动分发处理下10000张需要解决,目前以少的可怜的经验值只见过以固定文件为输入源 -input 的情况。

        目前只做中间hadoopCV部分的话,可以默认前后已有接口:假设HDFS上有100个文件夹,每个文件夹里有10000张图片,这些文件夹按时间顺序排好,这些是我们假想的输入部分产生的时序文件夹。hadoop集群依次从中读图像,处理,返回,生成100*10000的结果图片,放到HDFS中。这是目前要完成的工作。

        如果InputFormat, javaCV, java&C混编搞定的话!

        如果成功完成了第2部分的话!

        如果还想接着冲击1&3部分的话!

少年你想多了,呵呵。。。

        开个玩笑~,感觉1&3部分有可能用到hadoop的数据库HBase之类的高级功能,还有最后presentation的具体形式怎么表现大家可以再想一下。我先去将“第一个如果”实现下。。。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值