- 博客(8)
- 资源 (51)
- 问答 (2)
- 收藏
- 关注
原创 Hive数据仓库--UDF自定义函数以及其中的坑
一个简单的问题折腾了接近半天的时间,不过最终发现了问题出在哪里了,UDF这个是用户自定义函数,和sum等这种函数类似,主要作用是输入一个值,然后通过适当的处理后返回一个值。UDF倒是很简单的,基本上就是导入包,继承UDF类,实现一个evaluate方法就行了。UDF实例简单的一个测试程序,是分析下json格式的字符串,解析成对象数组的形式,然后做相应的调整。public class UDFTest
2016-10-31 23:22:57 4471
原创 Hive数据仓库--Java代码JDBC方式访问Hive中表的数据
通过Java中jdbc的方式去操作Hive表中的数据,这个方式和之前web中使用的jdbc方式访问数据库是一致的。基本流程:1. 加载驱动程序。2. 建立连接。3. 预编译sql语句。4. 提交执行获取结果。基本的程序如下:try { Class.forName("org.apache.hadoop.hive.jdbc.HiveDriver"); String selectSq
2016-10-28 13:46:01 11880 9
原创 Hive数据仓库-Sqoop导入数据注意事项
注意事项一按照整张表导入的时候,是按照原来数据库中列的顺序进行赋值的,也就是说如果数据库中A,B两列的数据,在Hive中导入数据的表是B,A两列,这个时候B中实际存储的值仍然是数据库A中的值,而A中存储的是数据库B列的值。注意事项二日期形式的数据,在数据库中导入的时候,可能是因为格式的问题,我的日期后面多一个.0然后映射不到日期数据,解决办法是将日期格式的数据改为string类型的数据(Hive中
2016-10-27 12:28:29 5063 7
原创 Hive数据仓库-Sqoop将数据从Mysql导入Hive中
Sqoop是一个实现在关系型数据库和Hive进行数据交换的工具。主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。参数hive导入参数 --hive-home 重写$
2016-10-26 17:37:50 18655 9
原创 SSLException异常解读与解决
在读取一个比较有影响力的网站的API的时候,由于对方采用的是HTTPS的链接,而不是HTTP的链接,所以导致了如下的问题:javax.net.ssl.SSLException: java.lang.RuntimeException: Could not generate DH keypair原本以为两者是一样的访问方式,所以出错主要还是在于自己,当然在没找到原因之前并没有向这个方面去想,这也是后来
2016-10-20 19:31:06 34633 3
原创 Spring配置文件打包到jar中无法加载问题之解决方案
最近再做一个项目,通过Spring整合Mybatis然后从一些网站上通过其API获取数据,我打算做成一个jar包然后通过定时任务来进行控制他执行的频率,每分钟都执行一次,我在编辑器里面运行的完全没问题的,后来打包试下效果怎么样,因为本身自己的机子就是linux系统,直接再自己的机子上先实验几天,看看运行的效果怎么样,结果,不管怎么弄总是会说spring的配置文件有问题,要么找不到要么说不对,找了各
2016-10-20 19:14:22 5035
转载 Java 内存区域和GC机制详解解读
这篇文章对于java虚拟机的内存管理机制进行讲解,我感觉内容很好很清晰,所以将文章转载过来,我建议读者可以静下心来读完。原文地址Java 内存区域和GC机制最详解。在这里我也自己写写个人的理解,供读者参考:一讲到内存,对于我们程序员来讲,我感觉想到的最多的可能是栈和堆了。堆栈栈:对于程序中的很多基本类型的数据比如:int、float等基本类型(除去String类型)的数据会直接将其存储在栈中,在栈
2016-10-11 19:39:35 3679
原创 Redis深入理解-数据结构篇(1)-简单动态字符串SDS
Redis没有直接使用C语言中的字符串,而是自己构建了SDS这样的一种简单动态字符串,并且将他作为Redis中字符串的默认的表示,个人认为,Redis并未完全抛弃C语言字符串,只不过是在C语言字符串的基础上,通过封装其他的属性,构造出一个更加高效的字符串的封装结构,在早些的版本中记录了其长度(实际使用了多少)、剩余空间、以及字符数组,最新的版本3.2.4中,已经对SDS做了一定的改动记录了长度、分配内存大小(除去‘\0’)、标志位(低三位表示类型,其余五位未使用)、以及字符数组。
2016-10-03 13:02:31 4759
数据结构课程设计
2015-08-29
SQL Promot 辅助软件
2013-08-04
JAX-WS 2.2 RI 所包含的JAR包集合
2016-07-26
jax-ws与spring整合jar包下载
2016-07-26
HiberTest使用HQL动态构建对象
2016-02-23
Hibernate使用JPA注解代码
2016-02-16
[MongoDB权威指南].(美).霍多罗夫.(美).迪洛尔夫.(译)程
2016-02-02
Weblogic使用手册大全详解(中文)
2016-02-02
Struts2标签中文参考手册
2016-01-20
Hibernate-HQL、Criteria、SQL实现查询对照以及增删改代码
2016-01-02
ElasticJob明明配置了,也配置到ZK了,web端就是不显示数据
2017-07-18
决策树的叶子节点产生条件可不可以用增熵=0判断
2015-04-30
TA创建的收藏夹 TA关注的收藏夹
TA关注的人