![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
hadoop
文章平均质量分 83
xjward
这个作者很懒,什么都没留下…
展开
-
java.io.IOException: ORA-00911
今天在将hdfs的数据插入数据库时 报错: java.io.IOException: ORA-00911: invalid character 咋一看此乃ORACLE的独家错误啊 , 难道是SQL写错了? 再仔细看 这个报的错是IO的问题! 顿时头大啊 这.... 怎么一回事啊!没办法只有打断点跟程序 一步一步的运行了在org.apache.hadoop.m...2013-02-25 15:45:12 · 202 阅读 · 0 评论 -
hadoop 常见错误
hadoop常见错误:1. 一直连接不上 原因: 可能是hadoop 没有启动!2. org.apache.hadoop.security.AccessControlException: Permission denied: user=administrator, access=EXECUTE...原因:因为Eclipse使用hadoop插件提交作业时,会默认以 DrWh...原创 2013-02-26 09:17:29 · 194 阅读 · 0 评论 -
Hadoop 分布式安装
1.安装检查 jdk的安装 略过2.安装ssh (牛哥 提供脚本 未检测)#!/bin/shcd /home/adminrm -rfv .sshmk .sshssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keyschmod ...原创 2013-02-26 09:24:13 · 70 阅读 · 0 评论 -
Eclipse集成hadoop插件
将jar文件放在$eclipse_home\plugins下 重启eclipse 即可1.打开Map/Redue 视图 默认在控制台旁边 2.切换到Map/Reduce 模式 3.配置并连接Map/Reduce点击 小象 图标 创建hadoop 连接 在弹出的窗口中 输入nodename 的IP 和监听端口 Map/Reduce 和DFS 的监听端口都是9000 (在...原创 2013-02-26 09:32:30 · 88 阅读 · 0 评论 -
Hadoop的基础配置
1. 下载hadoop安装包 可以到这个网站上下载http://www.apache.org/dist//hadoop/core/如果下载不下来自己到网上找找很多的。选一个版本下载。我用的是hadoop-0.20.2。2.解压到一个目录下。随便选择按个目录。建议直接选择一个根目录。随后进行配置。这里配置的是伪分布式了。需要配置四个文件。都在conf目录下。分别为:hadoop-...原创 2013-02-27 11:40:28 · 86 阅读 · 0 评论 -
hadoop 求平均时间
sqoop 求订单完成是平均时间精确到0.1天package hdfs.demo3;import hdfs.constants.DemoLineInputFormat;import hdfs.constants.Utils;import java.io.IOException;import java.math.BigDecimal;import jav...原创 2013-02-27 17:11:03 · 77 阅读 · 0 评论 -
hadoop 二次排序 插入数据库
二次排序:根据自定义对象的compareTo 方法排序 由下面的代码实现可以看出 二次排序的实质是 先根据第一个字段排完序后再排第二个字段若还有第三个字段参与进来是否可以叫作三次排序呢 (?_ ?) 另:根据程序断点初步判断 设置job的sort 会在mapper 至combiner阶段执行设置job的group会在combiner至r...原创 2013-02-27 18:06:03 · 95 阅读 · 0 评论 -
hadoop API 读数据库到HDFS
用hadoop的API从数据库读取数据到HDFS package com.avgdate;import java.io.DataInput;import java.io.DataOutput;import java.io.IOException;import java.sql.PreparedStatement;import java.sql.Result...原创 2013-02-28 10:22:11 · 89 阅读 · 0 评论 -
hadoop API 读/写数据库
利用Hadoop API 从数据库中读出数据 简单处理 并写入数据库中package dbio;import java.io.DataInput;import java.io.DataOutput;import java.io.IOException;import java.sql.PreparedStatement;import java.sql.ResultSet...原创 2013-02-28 11:14:33 · 119 阅读 · 0 评论