最近自己在练习使用kettle时,想把MySQL中的数据同步到Hadoop中,就测试了一下,到最后发现怎么也连接不上hadoop集群,好不容易连接上了,结果文件又无法写入到指定的目录中,一直提示权限不够,很郁闷啊。最后终于解决了,分享一下心得。
1. kettle 安装在此不讲述,本文是以kettle 和Hadoop环境都已经部署好了,可以正常使用的环境。
创建转换,表输入,配置好MySQL的连接信息。ip, port, 用户名密码等。
测试一下能否正常连接。 写好取数据的SQL语句,可以预览一下。然后使用字段选择组件选择过来。
2. 连接字段选择组件
3. 输出到Hadoop文件系统中。 此处是难点,第一次配置可能会遇到很多坑。而且不同版本的kettle也会有很多的区别。