留歌__36的博客

import java.sql.*;/** * Description: HiveJdbcClient的操作 * 修改默认的hiveserver2的启动端口： * $HIVE_HOME/bin/hiveserver2 --hiveconf hive.server2.thrift.port=14000 * $HIVE_HOME/bin/beeline -u jdb...

package february.sqlimport org.apache.spark.sql.SparkSession/** * * ====== Spark SQL默认处理的format是parquet ==== * Description: Parquet 文件操作 * * 处理parquet数据 * spark.read....

写在前面：当得到一个DataFrame对象之后，可以使用对象提供的各种API方法进行直接调用，进行数据的处理。 // =====基于dataframe的API=======之后的就都是DataFrame 的操作了============== infoDF.show() infoDF.filter(infoDF.col("age") > 30).show()另，也可以...

写在前面：A DataFrame is a Dataset organized into named columns.A Dataset is a distributed collection of data.贴代码：package february.sqlimport org.apache.spark.sql.SparkSession/** * Description: ...

先贴代码package february.sqlimport org.apache.spark.sql.types.{IntegerType, StringType, StructField, StructType}import org.apache.spark.sql.{Row, SparkSession}/** * Description: ============Spark...

~~前置~~Spark Streaming 常常对接 ：本地文件、HDFS、端口、flume、kafkapackage february.streamingimport org.apache.spark.SparkConfimport org.apache.spark.streaming.{Seconds, StreamingContext}/** * ...

写在前面因为觉得自己的代码量实在是太少了，所以，想着，每周至少写5个小的demo程序。现在的想法是，写一些Spark,Storm,MapReduce，Flume,kafka等等单独或组合使用的一些小的Demo。然后，我会尽力记录好，自己编码过程中遇到的问题，方便自己巩固复习。废话不多说，我们直接干吧。开发环境本地开发工具版本Spark2.2.0Scala2...