pyspark jdbc mysql_pyspark 调 mysql jdbc读取了参数出来,待续

from __future__ import print_function

from pyspark.sql import SparkSession

from pyspark.sql import SQLContext

import os, time,sys

def main(argv):

print(argv[1])

print(argv[2])

print(argv[3])

spark = SparkSession.builder

.appName("test")

.master("local")

.getOrCreate()

sc = spark.sparkContext

sqlContext=SQLContext(sc)

jdbcDf=sqlContext.read.format("jdbc").options(url="jdbc:mysql://ip:3306/test",

driver="com.mysql.jdbc.Driver",

dbtable="(SELECT * FROM test  LIMIT 5) tmp",

user="test",password="1111123").load()

#print(jdbcDf.select("job_name").show(2))

print(jdbcDf)

print("hjzFinish")

if __name__ == "__main__":

# 设置spark_home环境变量,路径不能有中文、空格

#os.environ["SPARK_HOME"] = "E:/data_page/spark-2.0.2-bin-hadoop2.7"

# 运行在本地(local),2个线程,一行写不完换行时用“”

main(sys.argv)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值