python变量初始化的位置不当、程序结果可能会出现问题_初始化sparkContext python时出现奇怪错误...

我一直在使用spark2.0.1,但是试图升级到更新的版本,即2.1.1,方法是将tar文件下载到本地并更改路径。在

但是,现在当我尝试运行任何程序时,它在sparkContext初始化时失败。i、 esc = SparkContext()

我尝试运行的整个示例代码是:

^{pr2}$

我得到的例外是在开始时,即:Traceback (most recent call last):

File "/home/vna/scripts/global_score_pipeline/test_code_here.py", line 47, in

sc = SparkContext()

File "/opt/apps/spark-2.1.1-bin-hadoop2.7/python/pyspark/context.py", line 118, in __init__

conf, jsc, profiler_cls)

File "/opt/apps/spark-2.1.1-bin-hadoop2.7/python/pyspark/context.py", line 182, in _do_init

self._jsc = jsc or self._initialize_context(self._conf._jconf)

File "/opt/apps/spark-2.1.1-bin-hadoop2.7/python/pyspark/context.py", line 249, in _initialize_context

return self._jvm.JavaSparkContext(jconf)

File "/opt/apps/spark-2.1.1-bin-hadoop2.7/python/lib/py4j-0.10.4-src.zip/py4j/java_gateway.py", line 1401, in __call__

File "/opt/apps/spark-2.1.1-bin-hadoop2.7/python/lib/py4j-0.10.4-src.zip/py4j/protocol.py", line 319, in get_return_value

py4j.protocol.Py4JJavaError: An error occurred while calling None.org.apache.spark.api.java.JavaSparkContext.

: java.lang.NumberFormatException: For input string: "Ubuntu"

at java.base/java.lang.NumberFormatException.forInputString(NumberFormatException.java:65)

我不会在我的变量或ENV变量中传递Ubuntu。。在

我也尝试过更改sc=SparkContext(master='local'),但问题还是一样。在

请帮助确定此问题

编辑:火花的内容-默认值.conf在spark.master spark://master:7077

# spark.eventLog.enabled true

# spark.eventLog.dir hdfs://namenode:8021/directory

spark.serializer org.apache.spark.serializer.KryoSerializer

spark.driver.memory 8g

spark.executor.extraJavaOptions -XX:+PrintGCDetails -Dkey=value -Dnumbers="one two three"

spark.driver.extraClassPath /opt/apps/spark-2.1.1-bin-hadoop2.7/jars/mysql-connector-java-5.1.35-bin.jar

spark.executor.extraClassPath /opt/apps/spark-2.1.1-bin-hadoop2.7/jars/mysql-connector-java-5.1.35-bin.jar

Python变量初始化是指在使用变量之前,为变量分配初始值。Python中,变量的定义遵循以下规则: 1. 变量名只能由字母、数字和下划线组成。 2. 变量名的第一个字符不能是数字。 3. 不能使用Python的关键字作为变量名。 4. 最好避免和Python内置的东西重复命名。 Python变量初始化的方式有以下几种: 1. 直接赋值:可以通过使用等号将一个值赋给变量。例如:x = 10。 2. 同初始化多个变量:可以使用逗号将多个变量放在一起,然后用等号将它们与对应的值进行绑定。例如:a, b, c = 1, 2, 3。 3. 使用None进行初始化:可以将变量初始化为None,表示该变量没有值。例如:x = None。 需要注意的是,Python是一种动态类型的语言,这意味着变量的类型可以根据赋值的值而自动推导。也就是说,可以为变量赋任意类型的值,并且可以随修改变量的值。例如,可以将一个整数赋给变量,然后将它修改为字符串。例如:a = 10,a = 'hello'。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [python初始及变量规则(一)](https://blog.csdn.net/w1316022737/article/details/83189449)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值