scala
南宫木java
这个作者很懒,什么都没留下…
展开
-
数组一直报下标溢出,通过null判断都没用
碰到数组不存在那一项,然后不得不进行判断,怎么办??原创 2016-05-06 15:17:16 · 733 阅读 · 0 评论 -
RDD转成DataFrame报错
RDD转成DataFrame一直报错,缺下图中两行代码!原创 2016-05-20 15:22:52 · 734 阅读 · 0 评论 -
Spark中TF_IDF含义
Spark中MLlib库中集成有计算TF_IDF的方法,其输出结果的含义如下: 疑问: 1、输出的TF值并不是词频,,而是词数(注意词频和词数的区别)原创 2016-05-20 15:33:22 · 472 阅读 · 0 评论 -
scala中.map()方法
scala中 .map()方法的三种案例,能可以说明的问题: 1、T.map() => T 2、只有RDD.map() 是懒操作,,其他不是原创 2016-05-20 15:41:59 · 5075 阅读 · 0 评论 -
读取HDFS文件目录的方法
欢迎使用Markdown编辑器写博客首先添加依赖://注意后面的provided,缺少会报包冲突的错误 libraryDependencies += "org.apache.hadoop" % "hadoop-hdfs" % "2.7.2"%"provided" import org.apache.hadoop.fs.{FileSystem, FileUtil, Path}val hdfsPath原创 2016-12-12 19:35:39 · 6670 阅读 · 0 评论 -
NoSuchMethodError:org.apache.spark.rdd.RDD.mapPartitionsInternal$default$2()Z
变态的spark sql 解决方案:版本!!!!!!原创 2017-03-16 21:45:44 · 1608 阅读 · 0 评论 -
scala map排序
def main(args: Array[String]): Unit = { val aMap = new scala.collection.mutable.HashMap[String, Double] val a = Array("A", "B", "C", "D") val b = Array(4, 5, 8, 9) for(i <- a.indices){原创 2017-06-29 16:52:20 · 7976 阅读 · 0 评论 -
java.lang.NoSuchMethodError: breeze.linalg.DenseVector$.canSetD()
背景:跑时间序列模型报错环境:scala 2.11 + spark 2.0报错:java.lang.NoSuchMethodError: breeze.linalg.DenseVector$.canSetD()...........解决:(1) 经查,同一个包的两个版本均存在,即breeze_2.10 和 breeze_2.11,但其中breeze_2.10被exclude掉(2) 查breez_...原创 2018-05-23 15:19:52 · 1319 阅读 · 2 评论