- 博客(93)
- 资源 (16)
- 收藏
- 关注
转载 hive函数全(已翻译)
函数名 含义及实例 ABS abs(x) - 返回x的绝对值 示例: > SELECT abs(0)FROM src LIMIT 1; 0 > SELECT abs(-5)FROM src LIMIT 1; 五 ACOS acos(x) - 如果-1 <= x <= 1则返回x的反余弦值,否则返回NULL 例如: > SELECT acos(
2020-07-22 15:17:27 1370
原创 win换行符转linux 与 linux换行符转win
1.一些概念windows换行符\r\n,也是CRLF linux换行符\n,也是LF2.windows上使用Notepad++查看换行符视图-》显示符号-》显示行尾符3.使用sed将win换行符转linux换行符sed -i 's/\r//' filename命令的意思是将\r去掉-i直接修改filename文件s是替换的意思,例如:s/旧字符串/新字符串/4.使用sed将linux换行符转windows换行符sed -i ':label;N;s/...
2020-05-29 19:41:45 688
原创 hive函数 -- split 字符串分割函数(基本用法,特殊字符处理,注意项)
hive字符串分割函数split(str, regex) - Splits str around occurances that match regexTime taken: 0.769 seconds, Fetched: 1 row(s)返回值为一个数组a.基本用法:例1:split('a,b,c,d',',')得到的结果:["a","b","c","d"]...
2020-03-24 12:18:34 7044
原创 win10拨号上网不能开启移动热点 解决方案
一般情况下 win10有热点,但拨号上网模式下开启不了。错误提示为:我们无法设置移动热点,因为你的电脑未建立以太网,WIFI或手机网络连接。这个问题可能出现在拨号上网连接的设备上. 下面解决win10下无法建立移动热点,具体步骤如下: 1. 首先用手机或其他设备开个无线热点。 2. 电脑连接步骤1中的开的热点. 电脑端打开移动热点,网络连接中会有一个 本地连接*12之类的网络 ...
2020-03-04 10:32:15 19588 5
原创 统计每个用户一小时内最大的登录数
package com.wz.udfimport java.util.Dateimport org.apache.commons.lang3.time.FastDateFormatimport org.apache.spark.sql.SparkSession//登录时间 登录账号//10:31:11 aa//10:31:20 aa//10:31:33 aa//10...
2019-10-11 21:11:58 539
原创 Structured Streaming
Structured StreamingStructured StreamingTable of Contents1. 回顾和展望1.1. Spark 编程模型的进化过程1.2. Spark 的 序列化 的进化过程1.3. Spark Streaming 和 Structured Streaming2. Structured Streaming 入门案...
2019-09-27 17:42:48 1181
原创 Spark Streaming
Spark StreamingCreate Repository 导读介绍入门原理操作Table of Contents1. Spark Streaming 介绍2. Spark Streaming 入门2. 原理3. 操作1. Spark Streaming 介绍导读流式...
2019-09-27 17:41:33 371
原创 SparkSQL 练习项目 - 出租车利用率分析
SparkSQL 练习项目 - 出租车利用率分析SparkSQL 练习项目 - 出租车利用率分析Table of Contents1. 业务2. 流程分析3. 数据读取5. 数据清洗6. 行政区信息6.1. 需求介绍6.2. 工具介绍6.3. 具体实现7. 会话统计导读本项目是 SparkSQL 阶段的练习项目, 主要目的...
2019-09-27 17:39:52 1699 1
原创 SparkSQL
SparkSQLSparkSQLTable of Contents1. SparkSQL 是什么1.1. SparkSQL 的出现契机1.2. SparkSQL 的适用场景2. SparkSQL 初体验2.3. RDD 版本的 WordCount2.2. 命令式 API 的入门案例2.2. SQL 版本 WordCount3. [扩展] C...
2019-09-27 17:38:48 723
原创 Spark core Insight
Spark core InsightCreate Repository 目标深入理解 RDD 的内在逻辑能够使用 RDD 的算子理解 RDD 算子的 Shuffle 和缓存理解 RDD 整体的使用流程理解 RDD 的调度原理理解 Spark 中常见的分布式变量共享方式Table of Conten...
2019-09-27 17:34:17 640
原创 Spark Core
Spark CoreCreate Repository 全阶段目标理解 Spark 的特点和作用能够完成 Spark 的集群搭建和安装通过入门案例理解 Spark 的编程模型 RDD了解 RDD 的常见使用Table of Contents1. Spark 概述1.1. Spark是什么...
2019-09-26 19:08:11 548
原创 java.lang.NoClassDefFoundError: akka/serialization/BaseSerializer$class
Exception in thread "main" java.lang.NoClassDefFoundError: akka/serialization/BaseSerializer$class at akka.persistence.serialization.SnapshotSerializer.<init>(SnapshotSerializer.scala:31) at ...
2019-09-24 17:39:07 1338
转载 知道这20个正则表达式,能让你少写1,000行代码
由于编辑器的原因,有些 \被自动转义成\\了 ,使用前先进行测试下目录常使用到的20个正则表达式。1 . 校验密码强度2. 校验中文3. 由数字、26个英文字母或下划线组成的字符串4. 校验E-Mail 地址5. 校验身份证号码6. 校验日期7. 校验金额8. 校验手机号9. 判断IE的版本10. 校验IP-v4地址11. 校验IP-v6地址...
2019-09-21 09:18:08 636
原创 scala 查找隐式参数时和进行隐式转换时的查找顺序
scala 查找隐式参数时和进行隐式转换时的查找顺序 (看的一些视频上老师说的) 当前作用域-->自身作用域伴生对象--> 相关的类和接口的伴生对象(如继承的类,trait) -->import上下文的隐式转换 开发时 业界主流一般建议直接在自身伴生对象中写隐式的, 不建议import,随着版本的迭代什么的,某些开发者容易搞混在哪查找隐式参数时和进行隐式转换:...
2019-09-18 20:47:35 488
原创 scala 构造器 详解 (反编译java)
目录一.主构造器1.主构造器中的参数带有var,【反编译成Java查看】,会生成对应的成员变量及get/set方法,在scala中可使用对象.成员变量 进行修改,获取值.主构造器中的参数带有val,会生成对应的 final成员变量,及get方法,没有set方法,final不允许修改的2.主构造器不带var/val,不会生成对应的成员变量,只是个单纯的形参二.辅助构造器参数不...
2019-09-18 14:53:35 446
原创 scala 补充知识
目录1. var temp = List("Hello",1) 可以保存了不同类型的原因 : 类型推断 List[Any] = List(Hello,1)2. 使用Nil 创建空列表List3.可变集合(mutable )和不可变集合(immutable)4.函数的参数列表可以省略的情况: 参数只使用一次,且没嵌套使用 .如 x=>print(x) 省略为pri...
2019-09-17 18:27:59 278
原创 idea plugins 插件安装位置
idea用户安装(非自带)的插件 默认在用户的C:\Users\TXWY\.IntelliJIdea2019.1\config\plugins 目录下idea自带的插件在idea安装(解压zip)目录的plugins目录中
2019-09-17 17:49:24 43653 1
原创 scala 免安装 和 idea配置
1.idea下载scala插件https://blog.csdn.net/wz_TXWY/article/details/1008965692.创建project ,选择scala-->idea ,配置scala sdk,之后就可以在idea中开发scala项目了3.进入官网https://www.scala-lang.org/download/,下载zip 包. .m...
2019-09-17 17:38:35 450
原创 快速找出并解决 idea 中maven版本冲突
1. 安装idea插件 :Maven Helper,安装完插件重启ideaidea插件安装:https://blog.csdn.net/wz_TXWY/article/details/1008965692.在你项目的pom文件会出现Dependency Analyzer 选项,点击会看到所有版本冲突的依赖列表3.找到你需要的版本(一般情况都是需要高版本的),把其他不...
2019-09-16 18:36:59 4222
原创 idea插件安装:
一. 在线安装,安装完后重启idea1.打开plugins插件界面: File ===> settings ===> plugins二. 离线安装1.进入官网:https://plugins.jetbrains.com/ ,在搜索框输入插件关键字2,在搜索结果中找到需要的插件点击进去3.点击 gethelp =...
2019-09-16 18:35:52 747
原创 scala 函数式编程 foreach, map , flatmap , filter , exists ,sorted ,groupBy ,reduce ,fold
函数式编程我们将来使用Spark/Flink的大量业务代码都会使用到函数式编程。下面的这些操作是学习的重点。遍历(foreach)映射(map)映射扁平化(flatmap)过滤(filter)是否存在(exists)排序(sorted、sortBy、sortWith)分组(groupBy)聚合计算(reduce)折叠(fold)遍历 | foreach之前,学习过...
2019-09-16 14:58:29 1126
原创 scala 列表List常用操作
列表常用操作以下是列表常用的操作判断列表是否为空(isEmpty)拼接两个列表(++ :: ::: )获取列表的首个元素(head)和剩余部分(tail)反转列表(reverse)获取前缀(take)、获取后缀(drop)扁平化(flaten)拉链(zip)和拉开(unzip)转换字符串(toString)生成字符串(mkString)并集(union)(合并,跟++...
2019-09-16 11:38:30 1570
原创 Scala 数据类型与操作符
数据类型与操作符scala中的类型以及操作符绝大多数和Java一样,我们主要来学习与Java不一样的一些用法scala类型的继承体系数据类型基础类型类型说明Byte8位带符号整数Short16位带符号整数Int32位带符号整数Long64位带符号整数Char16位无符号Unicode字符StringChar类型的序列(字...
2019-09-16 10:19:36 521 1
原创 2019新版CSDN 转载技巧
1.右键点击文章,选择 检查---> 选择class 为markdown_views的div ---> 右键选择copy element2.打开notepad++ 粘贴copy 的 , 查找<ul class="pre-numbering" style="">.*?</li></ul> (此正则使用的是懒加载) ,选择正则表达式 ,...
2019-09-15 22:19:39 185
转载 Scala for循环 原理探寻
Scala for循环基本使用增强型for循环scala基本for循环如下,代码将names遍历并打印包含的名字。val n...
2019-09-15 22:08:45 320
原创 scala for循环的几种方式
for循环的几种方式第一种(生成器表达式)i 表示循环的变量, <- 规定好 to 规定i 将会从 1-3 循环, 前后闭合for(i <- 1 to 3){ print(i + " ")} 第二种这种方式和前面的区别在于 i 是从1 到 3-1前闭合后开的范围,和java的arr.length() 类似for(i <- 1 until 3) ...
2019-09-15 22:01:58 1157
原创 Scala 方法和函数的区别
方法和函数的区别方法是隶属于类或者对象的,在运行时,它是加载到JVM的方法区中可以将函数对象赋值给一个变量,在运行时,它是加载到JVM的堆内存中函数是一个对象,继承自FunctionN,函数对象有apply,curried,toString,tupled这些方法。方法则没有示例方法无法赋值给变量scala> def add(x:Int,y:Int)=x+yadd: (x: ...
2019-09-15 19:09:22 433
原创 scala方法调用方式-总结
方法调用方式在scala中,有以下几种方法调用方式,后缀调用法中缀调用法花括号调用法无括号调用法在后续编写spark、flink程序时,会使用到这些方法调用方式。后缀调用法这种方法与Java没有区别。语法对象名.方法名(参数)示例使用后缀法Math.abs求绝对值参考代码scala> Math.abs(-1)res3: Int = 1中缀调用法语法...
2019-09-15 18:56:51 1365
原创 Scala 实现java break和continue单独出现,break和continue一同出现
break和continue单独出现,break和continue一同出现在scala中,类似Java和C++的break/continue关键字被移除了如果一定要使用break/continue,就需要使用scala.util.control包的Break类的breable和break方法。实现break用法导入Breaks包import scala.util.control.B...
2019-09-15 17:42:11 528
原创 Cannot access: /. The HDFS REST service is not available. " ""
1.Cannot access: /user/admin. The HDFS REST service is not available. " "" 注:您是 Hue 管理员,但不是 HDFS 超级用户(即 ""hdfs"")。"""一般是Httpfs没有启动在有nameNodede 机器上启动httpfs服务 在hadoop家目录()安装目录) sbin/httpfs.sh star...
2019-09-04 22:52:04 3866
原创 hue 集成高可靠yarn
[[[default]]] 和 [[ha]]中各配置一个RM,logical_name名字就是yarn-site.xml中配置的
2019-09-04 22:44:35 391
原创 hue 安装编译 报错 raise EnvironmentError("%s not found" % (mysql_config.path,))
File "/export/servers/hue-3.9.0-cdh5.14.0/desktop/core/ext-py/MySQL-python-1.2.5/setup_posix.py", line 25, in mysql_config raise EnvironmentError("%s not found" % (mysql_config.path,))Environmen...
2019-09-04 18:52:51 2371
原创 ZKFC 详解
基本概念zkfc是什么?ZooKeeperFailoverController它是什么?是Hadoop中通过ZK实现FC功能的一个实用工具。主要作用:作为一个ZK集群的客户端,用来监控NN的状态信息,主备NN的切换谁会用它?每个运行NN的节点必须要运行一个zkfc有啥功能?1.Health monitoring (健康监测) 对NN的健康监测zkfc定期对本地的NN发起heal...
2019-08-20 21:50:42 5316
原创 org.apache.jasper.JasperException: java.lang.ClassNotFoundException: org.apache.jsp.index_jsp
在我这边的解决方案:方案一:在jsp中删了 <%@ taglib prefix="c" uri="http://java.sun.com/jsp/jstl/core" %> , 可行,不报错了方案二:maven依赖再添加个 taglibs->>standard...
2019-08-12 20:30:44 5913 3
原创 java.sql.SQLException: Cannot create com.wz.domain.Account: com.wz.domain.Account
不能创建创建实体类实体类没有提供无参构造
2019-08-03 16:39:43 413 1
原创 python super详解 (二)
super并不是一个函数,是一个类名,形如super(B, self)事实上调用了super类的初始化函数,产生了一个super对象;1、super([type[,object-or-type]])super() 在使用时至少传递一个参数,且这个参数必须是一个类。通过super()获取到的是一个代理对象,通过这个对象去查找父类或者兄弟类的方法。2、super()不...
2019-08-02 22:46:07 323
原创 python super详解(一)
一题:继承关系打印结果:如果你认为super代表『调用父类的方法』,那你很可能会疑惑为什么 enter A 的下一句不是 enter Base 而是 enter B。原因是,super和父类没有实质性的关联,现在让我们搞清super是怎么运作的。 事实上,对于你定义的每一个类,Python 会计算出一个方法解析顺序(Method Resolu...
2019-08-02 22:32:17 274
原创 centos7 安装 mysql8
Mysql8 安装0.卸载默认数据库mariadb查找安装包rpm -qa | grep mariadb卸载yum -y remove 安装包(mariadb-libs-5.5.44-2.el7.centos.x86_64)1.获取yum安装源 http://repo.mysql.com/找到自己需要安装,这里选择mysql-community-release-el...
2019-07-26 22:09:00 146
原创 过滤器Filter
一.过滤器Filter的使用第一步:编写一个类实现Filter接口public class FilterTest implements Filter第二步: 对过滤器在web.xml中进行配置注册<!-- 注册过滤器Filter --><!-- <description>用于添加描述信息,该元素的内容可为空,<description>...
2019-07-15 20:47:32 333
原创 Servlet中的监听器(8个)
Servlet中的监听器(8个)一类:监听三个域对象的创建和销毁的监听器(三个) ServletContextListener HttpSessionListener ServletRequestListener二类:监听三个域对象的属性变更(属性添加、移除、...
2019-07-15 20:03:48 319
NavicatPremium12.1.19软件及破解软件及破解教程.rar
2019-06-25
音视频开发进阶指南:基于Android与iOS平台的实践
2019-02-15
jackson-2.8.0-all.jar
2018-01-25
WEB前端助手(FeHelper)_v10.0
2017-11-15
gradle-4.3.1.rar
2017-11-11
gradle-3.3-all
2017-11-02
ArcGIS API for Javascript 开发基础教程中文版
2017-11-02
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人