2016年05月_北京小辉

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月

原创 Java基础：参数传递（三）

class Demo{ public static void main(String[] args) { int[] arr = new int[2]; show(arr); System.out.println(arr[0]); } public static void show(int[] arr) { arr[0]++; }}

2016-05-26 22:51:13 555

原创 Java基础：参数传递（二）

class Demo{ int x = 3; public static void main(String[] args) { Demo d = new Demo(); d.x = 10; show(d);//show(new Demo()); System.out.println(d.x); } public static void show(Demo d) {

2016-05-26 22:48:03 546

原创 Java基础：参数传递（一）

class Demo { public static void main(String[] args) { int x = 4; show(x); System.out.println(x); } public static void show(int x) { x = 2; }}

2016-05-26 22:43:47 553

原创 Hadoop机器运行一段时间后hadoop不能stop-all.sh的问题

显示报错no tasktracker to stop ，no datanode to stop问题的原因是hadoop在stop的时候依据的是datanode上的mapred和dfs进程号。而默认的进程号保存在/tmp下，linux默认会每隔一段时间（一般是一个月或者7天左右）去删除这个目录下的文件。因此删掉hadoop-hadoop-jobtracker.pid和hadoop- hado

2016-05-26 11:40:24 2277

原创 kakfa的维护：CDH的kafka及kafka manager安装

CDH的kafka安装第一步下载，分配，激活parcel第二步每台机器broker设置【broker.id】，第一行是路径，第二行是要修改的【broker.id=1】，参考下图的【broker.id】/opt/cloudera/parcels/KAFKA-3.1.1-1.3.1.1.p0.2/etc/kafka/conf.dist/server.properties ...

2016-05-26 11:24:31 1865

原创 squirrel-sql通过phoenix-4.7.0连接windows中的hbase-1.1.3（一）

第一步：下载hbase-1.1.3-bin.tar.gz 和 hadoop-2.6.0.tar.gz我放在D盘中的java路径下面在第二步：将 winutils.exe 放入 adoop-2.6.0\bin中http://pan.baidu.com/s/1nver1m5 64n3第三步：配置hadoop的环境变量

2016-05-25 21:14:27 1578

原创 Intellij IDEA15：带着参数运行

package main.scala/** * Created by silentwolf on 2016/5/24. */object FileIO { def main(args: Array[String]) { if (args.length != 2) { System.err.println("Usage: FileIO ") S

2016-05-24 16:44:48 18018

原创 SparkStream文件监控和数据读取

代码 package main.scalaimport org.apache.spark.SparkConfimport org.apache.spark.streaming.{Seconds, StreamingContext}import org.slf4j.LoggerFactory/** * Created by silentwolf on 2016/5/23. ...

2016-05-24 12:53:49 7784

原创 Scala常见错误

1、在idea中使用 scala version 2.9.3，报错Error:object scala.reflect.ClassManifest not found....升级scala version 到 2.11.0后，解决。新版本 scala 的 lib 中多了一个 scala-reflect.jar.具体原因不明2、编写

2016-05-23 22:51:24 1869

原创 HDFS的API

package cn.yc.com.util;import java.io.FileInputStream;import java.io.FileOutputStream;import java.io.IOException;import java.io.InputStream;import java.io.OutputStream;import java.net.URI;import o

2016-05-23 22:16:15 1309 2

原创 Hbase的API

package cn.yc.com.base.data;/** * * ClassName: RecordBean * @Description: 实时访客Hbase表映射 * @author 余辉 * @date 2015-8-18 */public class RecordBean { private String rowkey;

2016-05-23 22:14:27 1080

原创 Scala正则使用

package main.scalaimport com.alibaba.fastjson.{JSON, JSONObject}import scala.util.matching.Regex/** * Created by silentwolf on 2016/5/23. */object dataTest { def main(args: Array[String])

2016-05-23 19:47:07 526

原创 you belong with me(你属于我)

You’re on the phone with your girlfriend, she‘s upset. 　　你正和女朋友在讲电话，她很郁闷　　She’s going off about something that you said 　　（但）你说的她却不感兴趣　　’Cuz she doesn’t, get your humor like I do 　　因为她无法像我那样理解你的

2016-05-18 22:28:13 746

原创 hadoop Apache版本的启动命令

start-all.sh 启动所有的Hadoop守护进程。包括NameNode、 Secondary NameNode、DataNode、JobTracker、 TaskTrackstop-all.sh 停止所有的Hadoop守护进程。包括NameNode、 Secondary NameNode、DataNode、JobTracker、 TaskTrackstart-dfs.sh 启动Ha

2016-05-08 21:26:21 1065

转载 Kafka主要参数详解

原文档地址：http://kafka.apache.org/documentation.html############################# System ##############################唯一标识在集群中的ID，要求是正数。broker.id=0#服务端口，默认9092port=9092#监听地址，不设为所有地址host.nam

2016-05-03 19:14:25 971

原创 kafka删除topicName 提示marked for deletion

kafka 删除topic 提示marked for deletion[root@shadoop11 kafka_2.10-0.9.0.0]# kafka-topics.sh --delete --zookeeper localhost:2181 --topic yuhui-001 Topic yuhui-001 is marked for deletion. Note: This wil

2016-05-03 19:09:37 15996

原创 Spark1.6.1集群环境搭建——Standalone模式HA

机器准备笔者有三台机器，左侧栏为ip，右侧为hostname，三台机器都有一个名为spark的用户。192.168.200.11 hadoop11192.168.200.12 hadoop12192.168.200.13 hadoop13安装scalahttp://blog.csdn.net/silentwolfyh/article/details/512970

2016-05-02 17:44:15 2504

原创 Scala极速入门

快速学习 http://www.yiibai.com/scala/scala_environment_setup.html定义Scala语言是一种面向对象语言，同时又结合了命令式（imperative）和函数式（functional）编程风格。官网描述：Object-Oriented Meets Functional（面向对象遇到函数式编程）。安装下载地址h

2016-05-02 17:06:46 804

Mysql教程所有数据.zip

博客【北京小辉】中Mysql教程的所有加载数据。余辉，中科院硕士研究生毕业，专注于大数据领域多年。曾工作于清华大学、京东，现从事大数据讲师一职。博客地址：https://blog.csdn.net/silentwolfyh

2020-05-05

新概念2知识点.pdf

新概念2-课文名称和知识点，链接：https://blog.csdn.net/silentwolfyh/article/details/95083297

2019-09-06

功能说明： 2、选择爬取代码说明： 1、如果没有参数，则抓取所有银行数据 1.1、抓取过程中如果有一家银行有错误，会邮件报警，且不影响其余银行抓取 2、如果有参数（参数只能有一个）且参数正确，则抓取对应银行数据 3、如果有参数（参数只能有一个）且参数操作，则停止运行，弹出正确参数列表 4、15家银行的银行名称、银行代码、银行URL如下所示：备注： 001 属于页面数据源在内嵌Iframe 002 属于页面数据源为json 008 属于页面数据源为js 010 属于页面数据源为xml

2019-07-08

Hive的Udf函数进行数据脱敏

udf开发–做个简单脱敏udf保留前5位，后面全部替换成*****

2019-01-26

sqoop的数据导入

2019-01-16

SpringBoot的mvc三层以及增删改查页面

demo说明 1、这个demo是一个springboot的样例。 2、MVC三层都弄好了,增删改查功能都能用。 3、Test中有Service层的测试方法参考地址:https://blog.csdn.net/silentwolfyh/article/details/84350966 参考地址:https://blog.csdn.net/silentwolfyh/article/details/83995563

2018-11-22

spring boot+mybatis整合

目录一、整体结构图二、Spring boot搭建三、整合Mybatis(自动生成工具) 1、集成druid，使用连接池 2、自动生成工具依赖和插件 3、最终的pom.xml文件： 4、在application.yml中添加数据源、Mybatis的实体和配置文件位置。 5、自动生成代码配置文件。 6、建立数据库和表 7、生产Dao层和entity类 8、建立controller层类 9、建立service层类 10、启动之后结果展示 --------------------- 作者：silentwolfyh 来源：CSDN 原文：https://blog.csdn.net/silentwolfyh/article/details/83995563 版权声明：本文为博主原创文章，转载请附上博文链接！

2018-11-12

Lucene实战(第2版).pdf

《lucene实战（第2版）》基于apache的lucene3.0，从lucene核心、lucene应用、案例分析3个方面详细系统地介绍了lucene，包括认识lucene、建立索引、为应用程序添加搜索功能、高级搜索技术、扩展搜索、使用tika提取文本、lucene的高级扩展、使用其他编程语言访问lucene、lucene管理和性能调优等内容，最后还提供了三大经典成功案例，为读者展示了一个奇妙的搜索世界。　　《lucene实战（第2版）》适合于已具有一定java编程基本的读者，以及希望能够把强大的搜索功能添加到自己的应用程序中的开发人员。lucene实战（第2版）》对于从事搜索引擎工作的工程技术人员，以及在java平台上进行各类软件开发的人员和编程爱好者，也具有很好的学习参考价值。

2018-08-28

SparkSql技术

目录一：为什么sparkSQL？ 3 1.1：sparkSQL的发展历程 3 1.1.1：hive and shark 3 1.1.2：Shark和sparkSQL 4 1.2：sparkSQL的性能 5 1.2.1：内存列存储（In-Memory Columnar Storage） 6 1.2.2：字节码生成技术（bytecode generation，即CG） 6 1.2.3：scala代码优化 7 二：sparkSQL运行架构 8 2.1：Tree和Rule 9 2.1.1：Tree 10 2.1.2：Rule 10 2.2：sqlContext的运行过程 12 2.3：hiveContext的运行过程 14 2.4：catalyst优化器 16 三：sparkSQL组件之解析 17 3.1：LogicalPlan 18 3.2：SqlParser 20 3.1.1：解析过程 20 3.1.2：SqlParser 22 3.1.3：SqlLexical 25 3.1.4：query 26 3.3：Analyzer 26 3.4：Optimizer 28 3.5：SpankPlan 30 四：深入了解sparkSQL运行计划 30 4.1：hive/console安装 30 4.1.1：安装hive/cosole 30 4.1.2：hive/console原理 31 4.2：常用操作 32 4.2.1 查看查询的schema 32 4.2.2 查看查询的整个运行计划 33 4.2.3 查看查询的Unresolved LogicalPlan 33 4.2.4 查看查询的analyzed LogicalPlan 33 4.2.5 查看优化后的LogicalPlan 33 4.2.6 查看物理计划 33 4.2.7 查看RDD的转换过程 33 4.2.8 更多的操作 34 4.3：不同数据源的运行计划 34 4.3.1 json文件 34 4.3.2 parquet文件 35 4.3.3 hive数据 36 4.4：不同查询的运行计划 36 4.4.1 聚合查询 36 4.4.2 join操作 37 4.4.3 Distinct操作 37 4.5：查询的优化 38 4.5.1 CombineFilters 38 4.5.2 PushPredicateThroughProject 39 4.5.3 ConstantFolding 39 4.5.4 自定义优化 39 五：测试环境之搭建 40 5.1：虚拟集群的搭建（hadoop1、hadoop2、hadoop3） 41 5.1.1：hadoop2.2.0集群搭建 41 5.1.2：MySQL的安装 41 5.1.3：hive的安装 41 5.1.4：Spark1.1.0 Standalone集群搭建 42 5.2：客户端的搭建 42 5.3：文件数据准备工作 42 5.4：hive数据准备工作 43 六：sparkSQL之基础应用 43 6.1：sqlContext基础应用 44 6.1.1：RDD 44 6.1.2：parquet文件 46 6.1.3：json文件 46 6.2：hiveContext基础应用 47 6.3：混合使用 49 6.4：缓存之使用 50 6.5：DSL之使用 51 6.6：Tips 51 七：ThriftServer和CLI 51 7.1：令人惊讶的CLI 51 7.1.1 CLI配置 52 7.1.2 CLI命令参数 52 7.1.3 CLI使用 53 7.2：ThriftServer 53 7.2.1 ThriftServer配置 53 7.2.2 ThriftServer命令参数 54 7.2.3 ThriftServer使用 54 7.3：小结 56 八：sparkSQL之综合应用 57 8.1：店铺分类 57 8.2：PageRank 59 8.3：小结 61 九：sparkSQL之调优 61 9.1：并行性 62 9.2：高效的数据格式 62 9.3：内存的使用 63 9.4：合适的Task 64 9.5：其他的一些建议 64 十：总结 64

2018-08-16

TA关注的人

北京小辉