hadoop2

最新推荐文章于 2022-04-19 20:49:43 发布
最新推荐文章于 2022-04-19 20:49:43 发布
阅读量445 收藏
点赞数
分类专栏： Java后台 文章标签： Hadoop
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/liaozhongping/article/details/48671013
版权

（1）hadoop2课程内容

1.体系结构、源码编译
  HDFS+MapReduce。共同点都是分布式的，主从关系结构。
  HDFS是包括主节点NameNode，只有一个；还有从节点DataNode，有很多个。
  NameNode含有我们用户存储的文件的元数据信息。把这些数据存放在硬盘上，但是在运行时是加载在内存中的。
  hadoop1中的hdfs的缺点：
(1)当我们的NameNode无法在内存中加载全部元数据信息的时候，集群的寿命到头了。
(2)权限设计是不够彻底的
(3)大量小文件的存储的话，会造成NameNode的内存压力骤增。
改进：
(1)2个NameNode一起共存，组成hdfs federation。
(2)HA(高可靠) 自动、手工  

  MapReduce包括主节点JobTracker，只有一个；还有从节点TaskTracker，有很多个。
  JobTracker主要的工作是管理用户提交的作业和分配资源。

hadoop1中的MapReduce的 缺点：
(1)对于实时性作业和批处理作业，需要搭建不同的集群环境，每个集群的资源利用率是不高的。
(2)MapReduce职责过多，需要分解。
  Yarn是一个平台，用于处理资源分配和运行任务的。
2.HDFS部署安装
3.Yarn



（2）hadoop2集群搭建过程

在这里我们选用4台机器进行示范，各台机器的职责如下表格所示

 

hadoop0

hadoop1

hadoop2

hadoop3

是NameNode吗?

是，属集群cluster1

是，属集群cluster1

是，属集群cluster2

是，属集群cluster2

是DataNode吗？

否

是

是

是

是JournalNode吗？

是

是

是

否

是ZooKeeper吗？

是

是

是

否

是ZKFC吗?

是

是

是

是

 

 

1. 搭建自动HA

1.1. 复制编译后的hadoop项目到/usr/local目录下

1.2. 修改位于etc/hadoop目录下的配置文件

1.2.1. hadoop-env.sh

export JAVA_HOME=/usr/local/jdk

1.2.2. core-site.xml

<configuration>
<property>
  <name>fs.defaultFS</name>
  <value>hdfs://cluster1</value>
</property>

【这里的值指的是默认的HDFS路径。当有多个HDFS集群同时工作时，用户如果不写集群名称，那么默认使用哪个哪？在这里指定！该值来自于hdfs-site.xml中的配置。在节点hadoop0和hadoop1中使用cluster1，在节点hadoop2和hadoop3中使用cluster2】
<property>
  <name>hadoop.tmp.dir</name>
  <value>/usr/local/hadoop/tmp</value>
</property>

【这里的路径默认是NameNode、DataNode、JournalNode等存放数据的公共目录。用户也可以自己单独指定这三类节点的目录。】
<property>
  <name>ha.zookeeper.quorum</name>
  <value>hadoop0:2181,hadoop1:2181,hadoop2:2181</value>
</property>

【这里是ZooKeeper集群的地址和端口。注意，数量一定是奇数，且不少于三个节点】
</configuration>

1.2.3. hdfs-site.xml   

该文件只配置在hadoop0和hadoop1上。

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>2</value>
    </property>

【指定DataNode存储block的副本数量。默认值是3个，我们现在有4个DataNode，该值不大于4即可。】
    <property>
        <name>dfs.nameservices</name>
        <value>cluster1,cluster2</value>
    </property>

【使用federation时，使用了2个HDFS集群。这里抽象出两个NameService实际上就是给这2个HDFS集群起了个别名。名字可以随便起，相互不重复即可】
    <property>
        <name>dfs.ha.namenodes.cluster1</name>
        <value>hadoop0,hadoop1</value>
    </property>

【指定NameService是cluster1时的namenode有哪些，这里的值也是逻辑名称，名字随便起，相互不重复即可】
    <property>
        <name>dfs.namenode.rpc-address.cluster1.hadoop0</name>
        <value>hadoop0:9000</value>
    </property>

【指定hadoop0的RPC地址】
    <property>
        <name>dfs.namenode.http-address.cluster1.hadoop0</name>
        <value>hadoop0:50070</value>
    </property>

【指定hadoop0的http地址】
    <property>
        <name>dfs.namenode.rpc-address.cluster1.hadoop1</name>
        <value>hadoop1:9000</value>
    </property>

【指定hadoop1的RPC地址】

<property>
        <name>dfs.namenode.http-address.cluster1.hadoop1</name>
        <value>hadoop1:50070</value>
    </property>

【指定hadoop1的http地址】
    <property>
        <name>dfs.namenode.shared.edits.dir</name>
  <value>qjournal://hadoop0:8485;hadoop1:8485;hadoop2:8485/cluster1</value>
    </property>
【指定cluster1的两个NameNode共享edits文件目录时，使用的JournalNode集群信息】

<property>
        <name>dfs.ha.automatic-failover.enabled.cluster1</name>
        <value>true</value>
    </property>
【指定cluster1是否启动自动故障恢复，即当NameNode出故障时，是否自动切换到另一台NameNode】

<property>
        <name>dfs.client.failover.proxy.provider.cluster1</name>
     <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
    </property>

【指定cluster1出故障时，哪个实现类负责执行故障切换】

 

 

 


    <property>
        <name>dfs.ha.namenodes.cluster2</name>
        <value>hadoop2,hadoop3</value>
    </property>

【指定NameService是cluster2时，两个NameNode是谁，这里是逻辑名称，不重复即可。以下配置与cluster1几乎全部相似，不再添加注释】
    <property>
        <name>dfs.namenode.rpc-address.cluster2.hadoop2</name>
        <value>hadoop2:9000</value>
    </property>
    <property>
        <name>dfs.namenode.http-address.cluster2.hadoop2</name>
        <value>hadoop2:50070</value>
    </property>
    <property>
        <name>dfs.namenode.rpc-address.cluster2.hadoop3</name>
        <value>hadoop3:9000</value>
    </property>

    <property>
        <name>dfs.namenode.http-address.cluster2.hadoop3</name>
        <value>hadoop3:50070</value>
    </property>
    <!--
    <property>
        <name>dfs.namenode.shared.edits.dir</name>
        <value>qjournal://hadoop0:8485;hadoop1:8485;hadoop2:8485/cluster2</value>
    </property>

【这段代码是注释掉的，不要打开】
    -->
<property>
        <name>dfs.ha.automatic-failover.enabled.cluster2</name>
        <value>true</value>
    </property>
<property>
        <name>dfs.client.failover.proxy.provider.cluster2</name>
        <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>

 

 


<property>
        <name>dfs.journalnode.edits.dir</name>
        <value>/usr/local/hadoop/tmp/journal</value>
</property>

【指定JournalNode集群在对NameNode的目录进行共享时，自己存储数据的磁盘路径】
<property>
        <name>dfs.ha.fencing.methods</name>
        <value>sshfence</value>
    </property>

【一旦需要NameNode切换，使用ssh方式进行操作】
    <property>
        <name>dfs.ha.fencing.ssh.private-key-files</name>
        <value>/root/.ssh/id_rsa</value>
    </property>

【如果使用ssh进行故障切换，使用ssh通信时用的密钥存储的位置】

</configuration>

 

1.2.4. slaves

hadoop1

hadoop2

hadoop2

1.3. 把以上配置的内容复制到hadoop1、hadoop2、hadoop3节点上

1.4. 修改hadoop1、hadoop2、hadoop3上的配置文件内容

1.4.1. 修改hadoop2上的core-site.xml内容

fs.defaultFS的值改为hdfs://cluster2

1.4.2. 修改hadoop2上的hdfs-site.xml内容

把cluster1中关于journalnode的配置项删除，增加如下内容

<property>

    <name>dfs.namenode.shared.edits.dir</name>

<value>qjournal://hadoop0:8485;hadoop1:8485;hadoop2:8485/cluster2</value>

</property>

1.4.3. 开始启动

1.4.3.1. 启动journalnode

在hadoop0、hadoop1、hadoop2上执行sbin/hadoop-daemon.sh start journalnode

1.4.3.2. 格式化ZooKeeper

在hadoop0、hadoop2上执行bin/hdfs  zkfc  -formatZK

1.4.3.3. 对hadoop0节点进行格式化和启动

bin/hdfs  namenode  -format

sbin/hadoop-daemon.sh  start  namenode

1.4.3.4. 对hadoop1节点进行格式化和启动  

bin/hdfs  namenode  -bootstrapStandby

sbin/hadoop-daemon.sh  start  namenode

1.4.3.5. 在hadoop0、hadoop1上启动zkfc

sbin/hadoop-daemon.sh   start   zkfc

我们的hadoop0、hadoop1有一个节点就会变为active状态。

1.4.3.6. 对于cluster2执行类似操作

1.4.4. 启动datanode

在hadoop0上执行命令sbin/hadoop-daemons.sh   start   datanode

1.5. 配置Yarn

1.5.1. 修改文件mapred-site.xml

<property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
</property> 

1.5.2.  修改文件yarn-site.xml

<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>hadoop0</value>
 </property>   

【自定ResourceManager的地址，还是单点，这是隐患】

<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
 </property>

 

1.5.3. 启动yarn

在hadoop0上执行sbin/start-yarn.sh          






扩展：如何编译Apache+Hadoop2？

如何编译Apache Hadoop2.2.0源代码  

hadoop2的学习资料很少，只有官网的少数文档。如果想更深入的研究hadoop2，除了仅看官网的文档外，还要学习如何看源码，通过不断的调试跟踪源码，学习hadoop的运行机制。

 

1.安装CentOS

我使用的是CentOS6.5，下载地址是http://mirror.neu.edu.cn/centos/6.5/isos/x86_64/，选择CentOS-6.5-x86_64-bin-DVD1.iso 下载，注意是64位的，大小是4GB，需要下载一段时间的。其实6.x的版本都可以，不一定是6.5。

我使用的是VMWare虚拟机，分配了2GB内存，20GB磁盘空间。内存太小，会比较慢；磁盘太小，编译时可能会出现空间不足的情况。上述不是最低配置，根据自己的机器配置修改吧。还有，一定要保持linux联网状态。

 

以下是按照各种软件，我把软件下载后全部复制到/usr/local目录下，以下命令执行的路径是在/usr/local目录下。请读者在阅读时，一定要注意路径。

 

2.安装JDK

hadoop是java写的，编译hadoop必须安装jdk。

从oracle官网下载jdk，下载地址是http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html，选择 jdk-7u45-linux-x64.tar.gz下载。

 

执行以下命令解压缩jdk

    tar -zxvf  jdk-7u45-linux-x64.tar.gz

会生成一个文件夹jdk1.7.0_45，然后设置环境变量中。

执行命令 vi /etc/profile，增加以下内容到配置文件中，结果显示如下

image

 

 

3.安装maven

hadoop源码是使用maven组织管理的，必须下载maven。从maven官网下载，下载地址是http://maven.apache.org/download.cgi，选择 apache-maven-3.0.5-bin.tar.gz 下载，不要选择3.1下载。

执行以下命令解压缩jdk

    tar -zxvf  apache-maven-3.0.5-bin.tar.gz

会生成一个文件夹apache-maven-3.0.5，然后设置环境变量中。

执行命令vi  /etc/profile，编辑结果如下图所示

image

 

 

4.安装findbugs（可选步骤）

findbugs是用于生成文档的。如果不需要编译生成文档，可以不执行该步骤。从findbugs官网下载findbugs，下载地址是http://sourceforge.jp/projects/sfnet_findbugs/releases/，选择findbugs-3.0.0-dev-20131204-e3cbbd5.tar.gz下载。

 

执行以下命令解压缩jdk

    tar -zxvf  findbugs-3.0.0-dev-20131204-e3cbbd5.tar.gz

会生成一个文件夹findbugs-3.0.0-dev-20131204-e3cbbd5，然后设置环境变量中。

执行命令vi  /etc/profile，编辑结果如下图所示

image

 

5.安装protoc

hadoop使用protocol buffer通信，从protoc官网下载protoc，下载地址是https://code.google.com/p/protobuf/downloads/list，选择protobuf-2.5.0.tar.gz 下载。

 

为了编译安装protoc，需要下载几个工具，顺序执行以下命令

    yum install gcc  
    yum intall gcc-c++  
    yum install make

如果操作系统是CentOS6.5那么gcc和make已经安装了。其他版本不一定。在命令运行时，需要用户经常输入“y”。

 

然后执行以下命令解压缩protobuf

    tar -zxvf  protobuf-2.5.0.tar.gz

会生成一个文件夹protobuf-2.5.0，执行以下命令编译protobuf。

    cd protobuf-2.5.0  
    ./configure --prefix=/usr/local/protoc/  
    make && make install

只要不出错就可以了。

执行完毕后，编译后的文件位于/usr/local/protoc/目录下，我们设置一下环境变量

执行命令vi  /etc/profile，编辑结果如下图所示

image

 

6.安装其他依赖

顺序执行以下命令

    yum install cmake  
    yum install openssl-devel  
    yum install ncurses-devel

安装完毕即可。

 

7.编译hadoop2.2源码

从hadoop官网下载2.2稳定版，下载地址是http://apache.fayea.com/apache-mirror/hadoop/common/stable2/，下载hadoop-2.2.0-src.tar.gz   下载。

 

执行以下命令解压缩jdk

    tar -zxvf hadoop-2.2.0-src.tar.gz

会生成一个文件夹 hadoop-2.2.0-src。源代码中有个bug，这里需要修改一下，编辑目录/usr/local/hadoop-2.2.0-src/hadoop-common-project/hadoop-auth中的文件pom.xml，执行以下命令

gedit pom.xml

在第55行下增加以下内容

     <dependency>
         <groupId>org.mortbay.jetty</groupId>
         <artifactId>jetty-util</artifactId>
         <scope>test</scope>
    </dependency>

保存退出即可。

 

上述bug详见https://issues.apache.org/jira/browse/HADOOP-10110，在hadoop3中修复了，离我们太遥远了。

 

好了，现在进入到目录/usr/local/hadoop-2.2.0-src中，执行命令

mvn package -DskipTests -Pdist,native,docs

如果没有执行第4步，把上面命令中的docs去掉即可，就不必生成文档了。

该命令会从外网下载依赖的jar，编译hadoop源码，需要花费很长时间，你可以吃饭了。

在等待n久之后，可以看到如下的结果：

[INFO] Apache Hadoop Main ................................ SUCCESS [6.936s]
[INFO] Apache Hadoop Project POM ......................... SUCCESS [4.928s]
[INFO] Apache Hadoop Annotations ......................... SUCCESS [9.399s]
[INFO] Apache Hadoop Assemblies .......................... SUCCESS [0.871s]
[INFO] Apache Hadoop Project Dist POM .................... SUCCESS [7.981s]
[INFO] Apache Hadoop Maven Plugins ....................... SUCCESS [8.965s]
[INFO] Apache Hadoop Auth ................................ SUCCESS [39.748s]
[INFO] Apache Hadoop Auth Examples ....................... SUCCESS [11.081s]
[INFO] Apache Hadoop Common .............................. SUCCESS [10:41.466s]
[INFO] Apache Hadoop NFS ................................. SUCCESS [26.346s]
[INFO] Apache Hadoop Common Project ...................... SUCCESS [0.061s]
[INFO] Apache Hadoop HDFS ................................ SUCCESS [12:49.368s]
[INFO] Apache Hadoop HttpFS .............................. SUCCESS [41.896s]
[INFO] Apache Hadoop HDFS BookKeeper Journal ............. SUCCESS [41.043s]
[INFO] Apache Hadoop HDFS-NFS ............................ SUCCESS [9.650s]
[INFO] Apache Hadoop HDFS Project ........................ SUCCESS [0.051s]
[INFO] hadoop-yarn ....................................... SUCCESS [1:22.693s]
[INFO] hadoop-yarn-api ................................... SUCCESS [1:20.262s]
[INFO] hadoop-yarn-common ................................ SUCCESS [1:30.530s]
[INFO] hadoop-yarn-server ................................ SUCCESS [0.177s]
[INFO] hadoop-yarn-server-common ......................... SUCCESS [15.781s]
[INFO] hadoop-yarn-server-nodemanager .................... SUCCESS [40.800s]
[INFO] hadoop-yarn-server-web-proxy ...................... SUCCESS [6.099s]
[INFO] hadoop-yarn-server-resourcemanager ................ SUCCESS [37.639s]
[INFO] hadoop-yarn-server-tests .......................... SUCCESS [4.516s]
[INFO] hadoop-yarn-client ................................ SUCCESS [25.594s]
[INFO] hadoop-yarn-applications .......................... SUCCESS [0.286s]
[INFO] hadoop-yarn-applications-distributedshell ......... SUCCESS [10.143s]
[INFO] hadoop-mapreduce-client ........................... SUCCESS [0.119s]
[INFO] hadoop-mapreduce-client-core ...................... SUCCESS [55.812s]
[INFO] hadoop-yarn-applications-unmanaged-am-launcher .... SUCCESS [8.749s]
[INFO] hadoop-yarn-site .................................. SUCCESS [0.524s]
[INFO] hadoop-yarn-project ............................... SUCCESS [16.641s]
[INFO] hadoop-mapreduce-client-common .................... SUCCESS [40.796s]
[INFO] hadoop-mapreduce-client-shuffle ................... SUCCESS [7.628s]
[INFO] hadoop-mapreduce-client-app ....................... SUCCESS [24.066s]
[INFO] hadoop-mapreduce-client-hs ........................ SUCCESS [13.243s]
[INFO] hadoop-mapreduce-client-jobclient ................. SUCCESS [16.670s]
[INFO] hadoop-mapreduce-client-hs-plugins ................ SUCCESS [3.787s]
[INFO] Apache Hadoop MapReduce Examples .................. SUCCESS [17.012s]
[INFO] hadoop-mapreduce .................................. SUCCESS [6.459s]
[INFO] Apache Hadoop MapReduce Streaming ................. SUCCESS [12.149s]
[INFO] Apache Hadoop Distributed Copy .................... SUCCESS [15.968s]
[INFO] Apache Hadoop Archives ............................ SUCCESS [5.851s]
[INFO] Apache Hadoop Rumen ............................... SUCCESS [18.364s]
[INFO] Apache Hadoop Gridmix ............................. SUCCESS [14.943s]
[INFO] Apache Hadoop Data Join ........................... SUCCESS [9.648s]
[INFO] Apache Hadoop Extras .............................. SUCCESS [5.763s]
[INFO] Apache Hadoop Pipes ............................... SUCCESS [16.289s]
[INFO] Apache Hadoop Tools Dist .......................... SUCCESS [3.261s]
[INFO] Apache Hadoop Tools ............................... SUCCESS [0.043s]
[INFO] Apache Hadoop Distribution ........................ SUCCESS [56.188s]
[INFO] Apache Hadoop Client .............................. SUCCESS [10.910s]
[INFO] Apache Hadoop Mini-Cluster ........................ SUCCESS [0.321s]
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 40:00.444s
[INFO] Finished at: Thu Dec 26 12:42:24 CST 2013
[INFO] Final Memory: 109M/362M
[INFO] ------------------------------------------------------------------------

好了，编译完成了。

编译后的代码在/usr/local/hadoop-2.2.0-src/hadoop-dist/target下面，如下图。

<a href="http://www.superwu.cn/wp-content/uploads/2013/12/image12.png" class="cboxElement" rel="example4" 913"="" style="text-decoration: none; color: rgb(1, 150, 227);">image

 

如果有的同学操作失败，可以直接下载我已经安装好的镜像文件，链接：http://pan.baidu.com/share/link?shareid=956286972&uk=2032187724 密码：n0kf







似曾相识-
关注
专栏目录
Hadoop 2
MINAMI373的博客
03-19 2416
yarn配置 1.在 app/hadoop/etc/hadoop/mapred-site.xml 编辑加入 <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> 2.在 app/hadoop/etc/hadoop/yarn-site.xml编辑加入 <property&gt
hadoop2和hadoop3的比较
chenzuoli的博客
03-24 2852
hadoop3出来几年了，我们还在用hadoop2吗？
Hadoop1和Hadoop2和Hadoop3之间的差异
数据攻城狮的博客
04-19 2585
本文将从多个方面详细探讨Hadoop1和Hadoop2和Hadoop3之间的差异,借鉴了某些外国技术博客
Hadoop 1.x 和 Hadoop 2.x 有什么区别？
Shockang的博客
06-17 1万+
前言 本文隶属于专栏《1000个问题搞定大数据技术体系》，该专栏为笔者原创，引用请注明来源，不足和错误之处请在评论区帮忙指出，谢谢！ 本专栏目录结构和参考文献请见1000个问题搞定大数据技术体系 正文 YARN Hadoop 和 Hadoop 之间的最大不同是 YARN 。 YARN 是“ Yet Another Resource Negotiator ”的缩写。 Hadoop 仅仅是 HDFS 和 MapReduce 计算框架的组合。 正如我们所看到的，在 Hadoop 中， YARN 位于 HDF
Hadoop3与Hadoop2及Spark比较
东语的专栏
02-18 7067
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;2017年12月发布的Hadoop 3标志着数据科学新时代的开始。Hadoop框架是整个Hadoop生态系统的核心，其他各种库都依赖它。 &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;在本文中，我们将讨论Hadoop 3与Hadoop 2相比的主要变化。我们还将解释Hadoop和Apache Spark之间的差异，并建议如何...
Hadoop 1.x 与 Hadoop 2.x的架构对比
热门推荐
初夏0811的博客
09-13 2万+
Hadoop 1.x 与 Hadoop 2.x的架构对比如下图： Hadoop 1.x 的主要核心组成是MapReduce和HDFS。MapReduce不仅负责数据的计算，而且负责集群作业调度和资源（内存，CPU）管理，HDFS负责数据的存储。 Hadoop 2.x 在原来的基础上引入了新的框架YARN。YARN负责集群资源管理和统一调度，而MapReduce功能变得单一，其运行于YARN之上，只负责进行数据的计算。由于YARN具有通用性，因此YARN也可以作为其他计算框架（例如。Spark,Storm等
Hadoop 2.x与3.x 22点比较,Hadoop 3.x比2.x的改进
01-11
Hadoop3版本中添加了哪些新功能，Hadoop3中兼容的Hadoop 2程序，Hadoop 2和Hadoop 3有什么区别？ 二、Hadoop 2.x与Hadoop 3.x比较 本节将讲述Hadoop 2.x与Hadoop 3.x之间的22个差异。 现在让我们逐一讨论 2.1...
Hadoop概述，Hadoop1.x系统框架介绍，大数据处理方案，hadoop 2Hadoop生态系统介绍
最新发布
07-19
背景介绍 1 Hadoop基本概念 2.1 Hadoop1.x系统框架介绍 2.2 目 录 大数据处理方案-hadoop 2 总 结 3 Hadoop生态系统介绍 2.4 Hadoop2.x系统框架介绍
hadoop2.x 介绍
10-10
hadoop2.x 介绍，及对比hadoop1.x的区别。hadoop2.x的新特性的详细介绍。
hadoop_2
shengyao15的专栏
03-22 59
/usr/lib/hadoop-0.20-mapreduce sqoop list-tables --connect jdbc:mysql://localhost/movielens --username training --password training sqoop import --connect jdbc:mysql://localhost/movielens --tabl...
hadoop2笔记
romantic_PK的专栏
03-15 629
Hadoop是一个由Apache基金会所开发的分布式系统基础架构，创始人是Doug Cutting。 Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。 Apache Hadoop起源： 1. Apache Lucene开源的高性能全文检索工具包 2. Apache Nutch开源的Web搜索引擎 ...
java 防止 XSS 攻击的常用方法
adobe1992
09-22 1万+
1. 自己写 filter 拦截来实现，但要注意的时，在WEB.XML 中配置 filter 的时候，请将这个 filter 放在第一位. 2. 采用开源的实现 ESAPI library ，参考网址: https://www.owasp.org/index.php/Category:OWASP_Enterprise_Security_API 3. 可以采用spring 里面提供的工具类来
java防止 csrf 攻击 --- 采用 spring .
adobe1992
09-22 9465
事实上在我经历过的银行项目开发过程中，基本都会采用 spring 框架，所以完全可以不用自己开发 filter 去拦截 csrf 攻击的请求，而直接采用实现 spring 提供的 HandlerInterceptor 来实现。 从本质上来说，这也是一个 filter.  我这里就直接实现它来 防止 csrf 攻击. 基本思路： 1. 用户登录之后，后台程序生产一个 csrftoken
注解的作用与Spring的常用注解
adobe1992
09-19 8296
一、注解的作用 1、生成文档。这是最常见的，也是java 最早提供的注解。常用的有@see @param @return 等 2、跟踪代码依赖性，实现替代配置文件功能。比较常见的是spring 2.5 开始的基于注解配置。作用就是减少配置。现在的框架基本都使用了这种配置来减少配置文件的数量。以后java的程序开发，最多的也将实现注解配置，具有很大用处; 3、在编译时进行格式检查。
static变量特点介绍
adobe1992
09-21 5606
static修饰的变量     1. 全局静态变量     在全局变量之前加上关键字static，全局变量就被定义成为一个全局静态变量。     1）内存中的位置：静态存储区（静态存储区在整个程序运行期间都存在）     2）初始化：未经初始化的全局静态变量会被程序自动初始化为0（自动对象的值是           任意的，除非他被显示初始化）     3）作用域：全
单引号与双引号的区别
adobe1992
09-21 4335
（1）Java java 中 有一种类型  叫做字符型 char，char类型的值用单引号引起来的单个字符 如: char c = 'a' 而java中的双引号 表示字符串 一个或多个字符 如 String s = "abc" String s="a" 和char c = 'a'是不一样的. 结论： 【1.1】char类型跟String怎么进行转换? String是
Spring2.0核心技术与最佳实践---总结
adobe1992
09-22 2925
第1节    初识Spring  ||  第2章  Spring快速入门 1   Spring与EJB的区别 （1）Spring摈弃了EJB这种重量级的组件，以JavaBean作为组件实现一个轻量级框架。 （2）EJB3.0的出现不会终结Spring。EJB3.0仍仅仅是一个中间件，它不是一个全面的Java EE框架。     2   Spring框
用MapReduce查找100万个数中的最大值
adobe1992
09-23 2139
//用MapReduce查找100万个数中的最大值 public class TopKApp {     static final String INPUT_PATH = "hdfs://chaoren:9000/input";     static final String OUT_PATH = "hdfs://chaoren:9000/out";     public static
Tengine介绍
adobe1992
09-22 1818
简介 Tengine是由淘宝网发起的Web服务器项目。它在Nginx的基础上，针对大访问量网站的需求，添加了很多高级功能和特性。Tengine的性能和稳定性已经在大型的网站如淘宝网，天猫商城等得到了很好的检验。它的最终目标是打造一个高效、稳定、安全、易用的Web平台。 从2011年12月开始，Tengine成为一个开源项目，Tengine团队在积极地开发和维护着它。Tengine团队的核心
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值