SpringBoot与搜索框架elasticsearch

搜索知识和搜索框架elasticsearch介绍

    1.常见的搜索方法

•         mysql：like 模糊，性能问题,
•         solr:针对企业，Lucene
•         elasticsearch：针对数据量特别大，PB,TB
                                 纯java开发，springboot使用，5.6版本
          es升级4->5版本，改动大，但是5版本后，改动不大

    2.elasticSearch主要特点

•         特点：全文检索，结构化检索，数据统计、分析，接近实时处理，分布式搜索(可部署数百台服务器)，处理PB级别的数据，搜索纠错，自动完成
•         使用场景：日志搜索，数据聚合，数据监控，报表统计分析
•         国内外使用者：维基百科，Stack Overflow，GitHub

    3.elasticSearch新特性讲解

•        6.2.x版本基于Lucene 7.x，更快，性能进一步提升,对应的序列化组件，升级到Jackson 2.8
              mysql：database   table   rocord
              es   : index      type（只能存在一个)    document
•       推荐使用5.0版本推出的Java REST/HTTP客户端，依赖少，比Transport使用更方便，在基准测试中，性能并不输于Transport客户端，
        在5.0到6.0版本中，每次有对应的API更新, 文档中也说明，推荐使用这种方式进行开发使用,所有可用节点间的负载均衡
        在节点故障和特定响应代码的情况下进行故障转移,失败的连接处罚（失败的节点是否重试取决于失败的连续次数;失败的失败次数越多，客户端在再次尝试同一节点之前等待的时间越长）     
•        (重要)不再支持一个索引库里面多个type，6.x版本已经禁止一个index里面多个type，所以一个index索引库只能存在1个type

     4. 官方文档：
        6.0更新特性：https://www.elastic.co/guide/en/elasticsearch/reference/6.0/release-notes-6.0.0.html#breaking-java-6.0.0
        6.1更新特性：https://www.elastic.co/guide/en/elasticsearch/reference/6.1/release-notes-6.1.0.html

快速部署ElastcSearch5.6.x      

    1.配置JDK1.8
        使用wget 下载elasticsearch安装包
        wget  https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.6.8.tar.gz
    2.解压
        tar -zxvf elasticsearch-5.6.8.tar.gz
       官网：https://www.elastic.co/products/elasticsearch 
    3.外网访问配置：    
        config目录下面elasticsearch.yml
        修改为 network.host: 0.0.0.0
    4.配置es出现相关问题处理（阿里云、腾讯云，亚马逊云安装问题集合）：
        ①问题一

            Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000000c5330000, 986513408, 0) failed; error='Cannot allocate memory' (errno=12)
            #
            # There is insufficient memory for the Java Runtime Environment to continue.
            # Native memory allocation (mmap) failed to map 986513408 bytes for committing reserved memory.
            # An error report file with more information is saved as:
            # /usr/local/software/temp/elasticsearch-6.2.2/hs_err_pid1912.log

        解决：内存不够，购买阿里云的机器可以动态增加内存

        ②问题二

            [root@iZwz95j86y235aroi85ht0Z bin]# ./elasticsearch
            [2018-02-22T20:14:04,870][WARN ][o.e.b.ElasticsearchUncaughtExceptionHandler] [] uncaught exception in thread [main]
            org.elasticsearch.bootstrap.StartupException: java.lang.RuntimeException: can not run elasticsearch as root
            at org.elasticsearch.bootstrap.Elasticsearch.init(Elasticsearch.java:125) ~[elasticsearch-6.2.2.jar:6.2.2]
            at org.elasticsearch.bootstrap.Elasticsearch.execute(Elasticsearch.java:112) ~[elasticsearch-6.2.2.jar:6.2.2]
            at org.elasticsearch.cli.EnvironmentAwareCommand.execute(EnvironmentAwareCommand.java:86) ~[elasticsearch-6.2.2.jar:6.2.2]
            at org.elasticsearch.cli.Command.mainWithoutErrorHandling(Command.java:124) ~[elasticsearch-cli-6.2.2.jar:6.2.2]

        解决：用非root用户
            添加用户：useradd -m 用户名  然后设置密码  passwd 用户名           

        ③问题三

            ./elasticsearch
            Exception in thread "main" java.nio.file.AccessDeniedException: /usr/local/software/temp/elasticsearch-6.2.2/config/jvm.options

           解决：权限不够 chmod 777 -R 当前es目录

           常见配置问题资料：https://www.jianshu.com/p/c5d6ec0f35e0

 ElasticSearch5.6.x简单测试

        1、步骤 https://www.elastic.co/guide/en/elasticsearch/reference/5.6/index.html
        2、使用POSTMAN 工具

        基础
            查看集群状态：localhost:9200/_cat/health?v
            查看索引列表：localhost:9200/_cat/indices?v

SpringBoot2.x整合elasticSearch5.6.8实战

        Spring Data Elasticsearch文档地址
        https://docs.spring.io/spring-data/elasticsearch/docs/3.0.6.RELEASE/reference/html/

        版本说明：SpringBoot整合elasticsearch
            https://github.com/spring-projects/spring-data-elasticsearch/wiki/Spring-Data-Elasticsearch---Spring-Boot---version-matrix

        1、添加maven依赖                   

            <dependency>  
               <groupId>org.springframework.boot</groupId>  
               <artifactId>spring-boot-starter-data-elasticsearch</artifactId>  
           </dependency>  

        2、接口继承ElasticSearchRepository,里面有很多默认实现
            注意点：
                 索引名称记得小写，类属性名称也要小写
             新建实体对象article
             加上类注解 @Document(indexName = "blog", type = "article")

         3、配置文件：

             # ELASTICSEARCH (ElasticsearchProperties)
            spring.data.elasticsearch.cluster-name=elasticsearch # Elasticsearch cluster name.
            spring.data.elasticsearch.cluster-nodes=localhost:9300 # Comma-separated list of cluster node addresses.
            spring.data.elasticsearch.repositories.enabled=true # Whether to enable Elasticsearch repositories.

        4、QueryBuilder使用
        https://www.elastic.co/guide/en/elasticsearch/client/java-api/1.3/query-dsl-queries.html
        //单个匹配，搜索name为jack的文档  
        QueryBuilder queryBuilder = QueryBuilders.matchQuery("title", "搜");

        4、查看es数据

            查看索引信息：http://localhost:9200/_cat/indices?v
            查看某个索引库结构：http://localhost:9200/blog
            查看某个对象：http://localhost:9200/blog/article/1