大数据
欧阳楚风
这个作者很懒,什么都没留下…
展开
-
Kafka-6、监控
Kafka监控工具有JmxTool、kafka-manager、Kafka Monitor、Kafka Offset Monitor等工具。比较好用的是kafka-manager,是雅虎公司开发,使用Scala语言编写的监控工具。一、安装sbtkafka-manager编译需要依赖sbt,所以需要先安装。1、下载sbt包,下载地址:https://www.scala-sbt.org/download.html2、上传到服务器,并解压,进入目录unzip sbt-1.4.4.zipcd sbt原创 2020-12-01 17:41:39 · 194 阅读 · 1 评论 -
Kafka-5、开发
一、MBean监控1、JMX端口设置创建一个启动脚本,cd /opt/kafka_2.12-2.3.0touch start.shchmod +x start.shvi start.shstart.sh内容如下:JMX_PORT=9997 bin/kafka-server-start.sh -daemon config/server.properties停止kafka服务,并用start.sh脚本启动bin/kafka-server-stop.sh./start.sh查看JMX原创 2020-12-01 10:31:25 · 164 阅读 · 0 评论 -
Kafka-3、集群搭建
**一、服务器信息 **虚拟机3台,IP分别为:10.255.3.12、10.255.3.27、10.255.3.641、硬件环境内存:8GCPU:4核2、 软件环境操作系统:CentOS7Java环境:JDK8**二、服务器配置 **1、修改Hosts在三台服务下分别修改hostsvi /etc/hosts添加如下映射信息10.255.3.12 zk1 kafka110.255.3.27 zk2 kafka210.255.3.64 zk3 kafka32、查看java版原创 2020-11-19 14:23:24 · 328 阅读 · 0 评论 -
Kafka-4、运维
一、集群环境规划1、操作系统Kafka为JVM的框架,Java为跨平台语言,理论上Kafka可以部署到任意支持Java的操作系统上。但是部署到不同系统还是有区别的。Linux比Windows等其他操作系统更适合部署Kafka。主要原因有I/O模型的使用和网络传输的效率。Kafka新版本clients的设计底层使用了Java的Selector机制,而后者在Linux上的实现机制就是epoll模型。但在Windows上Selector实现的机制为select模型而非IOCP模型,只有在Java NIO2才原创 2020-10-15 11:01:42 · 309 阅读 · 0 评论 -
Kafka-1、单机安装
下载安装包Kafka官网下载地址为http://kafka.apache.org/downloads压缩包kafka_2.12-2.3.0.tgz中2.12为编译Kafka的Scala版本,2.3.0为Kafka版本。上传到服务器并解压将压缩包上传到服务器解压文件tar -zxf kafka_2.12-2.3.0.tgz启动服务启动前先确保安装Java环境。启动Zookeeper服务(后台启动添加-daemon参数)。root@JD kafka_2.12-2.3.0]..原创 2020-10-10 10:54:50 · 178 阅读 · 1 评论 -
Kafka-2、伪集群安装-测试环境搭建
一、Java安装不论安装Zookeeper还是Kafka都需要提前安装好Java并配置好Java环境变量。Kafka服务端的代码是由Scala语言编写的,新版本的客户端是由Java语言编写的,两种语言都会编译成class文件,都属于JVM语系。建议安装java8以上版本,参考安装教程。验证Java安装,使用java -version命令。二、Zookeeper安装Zookeeper是安装Kafka集群必要的组件。Zookeeper中保存Kafka的元数据信息。使用单节点Kafka时可以直接使用原创 2020-10-14 15:34:05 · 173 阅读 · 0 评论 -
全文检索 - 4、检索接口开发(SpringBoot)
上一章 全文检索 - 3、ElasticSearch使用一、 添加测试数据1、创建索引和映射结构curl -XPUT 'http://192.168.3.27:8201/test_index?pretty' \ -H "Content-Type: application/json" \ -d '{"settings":{"number_of_shards":2,"number_of_replicas":1},"mappings":{"properties":{"text":{"type":原创 2020-06-16 16:34:56 · 370 阅读 · 1 评论 -
全文检索 - 3、ElasticSearch使用
上一章 全文检索 - 2、ElasticSearch安装(head插件、ik分词器安装)一、 基本概念索引 indexElasticsearch的数据存储的地方,类似于关系型数据库中的数据库,可以向索引写入文档或从索引中读取文档。文档 doc文档是ElasticSearch中的主要实体,对ElasticSearch来说所有的搜索都可归结为对文档的搜索。文档由字段构成,每个字段有它的名字和一个或多个值。文档直接可能有不通的字段集合,并且文档没有固定的模式或强制的结构。文档存储的内容是一个JSON对象原创 2020-06-15 08:59:46 · 240 阅读 · 0 评论 -
全文检索 - 2、Elasticsearch安装(head插件、ik分词器安装)
一、Elasticearch安装1、 软件环境操作系统:CentOS7Java环境:JDK82、 下载下载es安装包,官网地址https://www.elastic.co/downloads/elasticsearch下载地址:https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.6.2-linux-x86_64.tar.gz(如果本地下载速度特别慢,可以使用公有云下载)公有云:私有云:3、 解压安装包原创 2020-06-12 15:19:19 · 303 阅读 · 0 评论 -
全文检索 - 1、技术选型和架构设计
1. 相关概念全文检索一种将文件中或者数据库中所有文本与检索项匹配的文字资料检索方法,对全文数据的检索。LuceneLucene 是一个 JAVA 搜索类库,它本身并不是一个完整的解决方案,需要额外的开发工作。ElasticsearchElasticSearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,是最受欢迎的企业搜索引擎。SolrSolr是Apache Lucene项目的开源企业搜索平台。其主要功能包括全文检索、命中标示、分面搜索、原创 2020-06-12 11:49:03 · 1041 阅读 · 0 评论