- 博客(22)
- 资源 (8)
- 收藏
- 关注
原创 linux的vi命令和查找命令
一:查找Linux查找文件内容的常用命令方法。 从文件内容查找匹配指定字符串的行:$ grep "被查找的字符串" 文件名例子:在当前目录里第一级文件夹中寻找包含指定字符串的.in文件grep "thermcontact" */*.in从文件内容查找与正则表达式匹配的行:$ grep –e “正则表达式” 文件名查找时不区分大小写:$ grep
2016-06-30 10:13:15 13705
原创 http相应get和post请求示例
public class TestGetPost { /** * 向指定URL发送GET方法的请求 * @param url 发送请求的URL * @param param 请求参数,请求参数应该是name1=value1&name2=value2的形式。 * @return URL所代表远程资源的响应 */ public static String sendGet(St
2016-06-23 10:24:18 6670 1
转载 ElasticSearch学习五:实例展示elasticsearch集群生态,分片以及水平扩展.
elasticsearch用于构建高可用和可扩展的系统。扩展的方式可以是购买更好的服务器(纵向扩展)或者购买更多的服务器(横向扩展),Elasticsearch能从更强大的硬件中获得更好的性能,但是纵向扩展也有一定的局限性。真正的扩展应该是横向的,它通过增加节点来传播负载和增加可靠性。对于大多数数据库而言,横向扩展意味着你的程序将做非常大的改动来利用这些新添加的设备。对比来说,Elasticsea
2016-06-17 14:48:04 3789
转载 ElasticSearch学习四:集群搭建实例
下个月又开始搞搜索了,几个月没动这块还好没有落下. 晚上在自己虚拟机上搭建了一个简易搜索集群,分享一下.操作系统环境: Red Hat 4.8.2-16elasticsearch : elasticsearch-1.4.1集群搭建方式: 一台虚拟机上2个节点.集群存放路径:/export/search/elasticsearch-cluster必备环境: java运行环境
2016-06-17 14:35:04 735
转载 ElasticSearch学习三:搜索实例含高亮显示及搜索的特殊字符过滤
应用说明见代码注解。1.简单搜索实例展示:public void search() throws IOException { // 自定义集群结点名称 String clusterName = "elasticsearch_pudongping"; // 获取客户端 Client client = ESCli
2016-06-17 11:24:59 2936
转载 ElasticSearch学习二:构建集群与简单搜索实例应用
关于ElasticSearch不介绍了,直接说应用.分布式ElasticSearch集群构建的方法.1.通过在程序中创建一个嵌入es节点(Node),使之成为es集群的一部分,然后通过这个节点来与es集群通信./**在运行该测试实例时,已经在本地建立了对应的索引库datum*/ public static void main(String[] args) {
2016-06-17 10:30:04 1940
转载 ElasticSearch学习一:搜索实例演示(Java API)
安装包下载当前最新版本为:0.20.6http://www.elasticsearch.org/download/ 官方视频教程http://www.elasticsearch.org/videos/Window环境下载完解开有以下个包:bin是运行的脚本,config是设置文件,lib是放依赖的包。启动解压目录下的bin名称的文件夹,双击ela
2016-06-17 10:16:22 1782
转载 kafka学习七:kafka 运维
Kafka管理工具Kafka集群管理工具Kafka集群管理内容包括服务器启停、leader均衡、复制、集群镜像、集群扩展等。添加服务器向Kafka集群中添加服务器时,需要分配一个唯一的broker ID给新服务器。这时添加新服务器不会自动分配数据分区。重分配工具kafka-reassign-partitions.sh用于在broker之间移动partition。Kafka将新服务器
2016-06-15 14:46:42 3150
转载 kafka学习六:kafka集成第三方
Storm集成KafkaStorm简介少量数据的实时处理可以使用JMS(Java Messaging Service)这类技术,但是数据量很大时便会出现性能瓶颈。而且这些方案不适合横向扩展。Storm是开源的分布式实时数据处理系统。它可用于很多场景,如实时分析(real-time analytics)、在线机器学习(online machine learning)、连续计算(conti
2016-06-15 14:24:57 5564
转载 kafka学习五:开发consumer
consumer就是接收producer发布的消息进行处理的应用。上图描述了consumer消费消息的high-level层工作原理。consumer从broker内的topic订阅消息;然后consumer向lead broker发起请求,指定消息的offset。consumer使用这样的拉取模式,每次始终拉取它记录在日志中当前位置之后的所有消息。在订阅时,consumer连接到任意
2016-06-15 13:59:24 13632
转载 kafka学习四:开发producer
procedure就是产生消息并将消息发布至broker的应用。producer连接至任意的活动节点并请求获取某个topic的partition的leader元数据。这样producer可以直接将信息发给该partition的lead broker。出于效率考虑,producer可以分批发布消息,但是只能在异步模式下。异步模式下,producer可以配置queue.time或`batc
2016-06-15 11:21:06 4587
转载 kafka学习三:设计
在开始开发producer和consumer之前,先从设计的角度看一看Kafka。由于重度依赖JMS,且实现方式各异、对可伸缩架构的支持不够,LinkedIn开发了Kafka来实现对活动流数据和运营指标数据的监控,这些数据包括CPU、I/O使用数据、请求响应时间等。开发Kafka时主要目标是提供以下特性:支持自定义实现的producer和consumer的API以低开销的网络和存储实现
2016-06-15 10:31:43 1432
转载 kafka学习二:构建Kafka集群
现在我们构建Kafka消息订阅发布系统。Kafka支持多种集群方式,例如:单节点单broker集群单节点多broker集群多节点多broker集群一个Kafka集群主要包含以下五个组件:topic:topic是producer发布的消息的类别。在Kafka中,topic是分区的,每个partition内是顺序不可变的消息序列。Kafka集群维护每个topic的partition
2016-06-15 10:00:21 1569
转载 MySQL入门04-MySQL主从配置
环境:CentOS 6.7 + MySQL 5.6.30主节点:192.168.56.102从节点:192.168.56.103已经分别安装好单机MySQL,现在配置两台MySQL的主从复制。1.主节点授权同步用户官方文档是分两步进行的:mysql> CREATE USER 'repl'@'%.mydomain.com' IDENTIFIED BY 'slave
2016-06-14 18:55:03 337
转载 Redis学习二
一、事务 Redis中的事务是一组命令的集合。一个事务中的命令要么都执行,要么都不执行。 1、事务简介 事务的原理是先将一个事务的命令发送给Redis,然后再让Redis依次执行这些命令。下面看一个示例: 首先,使用multi命令告诉Redis:下面我给你的命令属于同一个事务,你先不要执行,而是暂时存起来。 然后,我们发送两个set命令
2016-06-14 18:06:49 488
转载 Redis学习一
一、Redis简介 redis是一个高性能的key-value非关系数据库,它可以存键(key)与5种不同类型的值(value)之间的映射(mapping),支持存储的value类型包括:String(字符串)、list(链表)、set(集合)、zset(有序集合)和hash(散列表)。这些收据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作,而且这些操作
2016-06-14 10:24:51 471
转载 Windows下安装并设置Redis
Redis对于Linux是官方支持的,安装和使用没有什么好说的,普通使用按照官方指导,5分钟以内就能搞定。详情请参考:http://redis.io/download 但有时候又想在windows下折腾下Redis,可以从redis下载页面看到如下提示(在页面中搜索 "windows"):Win64Unofficial The Redis project doe
2016-06-14 09:40:25 338
原创 读取txt文件
/** * 读取txt文件的内容 * @param file 想要读取的文件对象 * @return 返回文件内容 */ public static String txt2String(File file){ String result = ""; try{ Buf
2016-06-13 22:54:55 343
原创 JUnit + Mockito 单元测试
JUnit 是单元测试框架。Mockito 与 JUnit 不同,并不是单元测试框架(这方面 JUnit 已经足够好了),它是用于生成模拟对象或者直接点说,就是”假对象“的工具。一个典型的例子就是使用模拟对象来模拟数据库DAO层。在生产环境上是使用运行的数据库,但是在单元测试环境中完全可以用模拟对象来模拟数据,确保单元测试的正确条件。这样就不需要依赖于外部的数据。一般通常的做法就是联合 JUnit
2016-06-13 14:12:49 693
转载 Java单元测试(Junit+Mock+代码覆盖率)
单元测试是编写测试代码,用来检测特定的、明确的、细颗粒的功能。单元测试并不一定保证程序功能是正确的,更不保证整体业务是准备的。单元测试不仅仅用来保证当前代码的正确性,更重要的是用来保证代码修复、改进或重构之后的正确性。一般来说,单元测试任务包括接口功能测试:用来保证接口功能的正确性。局部数据结构测试(不常用):用来保证接口中的数据结构是正确的比如变量有无初始值变量是
2016-06-13 14:09:27 2411
原创 浅谈CSRF攻击方式
一.CSRF是什么? CSRF(Cross-site request forgery),中文名称:跨站请求伪造,也被称为:one click attack/session riding,缩写为:CSRF/XSRF。二.CSRF可以做什么? 你这可以这么理解CSRF攻击:攻击者盗用了你的身份,以你的名义发送恶意请求。CSRF能够做的事情包括:以你名义发送邮件,发消息,盗取
2016-06-02 09:58:20 845
转载 kafka学习一:简介
在当前的大数据时代,第一个挑战是海量数据的收集,另一个就是这些数据的分析。数据分析的类型通常有用户行为数据、应用性能跟踪数据、活动数据日志、事件消息等。消息发布机制用于连接各种应用并在它们之间路由消息,例如通过message broker。Kafka是快速地将海量信息实时路由到消费者的解决方案,实现信息的生产者和消费者的无缝集成。它不会阻塞信息的生产者,同时信息生产者不会知道信息消费者。Apa
2016-06-01 22:07:18 1126
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人