- 博客(19)
- 收藏
- 关注
RSS订阅转载 数据挖掘-分词入门
谷歌4亿英镑收购人工智能公司DeepMind，百度目前正推进“百度大脑”项目，腾讯、阿里等各大巨头布局深度学习。随着社会化数据大量产生，硬件速度上升、成本降低，大数据技术的落地实现，让冷冰冰的数据具有智慧逐渐成为新的热点。要从数据中发现有用的信息就要用到数据挖掘技术，不过买来的数据挖掘书籍一打...
2014-09-15 21:53:00
113
转载 搭建高可用mongodb集群（四）—— 分片
按照上一节中《搭建高可用mongodb集群（三）—— 深入副本集》搭建后还有两个问题没有解决：从节点每个上面的数据都是对数据库全量拷贝，从节点压力会不会过大？数据压力大到机器支撑不了的时候能否做到自动扩展？在系统早期，数据量还小的时候不会引起太大的问题，但是随着数据量持续增多，后续迟早会...
2014-03-29 16:32:00
109
转载 搭建高可用mongodb集群（三）—— 深入副本集内部机制
在上一篇文章《搭建高可用mongodb集群（二）—— 副本集》 介绍了副本集的配置，这篇文章深入研究一下副本集的内部机制。还是带着副本集的问题来看吧！副本集故障转移，主节点是如何选举的？能否手动干涉下架某一台主节点。官方说副本集数量最好是奇数，为什么？mongodb副本集是如何同步的？如...
2014-02-17 13:44:00
116
转载 搭建高可用mongodb集群（二）—— 副本集
在上一篇文章《搭建高可用MongoDB集群（一）——配置MongoDB》提到了几个问题还没有解决。 主节点挂了能否自动切换连接？目前需要手工切换。 主节点的读写压力过大如何解决？ 从节点每个上面的数据都是对数据库全量拷贝，从节点压力会不会过大？ ...
2014-02-17 13:41:00
109
转载 搭建高可用mongodb集群（一）——配置mongodb
在大数据的时代，传统的关系型数据库要能更高的服务必须要解决高并发读写、海量数据高效存储、高可扩展性和高可用性这些难题。不过就是因为这些问题Nosql诞生了。 NOSQL有这些优势： 大数据量，可以通过廉价服务器存储大量的数据，轻松摆脱传统mysql单表存储量级限制。 高扩展...
2013-11-18 09:36:00
76
转载 海量数据相似度计算之simhash短文本查找
在前一篇文章 《海量数据相似度计算之simhash和海明距离》 介绍了simhash的原理，大家应该感觉到了算法的魅力。但是随着业务的增长 simhash的数据也会暴增，如果一天100w，10天就1000w了。我们如果插入一条数据就要去比较1000w次的simhash，计算量还是蛮大，普通P...
2013-09-09 07:34:00
274
转载 海量数据相似度计算之simhash和海明距离
通过采集系统我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫...
2013-08-25 17:08:00
251
转载 实战低成本服务器搭建千万级数据采集系统
上一篇文章《社会化海量数据采集框架搭建》提到如何搭建一个社会化采集系统架构，讲架构一般都比较虚，这一篇讲一下如何实战用低成本服务器做到日流水千万级数据的分布式采集系统。 有这样一个采集系统的需求，达成指标： 需要采集30万关键词的数据 、微博必须在一个小时采集到、覆盖四大微博（新浪微博...
2013-08-05 19:29:00
148
转载 实战做项目如何选择开源许可协议（二）- 开放代码
通过《实战做项目如何选择开源许可协议（一）-了解协议》大概知道了有哪些开源协议和各个协议的作用和区别。我们准备把代码开放出去时，需要了解各个代码托管平台如何设置开源协议。目前常用的平台有：googlecode、github、sourceforge、codeplex。下面分别列一下这些平台如何...
2013-07-27 14:22:00
60
转载 社会化海量数据采集爬虫框架搭建
随着BIG DATA大数据概念逐渐升温，如何搭建一个能够采集海量数据的架构体系摆在大家眼前。如何能够做到所见即所得的无阻拦式采集、如何快速把不规则页面结构化并存储、如何满足越来越多的数据采集还要在有限时间内采集。这篇文章结合我们自身项目经验谈一下。 我们来看一下作为人是怎么获取网页数据...
2013-07-27 14:22:00
159
转载 实战做项目如何选择开源许可协议（一）-了解协议
目前国内开源项目正在逐渐升温，中国也开始有不少优秀的开源项目突显出来。在大家摩拳擦掌准备加入开源大军时，也要知道这个圈子里的规则。技术人员不能只是研究技术，任何圈子都有规则，要知道了才能玩得好。前段时间有件关于开源软件的事情挺热闹的，关于国内一个开发者把自己作品开源出来被别的公司的人拿去包装...
2013-07-27 14:21:00
66
转载 创业公司如何实施敏捷开发
说起敏捷开发，并不是因为敏捷而敏捷。这几年的敏捷开发已经被很多敏捷咨询服务商神话了，这个东西并不是神器，实施了就可以解决所有软件公司的问题，而是要结合自己公司的特点和问题摸索出适合自己的一套模式。 大家都知道，创业公司刚开始需要研发出一款产品并且能够使公司赚钱的产品，不过大部分创业公司...
2013-07-27 14:20:00
81
转载 Mysql ibdata 丢失或损坏如何通过frm&ibd 恢复数据
mysql存储在磁盘中，各种天灾人祸都会导致数据丢失。大公司的时候我们常常需要做好数据冷热备，对于小公司来说要做好所有数据备份需要支出大量的成本，很多公司也是不现实的。万一还没有做好备份，数据被误删除了，或者ibdata损坏了怎么办呢？别担心，只要有部分的frm、ibd存在就可以恢复部分数据...
2013-07-27 14:19:00
146
转载 一致性hash和solr千万级数据分布式搜索引擎中的应用
互联网创业中大部分人都是草根创业，这个时候没有强劲的服务器，也没有钱去买很昂贵的海量数据库。在这样严峻的条件下，一批又一批的创业者从创业中获得成功，这个和当前的开源技术、海量数据架构有着必不可分的关系。比如我们使用mysql、nginx等开源软件，通过架构和低成本服务器也可以搭建千万级用户访...
2013-07-27 14:19:00
52
转载 JAVA敏捷开发环境搭建
前面介绍了创业型软件公司的工作模式，这里详细介绍下如何实施，第一步是先要搭建环境，有了环境才能开展工作。 整个软件项目分为四个环境 开发本地环境、开发环境、测试环境、IDC环境。和传统C++开发不一样的模式是多了第一个开发本地环境。这是为什么呢，因为目前大部分开发人员还是比较熟悉win...
2013-07-27 14:18:00
54
转载 WEB框架的错误体系
不管是什么程序开发都可能会出现各种各样的异常。可能是程序错误，也可能是业务逻辑错误。针对这个各个开发人员都有自己的处理方式，不同的风格增加了业务系统的复杂度和维护难度。所以定义好一个统一的异常处理框架还是需要的。我们开发框架采用java实现，java中的异常一般分为两种，检查异常和运行时异常...
2013-07-27 14:17:00
81
转载 谈谈创业公司技术的工作模式
在创业开始时，也许有一个点子，经过研究调查有市场可行性就开始召集人员开始创业。这个时候一般都是单打独斗，一两个人负责所有的事情，包括产品设计、交互原型设计、网页美工切割、程序开发、功能测试。这个时候基本不用合作，采用独立开发模式，自己搞定保存就可以了。不过也有风险就是硬盘坏了怎么...
2013-07-27 14:16:00
81
转载 技术人员如何创业《四》- 打造超强执行力团队
好的团队是创业公司成功的必要因素之一。差劲的团队会导致整个团队没有战斗力，互相算计，只看到自己的利益，永远做不成一个好的产品。优秀的团队整个团体非常有凝聚力，以公司的事业为自己的事业，各自发挥自己的特长并互相帮助对方，不计较个人短暂的得失努力把公司推向一个又一个高点。我想没有...
2013-07-27 14:15:00
80
转载 技术人员如何创业《一》—— 产品及想法
不得不说这是个浮躁的社会，人人在这个社会都想暴富或者成名。在这些引诱的驱使下很多人都脱离了原来的稳定工作创业。前几天看了《中国合伙人》，故事讲到了几个大学生从校园到工作、再到创办了一个伟大的企业，这个故事更加激励了创业大军的壮大。大家都想创业，那我们技术人员怎么创业？也就个人的经验分享一下：...
2013-07-27 14:13:00
71
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人