mongodb&nosql&db
文章平均质量分 82
ronon77
这个作者很懒,什么都没留下…
展开
-
千万条据下的分页
1.1. 背景对于开发来说,分页功能碰到的频率还是算蛮高的,基本上在每个模块中都需要都会遇到列表分页的功能。他们实现的都很快,因为基本上只要把之前的代码改改就OK了。他们的实现基本是是如下语句: 123SELECT *FROM goods WHERE user_id=4LIMIT1000,20;...omit...原创 2016-06-21 09:49:23 · 109 阅读 · 0 评论 -
mysql的分区技术详细介绍
一、概述当 MySQL的总记录数超过了100万后,会出现性能的大幅度下降吗?答案是肯定的,但是,性能下降>的比率不一而同,要看系统的架构、应用程序、还有>包括索引、服务器硬件等多种因素而定。当有网友问我这个问题的时候,我最常见的回答>就是:分表,可以根据id区间或者时间先后顺序等多种规则来分表。分表很容易,然而由此所带来的应用程序甚至是架构方面的改动工作却不>容小觑,...原创 2015-11-30 14:04:07 · 109 阅读 · 0 评论 -
MYSQL--表分区、查看分区
一、 mysql分区简介数据库分区数据库分区是一种物理数据库设计技术。虽然分区技术可以实现很多效果,但其主要目的是为了在特定的SQL操作中减少数据读写的总量以缩减sql语句的响应时间,同时对于应用来说分区完全是透明的。MYSQL的分区主要有两种形式:水平分区和垂直分区 水平分区(HorizontalPartitioning)这种形式的分区是对根据表的行进行分区...原创 2015-12-09 11:40:47 · 279 阅读 · 0 评论 -
mysql 常用命令
Mysql常用命令详解Mysql安装目录数据库目录/var/lib/mysql/配置文件/usr/share/mysql(mysql.server命令及配置文件)相关命令/usr/bin(mysqladmin mysqldump等命令)启动脚本/etc/init.d/mysql(启动脚本文件mysql的目录)系统管理连接MySQL格式: mysql -h 主机地址 -u用户名 -p用...原创 2015-12-09 16:01:31 · 324 阅读 · 0 评论 -
mac 重装mysql
mac上的mysql突然启动不了,之前安装时又不见mysql的初始化的密码,折腾了好久,还没解决这两个问题,最后来一招简单粗暴的。重装mysql: 1. sudo rm /usr/local/mysql (这一步: 必须的)2. sudo rm -rf /usr/local/mysql* (这一步: 必须的)3 sudo rm -rf /Lib...2015-12-20 11:34:56 · 201 阅读 · 0 评论 -
redis 3.0.6 安装
Redis is an open source project providing key/value store features in a database server. This means that basically you can store in the database a value that has a given key and then retrieve the...原创 2015-12-22 14:30:21 · 169 阅读 · 0 评论 -
sqlite 3 使用入门
sqlite的安装 1. 首先是下载sqlite,可以该页面下载:http://www.sqlite.org/download.html 当前的最新版本为:sqlite-shell-win32-x86-3070701.zip这个是windows下sqlite的命令行管理工具,用它可以管理sqlite数据库文件 同时最好把文档也下载下来,里面包含了详细的sqlite的使用说明:sqlite-doc...原创 2016-01-02 20:19:32 · 97 阅读 · 0 评论 -
CentOS 安装MongoDB 3.0
CentOS 安装MongoDB 3.01。下载安装包: https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-rhel62-3.0.1.tgz 2。解压:tar -zxvf mongodb-linux-x86_64-rhel62-3.0.1.tgz 3。指定安装目录: refer...原创 2016-01-20 14:28:57 · 143 阅读 · 0 评论 -
MongoDB常用操作一、查询find方法db.collection_name.find();查询
MongoDB常用操作一、查询find方法db.collection_name.find();查询 MongoDB常用操作一、查询find方法db.collection_name.find();查询所有的结果:select * from users;db.users.find();指定返回那些列(键):select name, skills from users;db.users.fin...原创 2016-01-21 09:28:24 · 574 阅读 · 0 评论 -
mongoDB 入门指南、示例
一、准备工作1、 下载mongoDB下载地址:http://www.mongodb.org/downloads选择合适你的版本相关文档:http://www.mongodb.org/display/DOCS/Tutorial2、 安装mongoDBA、 不解压模式:将下载下来的mongoDB-xxx.zip打开,找到bin目录,运行mongod.exe就可以启动服务,...原创 2016-01-21 09:52:38 · 106 阅读 · 0 评论 -
Mongodb启动命令mongod参数说明
ps:这是mongodb3.0前参数配置参考,3.0参数有些被去掉了Mongodb启动命令mongod参数说明mongod的主要参数有: 基本配置----------------------------------------------------------------------------------quiet# 安静输出--port arg# 指定...原创 2016-01-22 11:25:08 · 130 阅读 · 0 评论 -
MongoDB安全配置
0x00 MongoDB权限介绍1.MongoDB安装时不添加任何参数,默认是没有权限验证的,登录的用户可以对数据库任意操作而且可以远程访问数据库,需以--auth参数启动。2.在刚安装完毕的时候MongoDB都默认有一个admin数据库,此时admin数据库是空的,没有记录权限相关的信息。当admin.system.users一个用户都没有时,即使mongod启动时添加了--auth...原创 2016-01-22 11:48:20 · 201 阅读 · 0 评论 -
sqlite 3 使用入门
inux上的小巧的数据库,一个文件就是一个数据库。[编辑]安装Sqlite3要安装 Sqlite3,可以在终端提示符后运行下列命令: sudo apt-get install sqlite3检查版本sqlite3 -versionqii@ubuntu:~$ sqlite3 -version3.6.22[编辑]测试当前目录下建立test.db测试数据...原创 2016-02-13 11:00:33 · 133 阅读 · 0 评论 -
搜狐视频Redis私有云平台(cachecloud
一、CacheCloud是做什么的CacheCloud提供一个Redis云管理平台:实现多种类型(Redis Standalone、Redis Sentinel、Redis Cluster)自动部署、解决Redis实例碎片化现象、提供完善统计、监控、运维功能、减少开发人员的运维成本和误操作,提高机器的利用率,提供灵活的伸缩性,提供方便的接入客户端cachecloud-01 ...原创 2016-03-18 09:17:14 · 184 阅读 · 0 评论 -
Socket.IO 订阅 Redis Channel
在Node.js程序中,可以借助 Socket.IO来构建实时应用。 然而有时候后台与Socket.IO是异构的,比如Java、Python的Web后台。 这时可以利用 Redis的订阅/发布机制作为中转,连接异构的后台和Socket.IO服务。 本文介绍如何在Socket.IO中订阅Redis Channel。至于如何在Java/Python/C#中发布消息到Redis ...原创 2016-04-07 08:59:26 · 599 阅读 · 0 评论 -
mysql 用户管理和权限设置
用户管理mysql>use mysql;查看mysql> select host,user,password from user ;创建mysql> create user zx_root IDENTIFIED by 'xxxxx'; //identified by 会将纯文本密码加密作为散列值存储修改mysql>renam...原创 2015-11-30 11:14:34 · 86 阅读 · 0 评论 -
mysql创建数据库和用户以及设置用户与权限
在mysql数据库的使用中,创建数据库无疑是最简单的部分:在mysql命令提示符下,输入如下命令:mysql > create databass dbname;//dbname数据库名称创建成功后会有如下的所示的响应:Query OK,1 row affected (0.0 sec)如果没有得到响应,请确认在上面的命令行后面输入分号。mysql的最好特性之一是支持复杂的权限...原创 2015-11-30 11:13:38 · 603 阅读 · 0 评论 -
MySQL分区表详解
Mysql支持水平分区,并不支持垂直分区;水平分区:指将同一表中不同行的记录分配到不同的物理文件中;垂直分区:指将同一表中不同列的记录分配到不同的物理文件中;其中CSV、FEDORATED、MERGE等引擎不支持分区,MYISAM、InnoDB、NDB等引擎支持分区目的:将一个表或索引分解为多个更小、更可管理的部分,从逻辑上讲,只有一个表或者索引,但是物理上这个表或者索引可能由...原创 2016-07-04 14:49:20 · 164 阅读 · 0 评论 -
mysql千万条据下的分页
1.1. 背景对于开发来说,分页功能碰到的频率还是算蛮高的,基本上在每个模块中都需要都会遇到列表分页的功能。他们实现的都很快,因为基本上只要把之前的代码改改就OK了。他们的实现基本是是如下语句: 123SELECT *FROM goods WHERE user_id=4LIMIT1000,20;...omit...原创 2016-07-08 09:17:01 · 106 阅读 · 0 评论 -
使用 Kapacitor 对 InfluxDB 数据进行统计处理
InfluxDB + Telegraf + Grafana 算是一套不错的数据收集、视觉化工具,相比于更为常见的 ELK 架构,它有着自己的特点。查询功能总得来说虽不如 ES 强大,但是优点是——已经够用了,而且它的性能不错,存储的数据占用空间也相比 ES 小。简单介绍这三个工具:InfluxDB 是 InfluxData 的一款时序数据库,它是这套工具的核心;Te...原创 2016-07-22 17:49:32 · 3531 阅读 · 0 评论 -
mysql 分区表 partion
1.1. 场景在每个系统中都会生成一些日志,往往有些日志都是需要记录的,比如:生成订单的过程的一些记录、某个账号活动的一些信息。这样一来每天生成的日志会很多,而且还会生成到数据库中。像这些记录信息在某段时间过后就没用了。为了节省空间资源,和产品确认这些信息只保留3个月的。3个月之前的都可以删了。1.2. 使用普通表记录这些数据一般情况下大家都知道创建一些日志...原创 2016-07-26 10:05:01 · 268 阅读 · 0 评论 -
InfluxDB 开源分布式时序、事件和指标数据库
InfluxDB 是一个开源分布式时序、事件和指标数据库。使用 Go 语言编写,无需外部依赖。其设计目标是实现分布式和水平伸缩扩展。特点schemaless(无结构),可以是任意数量的列Scalablemin, max, sum, count, mean, median 一系列函数,方便统计Native HTTP API, 内置http支持,使用http读写...原创 2016-08-02 10:27:27 · 120 阅读 · 0 评论 -
MySQL Workbench的使用教程
MySQL Workbench 是 MySQL AB 最近释放的可视数据库设计工具。这个工具是设计 MySQL 数据库的专用工具。MySQL Workbench 拥有很多的功能和特性;这篇由Djoni Darmawikarta 写的文章通过一个示例展现了其中的一些。我们将针对一个订单系统建立一个物理数据模型,这里的订单系统可以是销售单也可以是订单,并且使用 forward-...原创 2016-09-08 13:26:34 · 363 阅读 · 0 评论 -
sqlAlchemy 实战入门
SQLAlchemy 简单笔记字数3167 阅读11849 评论6 喜欢28ORM 江湖曾几何时,程序员因为惧怕SQL而在开发的时候小心翼翼的写着sql,心中总是少不了恐慌,万一不小心sql语句出错,搞坏了数据库怎么办?又或者为了获取一些数据,什么内外左右连接,函数存储过程等等。毫无疑问,不搞懂这些,怎么都觉得变扭,说不定某天就跳进了坑里,叫天天不应,喊地地不答...原创 2016-09-12 11:24:42 · 201 阅读 · 0 评论 -
美团在Redis上踩过的一些坑
上上周和同事参加了360组织的互联网技术训练营第三期,美团网的DBA负责人侯军伟给大家介绍了美团网在redis上踩得一些坑,讲的都是干货和坑。 我们在运维我们的redis私有云时,也遇到了一些类似的坑: 分为5个部分: 一、周期性出现connect timeout: 1. 背景: 大部分互联网公司都会有Mysql或者Oracle的DBA...原创 2015-11-05 09:30:50 · 203 阅读 · 0 评论 -
sqlalchemy 一对一,多对多,增删查改
SQLAlchemy是python的一个数据库ORM工具,提供了强大的对象模型间的转换,可以满足绝大多数数据库操作的需求,并且支持多种数据库引擎(sqlite,mysql,postgres, mongodb等),在这里记录基本用法和学习笔记一、安装通过pip安装 1$pip install SQLAlchemy...原创 2016-09-23 14:42:29 · 743 阅读 · 0 评论 -
sqlalchemy如何分表
背景话说sqlalchemy真是一个非常好用的库,python orm基本上是舍我其谁了,文档还非常全面,基本上没有什么硬伤,现在也冲出了1.0版本,未来更加值得期待。我最早用django orm,不过很快就觉得很多功能不够用,我当时用的版本是1.3.1,没有bulk insert也没有锁,没有这两个功能,好多应用就没法用django开发了。之后开始接触sqlalchemy...原创 2016-09-23 16:33:19 · 2490 阅读 · 0 评论 -
mysql命令行备份数据库
MySQL数据库使用命令行备份|MySQL数据库备份命令例如:数据库地址:127.0.0.1数据库用户名:root数据库密码:pass数据库名称:myweb 备份数据库到D盘跟目录mysqldump -h127.0.0.1 -uroot -ppass myweb > d:/backupfile.sql 备份到当前目录 备份MySQL数...原创 2015-11-10 16:03:28 · 100 阅读 · 0 评论 -
Airbnb开源的三个大数据工具
今天Airbnb召开了第一次开放技术大会OpenAir,重点是数据驱动在airbnb开发过程中的实践,作为内部人士,我来给大家分享、总结一下3个airbnb开源大数据神器Airpal第一个神器叫Airpal,是airbnb内部最炙手可热的数据分析工具,目前在github上面有900多个star。Airpal是建立在Facebook的Prestodb上的一个可视化分布式SQL查询引擎。...原创 2015-11-17 17:52:50 · 622 阅读 · 0 评论 -
presto-use
简介Facebook的数据仓库存储在少量大型Hadoop/HDFS集群。Hive是Facebook在几年前专为Hadoop打造的一款数据仓库工具。在以前,Facebook的科学家和分析师一直依靠Hive来做数据分析。但Hive使用MapReduce作为底层计算框架,是专为批处理设计的。但随着数据越来越多,使用Hive进行一个简单的数据查询可能要花费几分到几小时,显然不能满足交互式查询的需求。...原创 2015-11-17 18:03:07 · 1242 阅读 · 0 评论 -
安装和部署Presto
安装和部署Presto1. 安装环境操作系统:CentOs6.5Hadoop 集群:CDH5.3JDK 版本:jdk1.8.0_31为了测试简单,我是将 Presto 的 coordinator 和 worker 都部署在 cdh1 节点上,并且该节点上部署了 hive-metastore 服务。下面的安装和部署过程参考自 http://prestodb.io/docs/...原创 2015-11-18 11:28:26 · 477 阅读 · 0 评论 -
Django的信号机制
Django提供一种信号机制。其实就是观察者模式,又叫发布-订阅(Publish/Subscribe) 。当发生一些动作的时候,发出信号,然后监听了这个信号的函数就会执行。Django内置了一些信号,比如:django.db.models.signals.pre_save 在某个Model保存之前调用django.db.models.signals.post_save 在...原创 2017-07-05 14:13:42 · 137 阅读 · 0 评论