mydeman的学习日志

知行合一

排序:
默认
按更新时间
按访问量

谈谈曲奇(Cookie)的作用

最近在使用南航的APP时,都会跳出一个提示: 说是要采集Cookie,并且承诺会保密存储。也许很多非技术的用户并不理解什么是Cookie,可是看到这种义正言辞的提示,也应该能知道Cookie看起来是一个很重要的东西,并且可能会和用户身份有关系。那Cookie到底是什么东西?又有什么作用呢? ...

2018-06-21 23:36:43

阅读数:22

评论数:0

量化交易系统任务框架的演化之路(5)用Kafka实现分布式计算任务框架

在之前的几篇文章中,都是基于单服务器系统讲解了任务框架的逐步演化,包含了效率、依赖关系、可管理性等几个方面的内容。可是随着量化系统的中因子、信号、数据预处理、日志监控等需求的不断增多,并且大家都知道量化交易系统,是对响应时间有要求的,尤其是对分钟级别甚至tick级别信号的检测等,那么这个时候,单机...

2018-06-14 13:24:35

阅读数:91

评论数:0

量化交易系统任务框架的演化之路(4)用Push方式解决任务之间的依赖

在上一篇文章《量化交易系统任务框架的演化之路(3)基于多状态的任务依赖解决》中提供了一种利用数据库作为状态数据交换媒介的解决方案,通过这种方法,实现了依赖和被依赖的任务之间解耦,但是问题也十分明显,就是轮询被依赖任务的状态的做法会带来无谓的计算资源的浪费,一旦任务过多,无论是对数据库还是对任务系统...

2018-06-07 17:11:01

阅读数:59

评论数:0

量化交易系统任务框架的演化之路(3)基于多状态的任务依赖解决

在量化交易系统任务框架的演化之路(2)状态管理中为任务引入了一个状态,解决了任务的重入问题,那么还有一个悬而未决的问题:如何解决任务之间的依赖关系?那么今天就来看看如何基于多状态解决任务直接的依赖关系。 假定有两个每天执行一次的任务A和B,任务B要在任务A的执行完毕后才能启动。在设计时,应该考虑...

2018-05-28 22:50:13

阅读数:75

评论数:0

量化交易系统任务框架的演化之路(2)状态管理

在上一篇文章(量化交易系统任务框架的演化之路(1)定时任务)的结尾提了三个问题,今天就来第一版的解决方案。 之前的实现方案中,所有任务都是无状态、无管理的,人工干预就比较麻烦。其实解决这个问题的方法很简单,那就是增加一个“状态”,看一下这个流程图: Created with Raphaël 2...

2018-05-25 13:47:41

阅读数:268

评论数:0

量化交易系统任务框架的演化之路(1)定时任务

一个完善的量化交易系统不但包含了最基本的选股、择时、回测等基本的任务,而且还包含了众多了独立的任务模块,这些任务模块被设计成可插拔的独立任务。本系列文章将会分别讲解几种不同的实现这些任务模块的技术。 定时任务 定时执行是一种普遍采用的技术,容易理解也方便实现,很多开发框架都为快速的设定定时...

2018-05-17 17:11:54

阅读数:429

评论数:2

实例说明MongoDB存储的行情数据如何选择合适的Shard Key

概述 当利用MongoDB的shard cluster技术做数据库扩展时,一个至关重要的点是要选择一个合适的shard key(片键),它是用来决定将数据在分片服务器上分配的策略。一个适用的shard key应该满足以下几个条件: 数据均分 所谓数据均分,就是要保证需要扩展的那部分数据能够...

2018-05-10 23:25:58

阅读数:104

评论数:0

使用MongoDB存储Docker日志(续)

在上一篇文章《使用MongoDB存储Docker日志》中完成了Docker + Fluentd + MongoDB的基本配置。但是在实际的使用过程中,却发现Docker生成的日志并不会立即写入到MongoDB中,有大概1分钟左右的延迟。 查阅Fluentd的文档得知,有一个flush参数可以控制...

2018-01-19 22:54:45

阅读数:287

评论数:0

使用MongoDB存储Docker日志

日志是系统很重要的一个组成部分,通过日志可以及时发现系统中存在的问题,也可以为修复问题提供线索。Docker提供了多种插件方式管理日志,本文就对使用MongoDB存储Docker日志的过程做个记录。 数据流 Created with Raphaël 2.1.2开始Docker容器Flu...

2018-01-17 23:03:04

阅读数:362

评论数:0

Docker绑定Remote API端口

Docker官方提供了Go、Python两种不同的SDK和HTTP形式的API,不熟悉Go语言,尝试了一下Python的SDK。Docker官方的Python SDK是针对2.x版本的,就直接在CentOS的Python2.7.5上进行了测试,可是却出现了错误: # python Pytho...

2018-01-12 14:51:45

阅读数:536

评论数:0

解决Jenkins创建Docker Image后无法推送到私有Registry的问题

最近刚开始使用Docker,把常用的命令摸了一遍后,就想把镜像的build过程放到Jenkins上。具体过程就不说了,十分简单,只需要几条命令就可以了。 可以在向私有registry推送时却报出了异常: docker push registry.mydocker.com/demo/smal...

2018-01-12 13:08:25

阅读数:528

评论数:1

CentOS7 SELinux阻止MongoDB启动的问题

在CentOS7上安装了MongoDB,更改了默认的日志和数据文件路径后,SELinux阻止mongod启动。

2017-11-09 20:05:29

阅读数:3132

评论数:7

Python中的文本替换

文本替换是常用字符串的常用操作,利用正则表达式可以进行比较复杂的替换。

2017-10-16 13:44:48

阅读数:1739

评论数:0

CentOS 7更新时出现Multilib version problems

解决CentOS7系统更新时出现的Mutilib version problems。

2017-10-07 08:14:20

阅读数:3672

评论数:0

一个可用的股票回测系统需要考虑的问题(持续更新中…)

搭建一个真实可靠的回测可以对实盘操作具有一定的参考和指导意义,但是在系统的搭建过程中,有些坑可能会被反复踩到,这里把之前遇到的问题和大家分享

2017-09-25 23:35:52

阅读数:1073

评论数:0

Elasticsearch上手 - 遇到的问题

记录在使用Elasticsearch时遇到一些问题。

2017-02-26 11:26:37

阅读数:4043

评论数:0

空间换时间,轻松提高性能100倍

空间换时间的最常用场景就是缓存,为了提高性能可以设置不同类型的缓存

2017-02-24 13:04:24

阅读数:1278

评论数:0

一次查询性能提高40倍的经历

随着系统的持续增大,性能的优化随处可见。这里就通过一个实例,看下优化的过程。数据库为MongoDB,数据量为800万左右,

2017-02-08 23:44:57

阅读数:2145

评论数:0

Elasticsearch——利用Parent-Child关系解决大数据场景下的实时查询

在大数据的应用场景,经常会遇到数据字段无法确定的问题,还要在这些数据上进行多重筛选。Elasticsearch作为一个良好的解决方案,不仅可以完美满足查询需求,也可以满足大数据量下的实时性要求

2017-02-07 23:58:33

阅读数:5923

评论数:0

Elasticsearch上手——Python API的简单使用

尝试通过Python API操作Elasticsearch

2017-02-01 14:23:16

阅读数:19357

评论数:4

提示
确定要删除当前文章?
取消 删除
关闭
关闭