策略研发系统-整体架构设计-1

  1. 设计概述

    1.1术语及缩略语

回测参数:    初始值,终止值,步长

回测实例参数:初始值+步长*N

回测任务:    策略+一组回测参数

回测子任务:  策略+一组回测实例参数

  1. 2 背景介绍

     传统的策略研发的缺点:

  • 主要是通过策略研发人员自己通过 Matlab等第三方工具,工具限制很多,使用不方便,研发效率低,不能转成实盘策略,或者需要大量修改代码,修改容易出错。
  • 研发机器性能限制,不能很好的利用分布式高计算的优势,找出最优策略实例的参数配置,策略研发周期长。
  • 第三方工具不能很好的与现有交易系统集成,很多重复工作要做。

    策略研发人员希望:

  • 新系统能快速进行策略回测,从大量的参数组合中,找出最优的一些参数配置的组合。
  • 回测策略能平稳过渡到实盘策略中。
  • 最好能与现有交易系统集成,减少很多重复工作。

   1.3 主要设计目标

  • 高性能计算

     充分利用分布式系统高性能计算优势,以最快的回测速度,从大量策略参数组合中找出最优的参数组合的策略实例。

  • 提高研发效率

     辅助策略研发人员,快速开发出优质的实盘策略,提高策略研发效率。

  • 减少实盘风险

 2. 设计需求

 2.1 功能需求

  • 支持多客户端同时使用,每个用户平均分配计算资源
  • 支持策略回测任务控制功能,包括任务启动,暂停等操作。
  • 回测策略容器支持Python和C++编写策略。
  • 支持策略参数断点回测。

           系统重启时,已经回测的子任务不用重新计算,只需从未完成的任务开始进行。

  • 查询策略参数回测运行结果。  
  • 回测进度更新及汇总分析推送

2.2 非功能需求

  • 高性能

    充分利用计算服务器CPU和内存资源,尽可能快的得到策略参数回测结果。

  • 支持同时上万组策略参数进行回测。
  • 系统根据计算负载大小,为用户平均分配计算资源,支持灵活调整(增加或减少)计算资源。

      假设有两台回测服务器,每台服务器有10个计算资源,有两个回测任务,第一个回测任务有30套计算参数,第二个回测任务有40套计算参数。

         系统刚开始只有一台回测服务器资源,客户A发起第一个回测任务。系统会分配10套回测子任务到回测服务器。接着系统又增加了一台回测服务器,每台机器上运行10套回测子任务。紧接着客户

     B发起了第二个回测任务,系统会关闭每台回测服务器上运行时间最短的5个子任务A,重新运行5个回测子任务B。那么每

 台 回测服务器上5个子任务A和5个子任务B.

  • 回测策略与运行策略平稳过渡。

     回测策略尽经过少量的修改就可以运行在策略交易平台。

3 系统功能设计

3.1任务调度管理服务器

接收客户端任务请求,进行任务的创建和子任务的分解,根据回测计算资源的状态,均衡分配回测任务给回测服务器,并将回测运行状态及分析汇总结果发送客户端。

3.2回测管理服务器

从任务调度服务器接收回测子任务请求,根据子任务类型,启动Python或C++策略回测进程,并将回测进度和回测分析汇总结果发送任务调度服务器。

3.3 Python策略回测运行容器

设计参考交易系统策略引擎,提供给策略人员开发接口应保持一致。

3.4 C++策略回测运行容器

设计参考交易系统策略引擎,提供策略人员开发接口应保持一致。

3.5行情数据管理模块

  • 对历史行情数据进行管理

   创建多级历史数据缓存和缓存数据管理,对本地行情文件进行管理。

  • 各种历史行情查询访问

    统一对外提供高速数据访问接口,为策略回测进程程序提供数据服务。

3.6业务处理流程

  1. 回测任务处理流程

4.总体架构

 

 

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
大数据架构师的岗位职责全文共4页,当前为第1页。大数据架构师的岗位职责全文共4页,当前为第1页。大数据架构师的岗位职责 大数据架构师的岗位职责全文共4页,当前为第1页。 大数据架构师的岗位职责全文共4页,当前为第1页。 大数据架构师负责大数据基础平台、海量数据存储处理分布式平台、数据分析系统架构设计研发。下面是店铺为您精心整理的大数据架构师的岗位职责。 大数据架构师的岗位职责1 职责: 1、负责公司大数据产品的架构设计,包含数据收集、数据存储、数据应用,并完成相关架构设计文档的撰写; 2、参与规划从数据源到数据应用的整体流程,并参与相关产品的决策; 3、负责解决核心技术问题,对技术方案进行决策; 4、负责大数据研发团队建设、人才梯队培养和技术团队管理; 5、积极了解业界发展,研究与跟踪大数据新技术发展方向。 任职要求: 1、精通GoldenGate For BigData相关理论,具备大型数据利用的生产实战经验; 2、精通数据驱动的理论,设计并生产上线相关数据驱动的产品; 3、精通常用消息中间件的使用,例如kafka/RocketMQ/Apache Pulsar,有解读相关源码者优先; 4、掌握hadoop、spark生态体系相关产品的使用,掌握MapReduce编程或Spark编程; 5、了解传统数据仓库理论及相关ETL工具,例如kettle/datastage; 6、熟悉Oracle、Mongodb、Mysql数据库的使用; 7、扎实的Java语言基础,熟悉Java开发工具和调试工具的使用; 8、良好的团队协作精神,有能力对团队在软件设计、实现和测试方面进行指导; 9、良好的逻辑分析能力和沟通能力,执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神,有一定的推动大数据架构师的岗位职责全文共4页,当前为第2页。大数据架构师的岗位职责全文共4页,当前为第2页。能力; 大数据架构师的岗位职责全文共4页,当前为第2页。 大数据架构师的岗位职责全文共4页,当前为第2页。 10、计算机科学、信息技术或相关领域本科以上学历,具有5年以上数据平台项目开发经验,3年以上的架构设计经验,具有大数据平台应用大型项目架构设计经验优先; 大数据架构师的岗位职责2 职责: 1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构; 2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用; 3、进行大数据系统框架设计、模型算法开发; 4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ; 5、开展数据爬取、聚类分析 舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作; 任职资格: 1、本科以上学历(持有学士学位)(985,211优先),计算机相关专业,五年工作经验; 2、二年以上数据挖掘项目经验,完整参与过数据挖掘大数据平台的架构开发过程,具备互联网行业背景优先; 3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验,熟练掌握Hive/SQL,Python,熟悉Python、R相关数值科学计算库(NumPy,SciPy等); 4、了解传统的BI/DW 理论,能结合传统BI***实践设计大数据平台; 5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理,具备应用场景经验,如用户画像、商品关联度分析、舆情分析; 6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法; 7、具备较强的逻辑思维能力、数据敏感度,擅于利用数据发现问大数据架构师的岗位职责全文共4页,当前为第3页。大数据架构师的岗位职责全文共4页,当前为第3页。题及解决问题; 大数据架构师的岗位职责全文共4页,当前为第3页。 大数据架构师的岗位职责全文共4页,当前为第3页。 大数据架构师的岗位职责3 职责: 1、负责大数据开发团队建设; 2、负责行业大数据产品架构设计研发; 3、负责带领团队进行行业大数据产品关键技术攻关。 任职要求: 1 有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验,对数据挖掘及机器学习有较为深刻的理解; 2、熟悉Hadoop相关技术,对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验; 3、熟悉Linux,熟练使用Shell或Python,进行脚本编写; 4、对数据结构和数据统计分析算法有较为深刻理解; 5、掌握至少一种主流关系数据库开发技术:Oracle、SQL Server、MySQL等; 6、掌握实时流计算技术,有Spark、Storm开发经验者优先; 7、需要具备2年以上研发团队管理经验。 大数据架构师的岗位职责4 职责: 1)负责公司软件产品整体架构的设计和关键功能实现 2)负责公司架构长期看护以及优化; 3)负责软

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值