新一代“采集云”系统介绍
- 前言
新一代“采集云”系统自2016年6月开始架构设计,至16年10年基本完成。后来工作期间忙于采集的研发工作,同时也是遇到了研发中大的阻力,导致研发工作一直停滞不前。2018年1月开始,继续推进开发进度,于2月8号完成架构的整体开发。
2. 系统特性
新一代“云采集”系统设计坚持技术的先进性和设计稳定性原则,采用“微服务”的设计架构,模块之间实现“物理”隔离。模块开发实现“插件化”,服务之下可挂载不同的模块实现。基于消息总线的通信机制,动作模块基于事件驱动。
系统支持电表,水表,气表,热表的采集,也支持新能源充电桩设备,智慧路灯,电动汽车运行监控模块,智能家居等物联网领域一切与采集相关的设备采集工作。
系统抽象出规约开发API接口,新规约开发简单,通过工程化的配置即可完成新规约的开发工作,规约开发工作量大大减少。
系统抽象出“服务内核”,系统运行效率大大提高,可实现数据“秒采集”。
基于服务内核,单机可部署不同的“微服务”,也可集群化部署;单台服务器支撑采集设备数从1000到百万台的采集场景,集群部署支撑采集设备数线性增长。
系统对外交互接口可支撑KAFKA,连贯性,WEBSERVICE,HTTP,TCP / IP等多种交互方式,接口支持任务优先级排队,能够支撑每秒万个任务同时响应。
基于以下特性,保证了系统的稳定性,实时性;同时,系统具备档案无关化,研发简单化,保证了系统上线速度快,实现上线即采集,采集即稳定的特点。
系统主要特性如下:
2.1 抽象内核
系统抽象出新型内核,负责所有线程及内存资源的调度,分配。内核监控系统内各个服务的执行时间,消耗内存情况。对处理器时间占用较多的服务进行更多资源调度,在一定瓶颈值时给出告警通知。
2.2 基于事件驱动
所有的模块均是采用事件驱动,每个模块的动作均是由于其他事件的驱动,避免单线程循环唤醒 - 检查 - 睡眠的流程,更好的提高系统效率按照目前的现场环境,预估单台前置接入用户能达到千万以上。
2.3 无档案运行
不需要任何档案即可自动运行,采集,解析数据。这保证了在项目前期尽快完成现场数据采集的完整性和稳定性。预估日后一套新系统上线,前置能在一个月内完成基本的数据采集工作。
2.4 负载自调压
当系统处理负荷较高(预设)时,系统自动调整,模块各级反馈,形成联动负荷调整,保证系统的稳定性。
2.5 下发任务流程标记