小型互联网公司内部监控解决方案

[架构设计]小型互联网公司内部监控解决方案


写这篇博客来记录下这两三个月来的所学所感。
目前市面上,有许许多多互联网公司,对于类似BAT那种级别的,我们就不说了。那种刚起步,刚经历第一轮融资或者投资的小型互联网公司比比皆是。当这些公司业务量上来的时候、用户量上来的时候,总是会有一个担忧,之前运行稳定的公司平台架构能否继续稳定的服务下去,或者哪一块地方需要重构。单凭平常的人工去分析日志看代码,其实是没什么用的费时且费力,结果也不准确。
这时,大家就会有一个统一的想法,就是怎么不去弄一个监控系统,把公司内部所有的业务接口、访问流量等等的东西全部都监控起来,然后再分析分析,看看哪里耗时最严重的,哪里的调用并发最高,哪个时段的CPU承受不住了等等,暴露出这些问题,再高薪聘请几个有大公司架构经验的架构师过来重新整理架构,一个个击破,帮助公司走上高富帅的道路。
那这个监控系统到底谁来做呢?一是由自己来开发,二请人来开发。
我们的选择是自己来开发。原因:
公司内部的业务比较复杂,自己人做出来的监控能对症下药 公司发展不错,招来大牛带领我们一起搞,技术这块不虚 招来大牛已经花了不少钱了,再去外面找人外包,老板虚
监控思路
让业务接口、服务器等需要监控的地方,实时上报耗时、调用次数、错误抛出、CPU承载等信息,服务器端接受这些信息,对这些信息进行归类、分析、持久化等操作,通过一个监控报表的web站点显示分析结果、历史数据、告警操作等。
具体模块
通过上述的思路,已经大概了解要搞这个监控需要做哪些事情了吧。那就细化出以下这几个模块[根据各个公司的具体业务而定制]:
PhpSDK:供公司php相关业务上报监控数据到ApiService JavaSDK:供公司java相关业务上报监控数据到ApiService ApiService:提供支持高性能、低消耗的上报接口,供sdk端上报数据,并且按规则收集这些数据寄存到redis中 MonitorStorage:读取redis中的数据,进行峰值分析、是否按告警策略告警、统计等操作,并且把这些数据持久化到mysql中 Web站点:实时读取mysql中整理好的监控数据信息,以图示、表格等方式来向被监控方展示各种信息,并可以在上面配置被监控方的所有统计策略、告警策略等等
流程图如下:

要点事项
首先,你的监控是负责给人家监控的,不能影响人家的正常业务和效率。所以这样sdk在设计开发的时候,就必须轻量化再轻量化,都给我异步操作,意思就是说sdk就是埋个点而已,简单通过CURL上报一下数据,不需要给我返回什么,我们业务这边也不管你搞什么,就是多你这一行垃圾代码而已,几乎可以忽略的那种,这样你的SDK就是完美的。
还有,就是ApiService的性能要求非常高,因为当接入你的监控系统的业务越来越多的时候,高可靠性、高并发性是必须的,只有当所有上报成功的数据的成功率到达99.9999%的时候,你的ApiService也是吊飞了。
MonitorStorage中文就是监控存储,负责将数据分析、并且持久化,因为最后web那边数据是你这里持久化到mysql中的,所以准确性是很重要的,还有怎么样保证数据的实时同步、告警措施、分析措施是如何进行的都是需要考虑的。
报表那边的话,就是做的好看一点,功能齐全一点了。折线图什么的图示插件推荐用Highcharts或者国产百度团队的ECharts插件也是非常不错的。
个人心得
第一期的监控系统已经在生产环境开跑了,这两天都在观察、优化、各项测试进行中,希望我负责的MonitorStorage模块坚强的挺住!!!让数据量、并发量来得更猛烈些吧!
BB完了,继续搬砖了!
如有雷同,纯属巧合

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
随着网络的盛行,大大小小的网络监控对象如雨后春笋般涌现,小软公司对我那个罗监控对象档案的管理内容也日益增多。小软公司如何更好的管理好网络监控对象从而为公司提供更好的服务,网络监控系统成了公司整个系统的重中之重。本网络监控系统主要针对整个公司的档案、安全、业务等进行监控管理,他那个是对系统进行管理维护,以满足安全和维护等各方面的要求。 目 录 摘 要 I 一、需求分析 1 (一)基于现有的IP网络建设一套视频监控系统,系统建成后应能实现二十四小时不间断监控; 1 (二)整体系统覆盖9个监控点,提供7个定点监控和2个可进行360°旋转的监控点; 1 (三)对所有监控点进行不间断录像,录像文件需要保存15天时间,并且能够实现录像备份; 1 (四)在门卫室设立监控室,对所有监控点进行实时查看; 1 (五)系统建成后应能够实现本地监控和远程监控公司领导在办公室或家里都能够看到企业各监控点图像; 1 (六)系统应具有用户/权限管理功能,能够进行权限分配管理; 1 (七)系统应提供简单友好的操作界面,使用简单方便; 1 (八)系统应具备高度的性价比,经济适用。 1 二、 组网方案设计说明 2 (一)监控中心 2 三、 设备配置及报价 4 四、 NVR解决方案特色 7 (一) 网络化 7 (二)组网简单 7 (三)部署灵活 7 (四)存储可靠 7 (五)管理方便 7 (六)安全性高 7 (七)双码流技术 7 (八)重传重组 8 (九)简单易用 8 (十)系统扩展性好 8 五、NVR系统功能介绍 9 (一) 本地监控功能 9 1.本地显示 9 2.多画面显示 9 3.轮询显示 9 4.PTZ控制 9 5.图像抓拍 9 6.本地管理 9 (二) 远程监控功能 9 1.远程监控 9 2.多画面显示 10 3.图像抓拍 10 4.PTZ控制 10 5.多台管理 10 6.混合组网 10 7.多运营商接入 10 (三) 电视墙监控功能 10 1.电视墙显示 10 2.电视墙豫案 10 3.轮询显示 10 (四) 录像与放像功能 11 1.录像功能 11 2.录像方式 11 3.覆盖策略 11 4.录像保留 11 5.录像存储 11 6.录像检索 11 7.录像回放 11 8.多路回放 11 (五) 告警管理功能 12 1.告警接入 12 2.移动侦测 12 3.告警联动 12 4.告警设置 12 5.告警查询 12 (六) 系统管理功能 12 1.用户管理 12 支持增加删除用户、用户权限管理、在线用户管理; 12 2.日志管理 12 3.硬盘管理 12 4.参数设置 12 (七) 安全功能 13 1.码流加密 13 2.安全管理 13 六、 NVR系统产品介绍 14 (一) NVR2820(E) 14 (二)KDM2110 15 (三)KDM2121 16 (四)KDM2300(P) 16 七、 附录:硬盘配置指导 18 (一)存储设备选择 18 (二)存储容量计算 18 (三)实例介绍 18 八、 参考文献 19

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值