实习心得总结

本文记录了一位实习生的日常工作,包括学习git和docker,理解clickhouse数据库,体验tornado后端报表API代码,以及面对百亿级数据报表下载的优化挑战。通过分流和以空间换时间的策略解决接口超时问题,并在熟悉report-api代码的过程中深入学习Tornado框架。
摘要由CSDN通过智能技术生成


7/20 入职

7/26 权限管理,代码协同的重要性! 学习 git , docker 基本使用

7/27 学习clickhouse数据库,数据库的sql语句都大同小异,各种数据库只是有细微差别,遇到实际问题再记录!

7/28 查看tornado后端报表 api 代码,代码规范命名的重要性!看名字就大概知道功能!

开发流程笔记:

需求过程:可行性评估,需求分析,需求评审

研发过程:详细设计评审(《详细设计文档》《单元测试报告》《测用例设计文档》),编码单元测试,代码评审修改(很严格)

发布过程:集成测试,产品验收(验收报告),灰度测试(节点功能),部署上线()

7/29 收到第一份任务,有关报表下载的优化

7/30 报表优化:因为线上数据量巨大(百亿规模)每次下载会占用大量io,导致下载接口超时,最终线上报表相关功能会直接死掉!

优化方案:

1. 分流,将查询和下载两个功能点分开,将下载相关的查询分担到另一台机器上,原本机器只负责查询相关操作

2. 以空间换取时间,新建表,将下载相关功能的数据单独存放一张表内,每次下载就不用去访问原数据库,减少大量数据的查询,以减少访问时间

操作难点:

1. 分流,首先报表下载相关的api接口只有一个,但是调用接口的服务有三个,需要对比三个服务的区别(调用接口时的参数和位置)

2. 分流,报表下载和查询,都是在访问数据库,要将两部分分开,前端访问需要增加字段,以区分下载和查询

3. 空间换时间,新建表的时间间隔,若为1年,则查询数据的头和尾数据不全,需要分开处理再合并,新建表的时间间隔有按照 天、周、月、三月、一年 多种形式

8/2 报表优化:在本地搭建整体环境,熟悉整个系统运行流程,整理查看log日志的方法

8/345 报表优化,进一步熟悉了部门项目整体流程,在本地运行起了开发环境,调试了api接口,分析底层的sql语句,找出报表下载相关的数据库字段,并汇总,完成了新建数据库的表结构设计

8/6 熟悉report-api代码,进一步掌握tornado框架,看底层代码,发现一些以前没见过的写法,总结到CSDN博客中

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值