- 博客(3)
- 收藏
- 关注
原创 sql server的执行效率的一次优化
场景:有大概上亿的数据需要插入,其中会有 select 和 insert 操作基本方法:利用 sql server 的 select in 和 insert values (), ()进行批量的查询和插入当表中的数据量超过1000万条的时候出现发现性能太慢,在公司内部的业务下1万多个记录的插入的时候(不止一张表,有多张表的插入,所以插入记录超过1万多),时间需要花费25秒的
2016-07-20 11:37:25 505
原创 python中list 和 dict 效率的一次实践
业务场景: 有上亿条的数据入库解析并且入库到sqlserver中去,所以每次优化一秒钟,可能对入库的性能就能提升一天。 python语句的优化,里边有对list数据去重的代码如下: object_id_set = [] remove_objects = [] for object in objects: try:
2016-07-20 09:55:15 2695
原创 ELK的搭建实践
ELK搭建1. 日志服务的架构图2. 下载解压logstash下载:wget https://download.elastic.co/logstash/logstash/logstash-2.3.4.tar.gz解压:tar vxf logstash-2.3.4.tar.gz Redis下载:自己去网上下吧,这里用的是3.2.0解压:tar vxf ……
2016-07-18 14:44:10 396
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人