前段时间进行5000w条数据的订正,开了3个线程,因为预发机器是一台,且运行了其他的一些服务,所以CPU的load>1,导致了影响其他服务的响应(比如,其他使用数据库的服务的访问速度变慢明显,收到了DBA的警报),同时每片2000条数据的处理速度由最初的3000-4000ms上升为10000-20000ms;后来改到了线上的beta集群(100台机器),且屏蔽了其他服务后,每片2000条数据的处理速度为30-40ms
结论是:
1、有集群尽可能用集群
2、机器上的服务尽可能屏蔽掉,一是不要影响数据订正业务,也不要因为数据订正业务导致其他业务不可用