如何优化Mysql etl性能?

一、分区表

分区表是将表数据分割成多个较小的分区,每个分区可以独立地进行管理和维护。通过将数据分布在多个分区中,可以提高插入操作的性能
当数据量较大时,如超过500w就可以建立分区表

• 并行插入:当使用分区表时，可以将数据分成多个分区，并行地插入数据到不同的分区中。这样可以利用多个插入线程同时将数据写入不同的分区，从而提高插入的并发性能。
• 减少索引维护:对于有索引的表，插入操作会触发索引的维护，包括索引的更新和重新排序。在分区表中，可以将索引分布在不同的分区上，每个分区只需维护自己的索引，减少了整体索引维护的开销。
• 快速删除和清理:分区表可以更快速地删除或清理数据。例如，如果需要删除某个时间范围内的数据，可以直接删除相应分区，而不需要扫描整个表。

<一>、按年分区

eg:

create table test(
	id int auto_increment,
	date datetime,