翻译《Pro SQL Server Internals, 2nd edition》CHAPTER 7中的Clustered Index Design Considerations一节

【第11周翻译】《Pro SQL Server Internals, 2nd edition》的CHAPTER 7 Designing and Tuning the Indexes中的Clustered Index Design Considerations一节（即P155~P165）

聚集索引设计注意事项

        每次更改聚集索引键的值时，都会发生两件事。第一件事是SQL Server将行移动到聚集索引页链和数据文件中的其他位置。第二件事是它会更新行ID，即聚集索引键。行ID已经存储，并且需要在所有非聚集索引中更新。这在I/O方面可能会很昂贵，特别是在批量更新的情况下。此外，它还可以增加聚集索引的碎片，在行ID大小增加的情况下，还可以增加非聚集索引的碎片。因此，最好有一个键值不会改变的静态聚集索引。

        所有非聚集索引都使用聚集索引键作为行ID。太宽的聚集索引键会增加非聚集索引行的大小，而且这需要更多的空间来存储它们。因此，在索引或范围扫描操作期间，SQL Server需要处理更多的数据页，这会降低索引的效率。

        对于非唯一非聚集索引，行ID也存储在非叶索引级别，这反过来减少了每页索引记录的数量，并可能导致索引中出现额外的中间级别。尽管非叶索引级别通常缓存在内存中，但每次SQL Server遍历非聚集索引B-Tree时，都会引入额外的逻辑读取。

        最后，较大的非聚集索引在缓冲池中使用更多的空间，并在索引维护期间引入更多的开销。显然，不可能提供一个通用阈值来定义可以应用于任何表的键的最大可接受大小。然而，作为一般规则，最好使用窄聚集索引键，并且索引键尽可能小。

        将聚集索引定义为唯一索引也是有益的。原因很重要但是并不明显。考虑有这样一种情况：表没有唯一的聚集索引，并且您希望运行一个在执行计划中使用非聚集索引查找的查询。在这种情况下，如果非聚集索引中的行ID不唯一，SQL Server将不知道在键查找操作期间要选择什么聚集索引行。

        SQL Server通过将另一个名为uniquifier的可以为空的整数列添加到非唯一的聚集索引中来解决这些问题。SQL Server会在第一次出现键值时用空值填充uniquifiers，并自动为插入到表中的每个后续重复项增加它。

注意：每个聚集索引键值可能重复的数目受整型域值的限制。具有相同聚集索引键的行不能超过2147483648行。这是一个理论上的限制，显然创建选择性如此差的索引是一个坏主意。

        让我们看看uniquifiers在非唯一聚集索引中引入的开销。清单7-1中所示的代码创建了三个具有相同结构的不同表，并用65536行填充它们。表dbo.UniqueCI是唯一定义了唯一聚集索引的表。表 dbo.NonUniqueCINoDups没有任何重复的键值。最后，表dbo.NonUniqueCDups在索引中有大量重复项。

清单7-1：非唯一聚集索引：表的创建

 
 create table dbo.UniqueCI 
 ( 
     KeyValue int not null, 
     ID int not null, 
     Data char(986) null, 
     VarData varchar(32) not null 
         constraint DEF_UniqueCI_VarData 
         default 'Data' 
 ); 
 
 
 
create unique clustered index IDX_UniqueCI_KeyValue 
 on dbo.UniqueCI(KeyValue); 
 
 
 
create table dbo.NonUniqueCINoDups 
 ( 
     KeyValue int not null, 
     ID int not null, 
     Data char(986) null, 
     VarData varchar(32) not null 
         constraint DEF_NonUniqueCINoDups_VarData 
         default 'Data' 
 ); 
 
 
 
create /*unique*/ clustered index IDX_NonUniqueCINoDups_KeyValue 
 on dbo.NonUniqueCINoDups(KeyValue); 
 
 
 
create table dbo.NonUniqueCIDups 
 ( 
     KeyValue int not null, 
     ID int not null, 
     Data char(986) null, 
     VarData varchar(32) not null 
         constraint DEF_NonUniqueCIDups_VarData 
         default 'Data' 
 ); 
 
 
 
create /*unique*/ clustered index IDX_NonUniqueCIDups_KeyValue 
 on dbo.NonUniqueCIDups(KeyValue); 

 
 -- Populating data 
 ;with N1(C) as (select 0 union all select 0) -- 2 rows 
 ,N2(C) as (select 0 from N1 as T1 cross join N1 as T2) -- 4 rows 
 ,N3(C) as (select 0 from N2 as T1 cross join N2 as T2) -- 16 rows 
 ,N4(C) as (select 0 from N3 as T1 cross join N3 as T2) -- 256 rows 
 ,N5(C) as (select 0 from N4 as T1 cross join N4 as T2) -- 65,536 rows 
 ,IDs(ID) as (select row_number() over (order by (select null)) from N5) 
 insert into dbo.UniqueCI(KeyValue, ID) 
     select ID, ID from IDs; 
 
 
 
insert into dbo.NonUniqueCINoDups(KeyValue, ID) 
     select KeyValue, ID from dbo.UniqueCI; 
 
 
 
insert into dbo.NonUniqueCIDups(KeyValue, ID) 
     select KeyValue % 10, ID from dbo.UniqueCI; 

        现在，让我们看看每个表的聚集索引的物理统计信息。其代码如清单7-2所示，结果如图7-1所示。

清单7-2：非唯一聚集索引：检验聚集索引的行大小

 
 select index_level, page_count, min_record_size_in_bytes as [min row size] 
     ,max_record_size_in_bytes as [max row size] 
     ,avg_record_size_in_bytes as [avg row size] 
 from 
      sys.dm_db_index_physical_stats(db_id(), object_id(N'dbo.UniqueCI'), 1, null ,'DETAILED'); 
 
 
 
select index_level, page_count, min_record_size_in_bytes as [min row size] 
     ,max_record_size_in_bytes as [max row size] 
     , avg_record_size_in_bytes as [avg row size] 
 from 
      sys. dm_db_index_physical_stats(db_id(), object_id(N'dbo.NonUniqueCINoDups'), 1, null ,'DETAILED'); 
 
 
 
select index_level, page_count, min_record_size_in_bytes as [min row size] 
     ,max_record_size_in_bytes as [max row size] 
     ,avg_record_size_in_bytes as [avg row size] 
 from 
      sys. dm_db_index_physical_stats(db_id(), object_id(N'dbo.NonUniqueCIDups'), 1, null ,'DETAILED'); 

        尽管表dbo.NonUniqueCINoDups表中没有重复的键值，但仍有两个额外的字节添加到该行中。 SQL Server在数据的可变长度部分存储一个uniquifier，这两个字节由可变长度数据偏移量数组中的另一个条目添加。

        在这种情况下，当一个聚集索引有重复的值时，uniquifiers又添加了四个字节，这就产生了总共六个字节的开销。

        值得一提的是，在某些边缘情况下，uniquifier使用的额外存储空间可以减少能够容纳在数据页上的行数。我们的示例演示了这样一个情况。如您所见，表dbo.UniqueCI使用的数据页比其他两个表少15%。

        现在，让我们看看uniquifier如何影响非聚集索引。清单7-3中显示的代码在三个表格中都创建了非聚集索引。图7-2显示了这些索引的物理统计数据。

清单7-3：非唯一聚集索引：检验非聚集索引的行大小

 
 create nonclustered index IDX_UniqueCI_ID 
 on dbo.UniqueCI(ID); 
 
 
 
create nonclustered index IDX_NonUniqueCINoDups_ID 
 on dbo.NonUniqueCINoDups(ID); 
 
 
 
create nonclustered index IDX_NonUniqueCIDups_ID 
 on dbo.NonUniqueCIDups(ID); 
 
 
 
select index_level, page_count, min_record_size_in_bytes as [min row size] 
     ,max_record_size_in_bytes as [max row size] 
     ,avg_record_size_in_bytes as [avg row size] 
 from 
     sys. dm_db_index_physical_stats(db_id(), object_id(N'dbo.UniqueCI'), 2, null ,'DETAILED'); 
 
 
 
select index_level, page_count, min_record_size_in_bytes as [min row size] 
     ,max_record_size_in_bytes as [max row size] 
     ,avg_record_size_in_bytes as [avg row size] 

 from 
     sys. dm_db_index_physical_stats(db_id(), object_id(N'dbo.NonUniqueCINoDups'), 2, null ,'DETAILED'); 
 
 
 
select index_level, page_count, min_record_size_in_bytes as [min row size] 
     ,max_record_size_in_bytes as [max row size] 
     ,avg_record_size_in_bytes as [avg row size] 
 from 
     sys. dm_db_index_physical_stats(db_id(), object_id(N'dbo.NonUniqueCIDups'), 2, null ,'DETAILED'); 

        表dbo.NonUniqueCINoDups中的非聚集索引没有开销。正如您还记得的，对于存储空数据的尾随列，SQL Server不会将偏移量信息存储在可变长度偏移量数组中。尽管如此，uniquifier还是在表dbo.NonUniqueCIDups中引入了八个字节的开销。这八个字节由一个四字节的uniquifier值、一个两字节的可变长度数据偏移量数组条目和一个两字节的条目组成，这些条目存储行中可变长度列的数量。

        我们可以用下面的方法来总结uniquifier的存储开销。对于uniquifier为空的行，如果索引至少有一个存储非空值的可变长度列，则会有两个字节的开销，该开销来自uniquifier列的可变长度偏移数组项，否则没有开销。

        在填充uniquifier的情况下，如果存在存储非空值的可变长度列，则开销为6个字节，否则，开销为8字节。

提示：如果您希望聚集索引值中有大量重复项，可以将整数标识列作为索引的最右侧列添加到索引中，从而使其唯一。与uniquifiers引入的不可预测的高达8字节的存储开销相比，这为每行增加了4字节的可预测存储开销。当您通过行的所有聚集索引列引用该行时，这还可以提高单个查找操作的性能。

        用插入新行来导致索引碎片最小化的方式设计聚集索引是有益的。实现这一点的方法之一是使聚集索引值不断增加。identity列上的索引就是这样一个例子。另一个例子是用插入时的当前系统时间填充的datetime列。

        然而，随着索引不断增加会出现两个潜在问题。第一个问题与统计有关。正如您在第3章中了解到的，当柱状图中没有参数值时，SQL Server中的遗留基数估计量低估了基数。除非您使用新的SQL Server 2014-2016基数估计量，该估计量假定柱状图之外的数据具有与表中其他数据相似的分布，否则应将这种行为考虑到系统的统计维护策略中。

        下一个问题更复杂。随着索引的不断增加，数据总是插入到索引的末尾。一方面，它可以防止页面拆分并减少碎片。另一方面，它可能会导致热点（ hot spots ），即当多个会话试图修改同一数据页和/或分配新页或扩展数据块时发生的序列化延迟。SQL Server不允许多个会话更新相同的数据结构，反而是序列化这些操作。

        热点通常不是问题，除非系统以非常高的速度收集数据，并且索引每秒处理数百个插入。我们将在第27章“系统故障排除”中讨论如何检测此类问题。

        最后，如果一个系统有一组经常执行的重要查询，那么考虑一个可能会对它们进行优化的聚集索引是有益的。

        尽管可以通过覆盖非聚集索引来优化此类查询，但它并不总是理想的解决方案。在某些情况下，需要创建非常宽的非聚集索引，这将占用磁盘和缓冲池中的大量存储空间。

        另一个重要因素是修改列的频率。向非聚集索引添加频繁修改的列需要SQL Server在多个位置更改数据，这会对系统的更新性能产生负面影响，并增加阻塞。

        尽管如此，并不总是可能设计出满足所有这些准则的聚集索引。而且，您不应将这些准则视为绝对需求。您应该分析系统、业务需求、工作负载和查询，并选择有利于您的聚集索引，即使它们违反了其中的一些准则。

标识、序列和唯一标识符

人们通常选择标识、序列和唯一标识符作为聚集索引键。和往常一样，这种方法也有自己的优缺点。

        在这些列上定义的聚集索引是唯一的、静态的和窄的。此外，标识和序列不断增加，这减少了索引碎片。其中一个理想的使用的例子是编目实体表。您可以考虑以存储客户、物品或设备列表的表为例。这些表存储数千行，甚至几百万行，尽管数据是相对静态的，但是热点不是问题。此外，此类表通常由外键引用并用于联接。integer或bigint列上的索引非常紧凑和高效，这将提高查询的性能。

注意：我们将在第8章“约束”中更详细地讨论外键约束。

        在事务表的情况下，标识列或序列列上的聚集索引效率较低，事务表收集大量数据的速度非常快，这是因为它们引入了潜在的热点。

        另一方面，对于聚集索引和非聚集索引，唯一标识符很少是一个好的选择。NEWID()函数生成的随机值大大增加了索引碎片。此外，唯一标识符上的索引会降低批处理操作的性能。让我们来看一个例子并创建两个表：一个表在标识列上具有聚集索引，另一个表在唯一标识符列上具有聚集索引。在下一步中，我们将在两个表中插入65536行。您可以在清单7-4中看到执行此操作的代码。

清单7-4：唯一标识符：表的创建

 
 create table dbo.IdentityCI 
 ( 
     ID int not null identity(1,1), 
     Val int not null, 
     Placeholder char(100) null 
 ); 
 
 
 
create unique clustered index IDX_IdentityCI_ID 
 on dbo.IdentityCI(ID); 
 
 
 
create table dbo.UniqueidentifierCI 
 ( 
     ID uniqueidentifier not null 
         constraint DEF_UniqueidentifierCI_ID 
         default newid(),   
     Val int not null, 
     Placeholder char(100) null, 
 ); 
 
 
 
create unique clustered index IDX_UniqueidentifierCI_ID 
 on dbo.UniqueidentifierCI(ID) 
 go 
 
 
 
;with N1(C) as (select 0 union all select 0) -- 2 rows 
 ,N2(C) as (select 0 from N1 as T1 cross join N1 as T2) -- 4 rows 
 ,N3(C) as (select 0 from N2 as T1 cross join N2 as T2) -- 16 rows 
 ,N4(C) as (select 0 from N3 as T1 cross join N3 as T2) -- 256 rows 
 ,N5(C) as (select 0 from N4 as T1 cross join N4 as T2) -- 65,536 rows 
 ,IDs(ID) as (select row_number() over (order by (select null)) from N5) 
 insert into dbo.IdentityCI(Val) 
     select ID from IDs; 
 
 
 
;with N1(C) as (select 0 union all select 0) -- 2 rows 
 ,N2(C) as (select 0 from N1 as T1 cross join N1 as T2) -- 4 rows 
 ,N3(C) as (select 0 from N2 as T1 cross join N2 as T2) -- 16 rows 
 ,N4(C) as (select 0 from N3 as T1 cross join N3 as T2) -- 256 rows 
 ,N5(C) as (select 0 from N4 as T1 cross join N4 as T2) -- 65,536 rows 
 ,IDs(ID) as (select row_number() over (order by (select null)) from N5) 
 insert into dbo.UniqueidentifierCI(Val) 
     select ID from IDs; 

        我的计算机上的执行时间和读取次数如表7-1所示。图7-3显示了两个查询的执行计划。

表7-1 向表中插入数据：执行统计信息

	读取次数	执行时间（ms）
标识	158,438	173 ms
唯一标识符	181,879	256 ms

        如您所见，在uniqueidentifier列的索引的情况下还有另一个排序运算符。SQL Server在插入之前对随机生成的uniqueidentifier值进行排序，这会降低查询的性能。

        让我们在表中插入另一批行并检查索引碎片。此操作的代码如清单7-5所示。图7-4显示了查询结果。 

清单7-5：唯一标识符：插入行并检查碎片

 
 ;with N1(C) as (select 0 union all select 0) -- 2 rows 
 ,N2(C) as (select 0 from N1 as T1 cross join N1 as T2) -- 4 rows 
 ,N3(C) as (select 0 from N2 as T1 cross join N2 as T2) -- 16 rows 
 ,N4(C) as (select 0 from N3 as T1 cross join N3 as T2) -- 256 rows 
 ,N5(C) as (select 0 from N4 as T1 cross join N4 as T2) -- 65,536 rows 
 ,IDs(ID) as (select row_number() over (order by (select null)) from N5) 
 insert into dbo.IdentityCI(Val) 
     select ID from IDs; 
 
 
 
;with N1(C) as (select 0 union all select 0) -- 2 rows 
 ,N2(C) as (select 0 from N1 as T1 cross join N1 as T2) -- 4 rows 
 ,N3(C) as (select 0 from N2 as T1 cross join N2 as T2) -- 16 rows 
 ,N4(C) as (select 0 from N3 as T1 cross join N3 as T2) -- 256 rows 
 ,N5(C) as (select 0 from N4 as T1 cross join N4 as T2) -- 65,536 rows 
 ,IDs(ID) as (select row_number() over (order by (select null)) from N5) 

 insert into dbo.UniqueidentifierCI(Val) 
     select ID from IDs; 
 
 
 
select page_count, avg_page_space_used_in_percent, avg_fragmentation_in_percent 
 from sys.dm_db_index_physical_stats(db_id(),object_id(N'dbo.IdentityCI'),1,null,'DETAILED'); 
 
 
 
select page_count, avg_page_space_used_in_percent, avg_fragmentation_in_percent 
 from  sys.dm_db_index_physical_stats(db_id(),object_id(N'dbo.UniqueidentifierCI'),1,null ,'DETAILED'); 

        如您所见，uniqueidentifier列上的索引非常零碎，与标识列上的索引相比，它使用的数据页大约多40%。 

        批量插入到uniqueidentifier列的索引中会在数据文件的不同位置插入数据，这会导致大型表中出现大量随机物理I/O。这会显著降低操作性能。

————————————————————————————————————————————————————————

                                                         个人经验

一段时间前，我参与了一个系统的优化，该系统有一个250GB的表，其中包含一个聚集索引和三个非聚集索引。其中一个非聚集索引是唯一标识符列。通过删除这个索引，我们能够将50000行的批量插入从45秒加速到7秒。

————————————————————————————————————————————————————————

        当您想要在唯一标识符列上创建索引时，有两个常见的用例。第一个是支持跨多个数据库的值的唯一性。考虑一个分布式系统，其中的行可以插入到每个数据库中。开发人员经常使用唯一标识符来确保每个键值在系统范围内都是唯一的。 

        这种实现中的关键元素是如何生成键值。正如您已经看到的，使用 NEWID() 函数或客户机代码生成的随机值会对系统性能产生负面影响。但是，您可以使用 NEWSEQUENTIALID() 函数，该函数生成唯一的值，通常会不断增加值（SQL Server会时不时地重置它们的基值）。使用  NEWSEQUENTIALID() 函数生成的uniqueidentifier列上的索引与标识列和序列列上的索引类似；但是你应该记住，与4字节int或8字节bigint数据类型相比，uniqueidentifier数据类型使用16字节的存储空间。

        作为另一种解决方案，您可以考虑创建包含两列的复合索引 (InstallationId, Unique_Id_Within_Installation) 。这两列的组合保证了跨多个安装设备和数据库的唯一性，并且使用的存储空间比唯一标识符少。您可以使用整数标识或序列生成 Unique_Id_Within_Installation 值，这将减少索引的碎片。

        在需要跨数据库中的所有实体生成唯一键值的情况下，可以考虑跨所有实体使用单个序列对象。这种方法满足了要求，但使用的数据类型比唯一标识符小。

        另一个常见的用例是安全性，其中uniqueidentifier值用作安全令牌或随机对象ID。不幸的是，在这种情况下您不能使用NEWSEQUENTIALID() 函数，因为这可能会猜测到该函数返回的下一个值。

        在这种情况下，一个可能的改进是使用CHECKSUM()函数创建一个计算列，然后对其进行索引，而不在uniqueidentifier列上创建索引。代码如清单7-6所示。

清单7-6：使用CHECKSUM()：表的结构

 
 create table dbo.Articles 
 ( 
     ArticleId int not null identity(1,1), 
     ExternalId uniqueidentifier not null 
         constraint DEF_Articles_ExternalId 
         default newid(), 
     ExternalIdCheckSum as checksum(ExternalId), 
     /* Other Columns */ 
 ); 
 
 
 
create unique clustered index IDX_Articles_ArticleId 
 on dbo.Articles(ArticleId); 
 
 
 
create nonclustered index IDX_Articles_ExternalIdCheckSum 
 on dbo.Articles(ExternalIdCheckSum); 
 

提示：您可以索引计算列，而不必对其进行持久化。

        尽管 IDX_Articles_ExternalIdCheckSum 索引将被严重分割，但与uniqueidentifier列上的索引（4字节的键与16字节的键）相比，它将更加紧凑。由于更快的排序，它还提高了批处理操作的性能，这也需要更少的内存来继续。

        您必须记住的一点是，CHECKSUM() 函数的结果不一定是唯一的。您应该将两个谓词都包含到查询中，如清单7-7所示。

清单7-7：使用 CHECKSUM()：选择数据

 select ArticleId /* Other Columns */ 
 from dbo.Articles 
 where checksum(@ExternalId) = ExternalIdCheckSum and ExternalId = @ExternalId 

提示：在需要索引大于900/1700字节（这是非聚集索引键的最大大小）的字符串列的情况下，您也可以使用相同的技术。即使这样的索引不支持范围扫描操作，它也可以用于点查找。

 

 

原著信息：

此篇文章翻译自《Pro SQL Server Internals, 2nd edition》的CHAPTER 7 Designing and Tuning the Indexes中的Clustered Index Design Considerations一节（即P155~P165）。

原著：《Pro SQL Server Internals, 2nd edition》    原文作者：Dmitri Korotkevitch